宣帝掌权以后，西域各国纷纷向汉庭称臣，极大压缩了匈奴的生存空间，匈奴的日子也就越来越难过。
公元前60年，匈奴虚闾权渠单于病逝归西，由于诸子皆已长大，单于继承人始终没有确立。而后，草原上相继出现五个单于互相攻打，争夺权力。草原上的匈奴部族尽皆卷入战火，人民死伤十之八九，千里荒野无人畜牧，本就步入衰弱的匈奴再次遭受沉重打击。
宣帝和群臣认为，此时应该放任匈奴内部争斗，不能发兵攻打，并大开国门，招降在战争中处于劣势的匈奴贵族。从公元前58年，到公元前53年，共有五位匈奴单于前来朝见或称臣。而草原上的格局也由五王相争，变成两王对立。
郅支单于和呼延邪单于成为两股最大的势力，呼延邪早年就被部族拥立，在诸王之争中占据了巨大优势，被称为南匈奴，而郅支单于则为新兴势力，被称为北匈奴，但最后呼延邪被击败，只得帅众投降汉庭。公元前53年，呼延邪遣使朝见汉宣帝，表示俯首称臣，并于甘露三年（公元前51年）亲自朝见汉宣帝，此为历史上著名的“南匈奴归降”。剩下的北匈奴在大汉和南匈奴共同打击下，只得向西远遁，制造了一场整个中亚和欧洲的噩梦。
