公元前60年匈奴爆发“五单于相攻”发生分裂，导致匈奴自身实力极大削弱。《汉书·宣帝纪》；“死者以万数，畜产大耗什八九，人民饥饿，相燔烧以求食，因大乖乱——”
甘露元年，郅支单于击败呼韩邪单于，呼韩邪单于南迁汉朝边塞。贫困的呼韩邪单于和郅支单于都先后向汉朝遣使，其中呼韩邪更是先后两次单身入汉朝朝觐。”从此以后，汉朝积极支持呼韩邪单于，派兵护送呼韩邪单于回国，并讨伐不服从呼韩邪单于的人。
这对于另一个单于，北匈奴的郅支单于可不是个好消息，“怨汉拥护呼韩邪而不助己”，郅支单于一方面遣使汉庭“愿为内附”，一方面索要自己在长安入侍的儿子。
这时正是汉元帝即位之初，汉朝并不很重视郅支单于，认为他虽然凶恶但已经是穷途末路，南匈奴已称臣，汉匈间百年之战即将结束。事实并不如此，郅支单于在汉朝送匈奴王子回国时，竟然杀害了汉朝使节谷吉。
郅支单于当然知道后果是什么。于是率领手下五万人一路奔逃，其部众多冻死于道，仅余三千人到达西域中亚地方。联合康居国。
很明显，郅支单于认为自己在这里很安全，不得不说郅支单于凶悍善战，很快，邻近康居的的大宛，强族奄蔡，都被迫向匈奴称臣纳贡。郅支单于势力范围控制千里之阔，逐渐坐大，郅支单于在中亚又建立起了一个匈奴。
公元前44年，郅支单于已经在康居站稳脚跟，怒杀康居国王女儿，强迫康居国人为他修筑单于城，还勒索大宛等国。他还戏谑的给汉朝写了一封信；居困厄，愿归计强汉，遣子入侍。(这里住不好，正打算投奔大汉，我正准备再次让儿子去作人质呢)!”
谷吉的被杀，不得不说汉朝的反应有些缓慢，因为郅支单于逃的太快，也逃的太远，康居离长安已有万里之遥，汉军一时无法组织实施强有力的反击。
公元前36年，西域都护府副校尉陈汤与西域都护甘延寿一起出使西域，甘延寿、陈汤的任务是西域都护护卫军队正常换防。陈汤感觉到了西域地区可能发生的动乱，陈汤建议：长久姑息，郅支单于必为西域大患。趁其如今未成大患，调动屯田戌防兵力，发动边境的屯田兵，加上西域各国人马，一举发起进攻，必然一击成功，甘延寿“亦以为然”。
而郅支单于呢，这个时候，也抛弃了他们一贯逐水草而居的传统，竟然开始筑城，在康居东部筑了一座土城，外面环绕着木城。郅支单不知道自己正在犯一个致命的失误，匈奴长于进攻而拙于防守，防御战从来不是强项，城池攻防是汉朝军队的长项。郅支单于竟然开始筑城。
匈奴和“昭宣中兴”的大汉王朝，已是相形见绌、势力已经此消彼长。任何一位单于，已经无力改变这个差距悬殊的形势，但很明显郅支单于并完全没有认识到这一点。陈汤先斩后奏，恰在此时，甘延寿病重，陈汤代职理事，以都护名义假传圣旨，调集屯田汉军和西域诸国军。
公元前36年，西域都护校尉陈汤统率四万汉胡大军挺进到阗池。
百余名匈奴骑兵一起冲击汉军营垒，汉军“皆张弩持满攻之”，也不攻，只用强弩反击。随后，汉军以强弓硬弩攻城，匈奴从木城里向外放箭，双方展开激烈对射。汉军持盾者在前，持兵器和弓、弩者在后，仰射城上守军，烧毁土城外木城。攻势凶猛，以致郅支披甲亲自指挥作战，郅支的数十位妻妾也都用弓箭反击汉军。但汉军矢发如雨，匈奴守军不能坚持，郅支单于也被一箭正中面部，受重伤，郅支的妻多被射死。入夜，数百骑匈奴趁黑夜逃走，遭到汉军强弓硬弩迎头射杀。康居国的万余骑兵惧怕汉军，不敢战。郅支单于在王宫中负隅顽抗，汉军攻入王宫，斩首郅支单于，并将郅支单于的人头快马送至长安。
此战之后，北匈奴彻底灭亡，这也是百年汉匈之战中最痛快的一战，西域都护只有了四万人马，一天一夜就把匈奴修了两年的都城攻破，这场战役的胜利，标着着匈奴的彻底灭亡。