首先，当时参与政变的颛渠阏氏的弟弟都隆奇还在，在单于庭被攻陷以前，逃到了右贤王哪里。
这位右贤王由握衍朐鞮单于任命，自然与都隆奇是一条线上的人。两人密议，拥立握衍朐鞮单于的兄长日逐王薄胥堂为屠耆单于，突然发兵攻击单于庭。
呼韩邪单于被打了个措手不及，只得仓皇逃离了单于庭。
此时，屠耆单于犯了一个致命的错误，他听信谣言，将最大的合作者右贤王当成了谋反者给杀了，兵力顿时失去了一半。
这时，右部的呼揭王宣布自己为呼揭单于，先贤掸的哥哥宣布自己为车犁单于，左部的乌藉都尉宣布自己为乌藉单于，匈奴大地顿时军阀割据，冒顿单于的后代们相互残杀，进入了五单于争立的混乱局面。
呼韩邪单于的哥哥、左贤王呼屠吾斯能征善战，利用几年时间，将所有对手打败，匈奴江山复归一统。
呼屠吾斯兵权在握，想道：我本来就是左贤王，是名正言顺的单于继承人。
弟弟稽侯珊凭着他岳父的支持，才当上了单于。
这几年自己拼死东征西讨，而弟弟却躲在单于庭摆谱。
呼屠吾斯越想越气愤，立即宣布自己为郅支骨都候单于，并立即发兵攻打单于庭。
面对哥哥的挑衅，呼韩邪单于哪敢应战，急忙逃离了单于庭。
但是，在哥哥的穷追猛打下，匈奴的国土上，呼韩邪单于已无立足之地。
情急之下，呼韩邪单于在追随者的极力反对下，不顾自己的匈奴大单于身份，跨过长城，投降了汉朝，想以汉朝为靠山，与他的哥哥继续争斗。
汉庭对呼韩邪单于的来降大喜过望，立即明确，匈奴为汉朝的附属国，承认呼韩邪为匈奴的最高首领，地位在诸王之上，朝见皇帝时只须称“臣”而不必唱名，还给呼韩邪制作了纯金的“匈奴单于玺”。
既然归附了大汉朝，汉庭更不能太小气，赠给呼韩邪许多珍贵礼物，并将这个无家可归的大单于安置在边塞，还拨送给足够的军粮，直到联合打败并杀死了呼韩邪单于的哥哥郅支骨都候单于，才得以回归单于庭。
呼韩邪单于虽然回到了单于庭，按理说他应该心满意足地安心当他的大单于了。
事实上恰恰相反，呼韩邪单于总有一种大祸临头的感觉萦绕在心底，不但挥之不去，而且这种感觉越来越强烈，使得他每天心绪不宁如坐针毡。
后来他想明白了，这种感觉来源于对大汉朝的惧怕和恐怖。
近年来，呼韩邪单于朝见过两次汉宣帝，亲眼目睹了大汉朝的富足与强大。
呼韩邪单于朦胧地感觉到，汉朝大军随时都有可能将他的单于庭围个水泄不通，诺大的草原竟然没有他的藏身之地。
考虑再三，觉得惟一的办法，就是继续讨好汉朝皇帝，心甘情愿做大汉朝的附属国，方能保得平安。
于是，他再次带了裘皮貂氅以及汉军所需的战马，朝见汉皇，并提出，愿做汉皇的女婿，以示对汉皇的忠诚。
汉皇轻易将匈奴变成了自己的附属国，又遇呼韩邪单于主动来朝，志得意满，心里十分高兴。
听到呼韩邪单于要求和亲，慷慨答应。
此时的和亲，与汉高祖时的被迫和亲，已有本质上的区别，汉元帝也没必要再从他们刘姓家族里寻找替罪羊了。
自己后宫三千，可以随便从后宫里他还没来得及光顾的宫女当中选上一位，收作公主，送给呼韩邪完事。
这是公元前33年的事情。