建武二十四年春，八部大人一道商量立比为呼韩邪单于，由于比的祖父曾经归顺汉得以安宁，所以打算袭用呼韩邪单于的名号。于是比来到五原塞，表示愿意做汉的屏障，抵御北部的敌虏。皇帝采纳五宫中郎将耿国的意见，就同意了。逭年冬天，比自立为呼韩邪单于。

二十五年春，单于派弟弟左贤王莫率领一万多兵力攻打北单于的弟弟奠鞑左贤王，活捉了奠鞑左贤王；又打败了北单于帐下的军队，合并了北单于部众一万多人，获得七千匹马、一万头牛羊。北单于很惊恐，后退了一千里。起初，皇帝制造战车，可以用几头牛驾车，车上造有望楼，放在塞上，用以抵挡匈奴。当时见到战车的人相互谈论说“谶语说汉第九代时将会使北狄退却千里，难道说的就是这件事情吗？”到这时候，果然开拓了疆域。北部的奠鞑骨都侯与右骨都侯率领三万多部众前来投奔南单于，南单于再次派使者到朝廷，以藩国之礼称臣，献上国内的珍宝，请求派使者督察保护，派儿子到朝廷侍奉，缔结从前的盟约。

匈奴习俗，每年有三次龙祠，一般在正月、五月、九月的戊曰祭祀天神。南单于既然归顺汉，就同时祭祀汉皇帝，藉此机会召集各部，商量国家事务，举行赛马和赛骆驼，以此为乐。匈奴大臣中尊贵的是左贤王，其次是左谷蠡王，其次是右贤王，其次是右谷蠡王，这称为“四角”；其次是左右日逐王，其次是左右温禺千王，其次是左右渐将王，这称为“六角”他们都是单于的儿子兄弟，按照顺序将要当单于的人。异姓大臣有左右骨都侯，其次是左右尸逐骨都侯，其他又有日逐、且渠、当产各种官号，各以权力的大小、部众的多少确定职位高低和次序。单于姓虚连题。异姓有呼衍氏、须卜氏、丘林氏、兰氏四个姓，他们是匈奴国内名族，经常与单于通婚。呼衔氏为左，兰氏、须卜氏为右，他们负责判决案件，受理诉讼，他们将判决的轻重，口头告诉单于，那裹没有文书和记事的簿册。

二十六年冬，以前叛变的五位骨都侯的儿子又率部众三千人投奔南部，北单于派骑兵追击，将他们全部俘获。南单于派军队抵御，迎战不利。朝廷于是又下韶书要单于迁到西河美稷居住，并派中郎将段郴和副校尉王郁留在西河保护单于，为单于设置官府、从事、掾史。又命令西河长生每年率领二千骑兵，五百被解除枷锁的刑徒，帮助中郎将护卫单于，冬天驻守，夏天撤销，自此以后作为常例。又免去沿边八个郡的全部租税和劳役。

南单于住进西河以后，也设置各部侯王，帮助汉抵御戍边。南单于派韩氏骨都侯驻守北地，右贤王驻守朔方，当于骨都侯驻守五原，呼衍骨都侯驻守云中，郎氏骨都侯驻守定襄，左南将军驻守雁门，栗籍骨都侯驻守代郡，他们都统领部众替郡县当耳目侦察动静。北单于很惶恐，送还了被掳掠去的许多汉人，以表示友好。他们出来抄掠的军队每次经过南部附近，或回头经过漠兵侦察敌情的岗亭，总是道歉说“我们打的是逃亡的奠鞑曰逐王，并非胆敢侵犯汉人。”

二十七年，北单于于是派使者到武威请求和亲，天子召集公卿大臣在殿庭商议，决定不下来。皇太子说“南单于刚刚归顺，北部的敌虏害怕被攻打，所以侧耳而听，争着想归附正义。现在朝廷不能出兵，却反而和北部敌虏往来，臣恐怕南单于将会生出二心，愿意投降的北部敌虏将不会再来投降了。”皇帝认为有道理，就告知武威太守不要接纳北单于的使者。

二十八年，北匈奴又一次派使者到朝廷，进献马匹和皮裘，重新乞求和亲，并想求得汉的音乐，又请求率领西城各国的胡人一道前来进贡朝拜，皇帝将此事交给三公府去讨论应酬答覆的事宜。司徒掾班彪上书说臣听说孝宣皇帝吩咐守卫边境的将尉说“匈奴是大国，多变化和欺诈。交往合情得体，就可以谈判取胜；应答中了他们的