从王莽末年到东汉初年，乌桓骑兵又和匈奴联合起来，不断在边境“连兵为寇”。代郡(今山西阳高)以东诸郡连年受到他们的侵害。鲜卑居处离上谷诸郡又近，因此“朝发穹庐，暮至城郭，五郡民庶，家受其辜，至于郡县损坏，百姓流亡”。这种战乱的情况延续长达二十多年之久，到建武二十一年，光武帝这才腾出手来，派了大将马援率三千骑兵给予一次反击，但这一战役未能取得胜利。
直到建武二十四年(公元48)匈奴分裂南北以后，东北乌桓方面的形势，才出现了新的转机，转向对东汉政府有利。匈奴国乱内以后，乌桓乘机摆脱了匈奴的控制，派兵出击匈奴，这样就使匈奴不得不“北徙数千里”,造成“漠南地空”的局面。乘着这个好机会，光武帝对乌桓施行了拉拢和好的政策，派使“以币帛赡乌恒，终于导致建武二十五年(公元49)辽西乌桓大郝旦为首的近千名乌桓部落对东汉的“向化”,开始对东汉朝贡，到洛阳“诣阙”称臣，贡献奴婢、牛马、虎豹、貂皮、良弓等物。
光武帝于是对乌桓正式册封，封乌桓首领渠帅为“侯王君长”的八十一人。在这以后，乌桓正式成为东汉的属国部分，经常有首领子弟在光武帝身边“宿卫”。东汉政府还将乌桓诸部逐渐迁居到塞内来，分布在沿东北边郡各地，“给其衣食”“为汉侦候，助击匈奴、鲜卑”,结果，就形成和南匈奴一样，成为东汉在东北诸郡的一道屏障。后来在班彪的建议下，光武帝又恢复了西汉时设置的乌桓校尉官职，并将驻守处设在上谷宁城(今河北万全),在其地“开营府”,还鼓励汉族和东北各族“岁时互市”。光武时对乌桓民族的处置，对东北诸郡的平靖和各族经济生活的安定，打下了非常良好的基础，史称此后，“及明、章、和三世，皆保塞无事”。