西羌之叛亂平息後，赤山烏桓又叛亂，漢明帝令遼東太守祭肜使鮮卑擊烏桓。烏桓者，本東胡，漢初，匈奴冒頓滅其國，餘類保烏桓山，因以為號烏桓。烏桓俗善騎射，弋獵禽獸為事。隨水草放牧，居無常處。以穹廬為舍，東開向日。食肉飲酪，以毛毳為衣。貴少而賤老，其性悍塞。怒則殺父兄，而終不害其母。有勇健能理決鬥訟者，推為大人，無世業相繼。昭帝時，烏桓漸強，乃掘匈奴單於塚墓，以報冒頓之怨。匈奴大怒，東擊破烏桓。時，大將軍霍光聞之，因遣度遼將軍範明友將二萬騎出遼東，想一石二鳥，大軍到烏桓山時，而匈奴已乘勝引去，範明友乘烏桓新敗，遂進大擊，範明友連砍烏桓三王頭顱，烏桓大敗，漢軍斬首六千餘級，凱旋而還。而後烏桓恢複元氣，寇幽州，幽州牧與烏桓軍大戰，範明友率遼東鐵騎支援，大破烏桓。宣帝時，烏桓稍保塞降附，及王莽篡位，欲擊匈奴，興十二部軍，使東域將嚴尤領烏桓、丁令兵屯代郡，皆質烏桓妻子於郡縣。烏桓將士不便水土，懼久屯不休，數求謁去。王莽不肯遣，遂自亡叛，還為抄盜，而諸郡盡殺其質，由是烏桓結怨於莽。光武初，烏桓與匈奴連兵為寇，代郡以東尤被其害。十二年，匈奴國亂，烏桓乘弱匈奴擊破之，匈奴轉北徙數千裏，漠南地空，帝乃以幣帛賂烏桓，令其據漠南擋北匈奴。祭肜字次孫，祭遵之弟。早孤，以至孝見稱。遇天下大亂，野無煙火，而祭肜獨在塚側守父母墳。每賊過，見其尚幼而有誌節，皆奇而哀之。光武初以祭遵故，拜肜為黃門侍郎，常在左右。及祭遵卒，無子，光武帝追傷之，以祭肜為偃師長，令近遵墳墓，四時奉祠之。祭肜有權略，視事五歲，縣無盜賊，課為第一，遷襄賁令。時，天下郡國尚未悉平，襄賁盜賊白日公行。肜至，誅破奸猾，殄其支黨，數年，襄賁政清。璽書勉勵，增秩一等，賜縑百匹。當是時，匈奴、鮮卑及赤山烏桓連和強盛，數入塞殺戮吏人。朝廷以為憂，益增緣邊兵，又遣諸將分屯障塞。光武帝以祭肜為能，建武十七年，拜遼東太守。祭肜至遼東勵兵馬，廣積糧。肜有勇力，能貫三百斤弓，虜每犯塞，常為士卒前鋒，數破北虜。
建武二十一年秋，鮮卑萬餘騎寇遼東，祭肜率幾千人迎擊，自披甲陷陳，奮勇無比，虜大奔，投水死者過半，祭肜率軍窮追出塞，虜急，皆棄兵裸身散走，祭肜斬首三千餘級，獲馬數千匹。自是鮮卑震怖，畏祭肜勇而不敢複窺塞內。光武帝慰勞祭肜，祭肜對光武帝說：“匈奴、烏桓、鮮卑連和，卒為邊害，應該瓦解其聯盟。”光武帝然之，乃使祭肜招呼鮮卑，示以財利。鮮卑大都護偏何感漢厚恩，遣使奉獻，願以歸化。祭肜慰納賞賜，帝輒倍其賞賜，鮮卑乃親附漢朝。其後偏何等諸豪並歸義，偏何對祭肜說：“願自效。”祭肜說：“審欲立功，當歸擊匈奴，斬送頭首乃信耳。”偏何等皆仰天指心說：“必自效！”即擊匈奴左伊秩訾部，斬首二千餘級，持頭詣遼東郡。其後鮮卑與匈奴歲歲相攻，輒送首級受漢賞賜。自是匈奴衰弱，邊無寇警。祭肜為人質厚重毅，體貌絕眾。撫夷狄以恩信，夷狄皆畏而愛之，都願意效死力。二十五年，遼西烏桓大人赦旦等九百二十二人率眾向化，詣闕朝貢，獻奴婢、牛、馬及弓、虎豹貂皮。
烏桓據漠南逐漸強盛，會光武帝薨，烏桓乃發兵侵犯漢邊境。永平元年，赤山烏恒數犯上穀，祭肜令鮮卑偏何為先鋒，自率騎五萬討之。烏恒魁帥率軍八萬與祭肜戰，祭肜令偏何率鮮卑騎兵繞出烏恒軍後麵，自率軍與烏恒戰，前後夾擊大破烏恒。烏恒軍退守老巢亦山，祭肜令偏何為前鋒擊赤山，烏恒據山死守，一年後烏恒糧盡，偏何破赤山，斬烏恒魁帥，持首詣肜，塞外震懾。祭肜之威聲，暢於北方，西自武威，東盡玄菟及樂浪，胡夷皆來內附，野無風塵，朝廷乃悉罷緣邊屯兵，明帝拜祭肜為太仆。
永平元年夏五月，太傅鄧禹薨，年五十七，明帝諡曰元侯。時，很多功臣宿將都逝去，明帝追憶當年隨其父皇打下東漢江山之功臣宿將，於是命宮廷畫家繪二十八位功臣的畫像於洛陽南宮的雲台，名曰：“雲台二十八將。”並下詔說：“西漢末年，趙氏姊妹惑亂於內，王姓親族專權於外。狐鼠得誌，豺狼當道；黃鍾毀棄，瓦釜雷鳴。及至王莽篡位，頻起刀兵、亂興古製。禮崩樂壞，士失其德；朝令夕改，民苦於政。不數年，天下大亂，群雄並起。荊州起綠林、齊魯畫赤眉`。當是時，先帝起兵，名臣雲集，驍將雨聚。君臣同心，始艱危，終克定。中興二十八將，前世以為上應二十八宿，然鹹能感會風雲，奮其智勇，稱為佐命，英姿茂績，功勳尤著。故封太傅高密侯鄧禹為角木蛟，大司馬廣平侯吳漢為亢金龍，左將軍膠東侯賈複為氐土貉，建威大將軍好畤侯耿弇為房日兔，執金吾雍奴侯寇恂為心月狐，征南大將軍舞陽侯岑彭為尾火虎，征西大將軍夏陽侯馮異為箕水豹，建義大將軍鬲侯朱祐為鬥木豸，征虜將軍潁陽侯祭遵為牛金牛，驃騎大將軍櫟陽侯景丹為女土蝠，虎牙大將軍安平侯蓋延為虛日鼠，衛尉安成侯銚期為井木犴，東郡太守東光侯耿純為室火豬，城門校尉朗陵侯臧宮為壁水獐，捕虜將軍揚虛侯馬武為奎木狼，驃騎將軍慎侯劉隆為婁金狗，中山太守全椒侯馬成為胃土雉，河南尹阜成侯王梁為昂日雞，琅邪太守祝阿侯陳俊為畢月烏，驃騎大將軍參蘧侯杜茂為參水猿，積弩將軍昆陽侯傅俊為觜火猴，左曹合肥侯堅鐔為危月燕，上穀太守淮陽侯王霸為鬼金羊，信都太守阿陵侯任光為柳土獐，豫章太守中水侯李忠為星日馬，右將軍槐裏侯萬修為張月鹿，太常靈壽侯邳彤為翼火蛇，驍騎將軍昌成侯劉植為軫水蚓。”晚上，明帝做了個奇怪的夢，夢見一高大的金人，頭頂上放射白光，降臨在宮殿的中央。明帝正要開口問，那金人又呼的一聲騰起淩空，一直向西方飛去。夢醒後，明帝百思不得其解。時，佛教已在西漢末年開始傳入中國。早朝，明帝向群臣詳述夢中所見，大多數人都不知其由，博士說：“那可能是西域的佛陀，西域有神，其名曰佛陀。”明帝於是派使者赴天竺求佛，並於洛陽建立中國第一座佛教廟宇‘白馬寺’。二年春正月辛未，明帝有感其父創業艱難，乃祀光武皇帝於明堂，明帝及公卿列侯始服冠冕、衣裳、玉佩、絇屨以行事。禮畢，登靈台。使尚書令持節詔驃騎將軍、三公說：“今令月吉日，宗祀光武皇帝於明堂，以配五帝。禮備法物，樂和八音，詠祉福，舞功德，班時令，敕群後。事畢，升靈台，望元氣，吹時律，觀物變。群僚籓輔，宗室子孫，眾郡奉計，百蠻貢職，烏桓、濊貊鹹來助祭，單於侍子、骨都侯亦皆陪位。斯固聖祖功德之所致也。朕以暗陋，奉承大業，親執珪璧，恭祀天地。仰惟先帝受命中興，撥亂反正，以寧天下，封泰山，建明堂，立辟雍，起靈台，恢弘大道，被之八極；而胤子無成、康之質，群臣無呂、旦之謀，素性頑鄙，臨事益懼，故‘君子坦蕩蕩，小人長戚戚’。其令天下自殊死已下，謀反大逆，皆赦除之。百僚師尹，其勉修厥職，順行時令，敬若昊天，以綏兆人。”