袁尚兵敗後，逃奔幽州刺史袁熙。不久，袁尚、袁熙又逃奔三郡烏桓。
建安十二年，曹操為了肅清袁氏殘餘勢力，也為了徹底解決三郡烏桓入塞為害問題，決定遠征烏桓。漢末，遼西、遼東、右北平三郡烏桓結合，是為三郡烏桓，其首領為遼西部的蹋頓。三郡烏桓與袁氏關係一直很好，並屢次侵擾邊境，擄掠人口財物。這年五月，曹操親率大軍到達無終（今河北薊縣）。時正雨季，道路積水，“淺不通車馬，深不載舟船”。曹操從無終人田疇之議，改從一條久已斷絕，但“尚有微徑可尋”的路線進軍。在田疇的引導下，曹操大軍登徐無山（今河北玉田北），出盧龍塞（今河北喜峰口附近一帶），“塹山堙穀五百餘裏”，直指烏桓老巢柳城（今遼寧朝陽南）。曹軍進至離柳城不足二百裏時，烏桓才發現，於是蹋頓與袁尚、袁熙等人率數萬騎兵迎擊。八月，二軍相遇，時曹軍輜重在後，“被甲者少，”而放軍軍勢甚盛。曹操登高了望，見敵軍雖多，但陣勢不整，遂命大將張遼為前鋒，乘敵陣稍動之機，向敵軍發動猛攻。烏桓軍大亂，曹軍陣斬蹋頓，大獲全勝，胡、漢降者二十餘萬，袁尚等人逃奔割據平州的公孫康。這時，有人勸曹操乘勢進擊公孫康，曹操說：“吾方使康斬送尚、熙首，不煩兵也。”遂率軍還師。不久，公孫康果然斬殺袁尚、袁熙，並將其首級獻與曹操。諸將不明所以，曹操說：“彼素畏尚等，吾急之則並力，緩之則自相圖，其勢然也。”於是，曹操攻破三郡烏桓，也徹底肅清了袁氏勢力。
建安十三年六月，曹操恢複丞相製度，並自任丞相。
曹操基本平定北方後，兵鋒轉而南向。建安十三年七月，進軍南征荊州劉表。八月，劉表病死，其子劉琮接任荊州牧。九月，曹操大軍進至新野（今屬河南），劉琮以為無法抵擋，舉荊州之眾投降曹操。這時，官渡之戰後投奔劉表的劉備屯駐於樊城（今湖北襄樊），聽說劉琮投降，便率軍向江陵（今屬湖北）撤退。江陵為荊州重鎮，存有大量軍用物資。曹操聽說，怕江陵落入劉備之手，遂親率五千騎兵從襄陽（今湖北襄樊）疾馳三百裏，在當陽長阪（今湖北當陽東北）將劉備追上，並將其軍擊潰，隨後進占江陵。
由於曹操的進軍威脅了孫權的統治，孫權命大將周瑜率軍三萬，與劉備聯軍抵抗曹操。
曹操自江陵東下，至赤壁（今湖北武昌縣西赤磯山）與孫、劉聯軍接戰不利，暫駐軍於烏林（今湖北洪湖縣東北，長江北岸鄔林磯），與對方隔江對峙。
周瑜用詐降之計，命大將黃蓋率小戰船十艘，上裝柴草，灌以膏油，假稱投降，向北岸而進，至離曹營二裏之處時，各船一齊點火，然後借助風勢，直向曹軍衝去，曹軍大敗，舟船被燒。曹操率軍從華容道（今湖北監利西北）陸路撤回江陵。遂撤軍北還。
赤壁大敗後，曹操采取一些措施，穩定內部。建安十五年春，曹操下《求賢令》，說：“今天下尚未定，此特求賢之急時也……二三子其佐我明揚仄陋，唯才是舉，吾得而用之。”曹操提出不拘品行、唯才是舉的用人方針，目的是盡量把人材收羅到自己身邊。
建安十六年，曹操開始對關中用兵。三月，曹操遣司隸校尉鍾繇率大將夏侯淵以討伐漢中（治南鄭，今陝西漢中東）張魯為名進兵關中。關中馬超、韓遂、楊秋等十部心生疑懼，一時俱反。曹操立即派大將曹仁進攻關中，馬超等人屯據潼關。七月，曹操率大軍親征關中。九月，大破關中諸軍，馬超、韓遂逃至涼州，楊秋逃至安定（治臨涇，今甘肅鎮原南）。十月，曹操進軍安定，楊秋投降，關中地區基本平定。
建安十八年，曹操起兵號稱四十萬，親自南征孫權。次年正月，曹軍進至濡須口（今安徽巢縣東南），攻破孫權設在江北的營寨，生擒其將公孫陽。孫權親率軍七萬，前至濡須口抵禦曹軍。二軍相持月餘，各無所獲。曹操見孫權軍容嚴整，自己難以取勝，遂撤軍北還。五月，獻帝封曹操為魏公，加九錫，割冀州的河東、魏郡等十郡以為魏國封地。曹操封魏公後，所任丞相和冀州牧如故，權勢愈來愈大。七月，曹操建魏國社稷宗廟，又在魏國內設置尚書、侍中。
建安二十年三月，曹操見劉備已取得益州，而漢中是益州門戶，“若無漢中，則無蜀矣”，劉備必然要攻取漢中。於是曹操搶先一步，率十萬大軍親征漢中張魯。七月，曹操大軍進至陽平關（今陝西沔縣西北）。張魯聽說陽平關失守、逃往巴中。曹操進軍南鄭，盡得張魯府庫珍寶。十一月，張魯出降曹操，漢中遂為曹操所有。
曹操主力退出漢中後，劉備隨後向漢中發動進攻。建安二十三年，劉備親率大軍進至陽平關，夏侯淵等人與劉備夾關對峙。七月，曹操親率大軍趕往關中，坐鎮長安，以便隨時指揮漢中戰局。建安二十四年正月，劉備自陽平關南渡沔水（今漢水），依山而進，駐軍於定軍山（今陝西沔縣東南），夏侯淵出兵與劉備爭奪地勢，被劉備殺掉，曹軍大敗。曹操遂放棄漢中，軍隊全部撤回長安。
建安二十四年七月，曹操剛剛從漢中撤出，劉備大將關羽就從荊州向他的東南防線襄、樊一帶發動了進攻。曹操聞知，立刻派大將於禁率兵往救樊城。八月，關羽乘洪水泛濫之機，大破於禁所統七軍，乘勢進軍，將樊城圍住。時樊城曹軍隻有數千人，城被水淹，水麵離城樓僅有數尺，曹仁率軍死守。曹操又派徐晃領兵去救樊城。十月，曹操從關中趕到洛陽，親自指揮救援樊城。
孫權因關羽處其上遊，很不願意讓關羽勢力發展，而且他早已有攻取荊州之心，於是聯結曹操，準備以大將呂蒙偷襲荊州要地江陵。曹操接信後，將這一消息通知曹仁，命他繼續堅守，自己進至摩陂（今河南郟縣東南），臨近指揮，又派兵十二營增援徐晃，命他反擊關羽。不久，呂蒙偷襲江陵得手。關羽撤兵，路上被孫權軍擒殺。
曹操在孫權擒殺關羽、取得荊州後，表孫權為驃騎將軍、荊州牧。孫權遣使入貢，向曹操稱臣，並勸曹操代漢稱帝。曹操將孫權來書遍示內外群臣，說：“是兒欲踞吾著爐火上耶！”曹操手下群臣乘機向曹操勸進。曹操自己還不想廢獻帝自立，他說：“若天命在吾，吾為周文王矣。”
建安二十五年正月（220），曹操還軍洛陽。當月，病死在洛陽，終年六十六歲。這年十月，曹丕代漢稱帝，國號魏，追尊曹操為太祖武皇帝。