建安十三年七月,曹操在統一北方後,親統大軍十餘萬南征荊州,欲吞並江南、統一天下。徐晃隨曹操出征,進攻中廬、臨沮、宜城等地,又與滿寵在漢津征討關羽。後曹操在赤壁之戰中為孫劉聯軍所敗,曹操留徐晃與征南將軍曹仁共守江陵,折衝將軍樂進守襄陽,引軍北還。同年,徐晃與曹仁在江陵共同抗擊吳將周瑜的進攻。
建安十五年,徐晃隨夏侯淵去太原平叛,攻克大陵,斬其首領商曜。建安十六年,以馬超、韓遂為首的十部聯軍,聚集十餘萬人馬,據守潼關抗曹。曹操發兵進取關中,徐晃奉命屯守汾陰,以鎮撫河東。曹操至潼關後,遇到關中馬超阻擊,不得前進。曹操問計於徐晃,徐晃說:“您已帶大兵到此,而敵人不再分兵守衛蒲阪,可知他們缺乏謀略。請給我一支精兵,渡過蒲阪津,作為大軍的先導,截斷敵人的後路,就可擒住他們了。”曹操至同意此舉,並派徐晃、朱靈率四千精兵從蒲阪津乘虛渡過黃河。
陣地尚未建成,賊人梁興夜間率步騎五千餘人攻徐晃,徐晃將其擊走,隨即建立了橋頭陣地。閏八月,曹軍從此渡河。九月,曹操又采納謀士賈詡的計謀,離間馬超和韓遂,最終大破關中軍,斬成宜、李堪等。馬超、韓遂敗軍隨後逃往涼州。
建安十七年,曹操派徐晃與夏侯淵平定隃麋、汧諸氐,在安定會師。曹操還鄴後,又派徐晃與夏侯淵平定鄜縣、夏陽餘賊,斬殺梁興,降三千餘戶。
建安二十年七月,徐晃隨曹操征討張魯,徐晃因功升為平寇將軍。不久,解將軍張順之圍,擊陳福等三十餘屯,皆破之。同月,曹操回鄴,任夏侯淵為都護將軍,率徐晃與張郃駐守陽平關以拒劉備。建安二十三年,劉備進攻漢中,四月,蜀軍進至陽平關。夏侯淵、張郃、徐晃等率軍阻擊。劉備派部將陳式等十餘營襲擊馬鳴閣,企圖切斷曹軍後方通道,被徐晃擊敗,蜀軍自投山穀,死者甚多。曹操聽說後,非常高興,給了徐晃指揮軍隊的符節,並下令說:“這一條閣道是漢中的咽喉險要之地,劉備想斷絕內外聯係,奪取漢中。將軍這一舉粉碎了劉備的計劃,真是妙計中的妙計啊!”後來,夏侯淵陣亡,曹操親到漢中,撤出了剩餘的部隊。
建安二十四年六月,劉備繼取漢中後,派孟達、劉封攻占漢中郡東部的房陵、上庸等地,勢力有所擴展。七月,孫權欲攻合肥,魏軍大部調動到淮南防備吳軍。鎮守荊州的蜀前將軍關羽,抓住戰機,留南郡太守糜芳守江陵,將軍傅士仁守公安,自率主力北攻荊襄。
當時,征南將軍曹仁駐紮在樊城,將軍呂常駐紮襄陽,左將軍於禁及立義將軍龐德駐紮在樊城北。徐晃駐紮在宛城,協助曹仁征討關羽。八月,大雨,漢水暴漲,於禁七軍均被水淹,在關羽水軍猛攻下,於禁被迫投降,龐德力戰被俘殺。關羽乘勝圍攻樊城,並以一部兵力包圍襄陽。此際,魏荊州刺史胡修、南鄉太守傅方,均降於關羽,陸渾人孫狼等,亦殺官起兵,響應關羽,關羽聲勢一時“威震華夏”。
曹操認為漢獻帝在許都,與賊臨近,一度準備遷都,因丞相司馬懿及曹椽蔣濟勸諫而停止。曹操采納了司馬懿利用矛盾破壞孫、劉聯盟,以坐收漁翁之利的策略,派使者去見孫權。同時指令徐晃率軍援救曹仁。徐晃所部多為新兵,難以與關羽爭鋒,於是進至陽陵坡駐紮,曹操派將軍徐商、呂建傳令:“要等到兵馬集結後,一起出擊。”當時關羽前部屯偃城,徐晃佯築長塹,示以將切斷蜀軍後路。蜀軍懼被圍,燒營撤走,徐晃軍進據偃城,兩麵連營,漸向圍城蜀軍逼近,徐晃軍營距關羽所圍僅三丈。
曹操使者返回洛陽,帶來孫權密信,說即派兵西上襲擊關羽,但請保密,以防關羽得知有備。曹操采納董昭意見,故意泄漏信中內容。曹操令徐晃用箭將孫權密信內容,分別射入樊城及關羽營中。被圍魏軍得信後,士氣倍增,防守更堅;關羽得信後,則進退兩難。