且說張遼正不知該何去何從之時，其手下的一名親兵竟說要向西投靠羌族，惹得張遼大怒，嗬斥道：“我等身為漢人，豈能投靠異族，出賣國家，此話不可再提，否則必然軍法從事。”
這個親衛似乎依然不死心，繼續勸道：“那，將軍，向南投靠袁紹如何，總也好過在此等死。”
張遼又是一聲長歎，低頭沉思良久，方道：“溫侯對張遼有知遇之恩，如今溫侯雖敗，卻並未身死，張遼豈能另投他人。今日兵敗雖非張遼之過，卻使得溫侯陷入了晉軍的四麵圍攻之下，形勢堪憂，張遼唯有一戰，盡量拖住西河郡的晉軍，使得溫侯有時間突圍而去。”
張遼身邊的一眾親衛聽了，甚受感動，對張遼道：“將軍忠義，我等願隨將軍死戰，助主公能夠突出重圍，以待日後東山再起。”
張遼見雖然經過大敗，但手下這兩千多兵馬的鬥誌仍在，心下頗為安慰，回身高聲道：“我等深受溫侯大恩，如今溫侯被楊奉四麵圍困，身處險境，正是我等報恩之時，眾將士可隨我反身力戰，盡量為溫侯撤退爭取時間。”
眾人皆高呼：“願隨將軍死戰，願隨將軍死戰。”受張遼的渲染，雖然已是敗兵，但士氣卻空前高漲。
太史慈和黃敘正在離石城打掃戰場，安撫城內的百姓，同時對投降的一萬多士兵進行重新整編。不料，就在這個時候，張遼忽然率軍回殺過來，就在太史慈和黃敘準備迎戰的時候，這投降的一萬多士兵突然反戈，進行暴亂，太史慈一下子措手不及，被張遼內外夾攻。
張遼平素治軍甚嚴，且能夠與士兵同甘共苦，深得士兵愛戴。本來張遼率軍突圍，留在城內的這些士兵不得已之下投降，但是當他們看到張遼僅率兩千多士兵反身殺回的時候，都以為張遼是回來救他們的，心中都是熱血澎湃，個個存了必死之心。
這是一場實力相當的戰鬥，張遼的士兵雖然不占優勢，但是這一萬多士兵卻是個個都不要命，一時之間竟也和太史慈的三萬大軍戰了個旗鼓相當。好在晉軍平時練兵有素，不然在這一萬多死士的衝擊下，離石城還真可能會得而複失。
太史慈和黃敘看到此種情景，除了心中更加敬佩張遼之外，亦是大怒之極，兩人竟是不約而同同時找上了張遼。
張遼的武藝單對兩人之一還是可以，但是與太史慈、黃敘同時作戰，已是心有不逮。勉強撐到四十回合，張遼便被太史慈一戟給掃下馬來，其手下的這一萬多士兵也盡數被殺死，一個不剩，而太史慈的大軍也因此損失了一萬人，這一場戰鬥比之太史慈突襲離石城還是慘烈。
西河郡的戰鬥全麵結束，太史慈命令黃敘領軍兩萬鎮守離石，以防袁紹趁機北上，自己則和張郃合兵一處，向西進攻上黨郡。
由於有宮康的跟隨，太史慈這一路的進攻相當順利。五日後，便占領了穀遠，八日後，占領了屯留，十日後，太史慈的大軍已經到了壺關之下，由於一路的招降，到了壺關之下的時候太史慈的部隊已經由一萬人增到了三萬人。
壺關天險，易守難攻，隻要能有一萬人馬在此把守，即便是十萬大軍也難以突破，這也是呂布放心和陳宮、李儒兩人分別屯兵在外的原因。
但是，這一次卻因為宮康的跟隨，壺關天險的優勢盡失。
太史慈的大軍到了壺關之下以後，並沒有像楊奉上一次一樣率軍攻打，而是讓宮康寫了一封降書，直接射進了壺關之內。降書的大致內容便是西河郡被晉軍占領，張遼兵敗被俘，呂布也倉皇撤出了上黨郡，逃到了淮南袁術那裏。
上黨郡的守將是李封，此人並不是呂布的心腹。而且呂布在前往黎城的時候讓其家眷盡皆隨行，雖然陳宮和李儒都勸呂布不可如此，否則隻會讓上黨的將士寒心，但是因為這一次情勢嚴峻，呂布不敢將家眷留在壺關之內，便沒有聽從二人之言，依然將家眷盡數帶著。
果然，呂布的這一做法使得壺關之內的守軍個個士兵大跌，好在張遼、陳宮、李儒和呂布四人將上黨郡的四麵防守的嚴嚴實實，壺關也沒有造成兵變，如今西河郡失守，太史慈的大軍兵臨壺關之下，李封便有了投降的念頭。
在降書被士兵送到手中的那一刻起，李封投降的念頭更加堅定，命令大開城門，放太史慈的大軍入關。
當太史慈真正站在壺關的城牆上的時候，心中不禁感歎，若非是李封投降，自己的大軍要想攻克這一萬人把守的壺關簡直是不可能的。若是壺關不能被攻克，主公的這次四麵圍攻上黨之戰將會以失敗告終。
壺關失守的消息很快便傳到了呂布那裏，呂布大驚，壺關既失，涅縣、左權和黎城都將被晉軍兩麵夾攻，呂布來不及通知陳宮和李儒二人，當夜便放棄了黎城，率軍倉皇向南逃竄，最後投奔了袁術。
呂布撤退，黎城自然就被高覽輕易占領，但是黎城的丟失卻把陳宮和李儒害慘了，涅縣和左權都在上黨郡的北麵，黎城則在上黨郡的東麵，一旦黎城失守，高覽的大軍和太史慈的大軍則和楊奉以及趙雲的大軍將李儒和陳宮所在的涅縣和左權團團圍困，兩人已經成了甕中之鱉。