在發動進攻援軍時，為避免閻軍困獸猶鬥起見，劉鄧決心采取圍三闕一的戰法，在北麵敞開一個口子，給敵人虛偽生路，部署在運動中分割包圍殲滅敵人。命令十七師和獨立支隊分別協同右翼隊和左翼隊猛攻陣地兩翼之製高點磨盤腦與老爺嶺。壓迫敵人脫離陣地北逃。命令冀南縱隊從磨盤腦往下打，然後從老爺嶺、磨盤腦之間的山溝往北猛插，即從右翼隊和左翼隊中間突擊，貫穿到底，與左翼隊的追擊穿插部隊會合於榆社以北之趙村。10月5日黃昏，總攻開始，左翼隊攻克老爺嶺主峰，援軍果然於夜間向北突圍。而劉鄧的一支迂回部隊早已奉命由榆社以北迂回到虒亭鎮西北的土落村附近的製高點，作封鎖閻軍退路的布置；襄垣獨立營也占據了虒（亭）屯（留）公路及其兩側進行跟蹤與平行追擊，穿插截擊，致閻軍潰不成軍，紛紛繳械投降；後方人員和參戰民兵及當地群眾，也都奮起捕捉潰散的閻軍，激戰至10月6日，閻軍2萬餘人除2000人逃入沁州城以外，其餘全部被殲，其副總司令、援軍總司令彭毓斌被擊斃，副總指揮兼炮兵司令胡餘三等十數名高級軍官就擒，繳獲了大批武器彈藥。
再說被困長治城的史澤波，當劉鄧部隊掃清長治周圍縣城後，他把所帶的三個主力師和五專署的兩個保安團退守長治城及近郊，並不斷將其情況電報閻錫山，閻一再給史澤波來電鼓氣：“上黨必爭，潞安必守，援軍必到，叛軍必敗。”並通知已派彭毓斌率部隊解長治之圍。所以史澤波把希望寄托於彭毓斌身上，作好固守長治的部署。劉鄧部隊先攻南關，守軍是暫三十七師楊文彩部，是史澤波帶過多年的部隊，而楊文彩是史一手提拔起來的，所以比較放心，但又不得不把注意力放在南城上。史澤波哪裏知道劉鄧部隊對南關是佯攻，真正的主攻方向放在由保安團把守的北關。也就在佯攻南關的第二天，劉鄧部隊突然奪走了北關。史澤波很是驚慌，因為北關是援軍的方向，北關失守關係整個長治城的安危，於是命令六十八師師長郭天辛奪回北關。郭率一個團打一天沒有進展，史澤波隻得調三十七師楊文彩部再次組織反攻，楊先命令迫擊炮擊毀北門外護城河附近民房，然後率一個團衝進去，與八路軍逐院爭奪，付出了重大代價，全團光受傷連長七八個，總算奪回了北關。豈料不幾天的平靜之後，得悉彭毓斌的援軍被消滅。
援軍全軍覆沒，使史澤波絕了希望。長治孤城被重重包圍，下一步怎麼辦？此時，史澤波心慌意亂，聽說圍城的劉鄧部隊有40個團的兵力，如果突圍出去，很可能又兵敗如山倒，陷入不可收拾的局麵；史澤波想到這一層，就打定主意堅守一段，伺機再走。哪知五專署專員續汝楫急了，暗地給閻錫山發了電報，報告說長治城裏已沒有糧食，要求閻錫山下令突圍。閻錫山接到續的電報後，考慮到救援不成，不如及早突圍撤回；於是命令史澤波撤回臨汾。史澤波仍以暫不走的上策複電閻錫山，陳述伺機再走的理由。可是閻錫山很快給史澤波複電，說：這一次無論如何要聽我的，立即撤回臨汾。史澤波拗不過閻錫山，隻得撤。但從哪裏撤？楊文彩師長向史澤波進言：八路軍主力在長治以北，長治以南兵力薄弱，應該南下河南，然後繞道回山西。史澤波則認為從原路回臨汾距離最近。爭論到最後，還是依照史澤波的意見行事，撤退的部署是：北麵壓力大，派六十八師為右翼，六十一軍的暫六十九師擔任風險較小的左翼，以基本主力暫三十七師和五專署的兩個保安團為中路。這時史澤波的總兵力大約還有1萬人。10月8日夜11點30分，趁黑夜人靜突圍，出長治南門朝西南走，在長子縣城東南上了山，就朝西行進。當時後麵雖有八路軍追擊，但八十六師在後，邊退邊打並沒有大的戰鬥。