這時，李宗仁來電話，嚴令第二集團軍守至次日拂曉，等待湯恩伯軍團前來增援。孫連仲大義凜然地說：“長官有此決心，我第二集團軍犧牲殆盡不足惜，連仲亦以一死報國家。”於是集合可用之兵，包括炊事兵、擔架兵都一並參加，組成一個敢死隊，於午夜襲擊敵人。
這時，池峰城來電話請示可否撤退至運河南岸，孫連仲命令說：“士兵打完了，你自己填上去。你填過了，我就來填進去。有誰敢過河者，殺無赦！”池部乃以必死之決心，逐屋抵抗至4日黃昏，將敵增援部隊擊退。
4月6日，中國軍隊完成了合圍任務後，全線出擊。日軍磯穀、板垣兩師團陣腳大亂，狼奔豕突，漸向北撤去。孫連仲部與友軍內外夾擊，橫掃殘敵。
台兒莊戰役以中國軍隊的全勝而結束，史稱台兒莊大捷。此役中，孫部武器雖劣，但官兵勇於作戰、不怕犧牲的精神彌補了這一點。近戰時大刀發揮了很大威力。孫部官兵還用十二枚一捆的束集手榴彈炸毀敵軍坦克。
1939年夏天，孫連仲乘部隊整訓的機會，到重慶住了兩個月。他覺得自己的部隊在抗日戰場上表現不俗，尤其是台兒莊一戰打得很出名，他想謀求到一個戰區司令長官或省主席的地位。
但由於他沒有加入派係，在國民黨軍政要員中，除了和張厲生私人關係較近外，別的沒有得力的外援，而蔣介石是不會輕易把較大的權位授予雜牌將領的。
孫連仲活動了兩個月後，蔣介石對於像孫連仲這樣一個有功之臣也不能不應付一下，便決定把孫調為第五戰區副司令長官，作為李宗仁的副手。因為李宗仁是個老將，讓孫做他的副手，比做“後起之秀”衛立煌的副手麵子上要好看些。
同時蔣還把第六十八軍劉汝明部編入孫的第二集團軍的序列。第六十八軍也是原西北軍的部隊，當時轄有一一九、一四三兩個師和獨立二十七旅。六十八軍副軍長是李金田和陳新起，一一九師師長是田溫其，一四三師師長是李曾誌，獨立第二十七旅旅長是劉汝珍。
這樣，孫的第二集團軍就有了五個師和兩個獨立旅。
1940年春天，蔣介石曾打算叫孫連仲接替鹿鍾麟任冀察戰區總司令兼河北省政府主席，帶一部分隊伍去河北省打遊擊。孫連仲接到蔣介石征求意見的電報後，曾和高級幕僚們研究。
當時有人主張接受這個職務，因為蔣介石是不會把正式的戰區司令長官和後方的省政府主席職位讓給孫連仲的。河北省條件雖不好，總算獨當一麵。但也有人主張不接受，認為河北省不僅有日偽軍，而且有八路軍。
到那裏以後，如果和八路軍合作抗日，蔣必不答應；如果與八路軍鬧磨擦，恐怕很難站住腳，結果有可能連“老本”都保不住。孫連仲權衡利害，認為還是不去為好，就複電蔣介石表示推辭，大意是：
河北省情況複雜，自己才疏學淺，深恐完不成任務，有負委座重托、謹乞另選賢能。