張家店戰役，取得了“我軍在無後方依托的條件下，第一次消滅敵人一個正規旅以上兵力的重大勝利”。它對發展和鞏固皖西根據地，具有極重要的意義。也標誌著陳錫聯率領三縱打開了皖西鬥爭的新局麵。
曆經千裏躍進，部隊進入大別山後，我軍立即實施戰略展開，劉鄧首長明確指出，今後的任務是：全心全意地義無返顧地創建鞏固大別山根據地。與友鄰兵團配合，全部控製中原。具體部署是：以一縱，二縱阻止鉗製尾我之敵，三縱、六縱占領南線諸城，打開創建根據地的局麵。並明確指示陳錫聯：“三縱應迅速攻占立煌（即今金寨縣），並偵察六安、霍山、舒城、廬江、桐城、潛山、太湖諸城，準備占領之。”
按照劉鄧首長的指示，陳錫聯率領三縱，僅用了半個月時間，解放了固始、立煌等10個縣城，消滅了守敵，摧毀了國民黨縣政權，建立了民主政府，初步打開了局麵。我軍所到之處，都受到當地群眾的熱烈歡迎。
在我軍實施戰略展開時，蔣介石急令尾我南下的二十三個旅追過淮河，分路撲向大別山區，妄圖乘我立足未穩，尋殲我軍或將我軍逐出大別山。9月上旬，北線敵四十六師進入六安、霍山地區，五十八師進到固始、商城地區。10月初，敵從鄂東調七師、四十師、從皖西調四十八師、四十六師一部，並結合在山北地區的八十五師、五十八師、五十二師等部，對光山、新縣地區之我野戰軍主力進行合擊。
根據這一情況，劉伯承、鄧小平急令陳錫聯：“趁敵西調，皖西空虛，迅急回師，放手殲敵”。
陳錫聯接到命令後，率領三縱主力5個團由商城、固始於10月1日兼程東返。為了隱蔽行動企圖，他們繞道山地，在崎嶇小路上行軍。連日陰雨，道路泥濘，經7個晝夜，才如期趕到霍山、六安之間。此時，敵八十八師師部正率六十二旅由舒城沿舒（城）霍（山）公路向西進犯。
陳錫聯得知這次的對手又是八十八師，不禁說道：“真是冤家路窄！”陳錫聯曾與八十八師在正月魚台戰鬥中交過鋒，他同兄弟部隊一起，消滅了八十八師一個半旅，剩下的逃回徐州去了。這次是經過補充由徐州調來合肥，9月中旬進入舒城、廬江、桐城地區。陳錫聯考慮，現在該敵處於運動中，正是我殲滅的良機。為防敵逃跑，陳錫聯立即指示各旅，隻要抓住敵人，不必請示，即可合圍殲擊。
10月6日，三縱八旅二十三團在舒城以西南官亭附近接敵與之激戰數小時。7日，沿舒霍公路東進的九旅二十五團與該敵先頭部隊在山王河遭遇，敵迅即龜縮抱兒嶺一帶。陳錫聯當即下達命令：七、八、九旅分由北、東、西三麵向抱兒嶺、三保墩及其以北山地合圍該敵，務必一舉殲滅。接著，陳錫聯又特別強調：“必須機動靈活捕捉戰機，積極主動協同作戰。”
8日晨，三保墩之敵繼續北撤，九旅二十六團乘勢逼近敵人，敵以小部隊與我接觸，主力趁黑夜繞道北竄。九旅旅長童國貴親率二十六團和二十七團兩個營取捷徑向北追擊，二十六團在馬長崗捕捉敵哨兵，查明敵全部聚集在張家店，當即占領295高地，向敵開火。二十七團也迅速逼近韓家畈。接著，七旅旅長趙蘭田率二十團也趕到了。趙、童兩旅長立刻以到達的部隊，大膽地包圍了敵人。