克服障礙，使部隊迅速進到大別山去，是急待解決的重大問題。劉鄧首長果斷決定采取3路前進的隊勢，固然已為我們創造了加快進軍速度的前提，但我們靠兩條腿行動，是比不上敵人的車輪子的。因此，做好戰備和組織好行軍，就更顯得重要了。
陳錫聯反複琢磨，既要前進快，又要保持部隊的體力，為此，他采取了各旅交替前進的辦法。首先以七旅為先遣隊，掩護縱隊通過隴海路，搶占新黃河（即沙河）渡口，架設浮橋，保障主力通過沙河。爾後由九旅擔任先遣任務，過沙河迅速前進，搶占淮河渡口，攻占固始。八旅即向皖西展開，要求各級幹部深入下去，邊前進，邊動員，邊整補，開展思想、體力互助，切實做好鞏固部隊的工作。經過動員，各部隊都搶著在千裏躍進中立戰功。
8月7日，陳錫聯率領第三縱隊與兄弟縱隊一起，開始了千裏躍進的壯舉。
黃昏時部隊出發，連續4個夜行軍，跳出了敵重兵集團合圍圈。先遣部隊七旅二十一團於11日夜攻占隴海路上馬牧集車站，殲守敵一部並對東西鐵路進行破壞，炸毀了橋梁，三縱主力於12日勝利越過隴海路。同時野戰軍各縱隊也跨過隴海路，向敵人遼闊空虛的戰略縱深疾進。
這一突然的戰略行動，將敵人主力甩在隴海路北，徹底粉碎了蔣介石企圖在魯西南合擊我軍的計劃。
開始，敵人判斷我軍要北渡黃河，結果合圍撲空，繼而又誤認為我是在大軍壓境情況下“北渡不成而南竄”。因此，僅令駐蚌埠的四十六師一部西進太和，結合地方團隊在沙河布防，堵截我軍，以主力羅廣文兵團、張淦兵團等部共12個旅分路尾我南進，並以4個旅在平漢路側擊，妄圖把我軍一舉殲滅在黃泛區。可是我軍已先敵兩天，進入黃泛區，把敵人遠遠拋在後邊。
8月14日，劉鄧首長指示：“乘敵分散，對我企圖尚未判明之前，乘隙以3日急行軍向太和、阜陽、界首之線前進，搶渡新黃河（即沙河）。”據此，陳錫聯命令三縱的先遣隊七旅直趨沙河。縱隊主力過渦河後，即進入黃泛區。
早在1938年6月，為阻攔日軍進攻，蔣介石以水代兵，在河南中牟縣花園口破壞河堤，使黃河決口，黃水所過，泛濫成災，招致數百萬人民生命財產的嚴重損失，奪去了30萬百姓的生命。1947年為防禦我軍的進攻，又引黃河水歸故道，就造成了當時的黃泛區。它寬30至40裏，遍地積水淤泥，沒有道路，沒有人煙，行軍、食宿均很困難。三縱指戰員以驚人的毅力戰勝重重困難，經過4天艱苦行軍順利通過了黃泛區。
8月17日，七旅十九團進至太和，與已占領太和城之敵四十六師先頭部隊（約1個團）展開激烈戰鬥，該團二營襲占沙河渡口——舊縣集，並在舊縣集渡口搭好了浮橋。18日三縱主力通過沙河。19日，尾追三縱之敵三五八師與我軍三縱八旅後衛部隊接觸，遭我軍阻擊，未敢冒進。
我軍渡沙河後，蔣介石才大夢方醒，察覺到我軍並非“南竄”，而是矛頭直指大別山。於是急忙調動部隊，沿平漢路南下堵擊。我為搶占淮河渡口，8月21日，陳錫聯迅速命令九旅作為先遣隊先行出發，搶占三河尖渡口，同時命令縱隊教導團和補充團搶占洪河口、祝皋集渡口，以保障主力通過。
8月22日，敵四十六師搶占了三河尖下遊40裏之南照集渡口並向三河尖運動。陳錫聯又命令二十五團輕裝疾進，於23日夜搶占了三河尖渡口。與此同時，教導團、補充團亦搶占了祝皋集渡口。他們架好了浮橋，保障三縱主力於8月25日全部順利渡過淮河。
此時，陳賡、謝富治兵團也於8月23日夜在平陸、濟源間順利渡過了黃河，這極大地鼓舞了三縱的勝利信心。為保障縱隊主力順利向南挺進，陳錫聯命令九旅二十六團渡淮後立即出動，於8月26日拂曉，占領了固始縣城。
至此，陳錫聯率領三縱全體官兵經過20天的連續急行軍，戰勝了敵人追堵，克服了重重的天然障礙，勝利地進入大別山，完成了千裏躍進的戰略任務。