毛澤東指示人民解放軍進軍大別山要采取躍進的進攻方式，下決心不要後方，長驅直入，一舉插進敵人的戰略縱深，然後力爭建立革命根據地。為實現這一戰略計劃，毛澤東作了三軍配合、兩翼牽製的周密部署。三軍配合是：以劉伯承、鄧小平率晉冀魯豫野戰軍主力實施中央突破直趨大別山；由陳毅、粟裕等率華東野戰軍主力為左後一軍，挺進蘇魯豫皖地區；由陳賡、謝富治等率晉冀魯豫野戰軍兩個縱隊和一個軍組成陳謝兵團為右後一軍，自晉南強渡黃河挺進豫西。三軍在長江、淮河、黃河、漢江之間布成"品"字形陣勢，互為犄角，逐鹿中原。兩翼牽製是：以西北野戰軍在陝北出擊榆林，調動胡宗南軍北上；以山東野戰軍在膠東展開攻勢，繼續把進攻山東的國民黨軍隊引向海邊，便利上述三軍的行動。
劉伯承、鄧小平根據中共中央、毛澤東的部署，集中晉冀魯豫4個縱隊13個旅共12萬人，於1947年6月30日突破東阿至濮城間長達300餘裏國民黨軍隊黃河防線，發起魯西南戰役。國民黨軍事當局急忙從平漢路抽調5個整編師組成王敬久、王仲廉兩兵團馳援魯西南，妄圖以第五十五師堅守鄆城吸引劉鄧大軍於城下，然後兩路會師，把劉鄧大軍消滅在黃河、運河三角地帶或逼其回渡。劉鄧大軍識破這一企圖，決心以攻敵一點（鄆城）吸敵來援、啃其一邊（定陶）、各個擊破的方法，首先殲滅鄆城、定陶、曹縣之敵，爾後集中主力於運動中殲敵王敬久兵團主力。從7月7日至28日，殲滅國民黨軍隊4個師部9個半旅共5.6萬餘人。這一勝利，迫使蔣介石從山東、陝西抽調11個整編師28個半旅的兵力增援魯西南。這就打亂了其全盤戰略部署，揭開了人民解放軍戰略進攻的序幕，並為躍進大別山創造了極為有利的條件。
魯西南戰役結束後，劉鄧大軍計劃休整20天，於8月15日南進大別山。蔣介石則錯誤地認為這一休整是劉鄧大軍連續作戰後疲勞、無力再戰的表現，便調集30個旅分五路向魯西南合擊，並企圖利用雨季在開封附近掘開黃河大堤，水淹劉鄧大軍。在這種情況下，劉鄧大軍根據中共中央不要同敵人糾纏，下決心不要後方，以半月行程直插大別山的指示，提前於8月8日，突然甩開敵軍，分左中右三路向南疾馳，開始了千裏躍進的壯舉。8月18日，涉越黃泛區，渡過沙河。8月23日，突破汝河國民黨軍防線。26日，渡過淮河，進入大別山。
進人大別山後，劉鄧大軍經過1個月的艱苦作戰，到9月底，共解放縣城23座，建立17個縣的民主政權，開辟了新的根據地，站穩了腳跟，從而把人民武裝力量伸展到了長江北岸，同時向東威脅津浦路，向西威脅平漢路，攻擊矛頭指向重鎮武漢和國民黨政府統治中心南京。
右後一軍的陳（賡）謝（富治）兵團於8月22日在晉南平陸孟縣問強渡黃河，挺進豫西。先在隴海路洛陽至潼關以北、黃河以南地區殲敵3.1萬餘人，隨後以一部出陝南，開辟了陝南根據地。主力於10月底跨隴海路南下，在伏牛山東麓廣大地區勝利展開。
左後一路的陳毅、粟裕所率華東野戰軍8個縱隊，於8月初挺進魯西南。9月7日至9日，在沙土集全殲敵整第五十七師。9月26日從徐州至開封問橫跨隴海路進入豫皖蘇地區。
三路大軍相互配合，粉碎國民黨軍隊的進攻與"圍剿"，馳騁在中原大地上。不但粉碎了國民黨將戰爭繼續引向解放區的反動計劃，而且在黃河以南、長江以北、西起漢水、東迄津浦路的中原地區，建立了豫鄂皖、豫西、豫皖蘇三大根據地，形成了互為犄角的"品"字形陣勢，嚴重地威脅到平漢、隴海、津浦三路和國民黨軍隊占據的鄭州、開封、徐州等戰略要地，將人民解放戰爭從解放區引到了國統區。從此，國民黨軍隊被迫從戰略進攻轉為"全麵防禦"，從而結束了中國人民革命戰爭長期以來的戰略防禦地位，曆史發生了偉大的轉折。
國民政府公布全國人口統計數字