雖然淶水戰役取得了全勝，也算是報了當年敗在三十五軍手下的一箭之仇，但從全局來看，解放戰爭開始以來的第一場大決戰遼沈戰役在當時仍是頭等大事，所以此時毛澤東所考慮的頭等大事是如何打好遼沈戰役，聶榮臻所考慮的頭等大事是如何配合東北打好遼沈戰役。
1948年7月，在如何打遼沈戰役這一大問題上，無論是毛澤東還是在東北的林彪，都還沒有一個成熟的方案，但大致上已經決定要東北野戰軍主力南下錦州、山海關地區，關門打狗。而如果要在這一地區大打，一個很大的問題是華北的傅作義集團可能會出關支援，這就會給關門打狗的計劃造成極大困難。7月22日，東北野戰軍司令員林彪、政委羅榮桓、參謀長劉亞樓致電中央軍委，建議華北軍區圍攻大同，將傅作義的一部分主力調向西邊，使之無法向東支援關外，用以減輕東北野戰軍的壓力。其實，這種想法早已在毛澤東的計劃之中。為了先打好東北這一場大仗，牽製傅作義這一任務華北軍區已經進行大半年了，隻是現在的任務更為明確、擔子更重了。
毛澤東決定把這一重要的任務交給楊成武。
7月23日，毛澤東電令華北軍區司令員聶榮臻和政委薄一波，並轉華北軍區第二兵團第二政委楊成武，電令說：
立即組織西進兵團向綏遠作戰。（一）楊成武部在現地區之作戰應於25日以前結束，全軍主力撤至平保線以西山地隱蔽休整，一部接近平保線休整。（二）楊成武立即開始組織西進兵團，擔負向綏遠作戰之任務，此兵團組成為一縱全部、二縱兩個旅、六縱兩個旅，共三個縱隊七個旅，楊成武為西進兵團之司令員兼政治委員。從26日起至8月9日止共15天，為休整時間，8月10日開始西進，取道大同以南，務於8月25日左右到達歸綏附近，並相機奪取歸綏，爾後相機向包頭、五原、臨河地區攻擊，占領整個綏西產糧區，或向歸綏以東機動，吸引傅作義至少一個軍西援，以利東麵之作戰。（三）楊、羅、耿部（按：指楊得誌、羅瑞卿、耿飆領導的原華北軍區第二兵團）本月底結束在現地之作戰，即行休整至8月15日為止，準備於8月20日左右直接接受林、羅、劉（按：指林彪、羅榮桓、劉亞樓）的作戰任務。（四）楊成武兵團從午宥（按：這是當時在電報中普遍使用的時間代碼，午宥即7月26日）起，直接受軍委指揮，其後方補給由華北軍區擔任，晉綏軍區協助之，並以晉西北為後方，並須準備長期在整個綏遠作戰。華北局應即組織一批地方工作幹部隨軍西進。（五）六縱一個旅及七縱全部留平保線以西以南地區作戰，受華北軍區指揮。
8月3日，毛澤東在西柏坡接見了聶榮臻和楊成武，中央的“五大書記”即毛澤東、劉少奇、周恩來、朱德、任弼時共同向他們交代了中央“東北打，華北牽”的重要任務。同時宣布，中央軍委決定，華北野戰軍的第二兵團分開組建為兩個兵團，楊得誌、羅瑞卿、耿飆指揮三縱、四縱、八縱和二縱的一個旅，為新的第二兵團；楊成武和李天煥指揮一縱、二縱的兩個旅和六縱，為第三兵團。第三兵團的任務就是西進傅作義起家立業的老根據地綏遠西部，開辟新的戰場，解放綏遠。在此期間，已在晉綏地區的兩個騎兵師以及地方部隊也都由楊成武指揮。綏遠是傅作義無論如何也不可能放棄的重要基地，這樣就可以把傅作義的主力拖在平綏線，調動其向歸綏轉移，使其不可能出關或盡可能少出關。與此同時，二兵團以一部在承德地區配合東北作戰，一部在張家口地區配合三兵團在綏遠作戰。一兵團則在徐向前、周士第指揮下仍然在山西打閻錫山。整個華北都要大打，把傅作義牢牢地拴在華北，也就保證了東北戰場上決戰的勝利。