1月31日，南線敵軍分三路開始北犯。2月3日進抵重坊、郯城、桃林一線。敵軍的配置和行動計劃是：左路為整編第11師、第59師、第64師共8個旅，由運河集、邳縣地區沿沂河西岸向臨沂進攻；中路為整編第74師、第83師及第7軍（同整編師）共7個旅，由新安鎮（今新沂）沿沂河、沭河之間的郯城、華埠向臨沂進攻；右路為整編第25師、第65師及第67師（同整編旅）共6個旅，由沭河以東的城頭、阿湖地區向臨沂進攻。各路敵軍兵力密集，互為策應，每一路都分別有精銳主力部隊作為骨幹，戰鬥實力相當強。
依據當麵敵情，陳毅、粟裕於1月26日提出了集中50個團的兵力，先打南線敵人右路的初步方案。軍委於27日複電同意。1月28日，軍委來電指示：陳誠直接指揮之進攻將於不久發動，我軍似以待具進攻再打為有利。31日又電示，國民黨軍日內即將進攻，我軍方針似宜誘敵深入，不宜行動過早。
據此，陳毅、粟裕決心放手誘敵北進至臨沂外圍地區予以各個殲滅，同時作了保衛臨沂的準備。2月3日，陳毅、粟裕向各部隊下達了作戰預備命令，擬定了在臨沂及其以南地區作戰的3個方案：
第一方案，如敵右路前進較快，即首先集中兵力殲滅整編第25師及整編第65師一部於郯城以東、東海（今海州）以西地區。這一路敵人的戰鬥力較弱，側翼暴露，易於殲滅。
第二方案，如故左路前進較快，則首先集中兵力殲滅整編第11師於沂河以西的蒼山地區。這一路敵人側翼雖不暴露，但比較薄弱一些，容易打。
第三方案，如敵左右兩路均前進遲緩，而中路突出時，即首先集中兵力殲滅整編第74師於沂河、沭河之間，郯城以北地區，這一路敵人戰鬥力較強，兩翼又有掩護，不易就殲，但當它沿郯（城）臨（聽）公路冒進與其左打兩路脫離較遠時，也有可能予以殲滅。
這三個方案中，以第一方案為最好，這是基本方案，第二方案次之，第三方案可能較難實現。
在製定作戰方案的當天，即2月3日，陳毅、粟裕就命令第3縱隊從正麵堅決抗擊中路之敵，目的是要誘使敵左右兩路突出，以利我軍尋殲其中的一路。
但敵人也十分狡猾，不中我計，在我第3縱隊對敵中路施加壓力後，左打兩路敵人不僅沒有突出冒進，反而就地構築工事，且有向中路靠攏之勢。而北線之敵李仙洲集團已於當天分由明水、博山南犯，次日進占我萊蕪、顏莊。看來，敵人估計我軍必定固守臨沂，決定按照其會戰計劃規定的作戰方針，穩紮穩打，齊頭並進，待北線李仙洲集團和兩線王敬久集團逼近後，再同我軍主力決戰。
在此形勢下，如何分割敵人，創造戰機，成為突出問題。2月4日，中央軍委來電指示，對南線之敵，要等候其進至郯城、臨沂之中間地帶（比較靠近臨沂）時再打第一仗。電示強調：敵越深入越好打，我打得越遲越好，隻要你們不求急效，並準備必要時放棄臨沂，則此次我必能勝利。
中央軍委關於必要時放棄臨沂的指示，給陳毅、粟裕以很大啟示。敵人逼我軍在臨沂地區決戰，而我軍有了“必要時放棄臨沂”的準備，作戰的回旋餘地就大得多了。這時，陳毅提出了一個重要的設想：既然南線敵人重兵密集，戰機難尋，而北線敵人孤軍深入，威脅我後方，我們不如改變原定作戰方針，置南線敵重兵集團於不顧，而以主力北上，以絕對優勢兵力，殲滅北線之敵，陳毅讓粟裕就此設想熟思。粟裕覺得陳毅的設想十分高明，並作了進一步的分析。從解放戰爭開始，在華東戰場上，敵我雙方都把作戰重心放在南線。這次敵主要突擊集團和我軍主力也都集中於南線。中央軍委的曆次指示，都是要誘南線之敵北上，在臨沂附近的適當地域尋機予以殲滅。陳毅、粟裕也是這樣部署作戰的。但是，從戰場的實際情況看，出現了值得研究的重要因素：
第一，南線敵軍麋集成堆，儀沂河、沭河之間寬約15—20公裏的正麵上，就擺了20多個團，而且行動謹慎，平推北上，不易各個擊破。
第二，從兵力對比看，整個南線，敵有50多個團，加上守備隴海線和臨城、韓莊地區之敵，共63個團，我軍雖亦集中約60個團，但就敵我兵力、裝備、物力諸條件綜合比較，敵占優勢，在不能給敵以大量消耗和實施分割包圍的情況下，不宜過早地與其決戰。
第三，北線之敵乘虛南下，伏擊我側背，威脅我後方，不能忽視，同時，與南線敵軍比較，北線敵軍兵力少，戰鬥力也相對弱一些，內部派係矛盾多，且孤軍深入。李仙洲本人軍事上是外行，沒有什麼同我軍作戰的經驗，我軍如將主力隱蔽北上，可對其形成絕對優勢，有把握予以殲滅，敵既認定我軍必固守臨沂，我軍突然北上，定可出敵不意。這樣，我軍就可以置敵南線強大兵團於無用武之地，既可避免不利決戰，又可大量殲敵，粉碎敵南北夾擊之圖謀，解除敵對我後方的威脅，打通渤海、膠東和魯中的聯係。如果我軍能殲敵三分之二，將便於今後集中更大兵力南下出擊，向津浦線、向中原發展。