作為一名黨的高級幹部，粟裕得到中央命令之後就開始積極準備，以待中央一聲令下立即出動。可是，作為一個領兵作戰20年的指揮員，特別是曾經在江南長期作戰，如今又將重返江南獨立作戰，擔負黨中央賦予的重新開辟江南根據地重擔的粟裕，對於中央的一個重要決策，對於即將到來的南下江南作戰並開創新的解放區的重要任務，進行了多方麵的思考。他必須認真領會毛澤東這一決定的戰略意圖，分析敵我雙方的力量對比與分布，考慮好應付可能出現的各種困難的辦法並在出發前有所準備，為大部隊的南下製定出最佳的行動方案。在這些工作還未做好，心中還沒有充分把握之前，他是不會輕易向中央提出自己意見的。
在反複考慮之後，粟裕認為中央軍委的決定的確有大膽與出奇之處，如果他帶3個主力縱隊南下，打亂敵人的後方，肯定會取得一定的效果。但是，這既是一著妙棋，可又是一著險棋。在仔細權衡華東野戰軍南下與不南下、我江北主力部隊分兵與不分兵的利弊之後，他認為中央軍委的決策並非上策，認為不南下會取得更佳的戰果。粟裕的基本考慮是：中央作出這樣決定的主要目的，是要改變中原戰局，在中原打殲滅戰，大量地殲滅敵人。事實上，這時在中原地區打大殲滅戰的條件已逐漸成熟。一是敵人在中原的三條鐵路幹線和各大中城市的防守上分散了很多兵力，有利於我軍在運動之中捕捉戰機；二是中原地區的平坦地形雖然有利於敵人相互支援，但如果我軍破路之後，敵人的重裝機械化部隊就無法機動，有利於發揮我軍徒步行軍的長處，迅速集中兵力，實現戰役的速戰速決；三是中原地區背靠山東和晉冀魯豫老解放區，便於得到支援和安排傷員；四是我軍挺進外線以後，已經度過了最困難時期，逐漸適應和掌握了外線作戰的特點，新的解放區也已經有了一定的基礎。相反，如果3個縱隊過江，雖然可以調動部分敵人回防江南，但是國民黨軍隊在江北的4支主力部隊，即整編第五軍、第七軍、整編第十一師、第四十八師要支撐國民黨軍隊的中原防線，拱衛南京和武漢，是不可能將其調動南下的。特別是第七軍和四十八師屬於桂係的部隊，駐在武漢的白崇禧更是不會讓其脫離自己的指揮。另外，中原地區國民黨所有機械化部隊的主官也是不願到江南水網地區去作戰的。所以，國民黨軍隊可能調到南方的部隊不會是其主力，隻能是一些二三流部隊，這使中原兵力對比的改變不可能很大。在此背景下，如果我軍3個主力縱隊南下卻削弱了我軍在中原與敵人決戰的能力。從以上因素考慮，部隊南下的方案與中央要在中原地區打大殲滅戰的初衷是矛盾的。如果再從另一方麵來考慮，我軍南下之後，是在新區轉戰，行程數省，部隊的重武器必須全部放棄或丟失，這是不可避免的損失。同時，部隊在轉戰中處處有敵人的圍追堵截，傷員的救護與安置有很多困難，這就使得部隊減員的數量不會少，很可能達到三分之一甚至二分之一（3個縱隊加上部分地方幹部約為10萬人，減員可能會達到5萬人），這也是不可避免且更為嚴重的損失。
單是這些減員的代價，在江北就可以殲滅敵人好幾個師。而如果3個縱隊不南下，和其他部隊配合作戰的話，在中原進行大的殲滅戰，其效果會更好。此外，還有一個問題是隻有粟裕等原來新四軍的領導才會有體會，就是要南下的這幾個縱隊原來都是新四軍的部隊，是從蘇中蘇北撤到山東的，在當時的北撤中和不久前從內線到外線的轉移中，都是做了大量的思想工作才使廣大官兵轉過彎來，現在又要過江南下進行長期的新區轉戰，思想轉彎又得有一個過程。
粟裕經過深思熟慮之後，對中央的這一決策產生了新的想法。粟裕在回憶錄中這樣寫道：
雖然我有以上考慮，但要不要向中央提出建議，開始我是有顧慮的。主要是擔心自己看問題有局限性，對中央如此重大的戰略決策提出不同看法，會不會幹擾統帥部的決心。但又想，作為一個戰役指揮員，在即將執行上級賦予的作戰任務時，應當結合戰爭的全局進行思考，從全局上考慮得失利弊，把局部和全局很好地聯係起來。全局是由許多局部組成的，從局部看到的問題，也許會對中央觀察全局、做出決策有參考價值。想到這些，我終於消除了顧慮，於4月18日把自己的看法和建議報告了中央。