1929年春天，為粉碎敵人對井岡山根據地的“會剿”，擴大蘇區，粟裕跟隨毛澤東、朱德率領的紅四軍主力進軍贛南、閩西，實行戰略性出擊。
粟裕率第二支隊於1930年1月離開古田，進抵東韶，開始分兵進擊。2月上旬，敵人對紅軍形成了弧形包圍之勢。紅四軍前委決定采取誘敵深入的方針，尋機殲敵。當敵進至水南、富田一線時，紅四軍抓住有利戰機，發起了猛烈攻擊。
同年10月，蔣介石調集了8個師，10萬人馬，向中央蘇區發起了第一次軍事“圍剿”，紅軍進入了大規模反“圍剿”階段。此時，粟裕升任紅二十二軍六十五師師長，不久改任六十四師師長，成為紅軍的一名高級指揮官，時年23歲。
紅軍初步設計的戰鬥方案是先打譚道源，然後打張輝瓚，但設了幾次埋伏，狡猾的譚道源都未入甕，反而是誌驕意滿的張輝瓚部率先進抵龍岡。紅軍如設伏兵於龍岡、君埠間，可望出其不意先消滅張輝瓚。為證實情報的準確性，粟裕親自去偵察敵情，了解到張輝瓚已決定加速前進，隻是還沒確定是否走龍岡。
回去後，粟裕把了解到的敵情向毛澤東作了詳細彙報，並提出作戰建議：利用張輝瓚驕狂自大求勝心切的特點，派出一支小部隊作為誘餌，把張輝瓚引向龍岡，紅軍在龍岡設伏，殲滅張輝瓚的第十八師，毛澤東采納了粟裕的建議。
30日上午，粟裕奉命率六十四師擔任左路包抄的任務，張輝瓚進了伏擊圈後，上午10時，毛澤東一聲令下，紅軍戰士如猛虎撲羊。戰鬥到黃昏，已殲敵9000餘人，並且活捉了張輝瓚，滿山遍野都是戰士的歡呼聲。“好！粟裕捉了張輝瓚，還是粟裕有辦法！”毛澤東不禁感歎道。
在毛澤東的指揮下，紅軍又粉碎了敵人的第二、三次“圍剿”，在毛澤東麾下打仗，粟裕學到了不少東西，他在戰火中逐漸成長了起來。
1932年5月，蔣介石親任鄂豫皖三省“剿匪”總司令，調集大批軍隊向中央根據地發動第四次“圍剿”。此時，紅軍組建了紅七軍團，粟裕任紅七軍團十二師師長。
在硝石戰鬥中，紅軍二十八師攻擊敵人一個山頭，攻不下來，粟裕和蕭勁光親臨陣地督戰，最終打垮了敵人。紅軍乘勝猛追，敵人第二梯隊的一部分卻從背後打上來。此時，粟裕身邊已沒有隊伍了。怎麼辦？粟裕當機立斷，率警衛員衝上前與敵軍激戰，敵人被擊退了。不幸的是，一顆子彈打中了粟裕的左臂，頓時動脈血管裏的血噴出一米多遠，他當場昏死過去了。
1933年11月，粟裕終於傷愈出院，此時第五次反“圍剿”已經開始一個多月。紅十一軍已改編為紅七軍團，粟裕任軍團參謀長兼二十師師長。那時，王明“左”傾錯誤已經從黨內擴展到了軍隊。
1934年7月，國民黨的第五次“圍剿”已持續了9個多月，在這場戰役中，紅軍失利的局勢已無可挽回，中共中央決定紅軍戰略轉移，為此，紅七軍團組成北上抗日先遣隊，向閩浙皖贛進軍，執行牽製任務，創建新的蘇維埃根據地，粟裕又一次受命於危難之際。
1935年初，粟裕率領從懷玉山突圍的抗日先遣隊部隊，到達閩浙贛根據地。不久，中共閩浙贛省委向他們傳達了中央的指示，要他們以先遣隊的突圍部隊為基礎，迅速組建挺進師。由粟裕任師長，劉英任政治委員，立即率部進入浙江境內，開展遊擊戰爭，創建根據地。經粟、劉反複思忖，決定以仙霞嶺為中心的浙西南地區作為挺進師創建遊擊根據地的頭一個目標。
4月下旬，粟裕率挺進師活動於齋郎地區時，浙江保安第一團團長李秀率其所部1200餘人，福建保安第二團團長馬洪深帶領1000多人，在以“大刀會”為主的地主武裝近千人的配合下，從東北、正東和東南三個方麵對挺進師實行分進合擊。
與此同時，粟裕一麵派出人員偵察敵情，一麵率領參謀人員勘察地形，他深知這一仗的勝敗直接關係到挺進師能否打開通往浙西南的通道，關係到遊擊根據地能否建立。臨戰前，粟裕對自己精心製定的作戰計劃又進行一番周密細致的思考和審查。
4月28日拂曉，戰鬥開始了。國民黨依仗人多勢眾，先派出地主武裝打頭陣，但挺進師軍事和政治攻勢雙管齊下，不到半天工夫，就將這幫烏合之眾全部瓦解了。
中午時，浙江保安第一團李秀部，進入到我軍前沿陣地，粟裕命令部隊等敵人靠近了再打。直到敵人近到50米左右時，我軍集中火力攻擊。頓時，槍彈聲、手榴彈爆炸聲和喊殺聲響作一團，震耳欲聾，敵人扔下一片屍體，落荒而逃，匆匆趕來的敵馬洪深部見勢不妙就狼狽而逃了。
齋郎之戰的勝利，迫使敵保安部隊在很長的一段時間裏，轉攻為守，龍泉河以北敵人的力量比較空虛，挺進師獲得了開辟浙西南遊擊根據地的有利時機。粟裕揮師北上，勝利進入仙霞嶺地區。
1935年5月上旬，粟裕率挺進師進入到龍泉、遂昌、鬆陽三縣的邊界地區，將部隊改編為4個縱隊和兩個獨立支隊。粟裕和劉英決定將第四縱隊留在龍泉河以南的浙閩邊境繼續活動，以牽製敵人；由第一、二縱隊擔負開辟根據地的任務；其餘各部隊隨師部北進，輾轉遊擊於浙贛鐵路以南的湯溪、龍遊、金華、武義、麗水之間，造成聲勢，迫使敵人北調，以掩護、保障第一、二縱隊開展工作。