1931年9月底，陳賡離開上海，經河南省南部，進入了大別山，被任命為中國工農紅軍第四軍第十三師第三十八團團長。11月7日，第四方麵軍成立，第十三師改編為第十二師，陳賡被任命為該師師長。
陳賡已經離開部隊4年了，對重返軍隊工作是很高興的。他的性格開朗、豪爽，在上海做隱蔽戰線工作，雖然成績輝煌，但性格上不能不受點壓抑；因此非常願意到能公開工作、可以大聲說笑的地方去。能直接帶部隊向敵人衝殺，自然是他夢寐以求的事。但是他卻不大願意到大別山來。
陳賡很早就認識張國燾了，特別是南昌起義時，對他的印象深刻。起義的準備工作在7月27日就基本完成，作為“中央代表”的張國燾卻打電報來說：“暴動宜慎重”，無論如何要待他到南昌再決定。7月30日張國燾到了南昌，在前委召集的緊急會議上叫嚷：“起義須得張發奎同意，否則不可動。”其根源就是對軍閥張發奎有幻想。這一主張當場受到周恩來、惲代英及大家的反對，遭到否決。正是由於他的這些幹擾，起義計劃被推遲了好幾天，在白色恐怖下的秘密活動幾乎被暴露。張國燾的火氣無處發泄，就發在了當時在起義軍指揮部工作的年輕人頭上，忙碌的陳賡就被他無緣無故地罵了一頓。長期在周恩來領導下工作的陳賡，從直覺就可以感到張國燾和周恩來之間的明顯差異。
張國燾先於陳賡半年到達大別山，任鄂（湖北省）豫（河南省）皖（安徽省）蘇區黨政軍的最高領導。陳賡當然不大情願到張國燾手下工作，不過組織上堅持說那裏急需軍事人才，他就不能推辭了。
這一時期發生了“九一八”事變。那一天日本帝國主義駐在中國東北的關東軍，炸毀南滿鐵路柳條湖一段路軌，反誣係中國軍隊所為，突然出兵攻擊沈陽市北大營的中國駐軍，同時在吉林、黑龍江兩省發動進攻……全國人民義憤填膺，掀起要求抗日的怒潮。蔣介石卻提出了“攘外必先安內”的反動政策，對日軍采取“不抵抗主義”，命令張學良的東北軍撤到山海關內，致使東北全境淪陷。另一方麵，蔣介石調集大軍全力“圍剿”主張抗日的紅軍。
為了粉碎蔣介石的第三次“圍剿”，紅四方麵軍總指揮部決定奪取南線敵人伸入根據地的突出據點——黃安（現改為紅安）縣城，並決定陳賡所率的第十二師參加戰鬥。
打仗當然是陳賡求之不得的事，但這是自己指揮的初戰，應當怎樣才能打好呢？
誰都知道陳賡是一員戰將、猛將，但卻很少知道，他參加了幾年特科工作後，變得更加兢兢業業了。
黃安城的守軍是國民黨趙冠英的第六十九師，經過紅軍長時間的圍困襲擾，士氣相當低落。但陳賡對之也決不大意。
1931年11月10日夜，戰鬥發起，陳賡指揮他的第十二師擊退國民黨軍增援部隊後，進攻黃安城外的東王家據點。趙冠英於11日派兩個團出城增援，被陳賡早已安排好了的高紹先的第三十五團和徐海東的第三十六團將其擊潰退回城內。14日晨，陳賡命令第三十五團攻擊城外另一據點下徐家，而把許世友的第三十四團擺在黃安城南三裏店一帶，占領大路兩側有利地形修築工事，防備城內敵人南逃。14日上午，城內敵人果然出城南下，第三十四團即予阻擊，於是雙方展開惡戰。團長許世友自幼在少林寺學習武術，武藝出眾，勇猛過人。他親自率領部隊衝入敵陣，殺得敵人屍橫遍野，退回城去。
這時天降大雪，黃安守軍還穿著夏衣，幾次敗仗，加上糧彈俱缺，可以說是一片啼饑號寒之聲。陳賡則指揮部隊一麵遏製敵人飛機空運，一麵發動人人出主意想辦法，開展宣傳攻勢：把醒目的標語漫畫插在陣地前給守軍看，用自製弓箭把傳單射向城內，還用俘虜喊話、唱歌，揭露國民黨軍隊罪行，宣傳中共和紅軍政策，瓦解敵人士兵的鬥誌，頗見成效，夜晚不斷有饑餓的敵軍人員翻越高牆深壑前來投誠。
17日，國民黨駐黃陂縣的第三十三師，派兵支援黃安，進攻紅軍放牛山陣地，黃安城內守敵趁機以兩個團的兵力出南門，向嶂山進擊，被陳賡率領第三十四團阻截，被迫於當夜又退回城內。經過10天戰鬥，紅軍攻克了黃安城外的大部分據點。
國民黨軍隊感到緊張了，為改變處境，又派1個旅（轄兩個團）出城企圖恢複過去的據點，以便和駐宋埠和麻城縣、黃陂縣的部隊能呼應上，拉上手。
陳賡當然不能讓他達到目的，於是指揮第三十五團和黃安獨立團正麵禦敵，自己親自率領第三十四團和第三十六團，繞到敵軍側後猛攻，敵人的出擊很快就被瓦解了，敗退城內。23日，國民黨兩個團再次出擊，陳賡又將其擊退。這幾次戰鬥，紅十二師俘敵千餘，繳槍700餘枝。