羅斯福患病以後，他那富於智慧、意誌堅強的母親一再要自己的兒子放棄政治生涯。但他卻不顧母親的意願，一直關心著國家的政治生活，繼續與政界保持著密切的聯係。在1924年6月的民主黨全國代表大會上，羅斯福奇跡般地出現在代表們的麵前。他坐著輪椅來到會場，走出輪椅，拄著雙拐走到講台，然後卡住腿鐲，用手扶著講台站住，向大會發表了一篇激動人心的演說，提名政績卓著的紐約州州長艾爾·史密斯為本黨總統候選人。由於史密斯與另一候選人威廉·麥卡杜爭持不下，最後雙雙退出競爭。經過第103次投票，熱得頭昏腦漲、精疲力竭的大會代表轉而提名前任司法部助理部長約翰·戴維斯為總統候選人。史密斯雖未獲提名，但羅斯福卻因其身殘誌堅的豪邁氣概贏得了民主黨人的尊敬。
成功的事業離不開堅如磐石的意誌。成功路上的坎坷，意誌脆弱者是根本無法超越的。
——富蘭克林·羅斯福1928年，贏得民主黨總統候選人提名的史密斯，力勸羅斯福出來競選紐約州州長，以加強民主黨候選人在紐約州的陣容。史密斯風趣地對他說，州長的職責不會妨礙他繼續治療雙腿的。羅斯福大笑道：“別跟我講這種騙人的鬼話！”但在史密斯的勸說和親友的支持下，羅斯福最後還是接受了提名。在隨後的競選中，羅斯福坐著汽車到處發表演說，針對共和黨人利用宗教情緒詆毀信奉天主教的民主黨候選人史密斯這件事，羅斯福在講演中大膽地斥責宗教偏見是“肮髒透頂的東西”。雙腿殘廢的羅斯福拄著拐杖、麵帶笑容，以其特有的政治吸引力贏得了紐約州選民的支持。選舉結果，雖然史密斯競選總統的努力以失敗而告終，但羅斯福卻以25000票的微弱優勢當選為紐約州州長。
羅斯福擔任紐約州州長期間，正遇上20世紀30年代初期世界性的經濟大蕭條。當這場大蕭條衝擊波降臨美國時，執政的胡佛總統既未預見到危機的嚴重性，所采取的一係列措施也絲毫不能製止美國經濟的持續衰退：一時之間，銀行大批倒閉，企業大批破產，失業大軍以加速度遞增，人民陷入貧困的深淵。由於胡佛堅持自由企業的主張，反對聯邦政府撥款賑濟失業者和貧困家庭，更使社會矛盾空前激化，國家動蕩不安。
雖然羅斯福和當時美國的絕大多數政治家一樣，對那次經濟大蕭條的嚴重程度缺乏預見性，但他擔任州長以後，就開始在本州推行社會改革，宣稱“州政府的首要職責是提高本州公民的福利”。
他敦促州議會在困難時期減免本州農民的捐稅，為消費者提供更低廉的公用事業服務，還設法通過了一項保障老年人晚年生活的立法。這些社會改革措施為他贏得了民心，使他在1930年的州長選舉中以紐約州到那時為止的曆史上最大的優勢擊敗對手當選連任。
選舉結束後，羅斯福州長立即召集州議會特別會議，為本州的饑民和失業者爭取救濟。在他的努力下，由共和黨控製的州議會終於通過法案，使紐約州在全國率先建立州救濟機構，並撥款2000萬美元救濟失業工人，這是美國曆史上第一個由州政府主持的大型社會救濟工程。羅斯福在州長任上推行的社會改革，他在經濟危機時期的社會救濟措施，以及他與共和黨控製的州議會進行鬥爭時顯示出來的政治膽略，還有他那麵帶笑容、詼諧風趣的個性特征和對人民滿腔熱情的優秀品質，使他成為當時美國深孚眾望的人物。
在1932年6月芝加哥舉行的民主黨全國代表大會上，羅斯福在第一次總統候選人投票中就獲得了令人印象深刻的勝利，他獲得半數以上的代表支持，但沒有達到獲得提名所必需的2／3多數票。他的對手、上次大選的總統候選人艾爾·史密斯得到民主黨核心組織的支持，史密斯及其他候選人的實力足以使提名陷入僵持局麵。在三次投票均未獲得提名的情況下，羅斯福的競選班子與黨內頗有影響的麥卡杜派達成一項協議，讓他們支持的候選人、眾議院議長加納當副總統。於是，麥卡杜派的代表轉而支持羅斯福。在第四輪投票中，羅斯福一舉贏得了民主黨總統候選人的提名。
富蘭克林·羅斯福得知自己被提名的消息後，便打破慣例，坐飛機前往芝加哥向大會發表接受提名的演說。他對歡呼的代表們說：“讓我這次打破傳統的行動……成為今後的象征。共和黨領導人不僅在處理經濟問題上搞得亂糟糟，而且在統籌全國事務方麵缺乏遠見，他們麵臨災難時指不出任何希望……在近代曆史上，美國兩大政黨的根本分歧從來沒有像今天這樣壁壘分明截然不同了。在這裏，我向你們，也對我自己做出保證，我要為美國人民實行新政。”