1934年，小磯國昭出任日軍第5師團長；1935年晉升為大將，出任朝鮮軍司令官，被稱為“朝鮮之虎”。1937年盧溝橋事變爆發後，小磯國昭積極支持日本進行全麵的侵華戰爭。
2.侵略有功出任內閣首相
1938年，小磯國昭退役，先後任平沼內閣和米內內閣的拓務大臣，1942年出任朝鮮總督。1944年7月東條英機內閣下台，小磯國昭組閣出任首相。這時，日本在戰爭中已經處於劣勢，但是，擔任首相的小磯國昭不甘心日本軍國主義的失敗，認為“還不能斷定最後一戰無獲勝的希望”，繼續推行戰爭政策。
戰局的發展並未如其所願，戰爭幾乎消耗了日本所有國力，不僅生產武器的物質資源枯竭，而且兵源也已耗盡。日本已經沒有任何取得戰爭勝利的可能了。在這樣的情況下，小磯國昭幻想日軍打一次勝仗後，“抓住時機進行和平停戰談判”。
為了挽救戰局，小磯國昭還著意加強內閣與統帥部的聯係，設置了以首相、陸首、海相、參謀總長、軍令部總長、外相等組成的“最高戰爭指導會議”，代替原來的大本營、政府聯席會議，目的是為了使內閣與軍部協調，以利對戰爭的指導。
8月9日，在天皇親自參加的最高戰爭指導會議上，小磯國昭內閣提出指導戰爭的基本方針是：“（一）徹底集結現有戰力和國力以擊敗敵人；（二）完成戰爭；（三）實施徹底的對外政策，促使世界戰局的好轉。”在此戰爭方針指導下，小磯國昭寄希望於在菲律賓發起的代號為“天王山”的決戰。然而，由於日軍在菲律賓海戰和台灣海域空戰中不斷遭到打擊，“天王山”決戰並未實現。
軍事上的失敗促使小磯國昭開始考慮用外交方式收拾戰爭殘局。1945年2月，小磯國昭征求了外相重光葵的意見，並與陸、海兩相協商後，決定召偽南京政府的繆斌到東京，企圖通過繆斌與重慶國民政府取得聯係，繼而由重慶國民政府和蘇聯調解，結束戰爭。3月，小磯國昭在東京會見了繆斌，但這項工作沒有取得任何成效。4月，蘇聯通知日本，不延長“蘇日中立條約”。軍事上的失敗與外交上的受挫，迫使小磯國昭內閣下台。這時，離日本的徹底失敗已經為期不遠了。
戰後，小磯國昭作為甲級戰犯，被遠東國際軍事法庭判處無期徒刑。1950年11月3日，這名因侵略戰爭而升遷的日本陸軍大將和前內閣首相，因病死於日本東京巢鴨監獄。