古德裏安1888年6月17日生於東普魯士的一個軍人家庭，他的父親是一位陸軍軍官。古德裏安13歲進入軍官學校，1907年畢業後，被分配到一個輕步兵營任見習官，而這個營的營長就是他的父親。1913年10月，他與在漢羅福省駐防時相識的瑪加麗特哥爾尼小姐結婚。第一次世界大戰期間，他在騎兵部隊擔任指揮官和參謀。
1922年，他調到陸軍運輸處，開始確立機械化觀念。青年時代的古德裏安，就具有創造性的想像力，從不滿足於現有的戰術、技術和兵器。他經常在《軍事周刊》雜誌上發表探討當代軍事問題的文章，以至這個周刊的主編阿托克將軍經常訪問這位年青的軍官。他常常利用戰術演習和兵棋推演的機會，發表自己關於戰車將成為地麵戰場主宰的新觀念。於是，古德裏安逐漸有了名氣。1931年，他出任摩托化部隊總監部的參謀長。1934年7月，德國組建了裝甲部隊，希特勒派古德裏安為裝甲兵總監。古德裏安係統地研究了第一次世界大戰時戰術方麵的經驗教訓，特別是英國人利德爾·哈特和富勒的軍事理論，逐漸萌生了以機械化部隊為主體，各軍兵種密切協同的戰術思想，希特勒信奉的機動、攻擊、迅速的“閃擊戰”理論，也為古德裏安欣然接受。
裝甲兵總監這個職務，使古德裏安得到了把自己的戰略戰術思想付諸實踐的機會。1930年，德國的摩托化部隊隻有幾輛陳舊的裝甲偵察車和幾個摩托車連。到1932年，參加演習的摩托化分隊還在使用模型坦克。古德裏安擔任裝甲兵總監後，德國裝甲兵得到了迅速發展。希特勒非常欣賞古德裏安坦克戰的理論和實踐，他不僅在財力物力上優先滿足裝甲兵發展的需要，而且每當演習和試驗新坦克時，他都親臨現場。當他第一次參觀古德裏安組織的坦克群進攻演習時，麵對排山倒海的鋼鐵洪流，他高興得手舞足蹈：“這正是我想要的東西！”1935年3月，希特勒徹底撕毀了凡爾賽條約，德國陸軍當年就把一個裝甲旅擴編為三個裝甲師，每個師有561輛戰車。古德裏安是其中的師長之一。
古德裏安的過人之處是他的戰術遠見。他設計的作戰形式就是坦克集群的高速進攻。1936年至1937年，他寫了一本名叫《注意——裝甲兵》的書，書中闡明了他以後在戰爭中運用的坦克戰術。1938年，希特勒任命古德裏安為機動部隊總監，統管裝甲部隊的一切組織和訓練事項。這一年，德國又試製成功了兩種新型坦克，這兩種坦克在策二次世界大戰中是德國裝甲部隊的基本裝備。同年，希特勒吞並奧地利時，古德裏安率兩個裝甲師打頭陣。盡管路上有些戰車因技術故障而拋錨，但還是在兩天之內前進了數百公裏，創造了部隊機動速度的新記錄。從而顯示了裝甲部隊的優越性。
1939年，古德裏安任第19軍軍長。這個軍包括一個裝甲師和兩個摩托化步兵師，在閃擊波蘭的戰役中發揮了重要作用。他出色地執行了希特勒速戰速決的戰術原則，也使自己提倡的“閃擊戰”理論獲得了驚人的成功。古德裏安把他所在的“北方”集團軍群中的兩個裝甲師和兩個輕裝甲師集中起來使用，橫衝直撞，銳不可當，強渡了那累夫河。9月14日，突破了布列斯特-裏托夫斯克的築壘地域，17日與“南方”集團軍群的前衛裝甲部隊在布格河畔的符沃達瓦會師。古德裏安像隆美爾一樣，從來不在後方指揮，他總是乘坐裝甲指揮車與先頭部隊一同前進，靠無線電同他的指揮機關和各師師長保持聯係。有時由於前進速度過快，甚至進入已方的炮擊區而險遭厄運。