1923年春天，朱可夫接到師司令部的通知，說師長要見他。不明所以的朱可夫一開始還以為是他在工作中出了錯。沒想到師長很熱情地接待了他，並向他詢問了有關國內形勢以及如何訓練部隊的問題。
朱可夫做了認真回答，他的回答頗得師長的賞識，最後師長決定任命他為騎兵第三十九團團長。因為在此之前有很多同誌向師長推薦朱可夫擔任這個職務。
朱可夫剛任團長就碰到了一道難題：該團正準備出去野營，而且這是國內戰爭以後，紅軍騎兵部隊第一次進行野營訓練。如何根據新的形勢和任務搞好這次訓練，上下官兵都很關注，許多指揮員對此感到無從下手。
朱可夫接任團長後，立即深入到連隊調查研究，他發現部隊紀律比較鬆懈，戰鬥準備不足，而射擊訓練、戰術訓練特別差。所以，他在布置野營基地建設時，要求各分隊特別注意野營的訓練設備和器材的準備工作。
1924年7月，朱可夫被師長推薦到列寧格勒高等騎兵學校深造。朱可夫把精力都投入到軍事科學的研究上。這一年係統而紮實的學習對他後來成為叱吒風雲的元帥，具有十分重要的作用。
此後的幾年裏，朱可夫先後到莫斯科高幹深造班學習，接著擔任了騎兵第二旅旅長，不久又改任紅軍騎兵監察部助理。新的工作崗位使朱可夫學習到了更多的軍事理論，於是他常常從更高的層次上去研究戰役戰術的問題。
1933年，朱可夫又一次被提升，擔任了騎兵第四師師長，年僅37歲的他跨入了紅軍高級軍官的行列。不久又升任軍長。
1939年5月，日軍突然侵犯蒙古邊界。根據1936年3月12日的蘇蒙條約，蘇聯政府有責任保衛蒙古不受任何外敵侵犯。朱可夫被緊急召赴國防委員會。在那裏，伏羅希洛夫給他介紹了當時的形勢，並委派他帶幾個專業軍官立即飛赴遠東親臨督戰。
這次戰役表明，朱可夫是個足智多謀的將領。經過幾個月的戰鬥，蘇軍粉碎了日軍防禦，並開始巧妙地肅清孤立的抵抗據點。
至8月31日晨，侵入蒙古人民共和國領土的日軍已經全部被肅清。
1939年9月15日，蘇聯、蒙古人民共和國和日本在莫斯科簽訂了一項協議，要求9月16日以前停止哈勒欣河地域的一切戰鬥行動。雙方同意交換戰俘，並建立一個委員會來確定哈勒欣河地區蒙古人民共和國和“滿洲”之間的邊界。
日本當局似乎受到一次痛苦的教訓，於是雙方都采取步驟來維持和平。從1941年4月1日，日蘇簽訂互不侵犯條約，直至1945年蘇聯出兵東北以前，兩國一直避免進攻對方。
朱可夫經受住了哈勒欣河戰役的嚴峻考驗。他和他的部隊表現出比預料的還要頑強，而且一些軍事理論和裝備在實戰條件下得到切實的應用。朱可夫回到莫斯科，備受嘉獎和禮遇。斯大林親自向他表示祝賀，他還榮獲了蘇聯英雄稱號。
1940年6月，蘇聯人民委員會頒布命令，提前晉升朱可夫為大將軍銜。不久，他被任命為蘇聯最大的軍區之一——基輔特別軍區的司令員。
哈勒河戰役使朱可夫贏得了國內外的注目。蘇聯報刊評論認為：“朱可夫在他指揮的這次大戰役中，表現出了他傑出的領導才能和組織才能。”