朝鮮半島在日本的統治時期，沒有朝鮮民族自己的軍隊，隻有參加中國軍隊、蘇聯軍隊進行抗日或者參加日本軍隊。當日本投降後，為了爭取祖國獨立而參加對日武裝鬥爭的人士，主要在中國大陸、滿洲以及西伯利亞等地組織的獨立軍或者光複軍堅持抗戰。朝鮮國內青年、學生中的相當一部分被日本軍隊強迫征集入伍或懷有各種目的自願加入了日本軍隊。
“槍杆子裏麵出政權”，這在世界上任何國家都是顛撲不破的真理。當朝鮮半島的和平統一成為泡影，要想成為一個國家，剩下的隻有一種手段，那就是訴諸武力，槍杆子裏麵出“統一權”。統一需要武力，武力的基礎是軍隊，沒有自己的軍隊一切將無從談起。這一點無論是金日成，還是李承晚，他們都十分清楚，軍隊是政權的命根子。
（一）抓緊培養軍事人才
1945年，據說金日成從蘇聯帶領回來的約500名有戰鬥經驗的官兵，成為朝鮮人民軍的骨幹。同年，中國東北民主聯軍在遼寧安東(今丹東)招收學生辦軍校，吳瑞林（後任中國人民解放軍第42軍軍長）兼任校長，在招收的學員中有朝鮮族學生600多人，金日成把這批人要了回去，也作為骨幹。1945年12月初，中國朝鮮義勇軍司令金武亭率領所屬幹部70多人回到平壤，這是具有實戰經驗的精英。
1945年12月以後，在蘇軍的指導下，朝鮮北部在朝中邊境附近建立起軍事基地，在江界、中江、甲山設立空軍、坦克、炮兵、遊擊隊等訓練所，培養出了一批中堅幹部。1946年2月，朝鮮北部在鎮南浦島鶴裏建立的“平壤學院”，主要是培養朝鮮勞動黨和保安隊以及它政權機關幹部。
1945年12月5日，在朝鮮南部漢城西大門區冷泉洞監理教神學校，美國專門為南朝鮮人建立了軍事英語學校，其目的是給美軍指揮官培養翻譯，同時也培訓南朝鮮軍官，為建立南朝鮮軍隊做準備，負責人美方是裏斯少校，韓方是元容德。可能人們對美國開始搞軍事英語學校大惑不解，實際上當時朝鮮軍官會講英語的人很少，會講朝鮮語的美國顧問更是鳳毛麟角，甚至美國軍語在朝文中幾乎找不到相對應的詞彙。因此，語言問題變得非常緊迫和重要。美國在軍事英語招生的名額和錄取的辦法上也煞費苦心。為了平衡各方力量，美國當局最初規定60名招生名額，給日軍出身（參加日本軍隊）、滿軍出身（參加“滿洲國”軍隊）和光複軍出身（中國的反日武裝）各分配20名，搞一個“大雜燴”。錄取的辦法是美軍兩名大校軍官（錢帕尼和阿爾戈）為監考官，當場進行英語口試，爾後錄取。然而事情進行的並不順利，由中國返回的光複軍（左翼）自認為是堅決抗日的武裝，是正統的，與參加過日本人軍隊的朝奸平起平坐太不公平，因此抵製這一招生工作，拒絕應招，其結果是最後的合格者大多是日軍和滿軍出身的。軍事英語學校於當年12月5日開學，名額後來增加到200名，1946年4月30日軍事英語學校停辦。接著南朝鮮在1946年5月1日，在漢城太陵成立了國防警備士官學校，李亨根少校為首任校長，接管了原軍事英語學校的80名學員。6月15日，第一期學員80名畢業，從此，士官學校作為南朝鮮軍隊的搖籃繼續發展，後改為陸軍士官學校。
1946年1月，南朝鮮在鎮海建立了“海軍學校”，開始培訓軍官和士兵。總之，南朝鮮軍隊的主要骨幹是由地主、商人和其他反共分子子弟組成的反共青年組織成員。軍官骨幹通常從在日本軍隊以及在國民黨軍隊和美國軍隊中服役過的朝鮮人中挑選。
1946年6月中旬朝鮮北部在平安南道江西建立了“中央保安幹部學校”，專門培養軍事幹部。8月15日，以崔庸健為司令官，包括從蘇聯和中國回到朝鮮的領導建立了“保安幹部訓練大隊部”，下設三個直屬營和四個訓練所。位於價川的保安訓練所為一所，羅南和元山是二所和三所，平壤的鐵道司令部是四所。直屬三個營，以連為單位分別配置在朝鮮北部的十二個城市。10月，在平壤成立了培養民族幹部的強有力的基地——綜合大學。後來命名為金日成綜合大學。
（二）迅速建立軍隊
1945年11月13日，南朝鮮的美國軍政府公布軍政法令第28號，設立了“國防司令部”，下設“軍事局”和“警務局”。軍事局下又分為陸軍部和海軍部。第一任國防部長是美第24軍憲兵參謀部指揮官希克準將。
1946年1月15日，美國軍政府以原日本統治朝鮮時期的軍官和警察為骨幹，成立了南朝鮮“國防警備隊”，主要成員有孔鎮國、林富澤和蔡秉德等，孔鎮國任司令。同時美駐韓軍政長官命令在南朝鮮軍政廳登記的30多個軍事團體解散，這樣大部分右翼人士加入了國防警備隊，左翼被分化和遣散，南朝鮮實現了軍事團體一元化。“國防警備隊”的人員構成主要是日本陸軍士官學校畢業的軍官、朝鮮學生特別誌願兵、朝鮮特別誌願兵、義務兵、滿洲軍出身的軍官及士兵，信奉反對共產主義的思想。“國防警備隊”首先在南朝鮮的八個道分別建立一個連級規模(200人)部隊，不久擴充為八個團。警備隊的指揮權為“二元化”，接受美國軍官和韓國軍官雙重領導，事隔不久，產生許多矛盾和問題，1946年9月11日，警備隊實際指揮權交給韓國人。
1947年3月，朝鮮人民軍組建第1、第2師。第1師的軍官大都是從蘇聯回國的，有1個步兵團是原中國人民解放軍中的1個朝鮮團，該師其它團裏也編有一定數量的從中國軍隊中回去的朝鮮人，其中中國東北軍區吉東警備一旅二團的兩個營計1200人被整建製的“送回朝鮮”。第1師師長是從蘇聯、中國回國的崔光少將。第2師的軍官和士兵中的很多人是從中國軍隊回國的，但沒有整建製單位。第2師師長崔賢少將，參謀長許波上校，都是從中國回去的，參加過中國的八路軍，是優秀的指揮員，意誌堅定，英勇善戰。
5月，蘇聯利用在平壤寺洞的蘇軍坦克師幫助朝鮮北部建立了115坦克團，並予以訓練。蘇軍開始撤走時，留下了蘇聯朝鮮人彼得中校為首的300名蘇軍官兵和150輛坦克繼續訓練，為朝鮮培養骨幹。當“彼得坦克團”撤回本國時，蘇軍向朝鮮移交了60輛坦克、30輛76.2自行火炮，60輛摩托車和40輛卡車。5月17日，朝鮮人民軍正式實行軍銜製。
1948年初，南朝鮮將國民警備隊8個團改編成5個旅，漢城為第1旅，大田為第2旅，釜山為第3旅，原州為第4旅，光州為第5旅。
1948年2月，朝鮮人民軍組建第3師，大部分軍官是從蘇聯回國的，雖然從中國的軍官很少，但是，師長李英鏑少將，參謀長張平山上校是中國的八路軍，張平山後來還參加了停戰談判。其後，朝鮮又組建了第4師，該師稱為精銳師，軍官大都是從蘇聯回國的，有1個團是原中國人民解放軍中的1個朝鮮團。
2月8日，朝鮮勞動黨以朝鮮人民革命軍為基礎，正式建立朝鮮人民軍。這一天作為朝鮮人民軍的建軍節。朝鮮人民軍官兵全部是蘇聯軍隊和中國軍隊所屬的朝鮮士兵。很多人持有蘇聯國籍或中國共產黨黨員證，還有不少人連朝鮮話都不會說。這些人大都是日本占領時期離開朝鮮現在又返回家園的“還鄉團”。
8月15日，南朝鮮“國防警備隊”經過擴充，已經形成了5個旅15個團共5萬多人的規模，並正式編為韓國軍隊。韓國軍官們司空見慣的形象是腰掛日本軍刀，隨時對下級用拳頭發號施令，下級在任何場合遇見上級都要敬禮，站崗的士兵遇到軍官出現，必須高聲說“正在站崗，沒有發現情況”，戰術訓練一味強調突擊戰和白刃戰，這些都是日本軍隊遺風，也保持著濃厚的日本特色。從某種意義上說，韓國軍隊是一個“準日本軍隊”
8月24日，韓國和美國簽訂了《韓美暫行軍事協定》，規定允許美國顧問完全控製韓國軍隊、警察及一切重要地區的建築；李承晚政府承擔美國占領軍的一切費用。美國向韓國移交價值達1億1千萬美元的裝備，其中有10萬支槍，5千萬發子彈，2000支火箭發射筒，4萬多車輛，以及若幹門輕型火炮，炮彈7萬發。爾後又提供了相當於8700萬美元的軍事援助。9月5日，韓國分別編成了陸軍和海軍。
9月9日，在朝鮮人民民主義共和國成立時，將人民軍總司令部調整為民族保衛省，崔庸健被任命為民族保衛相。
9月19日，蘇聯外交部通知美國駐蘇聯大使館：蘇聯駐朝鮮占領軍將於1948年12月底之前全部從朝鮮撤出。建議駐朝鮮的美國占領軍也采取同樣的步驟如期撤離韓國。根據這一情況，杜魯門決定：從朝鮮南部逐次撤軍，同時擴大美國對韓國的軍事援助，組建並裝備、訓練韓國軍隊，以維持李承晚政府的存在。
12月7日，韓國公布了國防部編製，在國防部下設陸軍本部和海軍本部。第一任國防部長官由國務總理李範爽將軍兼任，李範爽為中國黃埔五期畢業，朝鮮光複軍出身。韓國當局還不斷擴大“國防軍”人數，1949年1月達到6個旅，23個團，韓軍人員從53600人，增加到了第一季度未的70000人。
1949年1月朝鮮人民軍成立獨立飛行團，引進了伊爾－10、雅克－9、PC－2等螺旋漿式戰鬥機30架。
4月21日蘇聯政府任命蘇聯駐朝鮮大使什特科夫將軍兼任朝鮮人民軍總軍事顧問。
5月，朝鮮人民軍將115坦克團升格為第105坦克旅，下屬107、109、203坦克團和206機械化步兵團。該旅擴編後增加了坦克、自行火炮、摩托車等武器裝備的數量，人員達8800人。
（三）蘇美撤軍和大規模肅反
1948年年底蘇聯軍隊完成從朝鮮北部的撤軍，其考慮基於以下幾點：一是對朝鮮的忠誠和安全絕對放心；二是在國際關係中特別是在朝鮮半島的問題上爭取主動，改變在聯合國中的被動地位；三是逼迫美國從韓國撤軍；四是讓南朝鮮北部自主統一，而且朝鮮北部占有很大的優勢；五是蘇聯已完成在朝鮮實施軍事占領的階段目標。
韓國戰史說，蘇聯撤軍並要求美軍同時撤軍的意圖在於，“以美蘇兩國軍隊撤走後出現的軍事空白狀態為契機，由高度戒備的北共軍（朝鮮人民軍）進行南侵，在美軍無法支援的情況下赤化統一韓半島。”
1948年下半年，美國占領軍雖然也開始撤軍，但韓國政府和國會因在10月份受到韓國麗水、順天叛亂事件的衝擊，向美國政府請求延期撤軍：“直到韓國軍隊的防衛力量得到充分加強和整軍結束”為止。根據這一請求，美軍在韓國保留一個7500人的團級戰鬥隊和500人的軍事顧問團。
杜魯門回憶說：1948年春，國家安全委員會向我報告說，我們可以在下列三個辦法中選擇一個：放棄朝鮮；或者繼續負起對這個國家的軍事和政治上的責任；或者擴大我們對朝鮮政府的援助來訓練和裝備它本國的保安部隊，同時給予大規模的經濟援助，以免這個剛剛誕生的國家陷於崩潰。但是委員會建議我們采取第三個辦法，我批準了這個辦法。
1948年10月，韓國麗水發生軍隊千餘人“叛亂”事件，兩千多市民學生支持並參加了這一行動。11月又發生了“大邱叛亂事件”，接著，涉及到浦項、春川等地。“叛亂”失敗的革命軍，以智異山、普賢山、太白山、五台山等為根據地轉入遊擊活動。這支遊擊隊，當初估計有2500人，到1949年春增加到約2萬人，控製韓國約40%的地區，宣稱：“白天是大韓民國，夜晚是人民共和國”，對韓國政府形成了嚴重威脅。美國對韓國的遊擊活動十分擔心，在美軍撤軍時向李承晚政府提出條件：如果李承晚政府采取措施鎮壓左翼派組織和消滅韓國境內的遊擊運動，美國人才能給他們提供武器，這可能是汲取共產主義在中國勝利的教訓。李承晚是堅決反共的，他所領導的政府堅決地采取了鎮壓和打擊措施。一方麵韓國在軍隊內部進行了一次大規模的肅軍，削除了共產主義滲透到軍內的勢力；另一方麵為了保持社會秩序和進行反對反民族分子的鬥爭，韓國政府用日本步槍和美國自動步槍武裝起來的警察和憲兵有6萬名。據有關資料介紹：從1948年1月至10月韓國有13.6萬人被捕，其中有4萬多人被交付審判和被投入監獄。
1949年6月8日，美國發表撤軍聲明，至6月30日，除留下一支500多人的顧問團外，其餘美軍全部撤出韓國。美國駐韓國軍事顧問團團長由威廉·羅伯茨準將擔任。美軍對韓國的安全穩定有絕對把握，其理由一是“擁有10萬之眾的韓國陸軍的規模在亞洲是首屈一指的”，將絕對安全，政府也絕對忠誠；二是歐洲是美國的重點，從韓國撤軍符合美軍的現實戰略；三是蘇聯已從朝鮮撤軍，美軍再賴在韓國在國際社會和朝鮮半島將引起很大的爭議，並遭到譴責；四是美國已完成在韓國實施軍事占領的目標。