朝鮮戰爭的爆發使吳瑞林再次有了英雄用武之地，作為最早入朝的誌願軍先頭部隊，42軍於1950年10月16日秘密入朝，比其他兄弟軍早了3天。其時的軍長正是名將吳瑞林。
20世紀90年代初的一天，美國西點軍校，一位三星將級老教官問一位正在該校留學深造的中國人民解放軍青年軍官：“你知道中國的吳瑞林將軍嗎?”青年軍官搖搖頭說：“不知道。”老教官用一種不可思議的目光盯著中國軍官足有三四十秒鍾，沒有再問下去，隻是聳了聳肩膀，遺憾地轉身離去。青年軍官歸國前夕，老教官又特意把他找去對他說：“吳瑞林是你們中國的一位了不起的將軍，我十分敬佩他。你回國以後，在戰略戰術上要好好地向他學習。”老教官還向他吐露真情說，當年在朝鮮戰場上，他曾是吳瑞林將軍的手下敗將，當了中國人民誌願軍的俘虜，吳瑞林將軍還親自審問過他。他在俘虜裏受到過很好的優待，感佩之情溢於言表。
1950年10月中旬，中國人民誌願軍組成後，吳瑞林與42軍政委周彪一起趕赴沈陽，彙報部隊集結及部署情況。彭德懷從朱德總司令那裏，聽到對吳瑞林率領的42軍有6個字的評語：聽話、用腦、敢拚。
的確，吳瑞林率部入朝時剛剛35歲，正是雄姿勃發的年齡，他站起身來，十分自信地對誌願軍司令員彭德懷說：“我們要求上級很快下命令出國作戰，早些消滅美帝侵略軍。我們的態度是：做好一切準備，加強練習軍事技術訓練，爭取創造輝煌戰績。”最後，吳瑞林響亮地說：“請求上級把最艱巨的任務交給我們，我們要爭取打響頭一炮。”
吳瑞林的發言實實在在，擲地有聲，彭德懷聽到讚不絕口。吳瑞林的彙報給彭德懷司令員留下了深刻印象。會上，彭德懷司令員根據中共中央和毛澤東主席的指示，詳細地闡明了當時的形勢和我出兵參戰的必要性，提出了入朝作戰的指導方針，確定了將第一批入朝作戰的4個軍同時過江集結於江界、熙川、雲山、德川、孟山地區的部署。
吳瑞林一直在想部隊如何過江的問題，42軍是先頭部隊，如果在渡江時被敵人發現，鴨綠江大橋就又可能遭到敵機轟炸，後續梯隊就可能受阻。火車經過鴨綠江時，吳瑞林看到有行人涉水過江，便讓隨行的軍作戰處長侯顯堂和偵察處長孫照普親自下水去實踐，吳瑞林也親自下江去，走了一個來回，最後又用載重的膠輪大車進行試驗，最後發明了修建“水下橋”過江的具體辦法，順利解決了部隊渡江問題。
10月17日，誌願軍總部緊急命令吳瑞林，迅速率領42軍各師和炮8師向輯安一帶集結。42軍在吳瑞林的率領下，滾滾急進，跨過鴨綠江， 124師為先頭部隊，軍前指揮所跟進為第二梯隊，126師為第三梯隊，125師為第四梯隊。由於吳瑞林行動隱蔽、迅速，一天之內雖有敵人3次空中偵察，但未發現42軍的行動。42軍先期入朝的良好表現，受到毛澤東、金日成和彭德懷的表揚。
10月19日深夜，吳瑞林率領剛剛入朝作戰的誌願軍42軍全體官兵，在朝鮮的幽穀深澗、懸崖峭壁間疾速強行軍，目標直指400多公裏外的黃草嶺。
黃草嶺是朝鮮北部的軍事要衝，海拔在千米以上，地形極為險要，美軍元山登陸後，以機械化部隊快速向北運行，企圖迂回江界，直搗鴨綠江邊，而黃草嶺是敵人冒進的必由之路。跨過鴨綠江之後，42軍的作戰任務是，在黃草嶺、赴戰嶺一線阻止美韓軍北進，使其不能與西線美韓軍會合，保障西線誌願軍側翼安全，使西線我軍全力聚殲敵人。
吳瑞林率部隊前進至江界以南，正向黃草嶺方向開進時，突然接到報告“敵人有搶占黃草嶺之勢”。
“先敵搶黃草嶺，打好出國第一仗！”吳瑞林立即向全軍發出了戰鬥動員令。官兵們冒著敵機的轟炸，在崎嶇的山路上，4天強行軍300多公裏，搶占黃草嶺。
此役，吳瑞林麵對的是有飛機掩護、裝備精良、戰績赫赫的號稱“天下第一師”的美軍陸戰1師，這將是一場力量對比十分懸殊的苦戰。吳瑞林要求各師：據險堅守，與敵決一死戰，把黃草嶺、赴戰嶺變成鬼門關，除了敵人的遊魂和俘虜外，一個敵人也不準越過。
10月26日，美軍陸戰第1師企圖從長津迂回江界。南朝鮮軍第3師也自元山開向鹹興，準備向誌願軍部隊守衛的黃草嶺地區進攻。
在大榆洞誌願軍司令部裏，彭總指著地圖說：“我看黃草嶺、赴戰嶺一帶山高林密，地勢險要，利於防守。”他轉身對鄧華副司令員說：“宜快不宜遲，叫42軍馬上派出兩個營，坐汽車上去，先占住要點山頭。”
此時，吳瑞林已經嚴陣以待。作為一線指揮員，吳瑞林的指揮位置設在黃草嶺山腳下的一個鐵路隧道內，距124師師指揮所僅一公裏。這樣的指揮位置，既有利於深入主陣地指揮主力124師，也有利於指揮全線。
戰鬥打響了， 在黃草嶺前線，美軍和南朝鮮軍隊出動數十架飛機、幾十輛坦克、幾百門重炮和最精銳的部隊，向42軍阻擊陣地不分晝夜地輪番進攻。吳瑞林看到，敵人的20多架飛機，從雲端衝了下來，一邊掃射一邊投彈，我軍占領的幾個山頭上，頓時便淹沒在一片火海之中。幾個小時之前，還是蔥綠的山頭，經過美軍飛機的轟炸，已變得光禿禿的了。山上到處是黑乎乎的土灰。
戰鬥異常慘烈，戰士們冒著嚴寒，用輕武裝與敵人進行了殊死的搏鬥，反複爭奪一線陣地，部隊整營整連的傷亡殆盡，仍堅守陣地，絕不後退。
吳瑞林指揮124師在黃草嶺及其以南的煙台峰、草芳嶺主陣地，與敵軍展開了英勇頑強、晝夜不停的反複爭奪。每天敵機少則三四十架，多則五六十架，坦克五六十輛，炮五六十門，最多達到百餘門，狂轟濫炸掩護敵步兵向124師陣地進攻。
飛機飛走之後，敵人的大炮便開始轟擊。煙台峰我軍陣地上頓時濃煙滾滾，剛剛修好的工事，被敵人的炮火全都炸翻了。陣地上我軍傷亡很重，這時已經有大約一個營的敵人，爬到了煙台峰的半山腰。為首的是南朝鮮軍3師的一個大胡子營長， 他一邊揮著手槍，一邊叫著：“衝，給我衝……”敵人的26團上校團長也在後麵親自督戰，手裏拿著報話機不停地調兵遣將。
在戰鬥最危急的時候，吳瑞林手提衝鋒槍，親臨一線陣地，號召戰士們說：同誌們，拿出中國人的骨氣來，一定要堅決頂住，讓美國佬嚐嚐42軍的厲害。
黃草嶺陣地爭奪戰中，英勇的42軍將士與敵人爭奪山頭陣地，反複爭奪，反複較量，戰士們英勇頑強。在戰鬥的關鍵時刻，吳瑞林看到，英勇的124師370團4連官兵，在黃草嶺陣地血戰3天3夜，打垮敵人20多次衝鋒。殺傷敵人250餘人，終於阻止了敵人的瘋狂進攻，保持陣地屹立不動。4連以小的代價，勝利完成了黃草嶺阻擊的任務，戰後被上級授予“黃草嶺英雄連”稱號。吳瑞林對4連的英雄壯舉給予了高度讚揚。
黃草嶺成為敵人的“傷心嶺”，也成為42軍的英雄嶺。
10月29日晚上，天空陰沉沉的，黑黝黝的山穀中看不到一息燈光。在一片樹木茂密的山腳下，吳瑞林的42軍軍部顯得很安靜。
突然，電話鈴聲響了，電話裏傳來了一個熟悉的聲音：“我是彭德懷，你是哪一個？現在戰場的情況怎麼樣？”
彭總沒有等吳瑞林說話，沉思了一會兒說：“看來反擊是必要的，誌司已經定下決心了，一定要把敵人頂回去。”
吳瑞林在話筒裏說：“彭總，我們已經作好了反擊的準備。”
當晚9時，吳瑞林命令124師開始對煙台峰的敵人發起反擊。3顆紅色信號彈升入夜空，我軍炮陣地上，突然響起了重炮的轟鳴聲，這聲音在山穀中回蕩，山林中剛剛歸巢的群鳥，驚叫著竄到空中。一道道刺眼的閃光，直射夜空，借著火光，可見陣地上的敵人紛紛倒下。
30日早上，南朝鮮軍3師再次在炮火支援下，對誌願軍42軍的煙台峰陣地發起了猛攻，戰鬥整整打了一天一夜，陣地上的42軍糧彈越來越少，最後連喝的水也沒有了。戰士們就在山澗中找野菜充饑，把潮濕的石頭含在口裏解渴，就這樣一直支持到了晚上。
敵人一連攻了十多次，死傷幾百人，還是沒有攻上來。吳瑞林向彭總報告了一天的作戰情況，彭總高興地說：“看來美國人的飛機大炮也沒有什麼了不起，最後還是要看人的素質，怕死的軍隊是打不了仗的！”
吳瑞林率領42軍第124師、126師在黃草嶺英勇頑強阻擊美韓軍13個晝夜，始終扼守住了黃草嶺、煙台峰、草芳嶺、赴戰嶺一線的所有山頭。南朝鮮軍之精銳首都師，第3師不戰而敗，最後換上美軍陸戰1師，還是沒能越過黃草嶺一步，42軍勝利地完成了阻擊任務，有力地配合了西線的作戰。黃草嶺戰鬥給美軍陸戰1師、南朝鮮軍3師和南朝鮮軍首都師以重大殺傷，殲敵2700多人，有力地配合了西線作戰，使西線誌願軍殲敵1.5萬餘人，取得了抗美援朝第一次戰役的偉大勝利。
吳瑞林率領42軍完成了黃草嶺、赴戰嶺阻擊敵人的任務，有力地配合了西線戰場作戰，受到了中央軍委、毛澤東主席和誌願軍彭德懷司令員的嘉獎。但是，司令員彭德懷非常清楚，誌願軍在朝鮮境內作戰，沒有朝鮮人民軍的支持與配合，要完成作戰行動是極為困難的，剛剛入朝時，彭德懷在大榆洞第一次見到金日成時，就急切地詢問：“人民軍現在狀況怎麼樣？有多少兵力？”
金日成搖頭道：“實話說吧，現在我隻有3個師在手上，其中一個工兵團和一坦克團在長津附近；一個師在德川、寧邊以北；一個師在肅川，還有一個坦克師在博川。其他隔在南方的部隊正化整為零，分散後撤，準備集結在滿浦整編，要將這些部隊整編好投入戰鬥，需要一定時間，恐怕至少需要兩個月的時間。”
彭德懷對金日成說：“我們剛到鮮，語言不通，情況不熟，必須有朝鮮同誌的配合才行。”
彭德懷指出，在朝鮮戰場上，要力爭在運動戰中大量殲滅敵人，但又不要放棄有利條件下的陣地戰與必要的遊擊戰。他說，遊擊戰是當前我軍作戰不可少的部分。敵人有飛機，飛到我軍後方，偵察我軍情況，破壞交通，炸我物資，使我吃不上飯，得不到彈藥補充，增加了我們的困難。我們現在沒有飛機偵察和破壞敵人後方交通運輸。因此必須有積極的遊擊戰，襲擊和破壞敵後運輸交通，分散敵人兵力，偵察敵情，直接配合作戰。
為了開展敵後遊擊戰，彭德懷命令吳瑞林派出兩個營的兵力，組成遊擊支隊，滲透到敵後孟山、陽德、成川之間地區，破壞敵人的交通運輸線，襲擾敵人。
吳瑞林認為這項任務是很艱巨的，且有重大戰略意義。他立即召開軍黨委會，對彭總指示作了研究，吳瑞林分析認為，朝鮮戰爭爆發以來，美軍沒有殲滅朝鮮人民軍的建製部隊，同時，也沒有見到敵人公布俘虜的數字；朝鮮人民軍的軍官大多數都是在戰場上作過戰的，是有戰鬥經驗和打遊擊戰的經驗，也有控製部隊的能力；另外，朝鮮人民是擁護朝鮮人民軍的，特別是“三八線”以北地區的人民，是革命勝利的受益者，政治覺悟高，一定會支援人民軍的。朝鮮北部山高、山多、森林密布，是掩護人民軍打遊擊的好地方。
吳瑞林立即做出決定，派125師副師長茹夫一、副政委兼政治部主任王淮湘帶電台一部，率兩個加強營，深入敵區，到平壤以南去與朝鮮人民軍取得聯係。
根據125師的實際情況，吳瑞林對支隊的組成進行了部署，決定組建兩個支隊，分別由茹夫一和王淮湘負責。第一支隊由125師375團2營組成，茹夫一任支隊長兼政委，375團政委包楠森任副政委。第二支隊由125師375團1營組成，125師副政委王淮湘任支隊長兼政委。
遊擊支隊組建起來了，到哪裏去找朝鮮人民軍部隊呢？吳瑞林也非常焦急。吳瑞林心裏明白，剛接到這個任務，大家深感任務艱巨，難度很大，主要是對敵情、民情和人民軍北撤部隊的情況均不熟悉。稍有軍事常識的人都懂得，遊擊戰爭離不開群眾，更離不開當地群眾；在朝鮮開展遊擊戰爭，更離不開朝鮮人民軍。
吳瑞林所挑選的這支遊擊隊伍的領導幹部，都是在抗日戰爭和解放戰爭中在敵後打過遊擊戰爭的，都有豐富的經驗，他們把自己在國內開展遊擊戰爭的經驗，創造性地用於朝鮮戰場。遊擊支隊出發之前，茹夫一說：我是主動請纓率領這支遊擊隊深入敵後作戰的，不少朝鮮同誌，曾在抗日戰爭與解放戰爭的烽火中，與我們戰鬥在白山黑水之間，今天，兄弟鄰邦遭到美帝野蠻侵略，我們又攜手禦敵鴨綠江南。
經過艱苦努力，42軍派出同誌與朝鮮人民軍部隊共同組建了一支中朝聯合遊擊支隊，聯合遊擊支隊在繼續前進中，首戰南朝鮮軍8師搜索隊，取得了初戰成功。
英勇的遊擊支隊插入敵後，且戰且走，在部隊目標較小，空襲威脅又較少情況下，有時白天行軍，沿途不斷地遇到朝鮮人民軍三三兩兩的零星人員，或三五成群的小分隊人員。他們多是從釜山、馬山和洛東江一線退回來的。沿途忍饑挨餓，翻山越嶺，衝破敵人重重封鎖，吃盡了千辛萬苦，克服了種種困難。因為他們和上級指揮機關失去聯係，一個多月沿途所聽到的消息，都是敵仁川登陸後占漢城、進平壤，瘋狂地向鴨綠江方向前進的消息；沿途所見到的多是南朝鮮軍鐵蹄踐踏後而建立的偽政權、偽地方武裝及其殘暴罪行．因此，一見到中朝聯合遊擊支隊南進，其激動興奮心情真是難以筆墨形容。許多人情不自禁地邊走邊喊“毛主席萬歲!”“中朝友誼萬歲!”“金日成首相萬歲!”
經過一個多星期的奔波，遊擊支隊到達了檜倉，終於和敵後的朝鮮人民軍主力部隊取得了聯係。經過遊擊支隊的介紹，中國人民誌願軍抗美援朝的消息就這樣經過他們一傳十、十傳百，不脛而走，傳給敵後廣大軍民。茹夫一將這些情況立即報告了誌願軍總部。彭德懷給茹夫一來電報：“你們與朝鮮人民軍2萬餘人在敵後勝利會師，意義重大，我甚為欣慰。”金日成也發來電報進行了表揚。
中朝聯合遊擊支隊和敵後人民軍主力部隊彙合後，朝鮮戰爭第二次戰役已暫告一段落。此時，遊擊支隊收到了誌願軍司令部發來的“朝鮮人民軍部隊歸建”的電報，至此，中朝聯合支隊一切活動終止。軍長吳瑞林對遊擊支隊出色完成任務給予了表揚，遊擊支隊在敵後活動40多天，鑽到敵人後方大鬧天宮，打擊了敵人，取得了很大成就。兩軍指戰員同行動，共戰鬥，生死與共，甘苦共嚐，建立了深厚的國際主義友誼。
吳瑞林組織的這次中朝聯合遊擊支隊行動，是我誌願軍入朝初期，在現代化武裝的敵人進攻部署間隙中穿插行動的一次成功嚐試。整個行程約三、四百公裏，戰鬥約10餘次。以實際行動向沿途和敵後廣大軍民傳送了中國人民誌願軍抗美援朝信息，和與在美帝仁川登陸後被隔斷留在敵後的朝鮮人民軍取得了聯係，使他們和朝鮮人民軍最高統帥部取得了聯係；對誌願軍正麵部隊作戰取得了戰役配合，獲重大勝利。
在美軍為首的“聯合國軍”遭到中朝人民軍隊第一次戰役的打擊，被迫撤退到清川江以南後，雖已發覺中國人民誌願軍參戰，但認為誌願軍參戰兵力不過六七萬人，“不是一個不可侮的勢力”。於是，當誌願軍停止戰役進攻之後，即迅速調整部署，集中5個軍20餘萬人的兵力，從東西兩線發動新的進攻，企圖迅速殲滅中朝人民軍隊，占領全朝鮮。
彭德懷決心利用美軍恃強驕傲情緒，采取“誘敵深入、尋機各個殲敵”的方針，將敵誘至預定戰場，爾後突然發起反擊，在運動中殲滅敵軍，粉碎敵軍進攻，將戰線推進至平壤、元山地區。
在抗美援朝第二次戰役中，吳瑞林率42軍與38軍一起擔負打開戰役缺口、迂回敵後的艱巨任務。按照預定作戰方案，這兩個軍首先殲滅德川、寧遠地區的南朝鮮軍2軍主力，爾後向價川、三所裏、順川、肅川方麵迂回，斷敵退路，配合正麵的第50、第66、第39、第40軍從運動中殲滅向北進攻的美軍2至3個師。
駐守德川和寧遠的南朝鮮軍，擔負著掩護美軍右翼側後的任務。美第8集團軍主力被誌願軍誘至預定地區後，戰線拉長，兵力分散，後方空虛，南朝鮮軍7師和8師好像兩隻斷了線的風箏，遠遠地懸在大同江兩岸。誌願軍若能早日攻取德川和寧遠，既可切斷美軍東西兩線的聯係，又可在其最薄弱的側後打進一個強有力的楔子，這的確是一步好棋！
1950年11月6日，“聯合國軍”開始以一部兵力進行試探性進攻。誌願軍故意示弱，按照預定計劃節節抗擊，逐步地向預定戰場轉移。根據誌願軍司令部的指示，吳瑞林將42軍主力仍置於古土裏、舊津裏、赴戰嶺地區，以一個師位於寧遠，並以該師一部位於德川向陽德方向遊擊活動。
吳瑞林實行誘敵深入的作戰方針，在黃草嶺、赴戰嶺的主峰各留一個排，積極地阻擊敵人，掩護主力部隊撤下來，不讓敵人發覺，以使宋時輪率領的9兵團3個軍入朝後接替42軍防務時，能夠部署好口袋陣勢。為了落實彭總的指示，吳瑞林命令留守陣地的小部隊積極地打，主動地打，真正地打，把敵人引誘過來。
“聯合國軍”以為誌願軍的逐步後撤是“怯戰敗走”，於是，從24日開始在全線發起所謂“聖誕節結束朝鮮戰爭的總攻勢”，大舉向北進攻。
吳瑞林認為， 42軍能否取得第二次戰役的勝利，關鍵是125師要不惜一切代價，守住寧遠、德川以北的陣地。戰鬥開始前，吳瑞林來到125師，聽取了師長王道全、政委譚文邦的彙報，要求125師必須堅決地完成任務。
11月25日23時，第二次戰役總攻開始。誌願軍趁敵立足未穩，西線於25日黃昏，東線於27日黃昏先後發起反擊。吳瑞林率領42軍出敵不意地首先對德川、寧遠地區之南南朝鮮軍第7、第8兩個師發起攻擊。
吳瑞林命令第125師和124師分由正麵和側後對寧遠之南南朝鮮軍第8師實施攻擊；另以第126師向孟山以北龍德裏插進，隔斷寧遠與孟山之敵的聯係。第124師和第126師在向敵側後插進中被敵發覺，被位於孟山東北地區的南第8師二梯隊第16團所阻。位於寧遠地區的南第8師主力見其側後受到威脅即開始向南收縮。吳瑞林立即命令由下麵進攻的第125師乘機向敵發起猛攻，迅速攻入寧遠城，打亂了敵人的指揮係統。