抗日戰爭爆發後，羅元發參加了著名的平型關戰役和百團大戰，立下了赫赫戰功。
1945年春天，被選為“七大”代表的羅元發，冒著黃土高原初春的寒意，從抗日前線晉察冀軍區雁北5分區回到延安，羅元發作為正式代表參加了具有偉大曆史意義的黨的“七大”。會議閉幕後，羅元發就準備行裝，要返回晉察冀抗日前線去。聶榮臻、彭真分別找羅元發談話，說組織上決定要他留在延安教二旅，接替鄧華同誌的工作。朱總司令在王家坪八路軍總部也親自找羅元發談話，朱總司令語重心長地說：“延安雖然是我們抗日根據地的總後方，是黨中央所在地，但也是前線。8年來，國民黨反動派一天也沒有忘記進攻陝甘寧邊區。中央軍委決定調幾個旅回到延安，擔任保衛黨中央、毛主席的光榮任務。這幾個部隊都是老部隊，老紅軍底子，有光榮曆史。組織上決定調你去接替鄧華同誌，任教二旅政委。”羅元當即向朱總司令表示：“堅決服從黨的決定，愉快地到教二旅去工作。”
1945年6月16日，毛澤東找他談話，決定讓他留守延安，擔任教二旅旅長兼政委。
毛澤東在自己住的窯洞裏，微笑著對羅元發說：“要你到教二旅去工作了，今天特地找你來談談，看你還有什麼意見?”
羅元發回答：“本來我想回前線去，朱總司令、聶司令員和彭真校長都給我談了話，現在思想通了，堅決服從組織的決定，努力做好工作。”
毛澤東點點頭說：“這樣好。其實想回前線去，這想法並不壞。我們邊區雖然是抗日後方，但也是前線，我們不能老唱空城計。軍委決定調幾個旅回陝北，是根據當前形勢決定的，敵人在磨刀，我們也要磨刀。胡宗南帶著幾十萬大軍在磨刀，我們不磨刀是要吃虧的，這叫有備無患。”接著，毛澤東又說：“你參加了‘七大’，‘七大’的精神很重要，要好好地組織部隊學習。現在是兩個中國之命運在決戰。我們的一切工作都是為了中國的光明前途，為了新中國。”
當毛澤東問起敵後情況時，羅元發作了簡略彙報，毛主席聽了以後，對羅元發說：“現在，蔣介石保存實力，把胡宗南集團的幾十萬人，擺在延安大門口，這是幹什麼呢?是幫助我們守大門嗎?還是想竄進來撈一把呢?我看，他們是不安好心嘍，因此，你們要加強政治思想工作，一麵生產，一麵學習，一麵訓練，提高警惕，防備國民黨突然發動軍事進攻。我們已經打破了他們的經濟封鎖，我們還要隨時準備打敗他們的軍事進攻。” 羅元發當即向毛澤東表示：“一定按照主席的教導，帶好部隊，首先糾正和平麻痹思想，把教二旅的工作做好，使部隊安心留守在陝甘寧邊區，保衛陝甘寧邊區，保衛黨中央。”毛主席很滿意地笑著說：“這就好，教二旅的工作很重要。”最後，毛澤東又具體地對羅元發叮囑道：“國民黨想在經濟上封鎖我們，倒使我們找到了‘自己動手，豐衣足食’的道路，這是蔣委員長的一大功勞。王震同誌的359旅在南泥灣大生產中出了大力，發揚了我軍艱苦奮鬥的革命精神，取得了很大成績。你們現在接了他們的防務，也要在南泥灣、金盆灣一帶好好生產、訓練，做好準備，一旦打起仗來，那裏就是保衛延安的主要戰場。”
羅元發遵照毛澤東和中央軍委的指示，愉快地到教二旅工作。1945年9月，抗日戰爭結束後，教導第1、第2旅主力調往東北，留在陝北的部隊組成教導旅，羅元發任旅長。
1946年6月，蔣介石背信棄義，撕毀停戰協定，發動了向全國解放區大規模的進攻。1947年3月12日，蔣介石命令胡宗南部整編第一軍，第29軍共14萬之眾，在董釗、劉戡的統率下發動了向陝甘寧邊區的重點進攻。劉戡氣勢洶洶地叫喊，並向胡宗南保證：“有我劉戡，就有國民黨”，極盡背水一戰之能事。同時，還有反動地方實力派青海的馬步芳，寧夏的馬鴻奎，榆林的鄧寶珊等匪軍也蠢蠢欲動。
在彭德懷司令員的指揮下，羅元發指揮的教導旅和警7團、延屬分區第3團組成防禦兵團，在東西百餘裏寬的正麵、縱深七八十裏的山地設防，抗擊強大敵人的進攻。當時，毛澤東親自簽署命令：“教導旅、2縱隊（王震部）為左兵團，歸王震、羅元發同誌指揮，在王震未到前，歸羅元發同誌指揮。教導旅在南泥灣、金盆灣、臨鎮、鬆樹嶺地區組織防禦戰鬥。上述地區至少堅持7天。”自3月13日始，至3月18日完成了南線7天7夜的延安保衛戰的阻擊任務，斃傷敵5000餘人，粉碎了敵人“3天內占領延安”的企圖。掩護了黨中央及延安各機關安全戰略轉移和居民疏散。之後，羅元發又率領部隊參加了青化砭、羊馬河、蟠龍戰役，在西北戰場立下了不可磨滅的功勳。
1947年8月，西北野戰軍主力部隊隱蔽集結在榆林東南、沙家店西北地區。這裏，西、北兩麵是浩瀚的沙漠，東麵是滾滾的黃河，地區狹窄，回旋餘地很小。國民黨軍整編36師師長鍾鬆率領兩個半旅，由榆林經歸德堡南下到了鎮川堡；劉戡率領整編第1軍、29軍8個半旅的兵力，分別由石灣、安定地區進至綏德。兩路敵人南北相距隻不過百餘裏，而且正越靠越近。
8月16日深夜，周恩來副主席致電西北野戰軍司令部：“中央不過黃河，繼續留在陝北。”此時，中共中央機關被擠在葭縣、米脂、榆林交界的狹小區域，情況十分危急，羅元發也難免有些著急。
西北野戰軍司令員彭德懷緊急命令西北3縱司令員許光達率部進抵烏龍鋪一帶阻擊敵人，掩護中央機關安全轉移。
同時，彭德懷決定以第1、第2縱隊在敵前進途中殲滅鍾鬆的36師，以第3縱隊鉗製劉戡，阻止其增援。彭德懷要求羅元發，教導旅歸2縱王震司令員兼政委指揮，和1、2縱一起圍殲敵36師。
羅元發明確了任務後，迅速展開作戰布置，根據了解到的敵情，劉戡所部占領綏德、米脂以後，除留少數部隊擔任守備外，其主力正冒雨北上，深入到店頭鎮一帶，而36師也尾隨其後向東急進，當天進至沙家店地區。他們拚命地向黃河邊上趕。
據有關情況反映，前些日子，我軍有些後方機關，從葭縣以北的黑峪口渡河到晉綏解放區去，被敵機在空中偵察到了，胡宗南錯誤地估計我軍有渡河的意圖。直到今天，敵人還沒有發覺我軍的動向，這不能不感激邊區的人民。他們嚴密地封鎖了消息，徹底地進行了空舍清野，使敵人吃不上，也得不到情報，象瞎子摸魚一樣。為了消滅敵人，老鄉們將自己僅有的南瓜、山藥蛋送給我軍吃，日夜組織擔架隊、運輸隊支援我軍，民兵們到處埋設地雷打擊敵人，阻止敵人前進，配合我軍作戰。敵人一有動靜，他們便跑來報告，使我軍對敵人的一舉一動了如指掌。人民群眾不顧一切地支援部隊，令羅元發非常感動。但是這裏的人民比較窮，一下子擠了這麼多部隊，給養十分困難。彭德懷指示各縱隊領導說：“什麼是群眾觀點，就是要惜民命。再不能增加人民的負擔了，哪怕是殺馬吃也要保證打好這一仗。”
8月18日，各部隊按照預定計劃向常高山開進。19日晚，賀炳炎、廖漢生率領的第1縱隊、王震率領的第2縱隊的先頭部隊，即與敵36師已在常高山上接火了。羅元發率領教導旅迅速前進。當進入一條狹窄的山溝時，天空突然黑雲密布，霎時大雨傾盆，戰士們跌跌撞撞，象扭秧歌似的冒雨前進。
麵對這惡劣的天氣，羅元發非常擔心，萬一部隊不能按時到達，就不能完成對敵包圍，敵人覺察了我軍的意圖，事情就不好辦了。羅元發命令部隊克服一切困難，繼續向前運動。前進途中要翻過一個山坡，入夜，天黑路滑，啥也看不清。為了避免失掉聯絡和跌跤，戰士們想出一個好法子：大家解下綁帶，擰成一根粗繩，抓住繩子走。有的戰士還拄著棍子。就這樣經過一夜艱苦的行軍，第二天拂曉，部隊來到了常高山西北的一個小村子。
羅元發正要問前麵的情況，縱隊偵察科長跑來報告說：“1、2縱隊在常高山和敵36師稍事接觸之後，敵人就龜縮至沙家店、泥溝則一帶。”當時，羅元發還很擔心：“要是劉戡掉頭西進，兩股敵人粘在一起，那可就難辦了”。
8月19日彭德懷司令在發給羅元發的電報中說：“經查明，敵人並沒有靠攏，劉戡主力一部已進至黃河邊葭縣、神泉堡一線。”
羅元發看到，狂妄的鍾鬆竟敢分兵兩股與劉戡賽跑，他的前梯隊123旅及配屬的493團已伸至烏龍鋪以北地區，而由鍾鬆自己帶領的後梯隊36師師部及165旅，卻孤零零地掉在後邊。看來昨夜一場瓢潑大雨，並沒有把敵人發熱的頭腦澆醒，敵人仍然夢想著逼我軍東渡黃河，收其“半渡而擊”之效。
此時，彭德懷又明確指示各縱隊，堅持消滅敵36師的既定決心不變，除羅元發率教導旅繼續鉗製劉戡，切斷他與鍾鬆的聯係，阻其回援以外，新4旅在常高山抗擊123旅，堅決把鍾鬆的兵馬撕成兩半，使其相望而不能相顧，以便我軍各個擊破。
20日拂曉，1縱和2縱隊由東西兩麵向沙家店之敵36師主力發起了進攻。挨了這重重的一棒之後，鍾鬆才有所醒悟：原來“共軍”主力並未渡河，就在他的眼皮底下。於是他急忙電令123旅，星夜向他靠攏。而敵123旅旅長劉子奇這時已嗅出味道來了，他見與劉戡的聯係已被羅元發率領的教導旅割斷，知道情況不妙，如果回頭向沙家店靠攏，勢必陷於前有堵擊、後有追兵的困境，於是來了個按兵不動。盡管鍾鬆三令五申，以殺頭相威脅，而劉子奇則以天黑難走為借口，遲至第二天早晨才掉頭西進。但彭德懷指示新4旅當晚就布置在常高山一帶，把他迎頭擋住了。
20日，彭德懷下達了動員令，他指出：“徹底消滅36師，是我西北戰場由戰略防禦轉入戰略反攻的開始，收複延安解放大西北的開始，為著人民解放事業，繼續你們無限英勇精神，立即消滅36師，活捉鍾鬆，號召你們本日黃昏以前完成勝利的戰鬥任務！
羅元發接到命令後，立即指揮教導旅即刻向沙家店方向前進。登上山頂，羅元發和旅裏領導商議，決定從常高山以西的新4旅與2縱中間插過去，配合2縱消滅敵36師主力。羅元發向各團團長交代了具體的任務，部隊迅速開始行動。
這時，國民黨軍的飛機在低空盤旋掃射，地麵的炮火也開始猛烈轟擊，企圖阻攔我軍前進。
羅元發指揮部隊冒著槍林彈雨，不停地向預定方向運動。到達常高山附近時，羅元發看到東邊新4旅陣地上的戰鬥非常激烈，敵人123旅欲與36師靠攏，正集中兵力與火力企圖奪取山頂的破廟。這是常高山的製高點。在那裏抗擊敵人的是新4旅771團的一個營，由副團長直接指揮，連續擊退了敵人好幾次衝擊。這個山頭距2縱隊的陣地很近，假若丟失，就會嚴重地威脅到2縱的側背。
看到這種情況，羅元發說：“常高山無論如何不能丟！”。於是，他果斷決定調第2團來加強常高山的守備力量，1團仍執行殲滅36師的任務。
為了便於觀察和指揮，羅元發爬上了常高山，對771團副團長說：“堅決抗住，我們2團很快就會趕到。”羅元發看到，新4旅的陣地形成了半圓形，敵123旅拚命地向裏麵鑽。羅元發想：要是2縱教導旅從新4旅的右翼插過去，兩麵一夾，豈不是把123旅包圍了嗎?雖然這樣一來，對36師的攻擊力量會相對地減弱，2縱隊的擔子也加重了一點，但是隻要我們堅決消滅了這股敵人，就保證了主力翼側的安全。
於是，羅元發立即向彭德懷司令員和2縱王震司令員報告，同時命令1團改變原來計劃，掉頭向東圍殲敵123旅。
彭德懷立即批準了羅元發的計劃，羅元發指示旅政治部的同誌立刻分頭到各團去做政治動員工作，向戰士們發出了響亮的號召：“堅決消滅123旅，活捉劉子奇！”羅元發要求全體指戰員，不管敵人的炮火多麼猛烈，敵機如何猖狂，都要堅決前進，堅決消滅敵人。
第2團投入戰鬥後，加強了常高山陣地的防禦力量，敵人的進攻被迫減弱了；1團也迅速向常高山右翼迂回過去。與此同時，新4旅也迅速向右翼猛插，包圍圈越縮越小。至此，我軍在沙家店、常高山一線將敵36師切成兩塊，分割包圍起來。
現在的鍾鬆，猶如熱鍋上的螞蟻，他將唯一的希望寄托在劉戡身上，等他來解覆巢之危。殊不知劉戡因“援榆不力”，挨了胡宗南一頓大罵，本來對鍾鬆就有一肚子的氣，這次，辛辛苦苦趕到黃河岸邊，又沒有發現“共軍”主力。所以接到胡宗南“增援鍾鬆”的電令以後，心裏更是窩火，故意遲遲不前。他率四個旅的兵力，直到20日下午才到了烏龍鋪以南。在這裏，遭到3縱及綏德分區的4、6團的迎頭痛擊，連他的警衛隊也給衝散了，不少人當了俘虜。劉戡被我軍死死阻住不能前進一步，雖然距鍾鬆隻有十幾公裏，卻是“愛莫能助”。
羅元發看到，劉戡被阻後，大大減輕了對我軍的壓力，解除了後顧之憂。羅元發命令教導旅2團攻下常辛莊以後，乘勝拿下幾個山頭，1團協同2團迂回包圍。這時，新4旅也從左翼節節逼近。兩把鉗子死死卡住，在黃昏以前，將敵123旅幹幹淨淨消滅了，劉子奇本人也當了俘虜。
黃昏時分，1縱和2縱圍殲36師的總攻開始了。鍾鬆見大勢已去，於是和165旅旅長李日基換上便衣溜之大吉。敵兵因援兵無望，主將逃跑，軍心更加動搖，在1、2縱隊的猛烈攻擊下，敵36師師部與165旅也被我軍全部殲滅。
戰後，羅元發奉命到東原村參加彭德懷主持召開的西北野戰軍旅以上幹部會議。毛澤東、周恩來、任弼時等驅馬前來祝捷。毛澤東和羅元發等一邊握手，一邊笑盈盈地說：“此戰是彭老總指揮得好啊!”
沙家店戰役的勝利是西北戰場上由防禦轉為進攻的轉折點，這是毛澤東“集中優勢兵力，各個殲滅敵人”、“先打分散和孤立之敵，後打集中和強大之敵”的作戰原則的勝利，是毛澤東“蘑菇戰術”的勝利。
10月，教導旅和新編第4旅組成西北野戰軍第6縱隊，羅元發任縱隊司令員。1949年2月，第6縱隊整編為第6軍、羅元發任軍長，率部參加了解放大西北的戰鬥。