八路軍的遊擊戰不斷地使日軍受到損失，日軍惱羞成怒，於2月下旬，出動一萬多人，由平綏、同蒲鐵路和太（原）、汾（陽）公路兩側沿線各據點出動，兵分5路向晉北八路軍抗日根據地進攻。日軍來勢凶猛，先後很快攻占了寧武、神池、偏關、保德等7座縣城。
張宗遜麵對氣勢洶洶的日軍，用自己熟悉的遊擊戰術，廣泛襲擊日軍，破壞敵人的交通，在運動中尋找戰機打擊敵人，當時日軍大傷腦筋，不斷受到損失。
3月17日，張宗遜率358旅在神池以南的虎北村、山口村活動，突然與從神池出動增援五寨的1000多名日軍遭遇。張宗遜沉著地指揮部隊果斷先敵發起衝擊。戰士們在旅團指揮員身先士卒的帶領下，克服長途跋涉的疲勞，勇猛頑強地殺向敵陣。許多戰士衝擊時鞋子壞了，赤著腳在雨雪裏同敵人進行白刃格鬥。經數小時廝殺，殲滅日軍300多人，俘虜日軍軍官1人，繳獲機槍3挺、步槍20多支。餘敵竄入義井鎮。次日，日軍派出6架飛機掩護，這些沒丟性命的日軍才倉皇逃回神池據守。這次日軍遭打擊，解除了日軍對駐虎北村、山口村的國民黨騎兵1軍孫長勝師的威脅。
日軍在八路軍遊擊戰和張宗遜率領的358旅的打擊下，河曲、偏關、保德的日軍於3月20日棄城東撤。21日，駐五寨的日軍也向神池逃去。我軍收複了四座縣城。22日，張宗遜率領358旅在神池西麵的鳳凰山以東地區待機，國民黨騎兵1軍撥給一個山炮連配合作戰。
當五寨的敵人逃出進入716團的伏擊區時，指戰員們向敵人發起猛烈衝擊，衝入敵陣同敵人展開白刃戰，擊斃敵人300餘人，燒毀敵汽車十來輛。殘敵不敢再戰，趁夜逃進神池城裏。716團直追至神池城下，敵人怕八路軍攻城，又逃往朔縣。在這一次戰鬥中，716團2營營長黃子德光榮犧牲。
日軍想修複同蒲路北段，以便恢複由太原至大同的鐵路運輸。為此，日軍留下1000餘人堅守寧武，進行鐵路修複工作。
張宗遜遵照師首長的命令，率716團與350旅的718團，共同圍困寧武縣城，目的是消滅城內守敵。
寧武的日軍受困後，朔縣日軍出動騎兵600多人，妄圖在飛機的掩護下增援寧武。敵人在進軍中，遭到張宗遜的358旅部隊兩麵夾擊，擊斃敵100多人，敵人就地固守，前進不了。3月31日夜，716團一部襲擊了寧武城。日軍遭打擊後棄城向北逃遁。
至此，張宗遜率領的358旅在師首長領導下，與兄弟部隊配合，以機動靈活的遊擊戰術，收複保德、五寨、河曲等7座縣城。
戰役後，張宗遜率358旅主力（缺714團），開至五寨進行軍事訓練和開展政治教育，全麵提高部隊軍政素質。
1938年5月3日，賀龍師長由嵐縣到了五寨的358旅旅部，對張宗遜等旅領導說：“傅作義部和何桂國部要‘反攻綏、包’，要求八路軍給予配合。”
賀師長批示張宗遜旅長率716團到雁北開展遊擊戰爭，打擊牽製敵人，配合國民黨軍對日作戰。
張宗遜於5日率部由五寨出發，進入雁北後，張宗遜隨716團團部帶1營和2營到朔縣以北地區，令3營到懷仁以西地區單獨活動。部隊的任務是積極偵察敵軍情況，尋找戰機，破壞敵人的交通運輸，襲擊敵人的據點，配合、支援國民黨軍作戰。
張宗遜令716團派出偵察分隊，摸清懷（仁）朔（縣）公路日軍汽車活動規律，決定以自己熟悉的伏擊戰捕殲敵人的運輸車隊，消滅敵人的有生力量，破壞日軍在大同以南的交通。
14時晨，派出的偵察員報告：天亮後，日軍從岱嶽開出汽車11輛。張宗遜和賀炳炎、廖漢生研究決定伏擊日軍車隊，立即令1營在朔縣以北的北周莊設伏。部隊埋伏好後，隻有3輛汽車進入伏擊圈，其餘8輛不知耍的什麼花招，中途返回了。
少也打，積小勝為大勝。1營立即以密集的火力對準汽車一陣猛打，汽車立刻癱下了。戰士們衝上公路擊斃日軍10人，俘虜2人，繳槍4支，並焚毀了汽車。戰鬥沒有多久就結束了，1營隨即向西邊山裏轉移了。
14日，3營也傳來捷報：王祥發營長率部在懷仁以南地區的南北辛莊設伏，伏擊敵人由懷仁開出載有100餘人的6輛汽車。當日軍頭兩輛汽車進入伏擊圈後，立即被3營火力摧毀，後麵日軍慌忙跳下車與3營展開激戰，打成相持局麵。3營利用有利陣地阻擊敵人通過，也阻止住了敵人的進攻。日軍怕久戰不利，呼求懷仁派出600餘名騎兵，在兩架飛機掩護下撤退。3營也隨即撤出了戰鬥。這次戰鬥，除擊毀日軍兩輛汽車外，還殲滅日軍70餘人。
張宗遜為了積小勝為大勝，支援國民黨“反攻綏、包”作戰，令716團團長賀炳炎帶1營和2營到朔縣、井之間的馬鞍山地區設伏。5月22日上午，由朔縣開出滿載日軍的汽車8輛，10時進入了716團伏擊區。賀炳炎發出攻擊令，1營的所有火力向敵人開火了，頓時，就把前麵的4輛汽車擊癱了。車上仍活命的敵人立刻跳下車，躲進路旁的房屋裏頑抗。後麵幾輛車看到局勢不妙，掉轉車頭就逃走了。這時，1營和2營一起圍攻房屋內的敵人。擊斃敵人100餘人，俘虜兩人，繳獲機槍兩挺，步槍20多支。
不久，傅作義部“反攻綏、包”的戰役行動受挫，由歸綏地區向南潰退。這時，日軍心高氣傲，咄咄逼人，一麵派兵由北向南跟蹤追擊傅部，一麵令駐平魯、朔縣日軍由東向西截堵傅部的退路，企圖全殲傅部。
張宗遜受賀龍師長、關向應政委的指令，率716團打擊進攻老營堡的日軍。
張宗遜和賀炳炎團長率716團日夜兼程，克服饑餓和疲勞，於6月2日趕上了敵人，並對敵人進行側擊，日軍退縮下土寨。傅部3日退出老營堡西撤，日軍趁機占領了老營堡。
張宗遜等人分析，日軍很可能要向老營堡增兵，即派1營和2營到西坪口設伏日軍。
凡事預則立。果不出所料，偵察員報告：日軍有500多人向老營堡挺進。於6月3日上午10時左右，進入了716團伏擊區，突然遭到1營和2營短促火力的猛烈打擊，死傷無數。當伏擊部隊發起衝擊時，敵人奪路向老營堡逃遁。這次戰鬥，殲敵200餘人，自己仍傷亡4人。
由於716團已連續作戰一個月了，需要修整、補充。於是，張宗遜離開716團，隨715團行動，指揮該團作戰。
張宗遜和715團領導帶領部隊到達平魯地區，決定打一次伏擊戰，以擴大八路軍在這一帶的影響。於是，立即派出偵察分隊偵查平魯與左雲之間日軍調動和運輸情況。掌握了敵人動向後，於16日拂曉趕到台子村附近設伏。
這一天的上午8時許，日軍有5輛汽車載著一個小分隊從平魯方向開來，當汽車進入台子村時，團特務連進行迎頭阻擊，2營和3營立即同時向敵車隊發起攻擊。當敵正下車抵抗時，戰士們都衝到了敵人跟前，不少敵人的身上都被捅了刺刀。經過半小時的激戰，殲敵50多人，俘虜4人，繳獲各種槍50多支，還有不少軍用物資，並將敵5輛汽車燒毀。715團無一人傷亡。戰後，部隊向西轉移了。
6月22日，賀龍和關向應發出命令：命令李井泉等率715團，組成李支隊去大青山地區活動。
為了保證李支隊順利進入大青山地區，賀龍、關向應要張宗遜率716團再到雁北地區活動。在雁北地區進行了幾次小的戰鬥，共殲敵300餘人，繳獲輕機槍兩挺、步槍20多支，燒毀敵火車一列。
8月中旬，李支隊進入了大青山，在那裏發動群眾，組織地方武裝，打擊敵軍和土匪，建立抗日根據地。
這時，716團回到五寨整訓。
張宗遜回358旅部隊。李井泉去大青山後，調張平化任358旅政治委員。旅參謀長先由喻楚傑代理，後由李夫克擔任。
1938年9月下旬，日軍推行所謂“中攻武漢，南取廣州，北圍五台”的作戰計劃。為達到此目的，華北日軍兵分25路，氣勢洶洶地圍攻以五台、平阜、淶源等地為中心的北嶽區，企圖分割、摧毀晉察冀抗日根據地，為日軍全麵侵占中國掃清道路。中共中央及時識破了日軍的企圖，命令八路軍第120師急速向晉察冀邊區挺進，配合兄弟部隊粉碎日軍的進攻。
張宗遜奉命率358旅出擊同蒲路北段，以機動靈活的遊擊戰，牽製日軍向北嶽區的侵犯。
張宗遜率716團和714團（715團去大青山）於10月初，從晉西北的方山出發，部隊披堅執銳，晝夜兼程，奮力東進。8日，714團挺進到平社一帶，襲擊了火車站。10日，716團以一部兵力，襲擊了龍泉莊日軍據點，破壞了一段鐵路，以遊擊戰襲擾敵人。
張宗遜14日接到賀龍、關向應電令，要他率部挺進同蒲路以東，進入北嶽區，直接參加反圍攻作戰，尋機殲敵。
張宗遜接到命令後，帶領部隊迅速開到五台城南一帶，11月2日，令716團參謀長劉忠帶一個騎兵排，冒著淒風苦雨，踏著冰雪，到五台一帶偵察敵情。3日，劉忠返回向張宗遜報告：“駐五台日軍蚋野大隊和周圍的敵人700多人，昨晚從五台出動，正向東進犯，今天偷襲了高洪口晉察冀軍區2分區5大隊，使軍民受到一些損失。”
張宗遜得到此情報後，立即和張平化及716團團長黃新廷、政委廖漢生一起研究作戰部署。在研究敵情時，張宗遜從各種情況判斷，認為敵人是孤軍出動，有後顧之憂，很可能會迅速縮回五台。他認為敵人經過一夜長途行軍已經疲憊，白天會在高洪口休息，當晚或明晨才會撤退，根據以往敵情的行動規律看，一般從他們熟悉的原路返回，不敢走他們不熟悉的生路。基於上述情況，張宗遜迅速翻開地圖，幾位指揮員湊在一起，眼睛緊盯著地圖，在琢磨、研究、考慮著同一個問題：伏擊點選在哪裏好？
將必上知天道，下知地理。
張宗遜在地圖上掃視了兩遍後，兩眼盯著一處，伸出手指，沿著高洪口至五台的一條道移動，移到一個叫“滑石片”的地方停了下來，嘴裏迸出一句：“就在這裏設伏！”大家隨著張宗遜的手指一看：從高洪口到五台，滑石片是必經之路。這裏一條長達數裏的道路，夾在兩山之間，溝深路窄，是一個天然的伏擊敵人的好地方。
張宗遜說：“我軍在此設伏，以短兵火力向敵突然開火，即可陷敵於不利地位。從我們的駐地到滑石片要走50裏，而從高洪口到那裏隻有20裏，現在還沒摸清敵人撤退的時間，必須搶先到達設伏，起碼也要和敵人同時到達，打個預期的遭遇戰也好。因此，關鍵要快，要和敵人搶時間，最好是能先敵到達，占領有利地形。”張宗遜的目的很明確，道理也講得十分清楚了，在場的團指揮員隻急切地等旅長早點下命令了。
張宗遜看到大家沒有不同意見，於是做了兵力部署：716團在滑石片兩側埋伏，擔任伏擊任務；714團派到滑石片西北的南院村地區，警戒五台方向，擔任阻擊增援，並負責殲滅可能從滑石片逃跑的敵人。部署完畢後，張宗遜又嚴肅地交代了一句：“大家一定要快！一小時之內準備好出發！”
聽說有仗打，而且要搶時間先敵趕到，一些連隊已做好了飯，許多戰士不吃飯就要走。有的隻好給戰士們打上一點飯，讓他們邊走邊吃。部隊都在一小時之內出發了。
部隊頂著凜冽的寒風，踏著漫山白雪，在向導的帶領下，抄近道疾進。
張宗遜率領旅部與716團行動。各連幹部在行進中跑前跑後，邊行軍邊做政治動員。幹部幫助戰士扛東西，體強的幫助體弱的，互相鼓勵，互相競賽，你追我趕，與敵人搶時間。旅部和716團經過四小時的急行軍，部隊就走了50公裏山路，於夜晚9時到達了滑石片以西的一個高地。
到了現場後，張宗遜和黃新廷等人又看了看地形，對部隊做了具體部署。
部隊剛到各自位置展開，遠處就傳來了馬蹄走在石子路上的嘈雜聲。又過了一會兒，連日軍走路聲都能聽清了。不一會，嘈雜的人馬聲已經進入溝內了，不時地還夾雜著牛、羊、雞、鴨的聲音。行軍速度很慢。怎麼這麼亂？不像是軍隊。原來這些日軍在高洪口搶掠一空，趁夜逃走。敵人洋洋得意，有的邊走路邊叼著香煙，他們根本沒有想到這麼寒冷的雪夜裏，在這遠離人家的山溝裏，會有人，會藏著一支能致自己覆滅的部隊。因此，他們如入無人之境，有的邊走邊打鬧，根本談不上有什麼戒備了。
戰士們看到這些如狼似虎，魚肉百姓，凶神惡煞的家夥，又好氣，又好笑，氣的是敵人太凶殘了，笑的是他們死到臨頭了，還不知道！
當敵人全部進入了山穀後，張宗遜一聲令下，埋伏在最前頭的3營首先發起了攻擊，一陣猛烈的火力網組成了一道難以通過的雷區，堵住了敵人的去路。1營迅速從後麵包抄上來，死死地卡住敵人退路。兩頭堵住了，敵人如同在一張大網中，被網得嚴嚴實實的。
埋伏在中間的2營，居高臨下，向敵人猛烈開火，如同許多炸彈在敵人的腰部爆炸，敵人慌了、亂了。雞鴨牛等驚了，亂叫、亂跑、亂飛，與敵人亂闖。人、牲畜，都為了活命到處亂竄。
敵人被迫龜縮陡崖下。他們畢竟是經過嚴格訓練的軍隊，很快清醒過來，知道中了埋伏，立即進行垂死掙紮，槍聲四起。由於夜間視線不好，敵人隻是亂放槍，壯壯膽而已。
身經百戰，老練而沉著的張宗遜，看到敵人亂了陣腳，是決不會讓敵人有喘息的機會的，他向716團下達了全麵出擊的命令。頓時，衝鋒號聲響徹夜空，戰士們端著槍從土丘後、崖石旁、草叢中、叢林裏，從一切能藏身的地方鑽了出來，衝入溝底、崖下，衝入敵群中，展開了搏鬥、廝殺。敵人防不勝防，躲不勝躲，躲開前麵的，躲不開後麵，隻恨上天無路，入地無門。許多人“哇啦啦”亂叫，為活命的就舉起了手……
拂曉前，伏擊圈內的大部分敵人被解決了。趁夜色逃出伏擊圈的幾十名日軍，也遭到了714團的迎頭痛擊。
張宗遜指揮的滑石片伏擊戰，殲滅日軍第109師團135聯隊的蚋野大隊700多人，俘虜21人，繳獲火炮6門，機槍30餘挺，步槍340餘支，戰馬153匹，電台1部，還有大批的軍用物資。
戰鬥結束後，張宗遜通過晉察冀軍區2分區向聶榮臻司令員報告了戰鬥經過，同時打電報向賀龍師長作了彙報。
滑石片戰鬥的勝利，在五台、定襄、忻州地區影響很大，大大地振奮了軍心民心，群眾爭相傳遞勝利消息。晉察冀軍區派記者到358旅采訪。部隊把繳獲的大批戰利品讓記者一一拍照，留下了永久性的紀念。
可是，國民黨派駐120師的上校聯絡官陳宏模，開始不相信張宗遜的358旅會取得這麼大的勝利，後來按賀龍師長囑咐，送給他兩件日軍呢子大衣和一把日軍軍官指揮刀，又讓他看了照片。在實物麵前，這位聯絡官啞口無言了。