高桂滋部是軍閥中原大戰後退至山西省的敗軍之一，駐紮在平定縣。平定縣位於山西省中部東側，太行山西麓。東鄰河北省井陘縣，西連山西省壽陽縣，南接昔陽縣，北連盂縣。縣城距軍事、經濟重鎮陽泉15裏。境內群山環繞，溝壑縱橫，地勢險要。東有長城及著名的天下第九關——娘子關。正太鐵路橫貫東西，乃山西的東大門，冀晉之咽喉，故有“晉冀通衢”、“京畿藩屏”之稱，曆來為兵家必爭的戰略要地。
高桂滋部原為陝北起家的一支雜牌軍。高桂滋的姐夫鄭庠，乃是馮玉祥的國民軍第二軍獨立騎兵一旅旅長。高桂滋即投靠鄭庠屬下。1926年冬，鄭庠部隊與另一軍閥馬富魁部隊發生衝突，被山東軍閥張宗昌派兵夾擊於河北省河間縣。混戰中高桂滋率部突圍，後到達安徽投靠武漢革命政府。蔣介石發動“四一二”反革命政變後，高桂滋又投入新軍閥蔣介石的懷抱，被任命為國民革命軍第四十七軍軍長，歸方振武指揮。1929年，方振武反蔣被扣南京，高桂滋部又歸柏文蔚指揮，並將高部的四十七軍縮編為獨立第十旅，高桂滋也由軍長降為旅長。高桂滋從此對蔣介石懷恨在心。1930年，閻錫山、馮玉祥、李宗仁等聯合反蔣，高桂滋又投靠馮玉祥部下，被任命為陸軍第二十三軍軍長，蔣閻馮中原大戰，閻錫山和馮玉祥等戰敗，敗軍殘部二十五萬之眾紛紛退入山西境內。原在山東省臨沂、莒縣、諸城一帶與蔣軍交戰的高桂滋部，也由利津、蒲台渡黃河，經惠民、衡水、正定、十八盤被迫退至山西省平定縣。不久，獲勝一方的蔣介石和張學良將退入山西的軍隊進行整編，高桂滋部被編入以孫楚為司令的正太護路軍，序列為第十一師。高桂滋部的三個師縮編為三個團，高桂滋也由軍長降為師長，其下屬軍官也隨之全部降級。高桂滋部有三個步兵團，還有師直屬的憲兵連、機槍連、炮兵連、通訊連、特務連，共約3000人。師部及第一團和直屬連隊駐紮在平定縣城內，其餘二、三團分別駐紮在距縣城五、六裏遠的大營盤內。
高桂滋部退至平定縣後，完全處於客軍地位，它既不是蔣介石的中央軍的嫡係，又不是閻錫山的晉軍。這支部隊裏的軍官多是西北地區的人，士兵又多為河南、河北及山東人。因此，處處受排擠，軍需供給受刁難，生存環境日益惡化。各級軍官因普遍降職降薪，牢騷滿腹，怨聲極大。士兵們更為困苦，幾個月發不了軍餉，偶爾發一點還不夠買幾盒香煙。每個士兵的菜錢每天僅有七、八個銅板，連吃飯都很困難。士兵們換季卻換不了服裝，穿的是破衣服，鞋襪大張嘴，睡覺沒被子，故流傳著這樣一首順口流：“山西出的土包子，關餉關的紙票子；閻老西不吃香，破鞋破襪破軍裝，吃的小米摻著糠。”而且，有些反動軍官對士兵更是百般虐待，動輒打罵、體罰，士兵有了病不能站崗，不僅得不到醫治，反被罵成懶種敗類，士兵們不堪忍受這種牛馬生活，便有的單獨離隊，有的結夥逃跑，可是一旦被抓住，輕者被割掉耳朵，將耳朵掛在院內示眾，重者則是被活埋、刀砍或槍斃。僅1931年1月至6月，就有30多名逃跑而被抓回的士兵遭到活埋、打死。對於這種暗無天日監獄般的生活，士兵們真是忍無可忍，盼望著早日能脫離這個苦海，越來越傾向於革命。於是，士兵暴動將一觸即發，大有山雨欲來風滿樓之勢。
在這支部隊裏，我黨的秘密兵運工作開展得比較早，而且一直未間斷，已有相當的基礎。由於高桂滋是陝北靖邊縣人，這支部隊從陝北起家時招募的也多是陝北人，其中有不少人原是榆林省立六中、榆林職業中學、綏德省立第四師範學校的學生，且有不少人已成為中下級軍官。這些青年學生在學校時，有不少人就接受了新的進步思想，具有一定的革命熱情。於1925年9月，我黨地方組織利用軍閥鄭庠舉辦軍官學校訓練班之機，便派了部分黨員打入高桂滋部隊。在高部一直負責電訊聯絡工作的陳子毅就是其中之一。1926年冬，高桂滋為了擴充勢力，在陝西、河南、河北一帶又招兵賣馬，中共豫陝區委利用此機會，又派遣赫光、苗廣義、劉明德、竇宗融、蒲子華等10多名共產黨員，打入高部開展兵運工作。豫陝區委還特別指示赫光，要盡快在高部建立支部組織，赫光倍受黨組織的重視。
赫光原名萬錫紱，1902年2月生於甘肅省海原縣楊郎鎮（今寧夏回族自治區固原縣楊郎鄉），父親是前清秀才，十分重視對赫光的教育。赫光從8歲起便被送入私塾讀書，聰明好學的他16歲考入了平涼隴東公立中學堂。1922年，中學畢業後，適逢隴東鎮守使張兆尹在青年學生中招募軍官，以圖擴充勢力，他便去應試並被錄取，後被派到北洋軍閥吳佩孚所辦的洛陽講武學堂學習軍事。在這個學堂裏已有共產黨秘密組織的活動，馬列主義的著作和一些革命進步的書刊時有秘密傳播。赫光讀了這些進步書刊，好似心靈上的窗戶豁然開朗，使他認識到中國的前途和出路在於推翻反動階級的統治，實行社會變革。1924年，他從講武學堂畢業，擔任吳佩孚部直屬機槍連連長，後升任迫擊炮營營長。在第二次直奉軍閥戰爭中，吳佩孚幾乎全軍覆沒。1924年冬，赫光僥幸從戰場上脫險，返回家鄉。他目睹鄉裏土匪橫行無忌，豪紳為非作歹，經濟蕭條，民不聊生，使他激憤難奈，立誌要尋求救國救民的真理。1925年冬，赫光被中共豫陝區委吸收為中國共產黨黨員。次年，又被派往高桂滋部開展兵運工作。
自從赫光等10多名共產黨員打入高桂滋部後，使這支部隊又增加了一批新生力量，帶來了許多新鮮的革命空氣。由於赫光有著講武學堂畢業的資曆，加之參加過戰爭的鍛煉，所以，高桂滋對赫光很器重，不久就任命赫光為少校參謀，直接參與一些軍機事務的處理。赫光利用這個合法的職務作掩護，以整頓為名，淘汰了一些兵痞，選拔了一些具有實戰經驗的老兵擔任骨幹，同時還介紹一些思想較進步的青年與共產黨員接近，以便對這些青年進行培養。經過赫光等共產黨員的出色工作，在一些連隊中逐步發展了一些黨員，並建立起秘密的黨的小組和支部組織。1927年，蔣介石發動了“四一二”反革命政變，大肆抓捕共產黨員，在高桂滋部隊中也開始進行清黨。我黨組織為了保存力量，決定將一些容易暴露身份的共產黨員撤出，留下一些便於隱蔽，有一些掩護條件的同誌，繼續堅持兵運工作，並指定赫光為高桂滋部中秘密黨組織的負責人。留在部隊的這些黨員根據黨的旨示，在極其艱難的白色恐怖環境中沉著應變，秘密地進行情報搜集與有關工作，有的黨員為防止暴露竟使用英語互相傳遞信息。不久，赫光與中共皖北特委書記魏野疇取得聯係，在特委的積極協助下，在這支部隊中又發展了一批黨員，使黨在高桂滋部的力量逐步得到恢複。
1928年4月，魏野疇與赫光共同研究，趁軍閥相互爭鬥，高桂滋部將從安徽阜陽向山東轉移，部隊軍心浮動管理放鬆之機，決定當部隊進入山東省金鄉縣一帶後，發動武裝起義。但由於組織不嚴密，加之準備倉促，起義未能成功，反而造成中共皖北特委書記魏野疇壯烈犧牲。從這個血的教訓中，赫光深刻認識到，要取得武裝起義的成功，就必須取得對該部隊一定的指揮權和控製權，必須把槍杆子切實掌握在共產黨員的手裏。為了達到這一點，赫光與一些黨員骨幹進行研究，一方麵要在中、下級軍官中，積極而穩妥地物色和培養一些思想比較進步，具有一定革命熱情的青年軍官，逐步發展成為共產黨員，或成為黨的外圍組織的成員。另一方麵，要想方設法，通過種種上層關係，使一些共產黨員能擔任營、連、排長的實職，逐步擴大黨組織對高桂滋部隊的控製權。赫光首先設法辭去了軍部參謀的職務，下到團隊當了一名營長（高桂滋部退駐山西後，隨著整體縮編普降一級，改任連長）。除此之外還通過多種形式和方法，展開思想發動工作，如通過“互濟會”、“讀書班”等等黨的外圍組織，吸收進步青年參加活動。有的利用同鄉關係“拜把子”等方式，聯絡感情，借機宣革命道理，啟發其階級覺悟，逐步發展了一些黨員。尤其是在中下級軍官中，共產黨員的數量逐步增加。至1930年，高桂滋部在平定縣駐紮時，部隊中的共產黨員已有五十多名，其中不少人都是中、下級的軍官，掌握著一定的兵權。