在蘭州戰役潰敗後，馬呈祥整編騎兵第一師與八十二軍的通訊聯絡中斷，直到8月28日，馬呈祥接到潰逃至酒泉的劉呈德和陳秉淵的來電，得知蘭州已經撤退，八十二軍殘部一路潰敗的消息，他知道援蘭入關進行主力“決戰”的作戰計劃已成泡影，隻好停止了軍隊每日一次的整裝出發演習，隨後，又將停在師部駐地老滿城操場內待命的百餘輛大道奇卡車分散。
其時，中國人民解放軍第一集團軍沿河西走廊神速西進，駐新疆的國民黨部隊，已麵臨重兵壓境、腹背受敵的嚴重威脅。
當時，以新疆主席包爾漢、警備總司令陶峙嶽、副總司令兼整編四十二師師長趙錫光、迪化師長屈武等軍政首腦，在張治中先生的勸導下，謀劃和平起義。但是，整編騎兵第一師師長馬呈祥、曾任過蔣介石侍從長的整編七十八師師長葉成、一二八旅旅長鍾祖蔭、一七九旅旅長羅恕等人，自恃握有較強的軍隊力量，他們與省政府秘書長艾沙、公安局長劉漢東等相勾結，極力主張在新疆決戰，甚至有人妄想與前省主席麥斯伍德的勢力聯合，糾合烏斯滿部，共同反共，妄圖成立“東土耳其斯坦”，使新疆脫離祖國。
陶峙嶽將軍頻繁召開軍政首腦會議，協商起義的同時，又對實力較強、能左右新疆局勢的馬呈祥，進行耐心細致地說服工作，苦口婆心地勸導他棄暗投明，參加起義。如果他願意離開軍隊出國，隻要他不對和平起義作梗，對他的出國行動將給予諸多方便。
正在這時，馬呈祥收到了馬步芳從廣州拍來的電報，主要談的是騎五軍的薪餉事。馬呈祥的老婆王士蘭也同時發來電報說，他們已離開青海抵達廣州，老父懸念其安危，催促馬呈祥設法離新到穗團聚。
馬呈祥立即複電說，他已決心離開軍隊出國。以後，馬呈祥還與馬步芳有過幾次電報往還，但這些電報都未通過譯電組譯發，而是叫譯電員去麵譯的。事後有人透露，馬呈祥發出的這些電報，都是表達離新出國的決心，同時向馬步芳請示部隊如何處置，以及師、旅、團長等人選調換事宜。
到了9月中旬，馬呈祥在決定外逃之前，對師部駐地加強了防衛警戒。他先調騎六旅韓雲鵬同駐迪化市南關一帶，後又在師部駐地老滿城南麵的妖魔山上設卡警戒。在夜間，由參謀長張五美等高級人員巡夜查哨，以防備來襲和軍隊內部嘩變。
9月末，馬呈祥召開團以上軍官會議，選定韓有文接任騎一師師長，並舉行了就職宣誓儀式。
之後，又隨即分配財產，馬呈祥給上校以上各軍官饋贈銀元五百至一千元，師、旅長三人各另給一部大道奇卡車。另外將一部大卡車及一部美式放映機和一台油印機，令副官交售給省政府，其售款共得五十餘兩黃金，兌成新疆紙幣分散給師部中下級軍官。
到了9月下旬，參謀長張五美忙著選拔、組織護衛隊。馬呈祥的住宅小院，不時有卡車進出。人們猜測，卡車運來的是金子，或者是陶峙嶽將軍送來的出過路費。後證實，確實有一卡車運來銀幣五萬元，是陶峙嶽留給部隊集體回家的路費。
同時，馬呈祥把自己的美製福特牌小汽車也賣給了省政府，給師部各處室少校以上軍官，各贈半身照片一張。眾人根據這些跡象判斷，馬呈祥出走的行期不遠了。
9月23日，一向深居簡出的馬呈祥召集師部官佐到他的住處開會。
等大家在那幢四周是草坪的俄國式白房子前列隊站好後，身穿美式皮卡衣的馬呈祥步履遲緩地從門洞走出來，站在門口的石台階上。
這日天氣晴朗，秋末溫暖的陽光照耀著大地，草坪裏的草色依然青蔥翠綠。隻是，草坪裏的白樺樹的葉子已經變黃。起於漠北的秋風吹過，金黃薄脆的枯葉便紛紛從枝頭掉落下來。
馬呈祥的臉色蒼白，精神抑鬱，他舉手對大家敬禮表示致意後，便用低沉的語氣說道：“時局變化太快，真出乎人意料……我決定離開新疆出國，我不走不行，因為我們和共產黨積怨太深，共產黨必不會放過我和馬長官的。”
講到這裏，馬呈祥的聲音有點發顫，他說道：“我把成千上萬的河湟子弟帶到新疆來，今日卻不能照舊帶回青海，不得不丟下大家，隻身出國……”這時，馬呈祥的語音更低沉了，昔日軍長的威嚴神態一點也沒有了。
沉默稍許後，馬呈祥又說道：“今後由韓有文師長領導大家，希望大家很好地團結，服從韓師長的指揮，等待機會，以團體掩護個人集體回家。這個，我已請求陶峙嶽司令員轉請張治中先生，對想回家的人多給予方便和照顧。陶總司令說，願走者走，願留者留，路各不同，友誼長存。他前天已經送來了給大家的路費。再見！”說完，馬呈祥又舉手行禮之後，轉身急步走進了門洞。
當晚，馬呈祥在衛隊的護送下秘密潛赴約定的集合地點南梁，等待其他外逃人員。
9月24日淩晨五時，護衛隊從南梁整隊乘車出發。
馬呈祥身穿一套下級軍官的草黃色棉衣，神情沮喪地登上吉普車。在護衛隊的護送下從南梁起程倉皇出逃。六十名護送人員，都是挎一支駁殼短槍，持一把衝鋒槍，分乘兩輛卡車，一車在前，一車斷後。馬呈祥等人所乘吉普車居中。