蘭州和西寧以至青海全境相繼解放，“青馬”全軍覆沒，馬步芳祖孫三代數十年苦心經營的割據天下，隨蔣介石的失敗而告終。馬步芳是其家族中位子爬得最高、擁有兵力最大和攫取最多的一個，因而也是受打擊最重、失敗最慘、輸得最多的一個。以他的倔強性格，其沮喪程度，可想而知。他攜眷逃至重慶不久，又飛抵廣州，向代總統李宗仁請罪，並報告失敗的經過，同時告假，要去阿拉伯朝覲。已逃到台灣的蔣介石電令他前去，他到台灣後，蔣介石令他不要出國，要他重返西北，收招軍隊，繼續與解放軍作戰。他卻借口要先安排家眷，飛返廣州。9月中旬，馬繼援、馬步康、馬步鑾、馬馬錄、趙瓏及其家眷飛至廣州，馬步芳親自到飛機場迎接，分別安置在愛群酒店和清真寺暫住。一個月後，辦妥出境手續，一同飛抵香港，住山光飯店。此時，馬步青也帶其三個妻子及兒子、兒媳等10餘人飛至香港，住進在英皇島已買好的二幢房子，過起了寓公生活。此外，部分隨來的人員，如趙瓏、二醜、謝剛傑、高文遠、馬璋等也多購置了地皮，臨時蓋起了房子，暫且棲身。馬氏忠實心腹冶成榮因與馬氏分金不均，公然翻臉，從此分手；冶即自謀新路，開始從商。馬步芳嶽父馬妙如及其子馬全禮不願漂流異地，經與馬輔臣聯係，返回了大陸。馬全義、趙瓏、趙珮、高文遠等去了台灣。這是其“團體”在敗逃後的一次分化。另外，蔣介石派吳忠信專程由台來港，對馬步芳進行遊說，勸他去台，共圖“複興”大業；馬仍不肯去台，最後推托不過，隻好讓馬繼援去台。蔣也同意他先去朝覲。
1950年初，馬步芳率家小及馬步康、馬步鑾、馬步龍、馬步鼇、馬馬錄、馬繼融、馬步瀛及其家屬等，分乘歐亞航空公司4架包機飛抵伊斯蘭聖地麥加朝覲，作了伊斯蘭教最隆重最莊嚴的祈禱，履行了穆斯林教徒終生向往的宗教儀式，朝覲活動持續3個月之久。馬步芳並以政府官員身份晉見了沙特阿拉伯國王。國王對這位流亡將軍表示關懷，並派幾部汽車供其備用。馬步芳禮謝，自己買了兩部汽車，並在麥加城一家旅館住宿。但其地氣候炎熱，久居中國西北之人很不習慣，朝覲畢，馬步芳等即去沙特的塔乙夫避暑，不幸其三弟馬步瀛竟中暑身亡，步瀛之藏族小妻也辦理了離婚手續，另行改嫁，這對馬步芳是又一次打擊。料理完其弟的喪事，馬步芳一行到了阿拉伯著名海港準德城，這裏的國民黨領事館還保留合法地位，在臨時代辦王嘉祥和其侄馬躍武的安排下，馬步芳決定到埃及開羅定居，並通過此2人在開羅買了房子，辦理了入境手續。1950年5月，馬步芳一行乘輪船渡過紅海到達開羅，由王嘉祥陪同晉見了埃及國王，獲得在埃及僑居的許諾。此後，便在開羅郊外的馬爾地住宅區33號居住。他在此買了二幢樓房，一座大樓共9層，為家屬親眷及隨行人員居住，一座二層小樓為馬步芳及其妻子居住。買了3部汽車，雇用了一個會做中國菜的埃及廚師。還請了2名阿拉伯阿訇，幫助他們補習阿文、講經和讀報。後來又為各家親屬子女辦起了一個私人學校，請人幫助他們學習英文。“我把黃金一拉走，到哪兒都是揚州。”馬步芳說的這句話，看來真的沒有錯！但此時的馬步芳大有看破紅塵，遁入空門之意，他閉門不出，專心於伊斯蘭經典，並讓馬步康、馬步鑾、馬驥等每日陪他念經。還佯稱其妻病重，發電報催馬繼援來埃及看望母親，馬繼援飛抵開羅後，他便不再放行。不久，馬呈祥從新疆轉道印度也趕到開羅。馬步芳向其子侄宣稱，他此生再不做事、不做官，將來死後，就埋在此地。可是，蔣介石還想“借重”於他，從台灣給他彙來1萬元美金，作為其生活津貼，還多次來函來電或派人來開羅看望，希望他及他身邊師以上軍政人員盡早返台，又提出在阿拉伯或埃及大使一職中任他挑選出任，他都表示拒絕。