中國回族先民來源於中東地區。回族作為民族共同體的形成，經曆了漫長的曆史過程。
（一）唐宋時期（公元618～1279年）回族先民產生
公元570～632年，穆罕默德在阿拉伯半島複興傳播伊斯蘭教，隨後建立了伊斯蘭穆斯林的國家。穆罕默德去世後，他的繼承者第一任哈裏發阿布·伯克爾（公元632～634年），統一了阿拉伯半島，並開始向外擴張。在以後的幾任哈裏發統治時期，繼續向外擴張，7世紀中葉征服了波斯，到8世紀中葉，建立了包括阿拉伯半島、敘利亞、巴勒斯坦、伊拉克、波斯、中亞、亞美尼亞、埃及、北非和西班牙等地的阿拉伯大帝國，當時的阿拉伯大帝國橫跨亞、非、歐三大洲。與此同時，伊斯蘭教也隨之帝國的勢力傳入世界各地。阿拉伯大帝國的使臣以及大批商人通過陸地絲綢之路、海上香料絲綢之路來到中國，他們不僅把伊斯蘭教傳入中國，有的還在中國定居、繁衍，他們就是最早的中國回族先民。
公元651年，唐朝貞觀年間（高宗永徽二年），據《唐書·西域傳》等史籍記載，穆罕默德的弟子撒哈八散阿的·宛葛思作為阿拉伯帝國正式遣派使者來華。兩國正式締交後，阿拉伯使節和“貢使”來中國不斷，有時一年一次，有時一年兩次。我國史書記載，僅在唐代，阿拉伯使臣來華次數就達37次之多。不被記載的民間商貿活動往來更加頻繁。唐至德二年（公元757年），阿拉伯人應唐蕭宗李亨的邀請，派十多萬軍隊前來幫助平定安祿山之亂。後來這些人留居在中國，也成了中國穆斯林先民來源的一部分。
在這段時期，唐朝人用“大食”這兩個字稱呼阿拉伯國家。大食是TaZi的譯音，原是一個波斯字。從唐永徽二年（公元651年）起，一直到蒙古人入中原止，中國朝廷及原住民都使用著這個名字稱呼唐宋時期的阿拉伯國家。對阿拉伯和波斯商人稱為“胡商”“蕃商”，對伊斯蘭教，唐宋朝代叫作大食法。唐代杜環撰寫的遊記《經行記》是我國最早用漢文記述伊斯蘭教教義的文獻之一，也是中國曆史上非穆斯林介紹伊斯蘭教最為扼要正確的記錄。該書較準確全麵地介紹了伊斯蘭教的基本信仰、禮拜、齋誡和日常生活上應該遵守的一些教義教法。可惜，《經行記》原書早已遺失。現在我們隻能從《通典》上引用《經行記》的幾段，共計105個字。從中略知其記述當時伊斯蘭教在我國的情況：
……“女子出門必擁蔽其麵，無問貴賤，一日五禮天。”“不食豬狗驢馬等肉，不拜國王父母之尊，不信鬼神，祀天而已。”“罪責自負，不相株連。”“法唯從寬，葬唯從儉。”……
唐宋時期在中國落戶的阿拉伯、波斯等國的穆斯林，主要集中在都城長安及沿海廣州、泉州、揚州及海南島一帶，從事香料、象牙、珠寶、藥材和犀角等類物品的販賣，並運回中國的絲綢、茶葉、瓷器和其他商品。在八九世紀時，阿拉伯、波斯商人的珍寶是較出名的，我國古書中所描寫的阿拉伯、波斯商人，都是藏有珠寶的富商，品質上乘的珠子一顆就可以賣很多錢，大的象牙重100多斤，犀角重10多斤，香料中的乳香是宋朝廷特別統購的專賣品。一直延續到一千年後，經營香料、藥材、珠寶，仍是我國回族的傳統行業。當時在中國的波斯商人並不比在中國的阿拉伯人少，隻是統稱他們為大食人或阿拉伯人罷了。隨著人口逐漸繁衍，這些商人很快就達到了五十多萬。他們在中國土地上建蓋清真寺，營造公共墓地，娶妻育子、繁衍生息，成為“土生蕃客”。
在8世紀的阿拉伯旅行家馬爾瓦則的《論中國突厥人與印度》一書中還記載了什葉派穆斯林大批進入中國的最早史實。大約在7世紀80年代，阿拉伯帝國內曾爆發了反抗伍麥葉王朝的武裝鬥爭，反抗主力是什葉派穆斯林。在這次反抗鬥爭失敗後，有一批穆斯林因逃避伍麥葉王朝的逼迫逐漸由西向東遷徙，來到中國北方，學會了當地語言，作了中外貿易的“牙客”（中介人）。而今天的回族中，做牛、羊、馬、幹果、古玩等中介行業“牙客”的人仍有很多，特別是在我國北方一帶。
五代至宋遼金夏時期，中原戰爭頻發，北方政權林立，交通頗受阻塞，但東南地區為兩宋控製之地，因而海上絲綢之路依然暢通，阿拉伯、波斯商人和使者繼續不斷地來到中國。他們建立了具有“政教合一”性質的蕃坊組織。它既是在中國大食人的社會管理機構，又是穆斯林的宗教組織。《蘇萊曼遊記》這部阿拉伯商人蘇萊曼遊曆中國的書中記載當時的廣州蕃坊：“其處有回教牧師（教長）一人，教堂一所，……各地穆斯林商賈既多聚廣府，中國皇帝任命伊斯蘭教判官一人，依回教風俗，治理教徒訴訟。……每星期必有數日專與教徒共同禮拜，朗讀先聖戒訓。終講時，輒與祈禱者共同為回教的蘇丹祝福。判官為人正直，聽訟公平。一切皆依《可蘭經》《古蘭經》、聖訓及伊斯蘭習慣行事。”
經過唐宋六百多年的發展，中國回族先民盡管有所繁衍，宗教習俗盡管始終不變，但還遠遠沒有形成民族共同體，他們還缺少同族之間的政治聯係，也沒有得到必要的政治地位，中國唐宋政府對“蕃客”的政治活動限製也很嚴格，然而這些“蕃客”的“僑居”觀念也較濃，在當地廣大的中國原住民眼裏他們仍然是“蕃”與“客”。
（二）元代時期（1271～1368年）回族共同體初步形成
元代是伊斯蘭教在中國發展的黃金時期，這一時期回族人數增長發展比較快，主要原因是成吉思汗的三次西征，也是中國對外大開放時期。
成吉思汗統一蒙古各部後，帶領其子孫進行了三次西征（1219～1225年，1235～1242年，1252～1260年）。
蒙古人征服了蔥嶺以西、黑海以東的穆斯林集聚生活地區，征服了中亞、西亞各國，包括哈薩克斯坦、土庫曼斯坦、吉爾吉斯斯坦、塔吉克斯坦、烏茲別克斯坦、阿塞拜疆、巴勒斯坦、敘利亞、以色列、約旦、黎巴嫩、伊拉克、土耳其、埃及、伊朗、阿富汗、巴基斯坦等國家和地區，一直進入到了當時伊斯蘭的政治、文化、經濟中心伊拉克的巴格達。
西征中，蒙古軍隊每攻克一城一地都要俘掠工匠和婦孺為奴，並簽發征調青壯年充軍。這樣，隨著每次戰爭的勝利，一批批中亞、西亞各地各部落和各王國的工匠、平民、軍士以及一些降將、貴族和學者等，都被迫簽發或安置到中國從事各種工作，這些人多達數百萬。
同時，大批阿拉伯、波斯和伊斯蘭化的突厥人被編入蒙古軍隊，成為中國曆史書中“西域親軍”“回回軍”“探馬赤軍”等部隊，他們參加了統一中國的戰爭。他們戰時從征，平時就地屯墾牧養，過著亦軍亦民的生活。他們分駐各處，以西北陝、甘、寧居多，有的則遷征西南、江南、中原各地。他們定居以後根據每個人的特長和特點，有的充當職業軍人，有的從事手工業、農業和商業活動，也有少數人入仕做官。總人數規模大大超過了唐宋時期的“土生蕃客”。
隨著蒙古帝國的建立，保證了商路運輸安全。蒙古人建立了中國與西亞來往的通道。安全良好的經商環境對鼓勵商業活動起到了很大的促進作用。一時中西交通敞開，商旅往來不斷。陸上絲綢之路和海上香料之路都暢通無阻，極大地促進了東西方之間，特別是中國與中亞、西亞之間的經貿文化交流。
這一時期來中國的中東地區移民，不僅數量大，而且絕大多數是信奉伊斯蘭教的穆斯林，他們有一定的社會政治地位，在中國回族形成的過程中，比唐宋時期的中國回族先民（“土生蕃客”）占有更重要的地位。唐宋時的回族先民穆斯林主要活動於大中城市及交通要道。元代的回族先民穆斯林則分散深入到中國各地的大小城市、鄉鎮、農村，其社會活動遍布各行各業。蒙元時期是信奉伊斯蘭教的穆斯林回族先民大批定居並落籍中國的時期。
元代在創建過程中，許多回族將領在蒙宋戰爭中建立了戰功。蒙古人忽必烈汗即位後，起用了一大批回族傑出人物，政治家有阿合馬、賽典赤·贍思丁等，製炮兵器師有阿老瓦丁、亦思馬因等，工程技術專家有也黑迭兒丁等，天文曆法家有紮馬剌丁等。
元代憲宗蒙哥二年（1252年），元朝首次正式成立“回回戶”，這標誌著中國回族先民的“蕃客”地位發生了根本性轉變，即由“客”變“戶”，正式被當朝政權承認，成為中華民族大家庭中新的一員。到元世祖中統四年（1263年）時，僅中都（今北京）的回回戶即達2953戶。元代，“回回”一名詞開始代替唐宋時期“大食人”的稱呼。“回回”一詞最早在北宋沈括《夢溪筆談》和南宋彭大雅《黑韃事略》中出現。“回回”一詞的概念從元代初期開始增加了種族的含義。