12世紀初時，南宋偏安東南一隅，對中亞、西亞諸國了解甚少，主要通過從事海外貿易的商人得知一鱗半爪。而蒙古人則與中亞穆斯林通過陸上往來關係甚密。早在成吉思汗初起時，就有賽夷(即Saiyia，“聖裔”)人紮八兒火者來投，與王罕戰時和成吉思汗共患難，同飲班朱尼水。西征前成吉思汗與中亞的貿易也是通過穆斯林商人進行的。公元1218年春，成吉思汗派往花剌子模的花剌子模人馬哈木、不花剌人阿裏火者、訛答剌人玉素甫·坎哈都是穆斯林，隨後組成的450人蒙古商團也全部是穆斯林，他們在訛答剌被扣押和殺害，因而直接導致了成吉思汗的西征。用畏兀兒體蒙文寫成的《蒙古秘史》(即《元朝秘史》)把畏兀兒以西稱為回回地麵或回回國，非常得當。如第177節：“你(王罕)走入乞塔(即契丹)種古兒罕的回回地麵”了；第257節：“兔兒年(1219年)，太祖去征回回。”此“回回”是指花剌子模國。
現存的《元朝秘史》是明初回夷館的漢文本，即用漢字音寫蒙古語原文，逐詞旁注漢譯。“回回”兩字的蒙古語漢字音寫為“撒兒塔兀勒”，這是當時蒙古人對中亞信奉伊斯蘭教的各族的專門稱呼。直到南宋彭大雅、徐霆分別於1232年和1235~1236年隨奉使到蒙古考察後，才得知蒙古已征服了中亞許多國家，回南宋後寫成《黑韃事略》一書(彭稿為正文，徐霆作注釋)，才弄清蒙古征服了哪些國家，哪些屬於“撒兒塔兀勒”並把“撒兒塔兀勒”翻譯成為“回回”，於是“回回”概念發生了巨大的變化。如書中對已破未破諸國寫道：其殘虐諸國已破而無爭者：西北曰奈滿或乃滿、曰烏鵒、曰速裏、曰撒裏達、曰抗裏(原注：回回國名)；已爭而未竟者：西北曰克鼻稍(原注：回回國，即回紇之種)值得注意的是，上述國名中的“撒裏達”，即《蒙古秘史》之“撒兒塔兀勒”，《事略》又稱之為回回國；而抗裏(康裏)、克鼻稍(欽察)兩個信奉伊斯蘭教的突厥部人也稱為回回國；在對克鼻稍的注釋中有“回紇之種”四字，表示彭、徐二人已把“回回”與“回紇”作了嚴格的區分。
這裏，我們必須先弄清楚蒙古國初期蒙古人使用“撒兒塔兀勒”這一詞的意義。著名中亞史學家巴托爾德解釋了這一問題：在蒙古人看來，Sartg或Sartagtai與其說是表示某一民族的人的意思，不如說是表示某種文明類型的人的意思。成吉思汗曾任命把歸順他的第一個伊斯蘭教徒君主即哲第蘇北部的割祿(即葛邏祿--引者)人阿廝蘭汗稱為Sartagtai。雖然從語言方麵看來割祿人不是伊朗人。而是突厥人。同樣的語感Sart在蒙古人間還構成為Sartaghul或Sartaul一詞，即是早在成吉思汗時代就開始使用了。後來剌失德丁使用這個詞Sartaul作塔吉克意義用，伊賓、穆罕納則用作“回教徒”的意思。（巴托爾德：《中亞突厥史十二講》，中譯本，北京：中國社會科學出版社，1989年，第133頁。）
所以，最初蒙古人把信奉伊斯蘭教的穆斯林稱為“撒兒塔兀勒”，即“某種文明類型的人”。當時他們並不知道中國本土還有那麼多穆斯林，所以“撒兒塔兀勒”從地域上來說開始時也隻是西遼、花剌子模這些地方。隨著蒙古征服地區的擴大，他們才知道欽察、報達(巴格達)以西地方也是“撒兒塔兀勒”；蒙古人進入華北漢地以後，大批“撒兒塔兀勒”人隨軍東來，或在軍中服役，或為工匠，或經商，彭大雅、徐霆早在12世紀30年代就看到燕京城裏有許多回回人，或者當時民間已經把這些來自中亞各地的穆斯林稱為“回回”了，故他們在《黑韃事略》裏正式使用了“回回”這個名詞。現在見於官方文書中正式使用“回回”這個名詞的是憲宗蒙哥的聖旨。王惲在《烏台筆補》中寫道：早得欽奉先命聖旨節該：斡脫做買賣、畏吾兒、木速兒蠻回回，交本處千戶、百戶裏去者。（王惲：《秋澗先生大全集》卷八八。）“木速兒蠻”即穆斯林，“回回”就是信奉伊斯蘭教的人。
元代實行四等人製和戶籍製度。四等人製是按種族劃為四個等級，第二等色目人中種族很多，其中包括回回；戶籍製度主要按職業(包括宗教職業)和種族把居民劃分為許多種類，“回回戶”是其中之一。這樣，“回回”的概念從元初開始又增加了種族的含義。