蒙古人認為自己是蒼狼和白鹿的後代。蒙古人在《蒙古秘史》中寫道：蒼狼和白鹿是成吉思汗的祖先，他們奉上天之命降生到人間。
然後共同渡過騰汲思，在斡難河源頭、不兒罕山前開始繁衍生息，生下了巴塔赤罕，即成吉思汗的始祖。
當然了，這種神話之說是蒙古族圖騰崇拜的表現，並不是蒙古族的真正起源。事實上，多數學者認為蒙古族源自東胡。東胡是春秋時期活躍在匈奴以東的大大小部落的總稱。也就是說，東胡的活動範圍大概在黑龍江的上遊額爾古納河一帶。公元前5至前3世紀，東胡各部還處於原始氏族社會發展階段，各部落過著“逐水草而居”的遊牧生活。
在差不多400年裏，東胡各部一直受製於匈奴。直到公元48年，匈奴分裂為南匈奴和北匈奴，勢力衰落。東胡後裔烏桓、鮮卑乘機而起。2世紀中葉，鮮卑趁漢朝擊敗匈奴之機，占據匈奴大片土地，建立起一個空前強大的鮮卑部落軍事聯盟。不久，鮮卑部落軍事聯盟瓦解。根據考古發現與漢籍中記載的有關鮮卑人的風俗習慣和語言，基本可以證明蒙古人與鮮卑人有淵源關係。
4世紀中，鮮卑部分裂為兩支。一支自號“契丹”，生活在潢水和老哈河流域一帶。另一支稱為“室韋”，居於興安嶺以西（今呼倫貝爾地區）。
到了公元7世紀時，“室韋”一支部落“蒙兀室韋”，即蒙古部，在他們的首領李兒帖赤那（成吉思汗的始祖）率領下，西遷來到今天蒙古高原的克魯倫河和鄂爾渾河流域遊牧定居。從此，肯特山地區成了“室韋”人活動的中心。
因為當時活動在蒙古地區的諸部分為“室韋”和突厥兩大部落。因為語係的不同，突厥人用“韃靼”這一名字稱呼所有的室韋部落。在突厥文史料中，稱室韋為“達怛”（韃靼）。
公元9世紀時，韃靼人開始大規模西遷，占領了回紇故地，並與大漠南北的各族人民雜居，其勢力一直擴展到陰山、賀蘭山和鄂爾惲河、克魯倫河流域。到了唐後期，韃靼聯盟已基本形成。
公元10世紀，契丹人順起於遼河上遊的西拉木倫河流域，並於公元916年建立契丹（後改為遼）政權。契丹人把韃靼各部稱為“達怛”或稱為“阻卜。他們不斷對韃靼各部用兵，並征服了韃靼各部，後來設府、衛、司等機構進行管轄。
隨著歲月的推移，韃靼各部人口逐漸增加了，舊有幾個部落又分衍出許多部落來。到12世紀時，大漠南北，東起今天的內蒙古白治區呼倫貝爾盟，西到阿爾泰山，北白葉尼塞河、貝加爾湖、額爾齊斯河，南至陰山山脈的廣闊區域內，分布了許許多多韃靼部落。
到12世紀未時，居住在蒙古高原上的部落差不多有100個左右。
這些部落強弱不一、大小不一，就是語言、宗教、民族、文化水平也不完全相同。不過，這時已形成了幾個大的集團：蒙古部集團、塔塔兒集團、克烈集團、蔑兒乞集團，以及乃蠻政權。其分布情況如下：
塔塔兒部他們的活動範圍在今呼倫貝爾盟一帶，主帳設在貝爾胡。
這時塔塔兒部分成六個小部，這就是：都答兀惕部、阿勒赤部、察罕部、忽因部、迪列土部、備魯兀惕部。這六部之間經常互相爭鬥，但當他們與其他部發生戰爭時，則團結一致對敵。金滅遼後，他們曾獻羊於金，與金保持了長期的臣屬關係。
克烈部，其牧地在今蒙古國境內的鄂爾渾河與土拉河之間。他們也分衍出許多小部。後來與成古思汗爭雄的克烈部首領王汗的祖父馬兒忽思，曾被塔塔兒部的首領俘送金朝，被處死了。
乃蠻部是當時蒙古各部中人數最多的一部，居住在杭愛山與阿爾泰山之間。乃蠻人大部分是突厥人種，又與文化發達的畏兀兒人為鄰，因而繼承了水平較高的突厥文化。他們有自己的文字，出現了農耕，並有自己的管理機構，設有掌印官。
蔑兒乞部謫謭譖譙譎分布於今貝加爾湖西南岸、色楞格河及鄂爾渾河下遊。
1206年，蒙古部首領成吉思汁統一大漠南北，“達怛”一名逐漸又被“蒙古”所代替，成為室韋諸部的總稱。從此，活動於這一地區的各遊牧部落逐漸形成一個民族共同體——蒙古族，並永久居住於此，其居住地也以蒙古高原聞名於世。
鐵木真的悲慘童年
公元12世紀，蒙古各部奴隸主相互挑起事端，燒殺搶掠，廣大蒙古牧民生活在水深火熱之中。這種情景的出現，不僅是蒙古各部奴隸主互相殘殺造成的，也是金朝統治的結果。金朝統治者為了防止蒙古的強大和侵擾，采取了挑撥蒙古各部關係、使之互相殘殺來對付。
他們先是利用塔塔兒部去攻擊蒙古部，後來又聯合蒙古、克烈部去攻打塔塔兒部，使蒙古各部之間本來就存在的部落複仇戰爭，連續不斷地打下去。
金世宗大定年間，金朝統治者還派兵剿殺蒙古人，稱為“減丁”，出征的金軍大肆擄掠蒙古人民，並把擄掠來的蒙古孩子充當奴婢賣給山東、河北的地主和官僚。在貿易上，金朝統治者對他們也有很多歧視和限製。因此，蒙古人民對金朝統治者恨之入骨。