另一種說法，成吉思汗的墓地在斡難、怯綠連、禿刺三水發源之不兒罕合勒敦諸山之一山中，可是這山既沒栽樹，又無標誌，群山莽莽，四顧茫茫，哪裏尋覓呀！為了祭祀成吉思汗，後來的蒙古人為他建立了一座馬背上的陵園：八白室。
還有一種說法是，因不能請出金身，於是造長陵共仰庇護，於彼處另立白屋八間，在阿爾台山陰、哈岱山陽之鄂托克地方建立陵寢，號為索多博克達明成吉思汗。其後遂留傳至今。由這八間白屋構成的成吉思汗陵，簡稱為“八白室”。這個初期陵寢所在之地與原葬地起輦穀相隔非常遙遠，當是為了保守葬地秘密之故。“八白室”的建築形式就是八個蒙古包形的帳殿，分別供奉成吉思汗等八人。一是成吉思汗本人，二是孛兒帖夫人，三是忽蘭夫人，四是也速夫人，五是速幹夫人，六是別裏古台，七是哈撒爾，八是其子拖雷和夫人。這一說法雖無確考，但尚有一定道理。
元朝建立以後，仿曆朝先例在大都建立了太廟，太廟之內仿照“八白室”的製度。元代史書上說，至元三年冬十月丁醜，太廟成，命平章趙壁等集群臣議，定為八室。在元朝一百年的統治時間裏，一直是按照八白室的製度進行祭掃的。
但馬背上的陵寢也終於有落地的時候，現在我們所熟悉的成吉思汗陵的修建大約可分為三個時期。第一個時期是“八白室”的創置時期，從1227年成吉思汗死後到明朝前期。這時期成陵的位置，並無準確地點，隻能按早期文獻所記的那樣，認為是在阿爾泰山和肯特山之間的高原上。
第二個時期是原來守護過成陵的鄂爾多斯部於明初（約14世紀中葉）出現在蒙古草原以後，到天順年間（1457～1464年）鄂爾多斯部進駐到今天伊克昭盟的時候，這時成吉思汗陵也隨之遷來。“八白室”供奉在濟農（親王）的牙帳近旁，可能經常轉移，無有定處，以在王愛昭的時間較多。
第三個時期是清初順治六年（1649年）左翼中旗的劄薩克額璘臣被封為多羅郡王以後，便把“八白室”遷到了他的封地“郡王旗”內，以便自己稱尊和利用祭陵活動抬高自己的地位。“八白室”所在的地方遂命名為伊金霍洛。自此以後，雖然更換過多次盟長，但成吉思汗陵的位置再未更動過，距現在已經300多年的曆史了。清乾隆時起，伊克昭盟陸續準許漢族農牧民遷入，每年祭陵時還在附近舉行那達慕大會，不僅是蒙族人民的盛大節日，而且也有漢族和其他民族人民參加，觀禮和貿易者絡繹不絕。成吉思汗陵地同時又成了蒙、漢各族人民經濟、文化交流的場所。
1939年後，成吉思汗的靈柩曾先後遷移到甘肅省榆中縣興隆山和青海省湟中縣塔爾寺。1954年，人民政府根據內蒙古人民的要求，又將成吉思汗靈柩由塔爾寺迎回伊金霍洛旗，並在這裏興建了新的陵園。多年來成吉思汗陵園一直由專門擔任守護的達爾浩特護衛著，如今是他們的35代子孫。現在每年舉行4次祭祀成陵活動，特別是夏曆3月21日為傳統的祭奠日期。隨著對外開放的發展，這裏已成為一個著名的旅遊景點。
新修建的成吉思汗陵位於甘德爾敖包上，陵園長15公裏，寬30公裏，占地225平方公裏，陵寢由三座蒙古包式的宏偉殿堂組成，分正殿、東殿、西殿和後殿，四殿相互連接。殿頂呈圓形，房簷都用金黃色、藍色琉璃瓦鑲嵌砌築，顯得格外輝煌壯觀。
正殿高達26米，踏入殿門，大殿正中敬奉著一座5米高的成吉思汗巨大塑像。正殿是祭祀活動的中心。蒙古人民對成吉思汗十分崇拜，按蒙古族習俗，每年夏曆3月21日為春祭，5月15日為夏祭，9月21日為秋祭，10月3日為冬祭。其中春祭最為隆重，這一天，蒙古族人民從四麵八方來到這裏，獻上哈達、煉燭、焚香，把最聖潔的祭品擺上供桌。祭祀由世襲的祭陵人來主持，十分隆重。祭祀儀式結束後，還舉行賽馬、射箭、摔跤等體育活動。成吉思汗的靈柩是一個長3尺3寸、寬1尺、高1尺4寸的銀棺，銀棺外麵鏤刻著薔薇花紋。平時銀棺用銀鎖鎖著，隻有在夏曆3月21日春祭時才打開一條很小的縫隙。銀棺放在一個方形的石台上，棺前的桌子上排列著蠟台、香爐、酒杯、銀碗等銀質的祭器。銀棺前有蒙文對聯。
後殿有巨大的成吉思汗靈包，上麵覆蓋著黃緞。成吉思汗的三位夫人的靈柩，分別放在兩邊的靈包裏。