3萬年前的原始社會，縣境南部水洞溝一帶，生活著原始社會人群，利用石料打製和加工多種石器工具，製作工藝裝飾物品。縣境高仁鎮泉子灣出土5000年~7000年前新石器時代遺址。
夏商周時期，縣境鄂爾多斯台地腹地為北方遊牧之地，是中原農耕區與北方遊牧區的重要分界和戰略通道。生活著少數民族、戎狄部落遊牧民。
秦始皇二十六年（前221年），全國分為36郡，境地屬北地郡富平縣。
秦始皇三十三年（前214年），秦始皇命大將蒙恬率30萬士卒“北逐匈奴取河南地（今黃河河套南部）”，“自榆中並河以東屬之陰山，以為四十四縣，城河上為塞”。在境地南黃河東側築軍事要塞“渾懷障”，今兵（冰）溝西南。此時，境地南部移遷中原人口。
秦二世元年（前209年），陳勝吳廣起義後，中原地區處於戰亂，北方匈奴單於頭曼南下奪取“河南地”“秦所徙戎者複去”。遷徙在境地南部的中原人口相繼離去。
西漢元朔二年（前127年），漢武帝派衛青擊匈奴，收複“河南地”。複繕秦築渾懷障，設渾懷都尉治之。
南北朝的太和年間（約477年），境地南部遷徙山東移民10萬餘，在秦築“渾懷障”故址置曆城郡建安縣，西魏屬臨河郡。
隋開皇十八年（598年），改建安縣為廣潤縣。
隋仁壽元年（601年），改廣潤縣為靈武縣。
唐武德五年（622年），靈武縣治所由“渾懷障”南遷胡地城（今靈武市境內），古城遂廢。
宋鹹平四年（1001年），宋、夏靈州大戰，初戰於境地兵（冰）溝。
元天聖二年（1024 年），西夏黨項在省嵬山下（今紅崖子鄉境），修築防禦諸蕃軍城“省嵬城”。
元武宗至大三年（1310年），在察汗腦兒設宣慰司，管理鄂爾多斯（轄今陶樂境地）。
明成化十年（1474年），在境南與靈武交界處修築河東牆———明長城。
嘉靖十五年（1536年），在境地修築長堤一道，北起紅崖子都思兔河，南至橫城，沿黃河縱貫全境。
清乾隆四十九年（1784年），黃河改向西流，將河西平羅東永惠堡部分地區甩到河東，因而與河東蒙古鄂爾多斯發生地界爭端。
乾隆五十年（1785年），朝廷派員前來勘定，以黃河舊流之地為界，釘樁立碑，在今五堆子鄉境內立“漢蒙界碑”五通，界內南北長18 公裏、東西寬4 裏，屬平羅管轄，稱“內五堆子”，界外屬鄂托克旗轄，稱“夷五堆子”。
是年，在五堆子開渠一條，長2 公裏，為境地第一條引黃河自流灌溉渠。初名為五堆子小渠，後經數次上移渠口下延渠尾，先後改名為曹家渠、利民渠。
鹹豐十一年（1861年），譚氏人（平羅姚伏人）在沙拐開口挖渠，以灌河灘地，為境內第二條自流灌渠。初名譚家渠，後經多次擴建，上伸下延，全長66公裏，定名惠名渠。
光緒二十七年（1901年），黃河東移，河壩被衝刷20 公裏，惠民渠渠身多處被衝斷，“屢修屢圯，數年全廢”。
光緒二十八年（1902年）鄂托克旗報墾地段中，有境地的白銀套海、紅山嘴（即今紅崖子）、五堆子、月牙湖。
宣統元年（1909年），始建查漢埂龍王廟。