西晉王朝建立後，政治日趨腐敗，到惠帝時，統治集團內部爭權奪利，互相殘殺，進而演變為“八王之亂”。這場凶殘的大混戰，使社會生產遭受到空前的大破壞，從而極大地加深了各族人民的痛苦。加之天災頻繁，罕見的大饑荒迫使數百萬計的農民背井離鄉，隨處覓食，成為無業流民。
此外，自東漢以來內遷的少數民族，因不堪忍受漢族地主和西晉統治者強迫他們交納重稅、服兵役、徭役的痛苦，也紛紛舉行暴動，並和越來越多的流民相呼應，從而形成了各族人民反對西晉殘暴統治的起義鬥爭。
但是，一些少數民族首領如匈奴貴族劉淵等人，就竭力把各族人民的起義鬥爭引向民族仇殺，使之成為各族統治階級之間爭權奪利的戰爭。永興元年（304年）劉淵在左國城（今山西離石）起兵反晉。永嘉五年，匈奴軍破洛陽，擄晉懷帝。建興四年（316年），匈奴貴族劉曜引軍圍長安，迫使湣帝出降，西晉就這樣滅亡了。
從永興元年劉淵起兵反晉稱漢王起至太延五年（439年）北魏統一北方止，各族統治者在這135年間，先後在北方和巴蜀建立的割據政權有成漢、二趙（前、後）、三秦（前，後、西）、四燕（前、後、南、北）、五涼（前、後、南、北、西）和夏，曆史上稱“十六國”。實際上，還有漢人冉閔建立的魏、鮮卑貴族慕容泓建立的西燕和拓跋猗盧建立的代國。過去史書上將冉魏附於後趙，西燕附於後燕，代國因為是北魏的前身，所以，都不計算在十六國之內。