北魏末年轟轟烈烈的各族人民大起義，雖然沒有直接推翻北魏的黑暗統治，但它也被打得七零八落，名存實亡。政權落入了鎮壓起義軍的劊子手爾朱榮手中。
爾朱榮，字天寶，北秀容（今山西朔縣北）人，他的祖先居住在爾朱川，因以為姓。他家世代為第一領民酋長，他的高祖爾朱羽健曾率契胡武士，幫助拓跋珪攻取中山，可見爾朱氏是契胡酋長。因功受封北秀容方圓三百裏之地，擁有無數牛馬羊。每到朝廷作戰，便向朝廷獻出大量戰馬，深受朝廷賞識。
爾朱榮智謀過人，一表人才，善於射獵和陣法，號令嚴明。他見北魏朝政日益腐敗，便暗地裏廣結豪傑死士，招兵買馬，擴充實力。他幫助北魏朝廷抵抗過柔然，鎮壓過內附牧民的反抗，還打敗敕勒人斛律洛陽和費也頭牧子的聯合起義，朝廷封他為安北將軍、鎮北將軍，封博陵郡公，在防禦鮮於修禮、杜洛周起義軍時，又升官為車騎將軍、儀同三司、大都督。
528年（武泰元年），孝明帝元詡為了和母親胡太後爭權，密令在並州的爾朱榮出兵，想利用他迫使太後交出兵權。爾朱榮正在尋找進軍洛陽的機會，得到密詔後，火速起兵。大軍行到上黨（今山西長治），又忽然接到皇上詔令，禁止他入京。皇上出爾反爾，爾朱榮大惑不解，正在猶豫之時，傳來胡太後令寵臣鄭儼、徐紇毒死親生兒子皇上元詡的消息。爾朱榮借此機會，攻進洛陽。他立元子攸為孝莊帝，把胡太後和她所立的三歲小皇帝元釗在河陰（今河南孟津東）沉入黃河。並將文武百官兩千多人一同殺死，曆史上稱為“河陰之變”。
孝莊帝隻不過是爾朱榮手上的傀儡，爾朱榮為督都中外諸中事、大將軍、太原王，封他的同黨並州刺史元天穆為上黨王，朝廷一切大權都落在爾朱氏集團手中。
孝莊帝元子攸不甘心當爾朱榮的傀儡，於530年（永安三年）誘殺了爾朱榮。他弟弟爾朱兆等起兵為爾朱榮報仇，攻陷洛陽，殺掉元子攸，立元恭為帝，即節閔帝，於是，爾朱天光控製關右，爾朱兆占有山西，爾朱仲遠擁有徐充之地，爾朱世隆掌握朝廷，形成爾朱氏割據的局麵。
爾朱氏在各地極不得人心，他們燒殺搶掠，無惡不作，尤其是對鮮卑人大加殺戮，對其他民族也極其殘暴，所以得不到任何人的支持，顯得十分孤立。在這種情況下，出現兩位亂世英傑，高歡和宇文泰，將爾朱氏徹底消滅。
高歡，字賀六渾，是個漢人。他的祖籍是渤海蓚（今河北景縣南），他的祖父因犯罪被發配到北邊懷朔鎮充兵戶。高歡就出生在這個兵戶之家。懷朔鎮的人口以鮮卑人為主，高歡從小就生長在這樣環境中，並在姐夫鮮卑族尉景家中長大。他又娶了鮮卑人婁內幹的女兒為妻，生活習俗及語言都鮮卑化了，所以說他是鮮卑化的漢人。
府戶出身的高歡幼年生活十分貧困，他作為鎮兵，生活在最低層。後因妻子家有錢，才購買了馬匹，被鎮將提拔作了隊主，不久又改任函使。函使就是從邊疆向首都洛陽傳遞公文的小軍官，就是通訊員。他當了六年函使，這是他人生的重要階段。他往來於京城和邊鎮，南來北往，到過許多地方，開闊了他的眼界。他既看到洛陽城內王公貴族的奢侈享受，也看到各地百姓衣不蔽體、食不果腹的痛苦生活。政治的黑暗與腐敗，人民的不滿和反抗，使高歡對北魏政府失去了信心。一次，他送信到洛陽，令史麻祥給他吃肉，他就坐下來吃，麻祥認為這是對他不尊敬，打了他四十大板。高歡的自尊心受到極大損傷，回鎮後，便立誌做一番驚天動地的事業，澄清天下。他廣泛地結交有誌之士，毫不吝惜自己家財去幫助誌同道合的朋友，這些人成為他後來馳騁天下的左膀右臂。
六鎮起義爆發後，高歡和他的朋友們參加了起義。起義失敗後，高歡投到爾朱榮的旗下，成為爾朱榮的得力幹將和心腹。爾朱榮曾對爾朱兆說：“我要是不在了，恐怕你統率不了這支隊伍。能夠頂替我的，隻是那賀六渾（高歡的字）！小心點，別讓他穿上你的鼻子，當牛騎。”
爾朱榮死後，爾朱兆繼承其位。當時爾朱兆管轄的隊伍除契胡軍外，還有二十多萬六鎮軍民。這是邊鎮義軍被鎮壓後的殘餘力量，他們與爾朱氏矛盾很深，經常起來反抗。高歡利用他們與爾朱氏的矛盾，挑撥離間，將六鎮軍民的領導權控製在自己手中，並將他們帶到太行山以東的河北地區，成為他起家的資本。
高歡來到河北地區，擺脫了爾朱兆的控製。為了能更好地控製六鎮軍民這支隊伍，使他們為自己效力，同時又能在河北站穩腳跟，取得當地人的支持，他對六鎮軍民極力拉攏，對他們自稱鮮卑人，說鮮卑話，並從他們中選拔人才，組成一個以懷朔人為核心的六鎮軍事領導核心。高歡為拉攏河北漢族士族，減少漢族人民的敵對情緒，他自稱是渤海高氏的後代，並認當地大族高乾兄弟為本家，按行輩以叔侄相稱。高歡令部下一律用鮮卑語，但隻要高乾兄弟在場，便說漢語。因此取得了河北大族們的支持。他下令六鎮軍隊不許欺負漢人，他對部下說：“漢人是你們的奴隸，男的為你們耕種，婦女為你們織布，供應你們糧食布帛，使你們得到溫飽，你們為什麼還要欺負他們呢？”