孝文帝英年早逝，改革在時間不足以得到完全的鞏固更加速了北魏的滅亡。公元523年六鎮造反，北魏後期政治腐敗無力抵抗。隻好請鮮卑地方的豪族爾朱氏平定，爾朱氏沒有南遷漢化還保存原有的部落組織。爾朱氏軍事強大，眾多六鎮勢力投靠，壯大了爾朱榮集團。這時北魏內部胡太後與兒子孝明帝政權，竟然毒死了孝明帝，爾朱氏首領爾朱榮趁機起兵殺死了胡太後，並屠殺整個北魏所有中央的官員，這就是有名的河陰之變。
爾朱榮自己毀掉北魏的政府機構，沒有人為他的政府服務，陰河被殺的世家大族的子孫對其恨之入骨。不久爾朱榮自己也被孝莊帝刺殺，爾朱榮集團分裂陷入混戰，北魏政權名存實亡。
同出六鎮的高歡和宇文泰由爾朱集團脫穎而出，都擁立孝文帝後裔為皇帝，以魏的旗號相號召，史稱建都鄴城的政權為東魏，建都長安的政權為西魏。雙方經曆數次大戰，都未消滅對方，並立的局麵由此確立。
高歡生長於六鎮之一的懷朔鎮，一般認為是鮮卑化的漢人。他既能說漢話，又能講鮮卑話，並擁有一個鮮卑名字，叫賀六渾。但實際上高歡如果不是鮮卑人，很難相信他能成為鮮卑集團的代言人。六鎮起義失敗後高歡等人投奔爾朱榮，因屢立戰功，被任命為晉州刺史。爾朱榮死後在在河北世家大族擁戴下反擊爾朱氏。各地世族人士及流離中原、依附於北魏朝廷與爾朱氏之間的六鎮酋豪，群聚到高歡麾下。次年四月，高歡在擊敗爾朱氏後進入洛陽立孝武帝元修。公元534年七月，孝武帝西逃關中投奔宇文泰。十月，高歡改立元善見為帝，遷都鄴城。
高歡起兵反爾朱氏，創立東魏，首先依賴其率領的一部分北鎮兵士，尤其是懷朔鎮豪酋，他消滅爾朱氏後，北鎮餘眾幾乎全歸他統領。這些北鎮兵士在北魏孝文帝遷都洛陽後，長期留住北邊，受漢文化影響較弱，語言、服飾仍保留鮮卑舊俗，部分漢族豪族也受鮮卑風俗的影響，被當時人看成是鮮卑人，他們構成東魏及隨後北齊政權的政治基礎，而高歡本人居住的懷朔鎮人則成為其核心。在東魏北齊政治中，鮮卑勳貴長期在政權中處於支配性地位，高氏與鮮卑勳貴竇氏、尉氏、厙狄氏、斛律氏、段氏長期連姻，更使其勢力根深蒂固。
東魏建立後，原封不動地采用了北魏孝文帝改革後的政治製度，高歡也一如既往地坐鎮晉陽大丞相府，憑借當地武裝控製朝政，形成鄴城政治中心與晉陽軍事中心並立的格局。高氏取代東魏建立北齊政權後，這種情形雖有所緩和，但由原大丞相府外兵曹、騎兵曹演變而來的外兵省和騎兵省卻置於晉陽，獨立於尚書省之外，擁有對全國軍隊的調動權力，北齊皇帝也不斷往返於鄴城、晉陽之間，以加強對軍隊的控製。晉陽和鄴城這種分立，實際上反映了武功與文治的對立，並影響著東魏北齊曆史上鮮卑貴族與漢族世家大族長期的政治衝突。
高歡得以順利控製河北地區，與當地世家大族的支持密不可分。北魏後期，隨著士族門閥製度的重新建立，河北世家大族憑借宗族和鄉裏，勢力急劇增長，他們也是東魏北齊政治中一股影響很大的政治勢力，高氏也與其中的趙郡李氏、範陽盧氏等通婚，以求獲得他們的支持。但高歡以北鎮鮮卑為其軍事基礎，鮮卑人因此欺壓漢族百姓。高歡曾試圖調解兩者間的矛盾，但********依舊激烈。東魏北齊，政治上擁有特權的鮮卑貴族稱漢人為“狗漢”、“一錢漢”，他們與漢人世家大族以爭奪政治權力為主要內容的鬥爭也異常激烈，最後兩敗俱傷，北齊政權也因之衰亡。
高洋受封為齊王，以“禪讓”的方式取得帝位，以齊為國號，史稱北齊。高洋在位前期，勤於政事，並奪取了長江以北的土地，在與關隴北周與江南陳政權的鼎足對峙中，北齊處於絕對優勢。後期高洋精神開始出問題，北齊開始走下坡路，高洋死後北齊皇族為了爭位更是內鬥不斷。另一方麵重臣斛律光的死也可以看出，北齊權貴集團與皇權矛盾已經激化。這麼多不利因素加在一起北齊也就走到頭了。