公元528年～
此時的北魏孝明帝元詡苦於母親胡太後的壓製，始終不能行使帝王權力，母子間的關係急劇惡化，在這個時候，爾朱榮進入了孝明帝元詡的視野中。孝明帝心想，爾朱榮這個不屬於任何派係的一方諸侯，力量並不算弱，自己完全可以拉攏他，給他大開方便之門，等他強大之後，借助他的力量一舉鏟除胡太後及其黨羽，使得自己能夠親政。
於是，孝明帝多方努力，將爾朱榮任命為遊擊將軍，隨後又提升為冠軍將軍、平北將軍等職。
爾朱榮並沒有辜負孝明帝的期望，在孝明帝的有意支持下，爾朱榮慢慢地掌握了並州、汾州、雲州等數州之地，成為了當時北魏軍方的實權派之一。
隨著爾朱榮的不斷壯大，孝明帝在朝中也慢慢有了自己的聲音，孝明帝對於母親胡太後的長期攬權和私生活的放蕩越來越不滿，導致母子二人的矛盾越來越大。
武泰元年（528年），為了收回朝政大權，在朝中多為胡太後一黨的情況下，孝明帝元詡以密詔命令爾朱榮率兵入京。
胡太後一黨得知消息，遂決定先下手為強。二月二十五日，年僅十九歲的元詡，因胡太後及其男寵鄭儼、徐紇投毒，暴斃於顯陽殿。次日，胡太後擁立剛剛滿月的元詡之女為帝，對外宣稱是剛滿月的皇子，（後來史稱元姑娘）。
數日之後，見到人心安定，胡太後又以元姑娘不是皇子，而是女兒身為由，改立臨洮王元寶暉年僅三歲的兒子元釗為帝，史稱北魏幼主。
正率兵南下的爾朱榮聞訊，一時間不知道該如何是好，後在高歡等人的建議下，於同年四月十一日擁立長樂王元子攸為帝，以“匡扶帝室”的名義正式起兵，率領大軍自孟津渡過黃河，直撲京師洛陽。
因為爾朱榮出師有名，加上各地官員早已對胡太後不滿，一時之間，爾朱榮南下的消息竟然沒有傳到洛陽城。而爾朱榮在進軍的同時，又派出親信前往洛陽城，與當時在北魏宗室中威望極高的長樂王元子攸達成裏應外合的盟約。
公元528年四月，爾朱榮進軍到了距離洛陽不遠的河陽城，他依照盟約將元子攸接到河陽，立為皇帝，史稱“北魏孝莊帝”，而後，全軍渡過黃河，進攻洛陽。胡太後這才倉促調集兵力，與爾朱榮展開決戰，卻因眾叛親離而兵敗，全軍潰散。至此，洛陽城如同一座不設防的城市，已經是爾朱榮的囊中之物了。
胡太後見大勢已去，麵對撲向京師洛陽的如狼似虎大軍，卻是毫無辦法，紛紛作鳥獸散。胡太後更是將孝明帝六宮所有宮女全部召集到寺院，自己也剃光頭發，在永寧寺出家為尼，隨後，爾朱榮與孝莊帝元子攸抵達洛陽城，元子攸正式繼位。
爾朱榮見元子攸繼位之後，為了以絕後患，將胡太後與小皇帝元釗等人從寺廟和皇宮裏捉拿出來，丟進黃河，便要退兵晉陽去過自己的小日子。此時，爾朱榮的謀士提出，爾朱榮已經幹出了弑君之事，想要再安安穩穩的過自己的小日子，隻能選擇控製北魏朝廷，否則身死族滅將會發生在不久之後。這個謀士的話，驚醒了洋洋自得的爾朱榮，爾朱榮隨後在部下的建議下，決定將北魏的統治階級洗牌！而洗牌的方式，他選擇了最簡單粗暴的辦法——大屠殺。