手上沒有軍隊，不但無法與高歡抗衡，甚至在西魏內部，宇文泰都要麵臨一些潛在的風險。現在唯一可行的辦法，就是從關西地主豪強手上搶回漢人軍隊的指揮權，當時的地方武裝稱為鄉兵，西魏許多大將都有自己的直屬鄉兵。
宇文泰當然不會直接搶兵，手下那幫弟兄誰也惹不起，所以宇文泰采取了分步走的策略。第一步，將地方鄉兵納入國家軍事管理係統，雖然鄉兵依然由豪強直接領導，但軍隊管理係統卻是從中央一直垂直下行到地方的，包括豪強的軍銜。
西魏新六軍的編製大致為：八個柱國，除宇文泰和元欣外，每個柱國下轄兩個大將軍，共十二個大將軍；每個大將軍下轄兩個開府，共二十四個軍；軍下麵是府，共有百府，每個府由郎將統領。
西魏名義上有八個柱國軍，分別是：宇文泰、元欣、李虎、李弼、趙貴、於謹、獨孤信、侯莫陳崇。其中元欣隻是一個湊數的花瓶，給西魏宗室一個麵子，宇文泰則是最高統帥，“總百揆，督中外諸軍”，實際上隻有六個柱國。
十二大將軍分別是：元讚、元育、拓跋廓、宇文導、侯莫陳順、達奚武、李遠、豆盧寧、宇文貴、賀蘭祥、楊忠、王雄。其中拓跋廓是傀儡皇帝元寶炬的第四子，沒什麼實際權力。另外，西魏還有兩個大將軍，即出鎮隴西的李念賢和出鎮河南的王思政，因為他們長年在外領兵，所以就沒有算進十二大將軍之列。
鄉兵的來源主要是有地的農民，而且是九等之民的前六等，即上上、上中、上下、中上、中中、中下。宇文泰選府兵的第一個條件就是家產富裕，其次是家庭男性成員的人數，再次是兵員的能力。因為這些人家庭條件較為富裕，保衛既得利益的決心遠強於赤貧的下三等戶，這正是宇文泰的洞察人性之處。
當選府兵後，政府會給入選兵員一定的優惠條件，即可以免除本人的租庸調，不用向朝廷交納賦稅。府兵並不是常設兵種，而是兵民合一，平時在家務農，發展經濟，遇到戰事時，就緊急集合，放下鋤頭，拿起武器，保衛自己的既得利益。
宇文泰還考慮到了另外一個問題，就是這些漢人兵員是否服從鮮卑人統治。西魏和東魏的情況不同，東魏的鮮卑人非常多，有強大的直屬鮮卑六軍。西魏的鮮卑人太少，能不能鎮服這些漢人，讓人懷疑。
為了解決這個問題，宇文泰想出一個有開曆史倒車之嫌的主意，就是在西魏掀起一場鮮卑化改姓運動。北魏孝文帝實行漢化運動時，將鮮卑人的姓全部改為漢姓，由於漢化改革損害了六鎮鮮卑人的利益，所以他們對漢姓沒什麼認同感，這也是宇文泰改回鮮卑姓的重要社會基礎。
宇文泰恢複了鮮卑拓跋部早期的姓氏特征，即諸將功高者為三十六姓，功次者為九十九姓。諸將為鮮卑人者，要改回鮮卑姓，為漢人者，也要接受朝廷賜給的鮮卑姓。最具爭議的是，宇文泰讓諸將轄下的漢族士兵全部都要改用鮮卑姓。
宇文泰這麼做，就是要打破漢人的民族優越感，慢慢培養他們的鮮卑民族認同，為將來的全麵鮮卑化做準備。隻要漢人全麵的鮮卑化，占西魏人口極少數的鮮卑人才會減輕與漢人相處的恐懼感。
因為東魏北齊的鮮卑人較多，並沒有這方麵的恐懼感，所以東魏北齊保持漢人民族特征的程度要遠遠大於西魏北周，西魏北周在鮮卑化的道路上越走越遠，無法想像，如果北周最終統一天下，漢民族會不會最終消失？所幸，千古一帝楊堅橫空出世，及時挽救了漢人的命運。
宇文泰的姓本就是胡姓，所以不用改，為了配合這次鮮卑化改姓運動，宇文泰要求傀儡皇帝拓跋廓帶頭，把元姓改回了拓跋姓。拓跋廓小命都捏在宇文泰手上，不敢不從，改回拓跋姓。從此，消失近六十年的鮮卑姓再次卷土重來，西北大地，胡風狂飆。
根據宇文太師的最高指示，漢族豪強們紛紛改用鮮卑姓，幾個比較有名的漢改胡是：李弼改為徒河姓、趙貴改為乙弗姓、李虎改為大野姓、楊忠改為普六茹姓、王雄改為可頻氏、李穆改為峩拔姓，等等。後來的隋文帝楊堅的鮮卑名就是普六茹那羅延，唐太宗李世民也被後人戲稱為大野世民。