安定王拓跋休仍然跪在那裏，流著淚進行勸阻。孝文帝改變了口氣，對大臣們說：“這回出兵，聲勢浩大，費了不少事，用了許多錢，不可勞而無功。我們的先輩世世代代住在北方，我一直想南遷中原。如果停止南伐，就應當把都城遷到這裏，你們以為怎麼樣？同意的站在左邊，不同意的站在右邊。”
鮮卑貴族實在不願意冒生命危險南征，隻好同意遷都了。孝文帝派任城王拓跋澄回平城，做留守平城官員的思想工作。
孝文帝的遷都在平城引起強烈反響。當拓跋澄向留守平城的官員宣布遷都消息時，立即引起鮮卑貴族的強烈反對，許多人痛哭流涕，有的人甚至表示至死也不離開平城。拓跋澄耐心細致地解釋遷都的好處，仍有不少人反對。第二年，孝文帝親自回平城去說服他們，才使多數人服從了遷都的決定。但仍有少數反對派頑固到底。496年（太和二十年），鮮卑大貴族穆泰、陸叡，陰謀在平城建立一個與洛陽相對抗的政府。孝文帝的太子拓跋恂也不適應中原的環境和氣候，在反對派的慫恿下，想從洛陽逃回平城去。結果失敗，拓跋恂被廢後賜死。孝文帝的遷都計劃衝破層層幹擾，終於實現了。494年（太和十八年），正式遷都到洛陽。不過洛陽城的重新修建，直到孝文帝的兒子宣武帝元恪時才完成。
孝文帝把都城遷到洛陽，這使鮮卑族徹底地被漢族文化所包圍。為了縮小鮮卑民族與漢族之間的距離，加強鮮漢民族間的溝通，孝文帝實行了一係列漢化改革。494年，孝文帝下令禁止穿鮮卑服裝。鮮卑族作為遊牧民族，服裝與漢族不同。他們的服裝主要是便於騎馬射獵。男的穿緊身短衣服，並且衣服的大襟向左側，漢族是向右側。婦女穿夾領小袖短衣，這與漢族寬袍大袖所不同。孝文帝為使鮮卑族與漢族更接近，下令禁止鮮卑族再穿這種鮮卑服裝，改穿漢人服裝。民族的服裝是一個民族的特色標誌，他們不願輕易改掉這種特色，所以，孝文帝以詔令的形式讓鮮卑民族穿漢人服裝，但仍有一些人穿鮮卑服裝。
為了便於與漢族溝通，孝文帝下令禁止說鮮卑話，改說河南洛陽話。語言是人類交往的重要工具，鮮卑民族在發展過程中形成了自己獨特的語言。拓跋鮮卑的特點是多音，與漢語完全不同，這就給鮮漢民族間的交往和社會生活帶來許多障礙。在朝廷上，鮮卑官員說鮮卑語，漢族官員說漢語，無法交流，隻好設翻譯。一個落後民族要想學習先進民族的文化，必須先學習這個民族的語言。所以孝文帝果斷地禁止鮮卑人再說鮮卑語，一律改說漢語。他規定，凡是年齡在三十歲以上的人，因為長期習慣用鮮卑語，不容易立刻改過來，可以不要求馬上改變語言。三十歲以下並且正在朝廷任職的人，必須立即改說漢語，否則貶降或罷黜他的官職。
孝文帝在改革服裝、語言的同時，還把鮮卑人的姓氏改為漢族姓氏。鮮卑人的姓與他們的語言有關，由於鮮卑語多綴語，所以鮮卑人多複姓，這在交往上有許多不便。孝文帝下令改複姓為單姓。把北魏初期所統部落的一百一十八姓全部改為單姓。如拓跋氏改為元氏，孝文帝拓跋宏便改為元宏。達奚氏改為奚氏，丘穆氏改為穆氏，步六孤氏改為陸氏，賀賴氏改為賀氏，獨孤氏改為劉氏，賀樓氏改為樓氏等。
在改姓氏的同時，孝文帝還命宋弁重新核定諸州士族，重新確認漢族地主的門閥製度。把鮮卑族的穆、陸、賀、劉、樓、於、嵇、尉八姓定為國姓，與漢族大族崔、盧、王、鄭四姓地位相同，都為甲族，從此，鮮卑貴族也封建門閥化了。他們的屬籍，孝文帝規定，從代北遷到洛陽的人，都改原籍為洛陽，他們都成了洛陽人，並且死後也不準歸葬平城，而一律埋葬在洛陽北麵的北邙山上。
孝文帝為了拉攏漢族大族，積極主張鮮卑貴族與漢族大族通婚，他帶頭娶洛陽盧敏、清河崔宗伯、滎陽鄭羲、太原王諒四姓女兒為妃嬪，並令他五個弟弟把已娶的鮮卑正妃降為側室，分別為他們娶了漢族大族的女兒為妻。這樣，通過婚姻紐帶，鮮卑貴族與漢族大地主結為一體，民族矛盾漸漸消失。
孝文帝還重用漢族地主，改革官製，修訂法律，尊孔崇儒，恢複漢族傳統禮樂製度等等。經過一係列漢化改革，加速了鮮卑民族的進步，北魏政權更加鞏固，各民族間的融合得到進一步發展。