貞觀之世，唐王朝建立了一個疆域空前遼闊的、統一的、多民族的封建大國。到貞觀十四年（640年），“東極於海，西至焉耆（今新疆焉耆一帶），南盡林邑（越南），北抵大漠，皆為州縣，凡東西九千五百一十裏，南北一萬九百一十八裏”。史載：“弱水、流沙，並通輶軒之使；被發左衽，皆為衣冠之域。正朔所班，無遠不屆。”貞觀二十二年（648年），太宗目睹四夷君長爭相入朝的盛況，欣喜萬分地說：“漢武帝窮兵三十餘年，疲敝中國，所獲無幾，豈如今日綏之以德，使窮發之地盡為編戶乎！”麵對如此勳業，太宗並不單獨歸功於己，而是首先想到這一功業的創議者——魏征。他回憶往事說：初即位時，有人勸我“耀兵振武，懾服四夷”。唯有魏征勸我“偃革興文，布德施惠。中國既安，遠人自服。”“朕從此語，天下大寧。絕域君長，皆來朝貢，九夷重譯，相望於道”。可見，對製定和推行有利於民族團結的政策，促進統一的多民族的國家形成，魏征起了很大的作用。
怎樣正確認識和妥善處理與邊疆少數民族的關係，這是曆代封建王朝都感到十分棘手的社會問題。漢武帝主張用武力東征西討，偏重於威服，而少懷德化，結果“窮兵三十餘年，所獲無幾”國內還差點出了大亂子；隋煬帝“大忌胡人，乃至謂胡床為交床，胡瓜為黃瓜，築長城以避胡”。他窮兵黷武，屢屢向邊境少數民族發動戰爭，大大激化了民族矛盾。魏征以史為鑒，認為漢武、隋煬等漢族封建統治者淩辱、敵視邊遠地區的少數民族，甚至妄圖以武力征服、消滅少數民族的做法，是極端錯誤的，主張如同對內地實行德政與教化一樣，對少數民族“懷之以德”，實行仁義之政。
貞觀之初，嶺南少數民族酋長馮盎和談殿等迭相攻擊、久未入朝，嶺南各州屢次奏報說馮盎等反叛了。唐太宗下令將軍藺暮征調江南道、嶺南道幾十州的兵員，準備前往鎮壓“叛亂”。魏征聽說後，便向唐太宗進諫，說：“國家政治局勢剛剛平定下來，經曆了十幾年的戰爭之後，滿目瘡痍，百廢未興，人民生活尚未恢複元氣，嶺南地區自古以來是瘴癘之地，而且道路遙遠，山川險阻，兵員和物資的交通運輸是一件巨大的難題，恐怕不好解決，如果再遇上瘴氣和瘟疫，那就更加麻煩了。到那時，大軍擱在半道上，進退兩難，想後悔也來不及了。再說馮盎等人是否確實造反叛唐，還不一定，怎麼能夠聽風就是雨，興師動眾，大動幹戈呢？”唐太宗說：“上送情報的人不絕於途，十幾次的彙報都是這種說法，怎麼你還說他們造反叛亂不是真的？”魏征說：“馮盎如果真的反叛，他們就會趁我大唐政局尚未穩定之際，交結鄰近蠻國，分兵占據險要之地，攻掠州縣，建署政權組織。為何他幾年都沒有出動，武裝並未超出高州？可見他們並沒有叛唐之意。這麼多的人告狀，都說馮盎等人叛唐，陛下又沒有派使臣去了解情況，做安撫工作，他們自然以為陛下真的認為他們造反，因而懷有畏懼之心，不敢入朝來京。現在，陛下如果派遣可靠的使者去馮盎那裏，把陛下的意思講明白，消除他們的顧慮和恐懼，他們看到陛下依然信任他們，就會放心地進京謁見陛下。這樣，用不著勞師動兵，嶺南自然照樣賓服。”唐太宗聽從了魏征的話，命令取消發兵攻打馮盎的行動。過了不久，有宰相向皇上奏報：“馮盎、談殿確實互相攻打，但陛下派了一名使者去了之後，整個嶺南都安然無事，馮盎已派他的兒子作代表，入朝候見了。”唐太宗高興地對大臣們說：“當初，嶺南諸州都說馮盎造反，朕已決定發兵征討，魏征反複勸諫，認為隻要示以誠信，懷以仁德，就必然可以不討自服。我聽從他的意見，就獲得了嶺南平安無事的可喜局麵。他的一個進諫，勝過了10萬軍隊，功勞確實不小，應該嘉獎！”賜給魏征500匹絹。
對於各少數民族，魏征主張不要強行改變他們的習俗，仍以他們原來的營長擔任都督、刺史等職，統轄原來的地區，這就是設置羈縻府州的政策。
貞觀四年（630年），李靖打敗了突厥頡利可汗以後，突厥部落有近10萬之眾表示歸降。對他們如何處置，是關係到國家長治久安的大事，朝廷君臣們展開激烈爭論。有些朝臣主張將突厥部眾拆散為各個互不統屬的集團，遷徙到內地州縣，使他們改變原來的生產方式和生活方式，化牧為農，這種強製同化的政策，顯然不利於民族團結和融合。當時以秘書監參與朝政的魏征同中書令溫彥博發生了十分激烈的爭論。他們二人都是反對強製漢化的，主張對突厥“全其部落，不離其土俗”，這無疑是正確的。他們爭論的焦點，是把近10萬降眾安置在內地還是讓他們歸其舊土的具體措施問題。溫彥博主張將他們安置在河南（指今內蒙古河套一帶），保全他們的部落，不改變他們的習俗，一則充實了空虛的地方，二則表示沒有猜疑之心。魏征則主張應當立即把他們遣還河北（指黃河以北之地）居其舊土。他說：突厥世寇中國，萬性冤仇，人麵獸心，非我族類，怎麼可以拿內地給他們居住呢？而且現在降者近10萬，幾年以後，滋生繁育超過幾倍，讓他們居住在京城附近，必將成為後患，尤其不能把他們安置在河南。魏征說突厥“人麵獸心，非我族類”，固然反映了他的民族偏見，但他主張讓突厥降眾仍居其舊土，則是有利於國家長治久安和邊遠地區經濟發展的。太宗平時十分注重魏征的意見，然而這次卻沒有聽他的，而是采納了溫彥博的建議。於是，有大約10萬突厥人遷入中原，其中有近萬家定居在長安。太宗挑選部分代表擔任京官武職，任職五品以上的將軍中郎將約有100多人，差不多占了朝廷武官的半數。大批突厥人內遷，對於促進民族融合是有利的，然而也不可避免地帶來一些麻煩。貞觀十三年（640年），太宗駕臨九成官，突厥頡利可汗的弟弟中郎將阿史那結社率暗中勾結他的部眾，支持突厥頡利的兒子賀羅鶻，夜襲皇帝住宿的地方，事情敗露，很快都被捕殺頭。太宗從此後悔不該將突厥部眾安置在內地，於是遣送他們的舊部到黃河以北的地區，讓他們鎮守原來的定襄城，立李思摩為可汗統率他們。太宗慨歎道：“初，不納魏征言，遂覺勞費日甚，幾失久安之道”，肯定了魏征就地安撫各少數民族的意見。朝廷先是在突厥族舊土設置了羈縻府州，繼而在南方、西北、東北各少數民族地區，設置了羈縻府州。這種羈縻府州，成為唐朝設置在邊疆少數民族地區的地方行政單位，大的為都督府，中為州，下為縣，府都督、州刺史均由朝廷任命的少數民族代表擔任，隨之取消了少數民族首領原有的可汗稱號，這實際上是把郡縣製擴展到了邊疆少數民族地區。在羈縻府州之上，又設置都護府，作為聯結朝廷與羈縻府州之間的紐帶，極大地促進了邊疆的統一。為了尊重各少數民族的傳統習俗，又使這些府州保持相當的“自治”權，例如：規定府都督、州刺史經過朝廷批準，可以世襲；所收貢賦基本上自行支配，僅以少許向朝廷“朝貢”，等等。這種通過設置羈縻府州，就地安撫邊疆各少數民族的政策，對於唐代疆域遼闊的、統一的、多民族的國家的形成，發揮了積極的曆史作用。由於製定和實行了符合實際情況、順應時代潮流的民族政策，極大地提高了唐王朝中央政府在邊疆各少數民族中的威望，太宗被尊稱為“天可汗”，成為中華各族共同的至高無上的主宰。遼遠的邊疆各民族“依唐若父母然”，宋朝的王溥說：“統製四夷，自此始也”，對貞觀君臣們民族政策的成功，做了中肯的評價。