唐太宗在選擇、任用賢人的同時，還很重視虛懷納諫，聽取、采納臣下的好意見。他認為，皇帝日理萬機，但一個人的能力畢竟有限，一個人的考慮無論如何也會有失誤，因此，要想治理好國家，就必須虛懷納諫，聽取各方麵的不同意見。他曾經問魏徵：“皇帝怎樣做才能明智，怎樣做就會昏暗？”魏徵回答說：“多聽聽各方麵的意見就會明智，偏聽偏信就會昏暗。”魏徵還舉例說，秦朝的二世皇帝隻聽趙高的，隋煬帝偏信虞世基，天下大亂了，自己還不知道，結果導致了滅亡。最後他說：“皇帝能夠傾聽各方麵的不同意見，就不會受蒙蔽，下情能夠上達，這樣做就能成為一個賢明的國君。”唐太宗聽了深為讚同地說：“你說的對極了！”
為了達到兼采博聽的目的，充分聽取大臣們的意見，唐太宗還從製度上進行了一些改革。他下詔令規定：“宰相和皇帝研究國家大事時一定要有諫官參加，讓他們隨時提出意見。”諫官的職責是對皇帝的過錯、政事的得失提出意見。唐太宗很重視諫官們的意見。唐太宗又規定：五品以上的京官，必須輪流在中書省值班，以便皇帝隨時召見。這些製度，對於保證各項政策法令的正確製定，對於君臣之間意見的更好交流起了很大的作用。
為了鼓勵臣下進諫，唐太宗重賞敢於進諫的官吏。他剛當皇帝不久，有一次下詔將一個叫元律師的人處以死刑。當時主管刑律的大理寺少卿孫伏伽進諫說：“根據法律，元律師沒犯死罪，陛下卻把他處以死刑，這實際上是濫加酷刑，違背了刑律的規定。”唐太宗接受了孫伏伽的意見，還把價值100萬的蘭陵公主園賞賜給他。有入說賞賜太優厚了，唐太宗說：“我即位以來，沒有敢批評朝政的，這次重賞孫伏伽，就是為了鼓勵大家關心朝政，多提意見。”
630年（唐貞觀四年），唐太宗曾下令征發兵卒修複洛陽宮乾元殿，以備巡狩。給事中張玄素上書直諫說：“現在民力還很疲敝，不如隋代，假如陛下一意要修複此宮殿，那是走亡國的道路，陛下的罪過，那要超過隋煬帝。”這樣尖銳的批評，唐太宗也能聽得進去，並且還賞賜張玄素200匹絹。唐太宗時期很少大興土木，急役民眾，與他能夠聽取諫言有直接的關係。
由於唐太宗鼓勵進諫，並且能夠虛心納諫，使朝廷中形成了以進諫為忠的風氣，出現了一大批敢於直諫的大臣，其中最著名的當推魏徵。
魏徵為人正直，敢於直言，很得太宗的重用，先後擔任諫議大夫、給事中、尚書右丞、秘書監等要職，位列宰相，他前後共向太宗進諫了200多件事，大多數都被太宗采納，對太宗時期的政治起了很大的影響。
有一次，唐太宗與大臣討論如何征兵的事，當時天下承大亂之後，壯丁較少，兵源不足，主持征兵的右仆射封倫建議降低兵役年齡，不滿18歲的中男隻要身強力壯就須應征。太宗批準了這個建議。魏徵知道後堅決反對。敕書四次送到魏徵手裏，他都不肯在敕書上署名。唐太宗很生氣，將他召來訓斥道：“身強力壯的中男都是一些想逃避兵役的奸民，將他們征兵入伍，有什麼不好，你為什麼要這樣固執己見！”魏徵回答說：“竭澤而漁，雖然暫時有魚吃，但是把大魚小魚都撈盡，以後就沒有魚可捕了；毀林打獵，雖然暫時可以獵到不少野獸，但從此以後就沒有野獸可打了。如果把全國的中男都征入伍，種田的人少了，誰來承擔租調徭役？兵不在多而在精，隻要用兵得法，訓練有方，何必多征湊數。而且，陛下常說要以誠信治天下，現在當皇帝沒多久就無端降低兵役年齡，擴大征兵範圍，豈不是不講信用？陛下失信於民的事，已經有好多起了。”唐太宗驚愕地問：“我有什麼失信？”魏徵便一件一件地批評起來。唐太宗聽後覺得件件是事實，便轉怒為喜，接受了魏徵的意見，還賞賜給他一個金甕。
魏徵敢於堅持自己的正確意見，即使唐太宗大發雷霆，他也能神色鎮定，毫不退縮。因此，唐太宗既喜歡他又害怕他。有一次唐太宗要去巡遊南山，車駕已經準備完畢，卻突然改變主意不去了。魏徵問他為什麼不去，唐太宗直爽地回答道：“原來準備去，後來怕你不高興，就決定不去了。”又有一次，太宗得到一隻打獵用的鷂鷹，正玩得十分高興的時候，看見魏徵來了，怕受批評，趕緊將鷂鷹藏在懷裏。其實，魏徵已經看到了，他故意拖長彙報工作的時間，唐太宗始終不敢把鷂鷹拿出來。等魏徵彙報完走開後，太宗懷裏的鷂鷹已經悶死了。