唐太宗知道自己很容易受情緒的左右，他就提醒周圍的大臣注意糾正他偏激的決定，並把批評朝政製度化。他建立了前朝所沒有的新製度，即允許諫官、史官參加政事堂會議。這種製度不僅能夠保證諫官、史官能夠及時了解朝政的內幕，使得有所勸諫，還起到了一定的監察作用，使宰相及其他官員不敢謊報政績。這種製度還規定，在會議之上，不管是皇帝還是大臣，如有過失和不當之處，諫官可當麵指出，予以辯論。
再者，史官也了解皇帝大臣的許多情況，根據第一手材料寫出起居注，對他們也是一種監督。
魏征就是在這種相對寬鬆自由的環境裏做諫官的，他勸諫的內容從長治久安的軍國大計，到皇帝個人的起居生活，涉及到許多方麵。對唐太宗及唐朝貞觀年間的政治，可以說產生了很大的影響。
在使用人才方麵，魏征主張在不同的時期要對德才有所取舍。他對唐太宗說：“在天下未定之時，用人的標準是重視才能，不過多地考慮他的品德操行；天下平定以後，則非德才兼備不可用。”在魏征的影響下，唐太宗“內舉不避親，外舉不避仇”。有一次，他還主動地對魏征說：“選擇任用官吏，是不能輕率馬虎的。用一個君子，那麼君子就會紛紛而來；用一個小人，那麼小人也就會鑽營投奔而來。”
尤其在個人享樂方麵，魏征緊緊監督唐太宗，經常犯顏直諫，不讓他大興土木。有一次，唐太宗想去南山打獵，車馬都準備好了，最後還是沒敢去。魏征問他為什麼沒有出去。唐太宗說：“我起初是想去打獵，可又怕你責備，就不敢出去了。”
公元630年（貞觀四年），唐太宗決定修建洛陽宮，中牟縣縣丞皇甫德參上書勸阻，言辭激烈。唐太宗發怒，要治皇甫德參的罪，魏征連忙拿漢朝的賈誼為皇甫德參辯護，證明自古上書言辭不激烈就不能打動君主的心，唐太宗這才作罷。後來，河南、陝西一帶大雨，泛濫成災，偏在這時，唐太宗又要修建洛陽的正山宮，魏征聽說了，趕忙上奏說：
“隋朝所以很快滅亡，其主要原因就是因為隋煬帝大修亭台樓榭，百姓不堪役使，才起義反對他。如今，現有的宮觀樓台已經足夠居住的了，如果想到隋朝的滅亡，甚至還應該拆掉宮殿。如果舍不得拆掉，起碼不該再修大的宮殿了。如果不想到得天下的艱難，不斷地擴大宮殿建築，追求華麗和享樂，增加百姓的勞役，那就會像隋朝一樣的滅亡。”唐太宗接受了魏征的建議，停修宮殿，把材料運到了水災區，幫災民建造了房屋。
公元638年（貞觀十二年），公卿大臣都請求太宗登泰山封禪，隻有魏征認為現在舉行封禪儀式不妥。太宗對魏征說：“我希望您把自己的想法都說出來。難道是我的功勞不高嗎？是我的德行不淳厚嗎？是國家還沒有平定嗎？是遠方的異族人不仰慕大唐的高義嗎？是吉祥尚未降臨嗎？是農業沒有豐收嗎？為什麼我不能封泰山呢？”魏征說：“陛下的功勞雖然是極高的，可是百姓並未感受到陛下的恩惠；陛下的德行雖是淳厚的，但陛下的德政尚未傳及全國各地；全國雖然安定，但並不能為興辦事業提供足夠的資財；遠方的部族仰慕陛下的高義，但朝廷卻沒有能力滿足他們的要求；吉祥的征兆雖然出現，但法網仍然密集；雖然連續幾年農業豐收，但糧倉仍然空虛，這是我認為目前不宜封禪的原因。我不能用遙遠的東西打比方，姑且用人作比喻。現在有個人患了十年的重病，到將要治愈時，已經瘦得皮包著骨頭，馬上讓他扛起一石米，每天走一百裏路，他一定不能做到。隋朝天下大亂已經不止十年，陛下平定了全國的混亂局麵。雖然現在天下已經平定，但國庫尚不充實，在這種情況之下，向天地報告事業已經成功，我暗自對如此作法持懷疑態度。
況且陛下若東封泰山，各國的使者都要聚集到那裏，周邊各國人，無不奔走相告。現在西起伊水、洛水流域，東到泰山、東海、荒草灘、沼澤地，蒼茫千裏，人煙斷絕，雞犬之聲不聞，道路蕭條，行進艱難，豈可招來城外部族之人，把我國的虛弱狀況展示他們？即使我們用盡財物賞賜他們，也不能滿足遠方之人的願望；即使連續兩年免除徭役，也不能抵償百姓的勞苦。如果遇到水旱災害，風雨之變，服役的民夫橫加議論，即使後悔，也無法挽回損失。豈隻是我一個人懇請陛下免去封禪之事？成千上萬的百姓都乞望陛下恩準。”太宗聽了魏征的一番話，也深感國家雖然初步安定，但生產遠未恢複，國庫仍然空虛，如此嚴峻的形勢，有何功德以告慰天地？遂將封禪泰山之事擱置了下來。
有一次，唐太宗由長安去洛陽的顯仁宮，因為當地供應的東西不好，唐太宗覺得很氣憤。魏征覺得如此下去將不好收拾，便對唐太宗說：“隋煬帝就是因為無限製地追求享樂而滅亡的。現在因為供應不好就發脾氣，以後必然上行下效，拚命供奉陛下，以求陛下滿意。供應是有限的，商人的奢侈欲是無限的，如此下去，隋朝的悲劇又該重演了。”魏征的這一番話使唐太宗悚然心驚，以後便很注意節儉。
對於唐太宗個人的品德修養，魏征也很重視。有一次，魏征直言不諱地對唐太宗說：“居人上者，其身正，不令而行；其身不正，雖令不從。”魏征還引用荀子的話對唐太宗說：君主似舟，人民似水，水能載舟，亦能覆舟。這句話對唐太宗震動很大，他牢記在心，並用這句垂誡太子，讓他永誌不忘。有一次，唐太宗問魏征怎樣才能做一個“明君”，而不要成為一個“暗君”，魏征就給他講了隋朝虞世基的故事。隋朝的虞世基專門投隋煬帝之所好，專說順話，不講逆耳之言；專報喜，不報憂，結果隋朝滅亡。由此，魏征得出了一個著名的結論：“兼聽則明，偏聽則暗。”