魏征在安撫山東勢力中立下首功，並在以後輔佐唐太宗的過程中盡心盡力。
唐太宗李世民即位後，全麵主持國政。胸懷大誌的他下令百官上疏備陳“安人理國之要”。這時，剛從原太子建成陣營歸順的詹事主簿魏征奏道：“陛下，俗話說‘饑者易為食，亂後易於教也’。”
唐太宗本來就對魏征欣賞有加，這次見魏征的意見又是不同凡響，所以他很感興趣地問道：“此話怎講？”
魏征答道：“若聖哲施化，上下同心，人應如響，不疾而速，期月而可。信不為過，三年成功，猶謂其晚。”
唐太宗仔細分析了魏征的話，覺得他所提出的建議甚有道理。不錯，要實現“理國安民”的目標，隻需幾年的努力便做到。他為了實現這一政治目標，采納了魏征的建議，作為自己大治天下的決策。
唐太宗與魏征不愧為兩位傑出的政治家，他們的決策恰好順應了當時的曆史需要。隋末唐初，社會經濟嚴重衰退，飽經戰亂的百姓們在死亡線上掙紮已久，他們此時最為迫切的願望就是希望統治者采取休養生息的政策，使自己過上穩定的生活。恰是基於這種深邃的曆史感悟，才使他們在百姓的深切期望中，做出了“大治天下”的政治決策。可以說此舉是順應了天意，符合了曆史發展潮流，是眾望所歸的。
貞觀初年，太宗開始治理國家之時，由於當時社會情況複雜，有很多不合理的事，為此魏征提批評意見二百多條。
有一次，太宗問大臣魏征，君主怎樣才能“明”，怎樣才是“暗”？魏征回答說：“兼聽則明，偏信則暗。”他非常讚成這個見解。因為他知道，自己並不是無所不知，無所不能，隻有得到大家的幫助，思慮方能周全，國家才能治理好。
貞觀十五年（公元631年），太宗發現一個奇怪的現象，就去問魏征：“為什麼近來大臣們不議論朝政？”
魏征回答：“懦弱的人，雖忠心而不能說；疏遠的人，擔心不受信任而不敢說；自私的人，怕不利於自己而不說。”
太宗說：“我並沒有怪誰，我隻是想敞開胸懷，采納真直規勸，他們為什麼會這樣畏懼，難道我做得不好，既然這樣我應該改正。”
魏征是個稱職的諫臣，他能夠從國家的利益出發，甚至連太宗發怒他也決不妥協。有一年，國家正大量征兵。有個大臣向太宗反映說：“有些人為了逃避兵役，謊報年齡，應該把不滿十八歲的男子，隻要身材高大，也征召入伍。”太宗覺得這個大臣說得很對，就按他的意思去辦了。但是詔書卻被魏征扣住不發。唐太宗大發雷霆，派人把魏征叫來，訓斥道：“那些個頭高大的男子，自己說不到十八歲，其實是故意隱瞞年齡，逃避征兵。我已發布詔書，你為什麼扣住？”
魏征神色坦然地說：“我聽說，把湖水弄幹捉魚，雖能得到魚，但是到明年湖中就無魚可撈了；把樹林燒光捉野獸，也會捉到野獸，但是到明年就無獸可捉了。如果把那些身強力壯、不到十八歲的男子都征來當兵，以後還從哪裏征兵呢？國家的租稅雜役，又由誰來負擔呢？”唐太宗被魏征的一席話說得啞口無言，可心裏還是不服氣。
魏征接著說：“陛下的詔書上清清楚楚地寫著征召十八歲以上的男子當兵，現在不到十八歲的男子也得應征，這不是說話不講信用嗎？陛下一向說要以誠信待人，為什麼征兵的時候懷疑百姓作假？無緣無故懷疑人，這能算講信用嗎？”魏征的一席話，說得唐太宗再也無話可說。好半天，唐太宗才說：“我過去總以為你固執、不通情達理，今天聽你議論國家大事，才知道我的過錯很大啊！”於是，又重新下了一道詔書，免征不到１８歲的男子。從這以後，唐太宗更加信任魏征了，並且提升他擔任太子太師這樣高級的官職。