魏征為人剛直不阿，受到唐太宗的器重。不久，魏征升任尚書左丞。貞觀三年（629年），他以秘書監參知國政，被封為鄭國公。
魏征向太宗麵陳諫議五十次，呈送太宗的奏折十一次，一生的諍言多達"幾十萬"言。
魏征的諫諍涉及的範圍很廣，軍國大事的失誤是主要內容。為了平治戰亂的創傷，魏征勸太宗與民休養生息，反對營造宮室和對外用兵；為了社會的安定，他勸太宗廢除嚴刑峻法；為了政治清明，他勸太宗用人應"才行俱兼"；在刑賞的問題上，魏征認為應該勸善懲惡，貴賤親疏一律平等；他對太宗說："兼聽則明，偏信則暗"；他勸太宗以"亡隋為戒"。魏征對唐太宗的失誤之處批評十分尖銳。
貞觀八年，李世民準備修建洛陽宮，中牟縣丞皇甫德參聽說以後，上了奏書，說修建洛陽宮勞民傷財，加收地租等於橫征暴斂，宮女競相梳高鬏，使世風日下。
唐太宗說："這叫啥奏章？難道國家不征派勞工，不收租子，宮女都剃頭嗎？"唐太宗以誹謗罪逮捕皇甫德參。
魏征奏道："臣子向皇帝上書時，大多言詞激切，否則難以引起皇帝的重視。陛下這樣重治他，會堵塞言路的。"
唐太宗說："你說得對，赦免皇甫德參，賜二十匹絹。"魏征向太宗奏道："陛下不喜歡直言進諫了。"李世民說："為什麼？"
魏征道："原來有人上諫，皇上的賞賜很重。臣等上諫不是為了賞賜，但從賞賜上，能夠看出皇上對進諫的態度大變。"唐太宗說："愛卿說得對。朕命皇甫德參擔任監察禦史，你覺得怎樣？"魏征說："陛下英明！"
有一次，唐太宗正在把玩鷂鳥，魏征求見，太宗趕緊把鷂鳥揣在懷裏。平時他們單獨談話時，李世民都會給魏征賜坐。李世民想讓魏征快點走，讓他站著稟報。
魏征不敢不從，彙報了視察的情況。魏征偷偷地抬頭看見李世民的胸前起伏不定，李世民忙把皇袍向下拉。
魏征把視察的情況講解得細致入微，李世民對他說："愛卿辛苦了，回家休息去吧。"魏征又說起了奇聞軼事，說歌頌李世民的民謠。李世民不好意思打斷，但鳥兒拚命掙紮，李世民把它壓住。
魏征談了一個小時："陛下，若沒有其他事情，容臣告退。"李世民說"愛卿快休息去吧。"
魏征說："陛下，臣還有件事需要稟報。"魏征又談了兩個小時，看到李世民生氣了，才告退。
李世民見鷂鳥死了，氣得大罵："這個胡攪蠻纏的鄉巴佬。"
一次罷朝後，太宗說："我必須殺了這個鄉巴佬，每次上朝都汙辱我。"
貞觀六年（632年）八月，長樂公主下嫁，太宗下令資妝要倍於永嘉長公主。魏征說："大唐剛頒布新律，臣民都遵紀守法。而您身為一國之君，由於愛女出嫁，就把婚禮搞得這麼豪華。若大臣們群起仿效，百姓們也會怨聲四起，後果不堪設想！"
太宗說："長樂女是我最寵愛的女兒，再說這些年國勢強盛，多給她一些嫁妝，也不過分呀？"
魏征說："情雖有差，義無等別！從感情上說，父女之情勝過姐弟。但不能因為在感情上親近，就多給嫁妝。長公主是大唐的開國元勳，曾率娘子軍立下大功。長樂公主生在宮中，沒有立絲毫功勞，還是長公主的侄女。如果她的嫁妝高出長公主一倍，人們如何看待長公主呢？"
李世民為難了："如果收回成命，長孫兄和長樂拒不接受，怎麼辦呢？"
魏征道："您的妹妹是長公主，長就是比公主尊貴的意思。讓公主的級別超過長公主的級別，就是以權違法，後患無窮啊！"
李世民說："好好好，就按你的意思辦。"