這個時候，在河北州縣過去跟隨巢王元育的人都覺得不安全，往往成群藏匿思謀作亂，魏征稟告太宗說：“不向天下人顯示天子至公無私，災禍不能解除。”太宗說：“你去安撫和開導一下河北的人。”魏征在出使河北途中，遇到太子千牛李誌安、齊王元吉府護軍李思行被解往京師，他就說：“正好有詔令，前東宮、齊王府的舊人一律免罪，現在又解送誌安等人，誰心裏不懷疑？我們雖前去傳達天子的旨意，人們一定不會相信。”便立即赦免誌安等人而後上報天子。出使回來後，太宗非常高興，對魏征日益親近，拜為傳中，一直留在太宗身邊“參與朝政”，成為太宗的重臣之一。貞觀七年，魏征由於忠於職守，勤勤懇懇，積勞成疾，懇求太宗免去他侍中職務，太宗一再挽留，但他堅辭，後被任命為特進，仍舊參與門下省事務，實質轉為加官的顧問，直到去世。
魏征不隻是因進諫而受重用，他在政治上和治理國家的方略上都有一定的主張和建議。
在政治方麵，他主張懷柔招撫，而反對鎮壓。在治理國家的方略上，主張輕搖薄賦。在治理國家的整體方略上，尤其是在大亂之後撥亂反正，主張宜快不宜慢。在執法方麵，魏征主張寬緩明確。反對嚴刑酷法。他還主張取信與民。
因此李世民非常欣賞魏征，把他提升為諫議大夫，這正是得其所長了。把他經常引入內廷，詢問政事得失。魏征喜逢知己之主，竭誠輔佐，知無不言，言無不盡。加之性格耿直，往往據理抗爭，從不委曲求全。有一次，唐太宗曾向魏征問道：“什麼樣的皇帝是明君，而什麼樣的皇帝是昏君呢？”魏征回答說：“皇帝如果是一個明君的話，那麼他什麼都能聽得進去。如果是昏君的話，他隻會聽信一些奸臣阿諛奉承的話。以前秦二世居住深宮，不見大臣，隻是偏信宦官趙高，直到天下大亂以後，自己還被蒙在鼓裏；隋煬帝偏信虞世基，天下郡縣多已失守，自己也不得而知。”太宗對這番話深表讚同。
貞觀元年，魏征被升任尚書左丞。這時，有人奏告他私自提拔親戚做官，唐太宗立即派禦史大夫溫彥博調查此事。結果，查無證據，純屬誣告。但唐太宗仍派人轉告魏征說：“今後要遠避嫌疑，不要再惹出這樣的麻煩。”魏征當麵反駁說：“君臣之間應該互相協助，我們應該是一體的。如果不能秉公辦事，隻是怕別人的閑言碎語，那麼國家的昌盛或者滅亡真的說不定了”。
這時的魏征說了一句名言，要太宗讓自己作良臣而不要作忠臣。太宗詢問忠臣和良臣有何區別，魏征答道：“使自己身獲美名，使君主成為明君，子孫相繼，福祿無疆，是為良臣；使自己身受殺戮，使君主淪為暴君，家國並喪，空有其名，是為忠臣。以此而言，二者相去甚遠。”唐太宗聽後深受感動。
628年，魏征被授秘書監，並參掌朝政。不久，有人聽說一位姓鄭的官員有一位年僅十六七歲的女兒，才貌出眾，京城之內，絕無僅有。便告訴了太宗，請求將其納入宮中，備為嬪妃。太宗便下詔將這一女子納為妃子。魏征聽說這位女子已經許配陸家，便立即入宮進諫：“陛下為人父母，撫愛百姓，當憂其所憂，樂其所樂。居住在宮室台謝之中，要想到百姓都有屋宇之安；吃著山珍海味，要想到百姓無饑寒之患；嬪妃滿院，要想到百姓有室家之歡。現在鄭民之女，早已許配陸家，陛下未加詳細查問，便將她納入宮中，如果傳聞出去，難道是為民父母的道理嗎？”太宗聽到後很是吃了一驚，當即表示不知，向魏征認錯。並決定收回成命。但房玄齡等人卻認為鄭氏許人之事，子虛烏有，堅持詔令有效。陸家也派人遞上表章，聲明以前雖有資財往來，並無訂親之事。這時、唐太宗半信半疑，又召來魏征詢問。魏征直截了當地說：“陸家之所以否認此事，是害怕陛下以後借此加害於他。其中緣故十分清楚。不足為怪。”唐太宗這才恍然大悟，便堅決地收回了詔令。