方上不止一次地出現過變亂。盡管這些局部變亂很快就被平息了下去，但是如果處理不好，會引起更大的政治動亂，甚至使新生的李世民政權顛覆，也並不是不可能的。
在全國各地當中，山東是各種矛盾的焦點，問題最為複雜。
所謂的山東在當時來說，包括今河北、山西、河南一部分地區在內，加上山東省本身，範圍相當廣泛。
隋末唐初的山東豪傑，其代表人物或是豪強地主，或是農民領袖，而其下層群眾則大多是鋌而走險的失業農民，他們具有很強的戰鬥力，因而往往是當時各派政治勢力的爭奪對象。在反隋的鬥爭中，他們形成了山東、河北地區的竇建德，河南地區的翟讓、李密，江淮地區的杜伏威三支力量。河南、江淮兩支起義力量先後被唐鎮壓或者招撫，基本上被唐王朝所控製。瓦崗軍的大部分將領，如徐茂功、秦叔寶、程知節、張亮等人後來都成了秦王府集團的骨幹，張亮曾受李世民密令在洛陽“陰引山東豪傑”，擴充自己的勢力。竇建德農民軍的情況比較複雜，他們在隋亡之後，一直是同唐爭奪天下的強大武裝，他們沒像李密、徐茂功等人那樣歸附唐王朝，而是在同唐軍交戰以後戰敗被鎮壓下去。李世民在鎮壓竇建德和劉黑闥時，實行了盡行殺戮的政策，不僅激化了唐王朝同河北地區“山東”豪傑勢力的矛盾，也使李世民割斷了同這一勢力的聯係。而這一矛盾，在很大程度上反映著唐王朝統治集團與河北地區農民的矛盾。竇建德在河北地區建立“大夏”政權時，封過一大批農民出身的首領或豪強地主為地方官吏，推行了一係列對農民有利的改革措施，在當地有著深厚的群眾基礎。竇建德死後幾十年，山東、河北人民群眾仍對其人其事津津樂道，並為其立廟祭祀。由於唐王朝對竇建德舊部采取鎮壓政策，激起河北群眾屢屢起兵反抗。李建成出兵平定劉黑闥時，曾接受魏征的意見，對河北地區輔以安撫手段，取得了一定的效果，並因此與河北地區的勢力建立了一定的聯係，成為同李世民抗爭的一支力量。所有這一切，都使唐太宗感到，要想消除河北地區的隱患，取得人民群眾的支持，最根本的辦法就是進行安撫。
魏征是這樣的人，他可以幾易其主，但不管為誰做事，都是為黎民百姓謀福利，而百姓的福利實則就是國家的治國之道。表麵上看，魏征是誰掌權就為誰做事，實際上，作為一個文人謀士，在不存在自己獨掌江山的情況下，輔佐一個明君勸其聽從自己的意願，就是他實現治國抱負的唯一途徑。帝王靠武力統一天下，魏征靠思想征服帝王。
他向李世民稟道：“殿下，如今雖然大局已定，但不可說天下太平，勝人易，勝心難，山東河北地區原來受竇建德影響，後受劉黑闥挑撥，向來與大唐不合，臣以為應該派人去廣為安撫，以昭聖意。”
李世民很高興，說道：“卿與孤正想到了一處，連日來孤為此事吃睡不香，卿看派誰去好？”
魏征深深一揖道：“臣蒙殿下錯愛，並沒有為殿下出過一力，如果可以的話，臣願前往。”
李世民大喜，他所以喜是因為這種安撫使的工作，確實不是一般人能夠勝任的，它不能靠武力，也不能光靠嘴皮子，這人要在山東河北一帶有威信，還要對那一帶的情況熟悉，這個人隻有魏征最合適。
他相信魏征能夠辦好這件大事，理由是：魏征本人就是“山東”人士，對那裏的政治、經濟、家族勢力、民情風俗等都有幾十年的生活閱曆基礎，了解得十分清楚。其次，他曾在元寶藏、李密、竇建德等數支農民軍中幹過，非常熟悉關東各種勢力及其鬥爭關係，許多潛伏隱遁，四散流亡的農民軍昔日的首領和骨幹，他有的深交過，有的認識，也有的聽說過，關於農民軍將士們的脾氣、性格、思想、行為等他是摸得很準很透的；他又在建成手下任過職，各地與建成有關係的人，他都比較熟悉，再加上魏征既有從戎征戰的行伍經曆，又有數十年博覽通涉的文化素養，既有曆盡挫折仍孜孜不倦勤勉工作的作風和品質，又有能言善辯的出眾口才和頗能打動人心的生輝文字，他出使河北、山東，安撫這個地區的人民，穩定局勢，是完全可以信賴的，是一定能勝任的。
但李世民的叔叔李神通卻不放心，他對李世民說，殿下如何要相信魏征？上次他以安撫使的名義去山東，結果降了竇建德，和大唐打了將近兩年的仗。這次雖然竇建德不在了，但是山東河北一帶仍有餘黨作祟，這些人盡知魏征謀略過人，如果有誰再把他抓去再不讓他回來，依魏征這人的性格，不是又和人家合起夥來與大唐為敵？
李世民哈哈大笑，說道：“皇叔差矣，魏征幾易其主不假，但此人忠義兩全，韜略過人，孤召他至帳下，正是他大展才華的機會，況且現在外敵疲弱，孤看不出他能明珠暗投，背叛大唐。皇叔盡可放心。”
李神通見他主意已定，不好再說什麼，猶豫了一陣又說：“這樣也好，不過還是小心沒大錯，臣可派手下孫謀一同前往，作為內應，萬一有事，也好早有防備。”
李世民點頭應允。
李世民當即決定派遣魏征為欽差大臣，出使山東，並“聽以便宜從事”，即給予他特命全權使臣的權力。
魏征出關的時間，據《資治通鑒》載，是高祖武德九年（626年）七月丁酉（十二日）。這時，李世民已立為太子，但尚未即皇帝位。
魏征接受了李世民的任命，直奔山東，這已是他投唐以來，三下山東了。第一次是武德元年（618年）十一月，自請安輯山東，那時他尚不為唐廷賞識，雖說是去動員擁兵20餘萬、據地十餘都的好友徐世績、元寶藏歸唐，但隻領了一個“秘書丞”的小小頭銜，一路隻是乘坐驛站的車子到了黎陽，且無安全保障。第二次是隨從太子李建成征討樹威，處於戎馬倥傯之中。這一次，是他在玄武門事件中遭到慘敗之後，大難不死，反而蒙受了李世民以國士相待的殊遇，以特命全權使臣的身份，前往山東執行宣慰任務，車服儀仗、隨從人馬、風光榮耀，都大異往昔了。