尉遲敬德認為這樣做十分不妥，很有可能會再次激起他們的反抗，引起朝廷動蕩。於是，他便挺身而出，力諫秦王，說罪魁隻有二人，今已誅殺建成、元吉，不宜株連他人。若秦王還要牽連他們的黨羽，恐激生禍亂，這不是謀求安定了做法。李世民聽尉遲敬德這麼一說，認為很有道理，也就取消了決定。
隨後，李世民又聽取了房玄齡、杜如晦等人的意見，請求父皇頒旨赦免參與玄武門兵變的所有將士，叛逆的罪名隻給李建成和李元吉兄弟二人，對其餘黨羽一概不加以追究。李淵打心裏就不認為建成和元吉有謀逆之罪，然出於無奈之舉，他隻好按李世民的意思頒旨下詔了。於是，原東宮和齊王府的人就紛紛轉投到秦王帳下。其中，魏征、王珪、薛萬徹、韋挺等幾位謀士大將還得到了李世民的重用，不久就成為他的左膀右臂。
兩天後，李淵下詔立李世民為太子，並規定今後軍國庶事，不分大小，一律皆由太子處分。為此，李世民在與李建成和李元吉的權力鬥爭中大獲全勝，最終得到他夢寐以求的太子之位。入主東宮之後，他立即著手建立自己的勢力，任命宇文士及為太子詹事，長孫無忌、杜如晦為左庶子，高士廉、房玄齡為右庶子，尉遲敬德為左衛率，秦叔寶為右衛率，虞世南為中舍人，褚亮為舍人，姚思廉為洗馬，魏征為詹事主簿，其餘心腹愛將，皆委以重任。
李世民因功高德重而深受朝中大臣的愛戴，今身為太子，且手握大權，自然唯他馬首是瞻，人人聽從他的領導。這樣一來，李淵就完全被太子架空，成為一位有名無實的皇帝。這令李淵心裏很不舒服，卻又無可奈何，他知道朝廷已被太子集團全麵掌控，群臣也已把太子當成了他們的皇上。他現在隻是一個令人討厭的陪襯，一個不折不扣的老傀儡。
想到這些，李淵心裏就來氣了，欲傾力挽回自己作為一國之君的顏麵，還有至高無上的權力。然而，他已是力不從心了，臣子們都快不拿正眼瞧他，更別說聽他的話。他們非但不幫這個叫了九年的皇上，反倒是一個個前來勸他退位。先是蕭瑀、陳叔達等一直支持李世民的大臣，最後連裴寂也勸他退位。這令他大為光火，同時也深感自己大勢已去，無力重新得到自己所需要的東西。一番深思熟慮之後，他便接受了裴寂等人的勸諫，決定將皇位傳給太子。
於是，八月癸亥，李淵頒布製書，將皇位傳給太子李世民。李世民聽罷，欣喜萬分，想自己終於等到這一天了。然而，出於對父皇表麵上的敬畏，他還是假惺惺地上表推辭，自貶無才無德不敢繼承社稷江山。李淵心裏知道這個迷戀權力的兒子早就想取代自己，登上九五之尊，號令天下，因而對他的推辭報以輕蔑的冷笑。他明白太子這樣推讓，完全是為了做給天下人看，以表白自己殺兄戮弟並非為了皇位，而是為了大唐江山千秋萬代。
什麼東西！李淵在心裏狠狠罵了句這個假仁假義的兒子，將他的表書表撕了個粉碎，揚手撒了一地。好，那朕就成全你好了，誰叫朕有你這麼個屠兄殺弟逼父退位的畜生呢！緊接著，他又賭氣似的提筆疾書，好好地讚美了番太子，然後命裴矩呈送給太子。經過三讓三請之後，李世民終於答應了李淵的請求，同授命承繼大統。也許是心急，他決定明日就登基。
李淵得知這個消息後，坐在太極殿苦笑了陣，兩行老淚忍不住從眼眶裏湧了出來。裴寂見了，鼻子直發酸，淚水在眼窩裏打著轉兒，慢慢地溢出眼眶，順著蒼老的麵龐灑落在衣襟上。兩位老友相顧無言，默默地流著傷心的眼淚。好一會兒後，裴寂才緩緩地直起腰，扶著老朋友慢慢地朝寢宮走去。
次日，天公作美，碧空如洗，陽光普照大地。一大早，顯德殿就熱鬧起來，但見禮儀官們如魚般穿梭於殿中，手忙腳亂地準備著登基儀式。不多久，房玄齡、杜如晦、長孫無忌等文武百官們就穿著嶄新的官袍，喜氣洋洋地跨進了金碧輝煌的大殿。他們看見正襟危坐於龍椅上的李世民，齊刷刷地跪倒在地上，叩頭高呼萬歲萬歲萬萬歲。李世民一身龍袍，氣宇軒昂，威風八麵。他用威嚴的目光掃了圈肅立於階下的群臣，道聲眾愛卿平身，然後便頒旨下詔，大赦天下，關內地區及蒲州、芮州、虞州、泰州、陝州、鼎州六地免除租調兩年，其餘各地免除徭役一年。於是，普天同慶，大讚皇上聖明。
接下來，李世民又頒旨任命朝中官員。裴寂、蕭瑀、陳叔達、封德彝、宇文士及等老臣原地不動，而原秦王府舊將紛紛得以擢拔，房玄齡出任中書令，高士廉出任侍中，杜如晦出任兵部尚書，長孫無忌出任吏部尚書，杜淹出任禦史大夫。原東宮謀士魏征、王珪深得李世民器重，被任命為諫議大夫。大將中秦叔寶為左衛大將軍、程知節為右武衛大將軍，尉遲敬德為右武侯大將軍，侯君集為左衛將軍，段誌玄為驍衛將軍，薛萬徹為右領軍將軍，張公謹為右武侯將軍。新後宮中，長孫王妃被冊立為皇後，而李元吉之妃楊氏則因美麗而賢淑，很快就成了李世民的寵妃。