李世民離開仁智宮不久，李元吉與一些嬪妃輪番向高祖求情，要求赦免李建成。重要大臣封德彝也出麵為李建成斡旋。內外合力，日夜不息，終於使高祖又改變了主意，不僅赦免了李建成，還命他仍舊留守京師，唯責以兄弟不和，輕描淡寫地處理了此事。
楊文幹之亂的平定並沒有使李建成集團就此止步，反而使針對秦王府的陰謀變本加厲地進行了。他們認為李世民爭奪太子的本錢主要是其擁有強大的實力，尤其是秦王府中的謀士猛將，隻要針對此采取分化與收買的辦法就可削弱其實力，使其無力與自己相爭。
他們收買的第一目標是秦王府左二副護軍尉遲敬德。此人本是劉武周、宋金剛的部將，李世民征討宋金剛時招降了他。在以後的戰爭中，尉遲敬德屢立戰功，成為秦王府中最忠實的勇將。李建成為了拉攏他，秘密贈送了一車金銀器，並寫信招其脫離秦王府，被敬德婉言謝絕。敬德還把此事告訴了李世民，李世民說：“公心如山嶽，雖積金至鬥，知公不移。相遺但受，何所嫌也！且得以知其陰計，豈非良策！不然，禍將及公。”（《資治通鑒》卷191）李世民既讚揚了敬德的忠貞不貳，同時又埋怨他不知權變，沒有利用這個機會打入對方內部刺探情報。此計失敗後，李元吉又派人夜間刺殺敬德。敬德知有刺客，大開房門，安臥不動，刺客屢至門口，畏懼敬德驍勇，始終不敢下手。李元吉一計不成又生一計，遂通過高祖之手將敬德下獄治罪，準備處死。李世民當然知道此舉的真實目的，遂據理力爭，高祖因無證據，隻好又釋放了敬德。
李建成集團的下一個打擊目標便是程知節。此人跟隨李世民東征西討，在掃平劉武周、竇建德、王世充的戰爭中屢立戰功，這時任左一馬軍總管，封宿國公。建成、元吉等奏請將程知節調任康州（今廣東德慶）刺史。程知節見形勢緊迫，遂對李世民說：“大王股肱羽翼盡矣，身何能久！知節以死不去，願早決計。”（《資治通鑒》卷191）同時，建成還以金帛招誘秦王府右二護軍段誌玄，也沒有獲得成功。
除了打擊和收買秦王府武將外，李建成還對其謀士也采取了同樣的辦法。他們認為秦王府的智謀之士最可怕的是房玄齡、杜如晦二人，隻要將此二人除去，餘人均不可憚。於是通過高祖將房、杜二人驅逐出秦王府，勒令歸第，以後不許私謁李世民。房、杜二人是秦王府的智囊人物，重大決策往往都要他們參與決策，他們二人的被逐對秦王府打擊最為沉重。
就在此時，突厥數萬騎入塞圍攻烏城（今陝西定邊境內）。由於高祖對李世民掌握兵權不放心，遂根據李建成的建議派李元吉率大軍援救烏城。他們還商定利用這次機會對李世民下手。首先，他們要求抽調秦王府驍將尉遲敬德、程知節、段誌玄、秦叔寶等人隨軍出征，並簡選秦王府帳下精銳之士以充實元吉的軍隊。這一舉動異常狠毒，將使李世民陷於孤立無援的地步，在這場鬥爭中束手待斃。高祖當然清楚地了解這一舉動所包含的真正目的，然而他還是同意了建成、元吉的請求，可見高祖的立場已經完全轉到了建成一方。
李建成還向元吉授意說，出征之時自己將與李世民一同到昆明池為你餞行，在宴席間“令壯士拉之於幕下，因雲暴卒，主上諒無不信”。敬德等秦王府將士既入你手，“一時坑之，孰敢不服？”（《舊唐書·巢王元吉傳》）李建成之所以如此大膽，是因為高祖已經完全倒向己方，如果二人陰謀一旦得逞，高祖雖不信“暴卒”之說，但也不會追究。關於李元吉坑殺秦王府將士也不是做不到，隻要看一下李元吉此次所統率的軍隊就非常清楚了。此次元吉統率的軍隊是羅藝所率的天節軍和張謹的天紀軍，前者是東宮集團中人，已見前述，張謹雖不是東宮集團的人，但也不屬於李世民集團，隻聽命於皇帝而已。有這樣數萬精銳大軍，李元吉要誅殺人數並不占優勢的秦王府將士，還不是易如反掌。可見，此次出征建成和元吉在抽調軍隊時還是頗費了一番心思，做了精心的選擇，將與李世民關係比較密切的將領所統率的軍隊完全排除在外。
（二）北門喋血
在這生死存亡的關鍵時刻，李世民當然不會坐以待斃，實際上他早就有所準備，並及時地掌握了準確的情報。他在建成、元吉收買分化秦王府將士之前就已開始了收買拉攏東宮集團中人的行動，並且取得了成功，使他們在關鍵時刻發揮了作用，這就是太子率更丞王晊和駐守玄武門的將軍常何。當李建成與李元吉密謀誅殺李世民和他的部下將士時，王晊秘密地把這個計劃報告了李世民。而常何的作用則體現在後來的玄武門之變上，使秦王府的軍隊順利地埋伏於玄武門，而建成、元吉自以為玄武門為自己人把守，心無疑慮，結果措手不及，以至於喪命。
得知東宮集團的密謀後，秦王府的人開始焦慮不安起來，紛紛勸李世民先發製人。敬德對李世民說，如果大王再猶豫不決，敬德將竄身於草澤，不能留下來受死。長孫無忌也極力主張早動手，以武力解決東宮集團，並威脅說如果大王不聽敬德之言，不僅敬德將逃走，臣也相隨而去。敬德還進一步鼓勵說：“且大王素所畜養勇士八百餘人，在外者今已入宮，擐甲執兵，事勢已成，大王安得已乎！”（《資治通鑒》卷191）從這些話可以看出，李世民早已決心發動政變，並且已部署完畢。
然而李世民卻不急於下令舉事，還說什麼“骨肉相殘，古今大惡，吾誠知禍在朝夕，欲俟其發，然後以義討之，不亦可乎！”（《資治通鑒》卷191）也就是李世民不願先發製人，而想後發製人。李世民曾命張公謹進行占卜，以決吉凶。張公謹取龜投地，激動地說：“卜以決疑，今事在不疑，尚何卜乎！卜而不吉，庸得已乎！”（《資治通鑒》卷191）
但是李世民仍然遲疑不決，不願首先動手。在這場皇位繼承權的鬥爭中，李世民是主動的一方，如果不是他咄咄逼人，謀取太子之位，李建成本來就是合法的皇帝繼承人，又何必和李世民爭得你死我活呢？然在此時此刻李世民又成為被動的一方，本應力爭主動，先發製人，卻反倒猶豫不決，這種現象很是令人玩味。
李世民的彷徨猶豫並非顧慮承擔誅殺建成、元吉的責任，而是對其父李淵的介入感到棘手，不好處理。因為李世民要奪取的不僅是太子之位，還不可避免地要將其父趕下台，否則勝利就不徹底、不牢靠，而要對付自己的父親，除了要認真考慮雙方的力量對比外，還有一個很難處理的問題，就是和李淵鬧翻的社會後果。當時的社會十分重視孝道。當年李淵葬母，赤腳行走了二十餘裏，腳底磨破，鮮血淋漓。李世民之母死，他守孝三年，悲傷過度，以至於扶杖而行。李世民口口聲聲強調孝道，素重名節，自己的這次行動如果成功，那就是天下之主，如果因此落下無君、無父、不孝、不悌的惡名，將無以立足於世。所以他大傷腦筋，百思不得其解。尉遲敬德、張公謹等人的話都沒有說到點子上，自然使他無法痛下決心。
李世民的這個心思又不便對部下明說，於是他再次征求意見，希望有人能解決他心中的疑慮。秦王府到底不乏聰明智謀之士，有人看出了他的心思，問李世民曰：大王以為舜是何等樣人？回答說：聖人也。於是此人就列舉了舜的父親和舜的故事，說舜的父親瞽瞍要害死舜，就命他去浚井，卻把舜封在井中；又命舜去修理糧倉，卻抽去階梯並放火焚燒，欲燒死舜，舜不肯遵父命而死，都設法逃了出來。《孔子家語》中說：“舜事瞽瞍，小杖則受，大杖則走。”所以舜的行為仍不失孝悌之道，曆代都奉他為萬世帝王之表（以上見《資治通鑒》卷191）。這一席話解決了李世民心中的疑慮，使他決心仿效舜的行為大幹一場。李世民與建成、元吉是兄弟關係，瞽瞍與舜是父子關係，風馬牛不相及。因此，這席話是針對李世民和李淵的關係而發表的議論，可見李世民要發動政變不僅是要解決建成、元吉的問題，其矛頭也直指高祖李淵，最終目的是要把李淵從皇帝的寶座上拉下來，自己取而代之。舊史中在記載這段曆史時做了手腳，掩蓋了玄武門之變中的許多史實以及政變的目的，但是從這些隱晦的語言中仍然可以看出當時秦王府中人思考和討論的主要問題之所在。
至此，李世民的顧慮全消，決心放開手腳大幹了。他命令尉遲敬德去召房玄齡和杜如晦等人，以便最後確定具體部署。房、杜二人由於與秦王府隔絕，還不知道時機已經完全成熟，也不了解李世民已經痛下決心，遂簡單地回答說：“敕旨不聽複事王，今若私謁，必坐死，不敢奉教！”李世民大怒，對敬德說：“房玄齡、杜如晦竟敢叛我！”於是取所佩刀授予敬德，對他說：“公往觀之，若無來心，可斷其首以來。”尉遲敬德與長孫無忌秘密來見房、杜，對他們說：“王已決計，公宜速入共謀之。”（《資治通鑒》卷191）於是房玄齡、杜如晦化裝成道士與長孫無忌同行，敬德從另一條路走，會齊於秦王府。
正當秦王府緊鑼密鼓地準備起事時，又發生了一件事，幾乎使李世民的政變流產。這件事發生在武德九年（626）六月初，太白星屢現於白天，太史令傅奕密奏曰：“太白見秦分，秦王當有天下。”（《舊唐書·傅奕傳》）這一天文現象《新唐書·天文誌》也有記載。對於這一星象，古人解釋為凶兆、災變一類，主兵喪、謀逆、更王，即更換君主。高祖得到這一奏報，當然非常震驚，遂於六月三日召見李世民，並將傅奕的奏狀拿給他看。此事並非虛構，因為《天文誌》上也有這一星象的記錄。後來李世民當了皇帝，曾對傅奕說過這樣的話：“汝前所奏，幾累於我。”（《舊唐書·傅奕傳》）可見當時李世民的確相當狼狽。不過李世民畢竟不同於常人，他在這一變故麵前還是沉住了氣，上奏說：“臣於兄弟無絲毫負，今欲殺臣，似為世充、建德報讎。臣今枉死，永違君親，魂歸地下，實恥見諸賊！”並且靈機一動，密告建成、元吉淫亂宮闈。李世民說這番話是為了達到兩個目的：其一，他一再提到王世充、竇建德，是提醒高祖自己對唐朝是有大功的，使高祖不便輕易對他下手；其二，反映建成、元吉淫亂宮闈之事，可以起到轉移打擊目標的作用，且此類事都是在秘密狀態下進行的，短時間內誰也說不清楚，這樣就可以為發動政變爭取到時間。大約是高祖平時確實也見到過建成、元吉與一些嬪妃往來頻繁，而且她們也經常在高祖麵前說二人的好話，聽李世民這麼一說，心中疑惑，中了秦王之計，便對他說：“明當鞫問，汝宜早參。”意思是明天一定要當麵訊問，你應當早點朝參對質（以上見《資治通鑒》卷191）。這樣，李世民就爭取到了寶貴的一天時間。回到秦王府，連夜商討對策，決定次日清晨采取行動，先發製人，一舉摧毀東宮集團的勢力，奪取皇位。
六月四日，高祖召宰相裴寂、蕭瑀、陳叔達等人入宮，準備訊問建成、元吉淫亂宮闈之事。
李世民命尉遲敬德、長孫無忌、侯君集、張公謹、公孫武達、獨孤彥雲、劉師立、杜君綽、李孟嚐、鄭仁泰等人率兵在皇宮北門即玄武門埋伏，與北門守將敬君弘、常何配合，待建成、元吉到達後發動襲擊。
此時，張婕妤已經覺察到秦王府行動異常，派人馳馬報知李建成。李建成遂召元吉前來商議，元吉主張立即發動東宮軍隊，做好準備，托病不朝，以觀形勢變化。李建成卻認為“兵備已嚴，當與弟入參，自問消息”（《資治通鑒》卷191），遂與李元吉騎馬直趨玄武門。當他們走到臨湖殿時，發覺情況異常，立即調轉馬頭向東宮奔去。李世民緊追不舍，元吉回頭張弓便射，連續三次都沒有把弓拉滿，所射之箭達不到射程，根本夠不著李世民，可見李元吉已經倉皇失措到何種程度。李世民首先射死了李建成，李元吉被隨後追來的尉遲敬德射下馬來，由於傷勢不重，他慌忙逃入附近樹林之中。李世民奮起直追，由於馬驚被樹枝所掛落馬，元吉見機會來了，返身奪過李世民的弓欲加傷害。正好敬德趕到，元吉隻好放棄世民，打算逃到武德殿，被敬德追射而死。
建成、元吉死後，東宮與齊王府的精兵兩千餘人在馮立、薛萬徹、謝叔方等人的率領下趕到玄武門，與秦王府的軍隊展開激戰。掌管北門屯兵的將軍敬君弘與呂世衡開門迎戰，被東宮軍隊殺死。張公謹見對方人多勢眾，遂關閉宮門據守，東宮兵猛攻不下。雙方激戰了很長時間，薛萬徹見宮門一時難以攻破，遂鼓噪欲攻打秦王府，秦王府將士大懼，因為其精兵皆在玄武門，秦王府空虛，如果遭到攻擊，勢必難以據守。正在這時，尉遲敬德持建成、元吉之頭出示，東宮兵見主人已死，人心慌亂，潰散而去。
這時，高祖還不知道發生了政變，正在宮中的海池泛舟。李世民命尉遲敬德入宮宿衛，敬德擐甲持矛，直奔高祖而來，高祖見狀大驚，知道出了亂子。敬德對高祖說：“秦王以太子、齊王作亂，舉兵誅之，恐驚動陛下，遣臣宿衛。”高祖回頭對裴寂等人說：“不圖今日乃見此事，當如之何？”蕭瑀、陳叔達回答說：“建成、元吉本不預義謀，又無功於天下，疾秦王功高望重，共為奸謀。今秦王已討而誅之，秦王功蓋宇宙，率土歸心，陛下若處以元良（指太子），委之國事，無複事矣！”此時建成、元吉已死，敬德名為宿衛，實為武裝挾持，在這種情況下，高祖隻好言不由衷地表態說：“善，此吾之夙心也。”（《資治通鑒》卷191）
此時長安城中其他地區雙方的混戰還未止息，敬德要求高祖下敕，命諸軍皆接受秦王指揮，高祖也隻得照辦，並派天策府司馬宇文士及外出宣讀敕令，戰鬥始得以平息。然後高祖又令裴矩到東宮曉諭將士，將他們全部遣散。
等到高祖幹完這些事後，李世民這才出麵來見其父，並抱著高祖大哭，“跪而吮上乳”（《資治通鑒》卷191）。據說李淵“體有三乳”（《新唐書·高祖本紀》）。李世民這個動作完全是故作親昵之態，他在誅殺兄弟、逼迫父親的勝利時刻，仍然沒有忘記保全仁孝的名聲，這位政治家的心機真可謂用到家了。高祖此時的心情真是複雜極了，兩個兒子被殺，還不敢稍有憤怒或悲傷的表示，反而安慰李世民說：“近日以來，幾有投杼之惑。”（《資治通鑒》卷191）這裏用了一個典故，是說有一個與孔子的學生曾參同姓同名的人殺了人，有人告訴曾參之母說你兒子殺人了，曾母不信，仍舊坦然地織布。當第三個人以同樣的話轉告她時，曾母對兒子的信念動搖了，於是投杼（梭）下機，越牆而逃。高祖借用這個典故比喻自己像曾參之母一樣聽了別人關於李世民的壞話，實際上是向李世民表示歉意，可見這位皇帝已經淪落到何種可悲的地步。
李世民政變成功，大權在握，遂下令處死了李建成的五個兒子，而李建成的長子早死，這樣李建成一門就全部死絕了。李元吉也有五個兒子，此時年紀尚幼，也全部被殺。李建成死時三十八歲，李元吉僅二十四歲。李世民在勝利之後大殺諸侄，斬草除根，可謂心狠手辣，後人對此評價說：“是時高祖尚在帝位，而坐視其孫之以反律伏誅，而不能一救，高祖亦危極矣！”並認為李世民此時尚未即帝位，以謀反罪誅殺諸侄，其罪名是不能成立的（趙翼《廿二史劄記》卷19）。其實就算李世民已經是皇帝了，建成、元吉諸子年幼不懂事，又怎麼會謀反呢？不過政治鬥爭是無情的，不得以常理評論，骨肉之親在殘酷的政爭中不免顯得蒼白無力，故李世民此舉也無可厚非。
（三）秦王登極
六月七日，也就是玄武門之變三天後，唐高祖詔立李世民為太子。秦王府的官員們也紛紛改換官銜，其中尉遲敬德改任太子左衛率，由於他在政變中出力甚大，又把齊王國司的金帛什器賞賜給了他。
就在這一天，高祖又頒下一道詔書，規定“自今後，軍機、兵仗，凡厥庶政，事無大小，悉委太子斷決，然後聞奏”（《冊府元龜》卷10）。高祖被迫交權是真，“然後聞奏”四字不過是為了老皇帝麵子的一塊遮羞布而已，實際上已經沒有什麼真正意義了。這一月十六日，高祖已經知趣地打算退位去當太上皇，要求裴寂等人擇好日子宣布退位。大概李世民覺得這麼快就使父親退位，容易給人留下逼父下台的口實，所以又拖了一段時間，使得李淵又做了兩個月的空頭皇帝。
高祖在六月四日以後留下的曆史活動的最後回聲，就是以他的名義發了幾道詔書。政變當天發了一道詔書，大肆斥責建成、元吉，認為他們罪行累累，死有餘辜。又在《立秦王為皇太子詔》中極力讚美李世民，說他“氣質衝遠，風猷昭茂”，“孝惟德本，周於百行”，“戡翦多難，征討不庭”，“遐邇屬意，朝野具瞻”（《唐大詔令集》卷27）。總之，這道詔書使用了一切稱頌讚美的詞句，特別強調了李世民的仁孝德行，完全是按勝利者的政治需要說話，力圖將政變後要辦的事情盡量做得更加圓滿。
舊史在武德九年（626）六、七月間的記事中倒是沒有絲毫的隱晦，反正李世民已經是沒有皇帝稱號的皇帝了，沒有必要再作隱晦。這期間發生的唯一一件大事，就是廬江王李瑗的反叛，算是玄武門之變引起的餘波，故有必要略作說明。
唐宗室廬江王李瑗這時任幽州大都督，他與太子建成關係密切。建成死後，李世民命通事舍人崔敦禮赴幽州召李瑗回京，李瑗當然不敢輕率地返回長安，就與其親信右領軍將軍王君廓商議對策，王君廓遂鼓動他舉兵造反。李瑗是一個沒有主見的人，聽信了王君廓的話，將崔敦禮逮捕下獄，並下令征兵。其實王君廓並非真心支持李瑗，他見李建成已死，李世民當權，怕將來牽連到自己，打算誅殺李瑗立功，所以才鼓動李瑗反叛。李瑗卻非常信任王君廓，毫無防範之心，結果被王君廓帶領部下千餘人攻入府中，擒獲並縊死了他。因此功王君廓升任左領軍大將軍兼幽州都督。
八月，唐高祖正式退位，李世民如願登上了皇帝寶座。在這個時候李世民也像中國曆史上所有的以暴力獲得帝位者一樣，再三推辭，然後再做出迫不得已的樣子，坐上了皇帝的龍椅，史稱唐太宗。李淵稱太上皇，提前成了一個曆史人物。
五、退位後的高祖
從武德九年（626）八月起，唐高祖李淵就成為太上皇了。貞觀三年（629）遷居大安宮，表明這裏為太上皇的養老之所。對退位後的李淵，太宗在生活上還是給予照顧的，也時常去問安，以盡為子之道。但是以前李淵對他猜忌不信任的陰影始終在心中縈繞，久久不能散去，因此表麵上的殷勤並不等於內心沒有隔閡。比如大安宮位於宮城（即太極宮）之西，比太宗本人所住之宮低矮狹小。監察禦史馬周曾經上書，認為這種狀況“於四方觀聽，有所不足”，也就是社會影響不好，要求另建高大宏偉的宮殿，“以稱中外之望”（《資治通鑒》卷194）。太宗雖然表麵上接受了這個建議，但卻無實際行動。
太宗為了自己避暑的需要，修葺了隋仁壽宮，並改名九成宮，每逢盛暑便前往避暑消夏，卻把年邁的老父丟在長安忍受酷暑的煎熬。對於太宗的這種行徑，有的正直官員都看不下去，他們指出：“太上皇春秋已高，陛下宜朝夕視膳。今九成宮去京師三百餘裏，太上皇或時思念陛下，陛下何以赴之？又，車駕此行，欲以避暑，太上皇尚留暑中，而陛下獨居涼處，溫凊之禮，竊所未安！”（《資治通鑒》卷194）太宗卻借口自己有病，遇到炎熱天氣便有所加劇，最後還是不顧一切地走掉了。麵對這種狀況，李淵一定感慨萬分，想當年自己在位時，到仁智宮避暑都要帶上兒孫們，也包括李世民在內，如今被迫退位，卻受到親生兒子的冷落，這位太上皇也隻能獨自哀歎了。
直到貞觀八年（634）時，太宗大概覺得自己以前的做法有損於明君形象，同時隨著時間的推移對自己父親的那種隔膜心理也漸漸淡漠了，所以在這年七月第一次請太上皇也去九成宮避暑。“上皇以隋文帝終於彼，惡之”，推辭不去（《資治通鑒》卷194）。隋仁壽四年（604），隋文帝被自己的兒子楊廣（隋煬帝）殺死於仁壽宮，而九成宮就是在仁壽宮的基礎上改建的。李淵大概聯想到自己以前與李世民的關係，認為此去不吉利，所以才堅決推辭。太宗數次勸行，他越加懷疑，最後還是沒有去成。可見玄武門之變的陰影始終在李淵的腦海中縈繞，直到他死去也沒有消除。
太宗見自己的父親如此狀態，為了證明自己的清白，遂於這年十月在長安城北龍首原上修建大明宮，作為太上皇的避暑之所。可沒有等到建成，李淵就一病不起，最終也沒能得到這份享受。這對父子至死也沒有像尋常百姓那樣心情坦蕩地生活過，對於晚年的李淵來說無疑是老人最大的悲哀。
不過，退位後的唐高祖畢竟也有過幾次快樂的時刻，隻是這種日子對他來說太短暫了，更多的還是孤獨和寂寞。
貞觀四年（630），唐軍大破東突厥，活捉頡利可汗。唐太宗在長安順天樓舉行了隆重的獻俘之禮，長安城中一片歡騰。長期的邊患解除了，人們不再擔心東突厥的侵擾，可以安居樂業了，激動的心情自然難以言表。李淵聽到這個消息後，心情激動，感慨萬分，興奮地說：“漢高祖困白登，不能報；今我子能滅突厥，吾托付得人，複何憂哉！”（《資治通鑒》卷193）李淵太原起兵時向東突厥稱臣，武德時期連年不斷地受到突厥的侵擾，現在這種隱患消除了，往昔的屈辱一朝而雪，使他常年憂悶的心情豁然開朗。他召集李世民與大臣十餘人和諸王、妃、公主置酒於淩煙閣。酒酣之際，李淵自彈琵琶，太宗起舞，公卿們不斷地向他敬酒，祝他長壽愉快，一直到夜晚才散去。
貞觀六年（632）九月，太宗駕幸武功高祖舊宅，這時已改名慶善宮。在這裏大擺酒宴，賦詩唱和，然後命起居郎呂才配樂，稱之為《功成慶善樂》，在宴會上表演。慶善宮是太宗出生之所，大概他舊地重遊想起了父母的養育之恩，十月返回長安後直奔大安宮看望自己的老父。在大安宮設宴，讓皇後、皇孫為太上皇敬酒，並獻上美食及服飾等物，直到夜深乃罷。
貞觀七年（633），李淵到長安城西閱兵，麵對威武雄壯的將士，他非常興奮，親自慰勞。返回之後，置酒於未央宮，命三品以上官員全部赴宴。宴會上李淵命突厥頡利可汗起舞，又令嶺南越族首領馮智戴詠詩，李淵高興地說：“胡、越一家，自古未有也。”太宗又一次奉觴向父親祝福上壽，並說：“今四夷入臣，皆陛下教誨，非臣智力所
獻陵遠景及。”又說往昔漢高祖也在這裏設宴為他父親祝壽，“妄自矜大，臣所不取也”。這句話的曆史背景是，漢高祖向其父說，起初大人常以為我是無賴，不治產業，不如我的哥哥，今日我的事業成就與他們相比哪個更大？太宗在取得對突厥戰爭的勝利及四夷歸附的時刻，又特意選在未央宮設宴，對自己的父親說這一番話是大有深意的，表麵上看他不讚成漢高祖的做法，實質上是舊事重提，借古喻今。舊史記載說，李淵聽後“大悅”，“殿上皆呼萬歲”（《資治通鑒》卷194）。要不就是李淵因年邁裝糊塗，要不就是舊史臣曲筆回護，沒有如實記載李淵聽到此話時的反應。
貞觀八年（634）三月，西突厥使者到長安朝貢。李淵設宴於兩儀殿款待西突厥使者，長孫無忌向李淵上千萬歲壽。李淵大悅，以酒賜太宗，太宗又奉觴祝壽，流著眼淚說：“百姓獲安，四夷鹹附，皆奉遵聖旨，豈臣之力。”（《舊唐書·高祖本紀》）太宗和長孫皇後又先後向李淵進膳，並獻服飾衣物，一切都按照家庭常禮安排，使李淵感受到了天倫之樂與家庭的溫情。但這也是李淵一生中的最後一次盛宴，死神已經向他招手了。
這一年秋季，李淵患上了中風。次年五月，病情加劇，死於大安宮垂拱殿，終年七十歲。臨終之時遺命“園陵製度，務從儉約”（《舊唐書·高祖本紀》）。群臣上諡號稱太武皇帝，廟號高祖。十月，葬於獻陵，位於今陝西三原縣境內，陵前至今仍有華表、石虎等石刻。