十月二十七日，李淵命令各軍圍攻長安城。規定：不準侵犯隋王朝皇家七廟和代王皇室，如有違令，誅滅三族。這是最得人心的，也可爭取一大批人。十一月初九，軍頭雷永吉首先攀上城牆，於是，攻克了長安。隋王朝代王楊侑，身在東宮，左右侍從人員奔逃潰散，隻有皇家侍讀姚思廉站立在楊侑身旁。李淵的軍士將登入殿堂，姚思廉厲聲斥責軍士道：“唐公興舉義兵，為的是扶助帝室，你們不可以沒有禮貌。”這麼一斥責，軍士們都愕然，在庭院中排列站立。李淵到東宮迎奉代王楊侑，把他送到大興後殿暫住，讓姚思廉扶著代王楊侑，一直扶到順陽閣下，李淵流淚哭泣，跪拜而別。李淵返回後，住在長樂宮，和百姓約法十二條，將隋朝的苛政酷令全部廢除。
十一月十一日，李淵將陰世師、骨儀等人抓了起來，曆數他們的貪婪苛酷，以及抗拒義師的罪行後，將他們處死。處死的共有十餘人。其他人概不追究。這樣就把敵人縮到最小的範圍。
李淵贏得起兵節節勝利的重要原因之一就是注意策略口號。李淵父子的起兵不是打出“反隋”旗號，而是在“尊隋”的名義下進行的。李淵父子打著“尊隋”旗號的目的在於減少阻力，以便站穩陣腳。所以，李淵父子在“尊隋”旗號下，確實做了一些文章。
大業十三年十一月十五日，李淵派儀仗迎接隋王朝代王楊侑到大興殿，登皇帝寶位，稱為隋恭帝。楊侑當時年僅十三歲。他下詔大赦天下，改年號為“義寧”，遙尊隋煬帝為“太上皇”。十一月十七日，李淵從長樂宮進入長安，楊侑特賜李淵：假黃鉞、使持節，委以大都督內外諸軍事、尚書令、大丞相，晉封為唐王。李淵把武德殿改為丞相府，唐王發布的“教令”改稱“命令”，每天到虔化門處理政務。十一月十八日，榆林、靈武、平涼、安定諸郡，都派遣使者前來稱臣，請求任命。十一月十九日，楊侑下詔：所有軍政事務無論大小，以及文武官員的任職，無論貴賤，典章製度的執行懲處，全部歸丞相府處理。隻有到郊外祭祀天地，以及四季祭祀祖先，才向皇帝楊侑上奏。
涿郡義軍首領羅藝
李淵設置丞相府官屬。他任命裴寂為長史，劉文靜為司馬。何潘仁派李綱進入長安覲見，李淵留下李綱為丞相府司錄，專管選任官員事宜。又任命前考功郎中竇威為司錄參軍，命他製定禮儀。竇威是竇熾的兒子。李淵將府庫中所有的東西都拿出來賞賜給有功人士，以朝廷的財政困難，右光祿大夫劉世龍呈獻計策，他認為現在義師幾萬人都集中在京師，木柴草料價格昂貴，綢緞布帛價格便宜，把長安城中六坊以及皇家林苑中的樹木，砍伐下來當木柴出售，用來交換綢緞布匹，估計可以換得幾十萬布匹。李淵采納了這個建議。
十一月二十二日，李淵任命李建成為唐王世子，命李世民為京兆尹，並封為秦公，封李元吉為齊公。十二月初七，追諡唐王李淵的祖父襄公李虎為景王，父親仁公李日丙為元王，李日丙的夫人竇氏為穆妃。
戰鬥仍在繼續。薛舉探知李淵已平定長安，便急忙派兵包圍扶風。李淵派李世民率兵抗擊薛舉，又派薑謨、竇軌出使散關，安撫隴右地方的百姓，派左光祿大夫李孝恭招撫慰問山南，派府戶曹張道源招撫慰問潼關以東各地。李孝恭是李淵的堂侄。
十二月十七日，李世民率兵在扶風進攻薛仁杲，大破薛仁杲軍，並追擊到壟坻才返回。薛舉大為驚慌，問他的部屬道：“自古天子有降事乎？”黃門侍郎錢塘人褚亮回答道：“趙佗歸附漢朝，劉禪侍奉晉室，近代則有蕭琮，其子孫迄今還地位顯赫，榮華富貴，這種轉禍為福的事自古就有。”衛尉卿郝瑗快步上前道：“陛下不應該問這種事！褚亮的回答又是多麼荒謬！從前，漢高祖經過多次逃亡與失敗，蜀漢的先主劉備屢次失去妻室兒子，可是他們最後都建立了帝業，陛下怎麼可以因為一次失利，就作亡國的打算呢？薛舉聽了此番話也後悔了，他馬上改口說：“隻不過拿這些問話來試試諸位將領罷了。”於是重賞郝瑗，讓他作自己的高參。
十二月十九日，平涼留守張隆，十二月二十一日，河池太守蕭以及扶風、漢陽郡相繼歸附李淵。李淵命竇璡為工部尚書，封為“燕國公”，命蕭為禮部尚書，封為“宋國公”。薑謨、竇軌率軍走到長道縣，被薛舉擊敗，就率軍撤退。李淵派遣通議大夫劉世讓安撫招集唐弼的殘軍，劉世讓與薛舉相遇，戰敗，被薛舉俘虜。
李孝恭擊敗朱粲，諸將請將俘虜全部殺死。李孝恭認為不能這樣做，不然，往後就沒有人敢投降了。於是從金川到巴中蜀地，檄文所到之處，投降歸附李淵的有三十餘州。
屈突通和劉文靜相持了一個多月，屈突通又派桑顯和率兵夜襲劉文靜的軍營。劉文靜和左光祿大夫段誌玄竭力苦戰，桑顯和兵敗逃走，桑顯和部屬全部俘獲。屈突通這時的處境愈加窘迫了。有人勸屈突通投降，屈突通哭道：“自己侍奉過兩位帝王，皇帝對自己的恩寵照顧，都很優厚，拿著別人的俸祿而在困難時背叛，這是我萬萬不能這樣做的事！”屈突通還常常指著自己的脖子說：“要當為國家受一刀！”屈突通慰勞勉勵將士時，沒有一次不痛哭流涕的，大家對此也很感動。李淵派其家僮去勸降屈突通，屈突通當即將僮仆斬首。當他聽說長安已經失守，家屬都被李淵俘獲，便留下桑顯和鎮守潼關，率軍東去，準備奔往洛陽。屈突通剛剛出發，桑顯和就獻出潼關向劉文靜投降了。劉文靜派竇琮等人率領輕騎，會同桑顯和，追阻屈突通，在稠桑追上了。屈突通擺好陣勢，堅守自衛，竇琮派屈突通的兒子屈突壽前去勸說，屈突通罵道：“過去是父子關係，如今成仇敵。你來幹什麼？屈突通命令身邊的人用弓箭來射屈突壽。”桑顯和對屈突通的部眾說：“如今京城已經失陷，你們都是關中人，打算去什麼地方？”屈突通的士兵就扔掉兵器投降，屈突通知道自己已無法逃脫，就跳下馬，背向東南方向再三跪拜號哭道：“我的力量至此已經使盡，不敢辜負國恩，天地神靈，全都知道！”士兵抓住了屈突通，押送到長安。李淵任命他為兵部尚書。賜他“蔣公”的爵位，兼任秦公元帥府長史。
李淵派屈突通到河東城下，勸守將堯君素投降，堯君素看到屈突通，欷不止，悲不自勝。屈突通也流淚沾濕了衣裙。他對堯君素說：“我軍已經失敗，唐王義旗所指之處，無不響應，事情已經到了如此地步，你還是早些歸降為好。”堯君素說：“你身為朝廷高官，隋煬帝把關中防衛重任委任給你，代王更依靠你保護社稷，你為什麼背棄朝廷而投降呢？還替人家充當說客？你所乘的馬，就是代王賞賜的，你還有什麼臉騎著這匹馬呢！”屈突通說：“哎，君素，我是力盡圖窮而來！”君素說：“你力盡圖窮，我現在的力量還未用盡，哪裏用得著你多嘴！”屈突通漸愧退走了。
李淵自從攻克長安之後，便通告各郡縣，於是東起商洛，西到巴蜀，各地的郡縣官吏、義軍首領、氐羌酋長，爭相派遣子弟見唐王請求歸順。
這時，李密擁兵三十萬，在邙山北麓列陣，南向緊逼洛陽上春門。竇建德、朱粲、孟海公、徐圓明等都派人奉勸李密稱帝，李密屬下裴仁基等也上疏請李密早日確定皇帝位號。李密回答道，東都的形勢非常危急，不能談論這些。正月二十二日，李淵命世子李建成為左元帥，秦公李世民為右元帥，率領各路兵馬十餘萬增援東都。三月初四，李淵又派齊公李元吉為鎮北將軍、太原道行軍元帥，都督十五郡諸軍事，允許全權處理。
三月二十三日，隋恭帝下詔撥出十個郡，增加唐王的封地，仍然以唐王李淵為相國，總管文武百官，唐王可以設置丞相以下官吏，又加援李淵“九錫”。李淵對手下的官員說：“這是阿諛奉承的人幹的事，我自己把握朝廷大政，又給自己加優寵和九錫，怎麼可以呢？如果一定要照著魏、晉王朝“禪讓”那條路，不過一連串複雜的儀式禮節，既騙上天，又欺人世。他們的作為趕不上春秋時的五霸，而所追求的美名，都超過了禹、湯、文王三王，我不但覺得可笑，還覺得很可恥。”此時，也有人說：“曆朝都這樣做，怎麼可以廢除？”李淵說：“堯、舜、湯、武王分別有自己所處的時代，登王位的方式各有不同，但都是以其至誠上應天意、下順民情，從來沒聽說夏朝、商代末年就得效法唐、虞那種禪位。如果少帝知道內情，他一定不肯批準，假若少帝年幼無知，是我自己尊崇自己，又假意推辭，是平生從心裏不願做的事。李淵說了自己的真實想法，他隻是把丞相府改為相國府，其他像“九錫”之類的特殊榮耀，都沒接受。
李淵世子李建成等率增援軍抵達東都洛陽，駐紮在芳華苑，東都城關閉城門，不出軍接應，李建成派人前往招諭，又不答複。李密出軍與唐軍相爭，隻作稍微接觸，就各自撤退。東都城裏有不少人想作為唐軍的內應，秦公李世民認為平定關中不久，根基還不牢固，即使得到東都洛陽，也不能守住。因此，沒有接受作內應的要求。四月初四，又領軍隊返回關中。李世民認為城裏看見唐軍撤退，肯定會追來。因而在三王陵設置三處埋伏，嚴陣等待追兵。東都留守段達果然帶領一萬多人追來，遇到埋伏，打了敗仗。李世民又追擊敗軍，直抵洛陽城下，殺了四千多人。又設置新安、宜陽二郡，派行軍總管史萬寶、盛彥師鎮守宜陽，呂紹安、任魏統兵鎮守新安，唐軍回師。
當時，東都隋廷能管轄的地方隻有城裏，人心不定，朝議郎段世弘等人秘密策劃響應李建成等率領的軍隊。剛好李建成的軍隊已經撤退，於是，他們派人聯絡李密，約定四月二十五日夜裏，迎接李密進城。事情被發覺，越王楊侗命令王世充誅殺了段世弘等人。李密聽說城內已經被平定，不敢再進，便回去了。
隋煬帝的死訊傳到長安，唐王李淵慟哭，十分傷心，他說道：“我北麵稱臣侍奉君王，君主失道不能挽救，又怎麼敢忘記哀痛悲傷呢？”這也是李淵的一種策略。這為三月份的事。當時，隋王朝已經徹底瓦解了。李淵認為時機成熟了，便想一腳踢開隋恭帝楊侑。於是自導自演了一出禪讓戲。
五月十四日，隋恭帝楊侑讓位給唐王李淵，讓出皇宮返回代王府。五月二十日，唐王李淵在太極殿即皇帝位，派刑部尚書蕭造在長安南郊，稟告上天，大赦天下，改年號為“武德”。停止用郡，設置州，改太守為刺史，因為屬於土德，所以顏色以黃色為尊。於是，李淵在關中重建新王朝，這就是唐朝。