公元六一八年四月底的一天，隋煬帝駕崩的消息傳到了長安。
李淵聽說之後，立刻失聲慟哭，如喪考妣般地大放悲聲。他身邊的文官武將們急忙上前勸解，李淵仍然哭泣不止。
見左右苦苦相勸，李淵邊哭邊說道：“我在長安北麵稱臣，侍奉著代王恭帝，遙尊他為太上皇，隨時想著恢複隋室江山，匡扶將要傾覆的社稷。萬萬沒有想到他會被害，而我不能及時去救他，一想起來真是傷心不已，又怎能不悲痛呢？”
第二天，裴寂等人文一次上表，建議李淵立即稱帝，在表中說：“天下本是萬眾所有，非歸一人一姓。如今皇帝已歿，隋室名存實亡，何不取而代之？”
李淵讀完之後，心中暗說：“時機還未成熟，再等一等吧！”進軍長安，這是李淵一生中最重要的行動，在他的心目中始終回響著“先入關中者，先得天下”這句話。當時，他表麵上立即表現出非常沉痛的樣子，對裴寂等人說道：“皇上屍骨未寒，怎可議定這不忠不義之事？”
說罷，李淵立即把那份勸表退給裴寂等去了。
其實，李淵早就想稱帝了，隻是覺得時機尚未成熟，所以才一再推托。這正顯示出李淵的遠見卓識。
這一年的正月初一，隋恭帝楊侑下詔，允許唐王李淵佩劍、穿靴上殿，朝見時可以不跪拜，行禮時也不必通名姓，並且加前後羽葆鼓樂。
這種寬厚的待遇，日經非常接近帝王了。
三月二十三日，恭帝又下詔，把十個郡增賜給唐王，唐王仍然為相國，總理百官，唐王可以設置丞相以下官吏，又加賜唐王九錫（古代帝王給掌權大臣的九種器物。一般象征著這位大臣將要建立新王朝）。李淵接詔後，有意對身邊的文武臣僚說：“這是阿諛奉承的人幹的事情，把握著大權，又給自己增加優厚的封賜，這算什麼呢？”姚思廉解釋說：“這是魏晉以來的規矩，全都有例可循，並非違背祖訓的做法……”
李淵仍然表現出不願接受的樣子，說：“假如一定要按照魏、晉的規矩，也未必能說得通。因為那些全是虛禮，是騙人的，那些受封賜的人，實際比不-春秋時期的五霸，卻要追求禹、湯、文王的名聲。我認為他們是可笑的，也是可恥的。”
裴寂又說：“曆朝曆代都是這樣做的，怎麼可以廢除？而且這也有朝廷的一片真情在裏邊。”
在這種情況下，李淵又乘機表明自己的“心跡”：“堯、舜、湯、武，可以分別按其時機，以不同方式登上王位，但都是以其至誠，上應天意，下順民情。卻沒有聽說夏、商末年一定得效法堯、舜的禪位舉動。”
明眼人很快就能覺察到，李淵本來是在說“九錫”，突然又轉到“禪位”上去了，這無疑是在提醒自己的部下們說那些他很想聽的話。
那些像裴寂一類的臣僚們，便順著李淵的話題，趁勢進言道：“隻要應乎天，順乎民，也是可以學堯、舜、禹這些先賢的。夏朝、商朝沒有禪位之舉，是因為他們不像堯、舜、禹那樣賢明，他們的那顆‘心’早已被陰翳蒙住了。”
聽到這裏，李淵便不再推讓，於是說：“這事如果少帝知道，一定不會答應的。若是少帝不知道，單是自己想提高地位，卻又假意推讓，那不是很可恥的事嗎？”
這是十分明顯的，李淵說這些話的用意，仍然是在向自己的部下反複提醒：一定要讓少帝知道！至於他是否願意，對這個不該再問的問題，他現在完全為你我控製，敢不答應嗎？
對於稱帝的問題，李淵仍堅持三揖三讓，隻把丞相府改為“相國府”，對“九錫”之類的特殊禮儀，李淵竟不吝惜地退還給官署了。
如今，煬帝已經死了，如果立即取楊侑而代之，未免顯得太性急了，所以李淵又推又讓，表現出仍不為“帝位”所動的樣子。
到了五月上旬，裴寂等人再次進見道：“我們這一班唐軍的將佐，跟隨你唐公征戰多年，若唐公再不稱帝代隋，我們也情願辭官歸田去了。”
李淵聽後笑道：“諸位將佐何必言之過切！”
接著，他的態度就明朗化了，說道：“對稱帝之所以再三推讓的原因，並非不願做皇帝，而是顧慮擁戴自己登皇帝的臣僚們表裏不一，口是心非。”
在弄清了裴寂等人的真心實意之後，才表示他也和當年的劉邦一樣，同樣是樂意做皇帝的，並且說得更直接：“如今，江都的皇上口歿，隋朝就意味著滅亡了；而四方割據，天下也早已不是隋朝的天下了。”
李淵再也不需要遮遮掩掩、閃閃縮縮，讓楊侑替自己當傀儡了。他要自己當皇帝，是從逆賊、叛黨手中——而不是隋朝皇帝手中——奪取天下。
這才是李淵在煬帝死後的真實想法。
接著，李淵便派裴寂去對楊侑說：“隋朝天數已盡，必須把朝廷大權交給有德之人，這個人隻能是唐王李淵，別無二人了。”
恭帝楊侑本來就是李淵手中的工具，李淵的命令來了，他怎敢不聽從呢？
公元六一八年五月十四日，恭帝楊侑被迫下詔，宣布退位，把皇帝的寶座“禪讓”給唐王李淵。
接著，楊侑派遣刑部尚書兼太保蕭造，司農少卿兼太尉裴之隱，奉皇帝玉璽綬帶，來到唐王的相國府官邸中，舉行禪位儀式。
李淵又是一番“三揖三讓”，才行受命，儼然是奉天承運，頗為正規。
五月二十日，李淵改“大興殿”為“太極殿”，正式即皇帝位。
李淵由此做了皇帝，並且把這個新的王朝命名為他的家族的封號一一唐，中國封建社會曆史上最為輝煌的時代，就在這樣一種莊嚴的氣氛中開始了。
此時，李淵已經五十三歲，須眉斑白，因為平日保養得尚好，體質依然健壯如牛，並不顯老。
由於推五行為土德，服色尚黃，戴黃冕，著黃袍，由侍衛太監擁著李淵，來到皇帝的寶座龍椅上坐下。
宗室、貴戚以及文武諸大臣，一時間趨擁著進入殿內，列班朝賀，跪伏在地，山呼萬歲萬萬歲。
李淵就此成為唐王朝的開國君主。
登上了皇帝禦座，李淵隨即頒詔四方，改義寧二年為武德元年；大赦天下，官吏各賜爵一級。凡唐軍過處，給免除徭役三年；其餘各地，均免除一年，又罷郡置州，改太守為刺史。
退朝後，皇帝李淵賜百官宴，賞賜有加。
五月二十七日，突厥始畢可汗獲得李淵在長安建唐稱帝的消息，立即派遣骨咄祿特勒為使者，來長安表示祝賀。李淵在太極殿宴請突厥大使骨咄祿特勒一行人，在宴會上奏九樂，以示隆重。這“九樂”乃隋煬帝定下的宮廷音樂。其中除傳統的華夏正聲，還有平陳後得到的宋、齊清音樂，有西涼、龜茲、天竺、康國、疏勒、安國、高麗等九部西域民族音樂。
在音樂之外，還有稗、鐸、巾、拂四舞表演，並表演了雜技節目，盡力討好突厥人。
這時候，突厥特別強盛，由於大量的中原人為了避亂，紛紛逃往突厥，而且東西各國又都臣服於它，以致突厥人當時的兵力強大無比，他們自己揚言有一百多萬士兵，成為一個“全民皆兵”的國家。
這些突厥使者在長安停留期間，態度傲慢，有的到街上買東西也不付錢，甚至還動手打人。李建成、李世民向李淵報告，請求懲罰這些蠻橫的突厥人。
李淵對兩個兒子說：“隻要他們不是鬧得太過分，比如放火、殺人等，也就包涵一些，讓著他們也就過去了，好在他們在長安也不會待得長久。”
由於李淵在太原起兵時，曾借助了突厥人的力量。當時，為了穩住突厥人，不得不給他們送去大量的財物，才換來後方的安定。
始畢可汗這次派使者來長安，名義上是來朝賀，實際上是來向李淵要情、邀功，居功自重，要求給他們厚報，一句話，是要財物！
為了繼續穩住突厥人，李淵向朝臣們說：“我們的唐朝建國不久，還像一個孩子，起步都不穩，怎麼能跑、去跳呢？”
善於韜晦之術的李淵，對突厥人也用此法，他又說：“現在，我們的力量不足以對抗突厥人的進攻，更無法去擊敗、消滅他們！隱忍不發，是最好的計策。常言道：君子報仇，十年不晚。為何要那麼著急呢？”
李淵是個很講實際的人，是個英明睿智的政治家、軍事家。他清楚，剛剛建國的唐朝，周邊林立著各種割據勢力，急等著他去用武力統一起來，怎能抽出手來對付那些突厥人呢？
有一次，李淵對建成和世民說：“在我有生之年，能把全國統一起來，再經過幾年的養精蓄銳，有了足夠力量，誓把突厥人打敗，以消除這個心腹之患！”
可見，李淵對付突厥人的策略，是從長遠目標出發，不以眼前得失為重，這就是他的遠見卓識。
李淵稱帝後，為了健全機製，發揮朝廷功能，需要封官授爵，也是他收攏人心的一種辦法。