617年(大業十二年)農曆五月十四日的夜裏，李淵命李世民在晉陽(即太原)宮城外埋下伏兵。第二天早晨，李淵和王威、高君雅議事。劉文靜領開陽府(太原十八府之一)的司馬劉政會到庭中，說有密狀給李淵。李淵便讓他交上來，但劉會政卻不交，說要告的是副留守，隻有李淵才能看。李淵假裝吃驚地說:“怎麼會有這種事?”李淵看後便對大家說:“王威、高君雅要勾結突厥入侵。”於是命人逮捕了他們二人。第二天，恰好有突厥幾萬人圍攻太原，這更使人相信了。李淵趁機將二人殺掉。
除了內患，李淵又智退突厥兵，然後與突厥和好，消除了北方的威脅。
殺掉王威和高君雅之後，李淵便和將士緊密防守，對付突厥。他命裴寂和劉文靜堅守城門，同時又讓大門洞開。城牆上不豎旗幟，守城士兵不許張望、喧嘩，這使突厥不明底細，不敢入城。李淵又在夜裏派兵出城，早晨改道進城，使突厥誤以為是援兵到達。最後突厥隻好退兵走了。李淵的軍事智謀由此可見一斑。
突厥兵雖然退去了，但難保不再來。為了從根本上解決問題，李淵給突厥寫了書信:“若能從我，不侵百姓，征伐所得，子女玉帛，皆可汗有之。”信中為了穩住突厥，李淵委曲求全地用了臣下的語氣，這樣做也是為了給南下用兵掃除後顧之憂。事實證明，李淵的策略收到了預期的效果。
617年(大業十三年)農曆七月，李淵率軍三萬誓師，正式起兵。在發布的檄文裏斥責隋煬帝聽信讒言，殺害忠良，窮兵黷武，致使民怨沸騰，“豺狼充於道路”，因此，李淵要廢掉昏君隋煬帝，尊為太上皇，然後擁立代王楊侑為帝。其實，這僅僅是李淵的一種號召天下的策略。
這時，李淵剛從太原起兵，瓦崗軍首領李密便寫信給李淵，想和他結盟共圖大計，實際上是想讓李淵尊他為盟主。李淵收到信後，非常高興，他當時正需要有人為他阻擋中原還沒有被消滅的隋朝軍隊，使他免去後顧之憂，集中兵力拿下長安。於是李淵給李密回信，對李密極力吹捧，說自己沒有取代隋朝之意，這就是李淵自己所說的“卑辭推獎以驕其誌”的計策，先麻痹李密，讓他阻擋中原的隋軍西進。
李密受到李淵的回信也是非常高興，於是專心於對付東麵的隋軍。一東一西，兩個李姓人開始了較量，但李密最後還是稍遜一籌，敗在李淵手下，還丟了性命。
在618年，瓦崗軍和洛陽的隋軍作戰失利，李密想東山再起，卻遭到了部將們的反對，他隻好到長安投靠李淵。李淵熱烈歡迎他，當成貴賓對待，常稱李密為弟，還將表妹嫁給他。但後來李密又嫌棄官小，對李淵說想回山東收服部下，幫李淵拿下洛陽。
李淵表麵上答應了他的要求，暗地裏卻派長史張寶德監視，等李密離開長安要出關時李淵卻下令讓他留一半兵在華州(今陝西華縣)。這時，和李密同行的張寶德向李淵告密說李密要叛亂，實際是張寶德怕李密跑掉自己擔不起責任。李淵便命李密一人入朝。李密感到大禍臨頭，便起兵想闖出關去，結果被圍殲。在和李密的鬥爭中，李淵充分利用了李密驕傲自大的缺陷，在開始吹捧李密，等長安拿下後，李密投靠他時又設計除掉了這個隱患。