20歲的李世民已經長成了一個身材魁梧的大漢。他不但成了一個軍事指揮官，而且在政治上也越來越成熟。李世民看到隋王朝已經風雨飄搖，大有一夜之間傾覆之勢，因此在內心深處已經立下大誌，要救百姓於水火。後來，李世民回憶起當時的生活情況說：“我在太原將近一年，在這段時間裏，我喜歡和大家聚在一起，談論一些事情，玩一玩遊戲。”
當時，李世民結交了很多朋友，大多都是豪傑之士，有出身高貴的，也有流浪江湖的。例如，很有才華的長孫順德，他是李世民嶽父長孫晟的族弟，為了躲避遼東的徭役，沒有辦法之下，躲在太原。李世民和他交情很深，彼此都很敬重。劉弘基非常窮困，四海為家，從來不整治家產，他流浪來到了太原，和李世民一見如故，二人結成好朋友，感情十分好，“出則同騎，入則同臥”。還有一個人叫竇琮，也是由於無處安身，才流浪到了太原。他和李世民有點過節，所以對李世民不太相信。但是李世民對竇琮卻是心無芥蒂，坦然地對待他，禮節十分周到，而且把他視為知己，就連自己的臥室也讓他隨便出入。竇琮非常感激李世民的這種知遇之恩，所以傾心相交，二人也成了好朋友。
李世民在太原的活動引起了一個人的注意，他就是擔任晉陽令的劉文靜。劉文靜身材高大，儀表堂堂，有才幹謀略，於隋末擔任晉陽令後就注意觀察天下大勢，準備投靠有雄才偉略的“真命天子”。李淵到太原出任留守，劉文靜通過一段時間的觀察，認為李淵心懷“四方之誌”，將來一定會有所作為，於是和李淵進行交往，逐漸建立了密切的關係。
劉文靜在與李淵的交往中，又發現李世民雖然年僅二十，但其見識和才能卻非同齡人可比。他經過仔細觀察，認為李世民必定能成就大事，因而對晉陽宮副監裴寂說：“李世民非常人也。寬容大度類似於漢高祖，英明神武同於魏武帝（曹操），他年紀雖然輕，卻有天縱之才。”
不久，劉文靜因為與瓦崗寨農民起義軍首領李密是兒女親家，被隋煬帝以勾結亂黨的罪名投入太原監獄。李世民深知劉文靜是一位可以圖謀大事的奇才，便私下到獄中去探望他。
劉文靜身為囚徒，隻有造反才是唯一出路，所以決心試探李世民，他說：“眼看天下大亂，狼煙四起，生靈塗炭，何時才能天下太平？”
李世民說：“要想天下太平，就必須能人出世，拯救天下百姓！”
劉文靜說：“如此亂世，到哪裏去找漢高祖劉邦、光武帝劉秀那樣的能人呢？”
李世民說：“怎麼能說沒有漢高祖、光武帝呢？恐怕是沒有人識才罷了！劉兄須知，千裏馬常有，而伯樂不常有。”
劉文靜說：“我自以為是個伯樂，你是一匹千裏馬，我來相相你，不知你是否情願？”兩人誌同道合，於是秘密商議起來。
李世民說：“我今天來探視你，除了表達朋友之情以外，主要是有大事與你商議。不知劉兄有無妙計？”
劉文靜說：“現在隋煬帝在南方遊山玩水，李密大軍已經圍住了洛陽。天下造反舉義之人數以萬計。如果真命天子抓住這個大好時機，奪取天下易如反掌。太原的百姓為了逃避戰亂，紛紛逃進城裏來了。我在晉陽當了幾年縣令，了解這裏的情況，認識很多確有真才實學的人。把這些人組織起來，十萬人馬，數日可聚。你父親唐國公所屬兵馬，少說也有幾萬，隻要一聲令下，誰不響應？可謂振臂一呼，應者雲集。靠這支軍隊，乘此機會攻入關中，傳檄天下，安撫人心，不出半年，帝業可成！”
李世民非常高興，興奮地說：“劉兄高見，正合我意，失此良機，實為可惜。”
李世民、劉文靜“心有靈犀一點通”，一拍即合。李世民得到劉文靜的輔佐，似乎有劉邦遇到了張良、劉備遇到諸葛亮的明君遇良臣的感覺。
漢初，張良研讀《太公兵法》10年，修身養性10年。可是他滿腹經綸卻無人理解，偶然間碰到了劉邦，他協助劉邦成其帝業，成為一代帝師；劉備東奔西走，無立足之地，兵不滿千，將隻關、張等輩，三顧茅廬，諸葛亮出山相助，劉備驚呼自己如魚得水，終於又創漢室帝業。隻從才能的角度，劉文靜恐怕不能跟張良、諸葛亮相比，但是，年輕的李世民從劉文靜那兒再一次獲得了信心。
通過這次獄中傾心交談，李世民與劉文靜結為密友。在李淵稱帝後，劉文靜擔任司馬，地位僅次於裴寂。當裴寂在朝中成為太子李建成的強有力支柱時，劉文靜則與蕭瑀、陳叔達、宇文士及等共同支持李世民，使李世民在與太子李建成的奪權鬥爭中有了堅定的擁護者。
李世民與劉文靜密謀以後，製定了周密的方案，首先要去遊說李淵下決心！