李世民的心腹隻剩下長孫無忌還留在秦王府中，他與他的舅舅雍州治中高士廉、右候車騎將軍三水人侯君集以及尉遲恭等人，日以繼夜地勸說世民誅殺李建成和李元吉，李世民猶豫不決。此外李世民可能還曾向靈州大都督李靖、行軍總管李勣問計。
武德九年六月初一丁巳日（公元626年6月29日），太白金星在白天出現於天空正南方的午位，?按照古人的看法，這是“變天”的象征，是暴發革命或當權者更迭的前兆，代表要發生大事了。
適逢突厥鬱射設帶領數萬騎兵駐紮在黃河以南，突入長城邊塞，包圍烏城，太子李建成便推薦齊王李元吉代替秦王李世民都督各路軍馬北征以抵抗突厥入侵。皇帝李淵聽從了他的建議，命令元吉督率右武衛大將軍李藝、天紀將軍張瑾等人援救烏城。李元吉乘機請求讓尉遲恭、程知節、段誌玄以及秦王府右三統軍秦瓊等人與自己一同前往，檢閱並挑選秦王帳下精銳的兵士以增強自己軍隊的實力。在太子的東宮中擔任職位的王誌，已被秦王李世民收買，成為李世民在東宮的眼線，他悄悄告訴李世民：“太子對齊王說：‘現在，你已經得到秦王驍勇的將領和精銳的士兵，擁有兵馬數萬之多了。我與秦王在昆明池為你餞行，讓勇士在帳幕裏將秦王殺死，上奏父皇時就說他暴病身亡，父皇應該深信不疑的。我自當讓人進言，逼父皇將國家大事交給我處理。尉遲恭等人已經落到了你的手中，應該將他們悉數坑殺，誰敢不服！’”李世民將王姓官員的話告訴了長孫無忌等人，長孫無忌等人勸李世民先發製人。李世民歎息道：“骨肉相殘，是古往今來的大罪惡。我當然知道禍事即將來臨，但我打算在禍事發生以後，再舉義討伐他們，這不也是可以的嗎！”尉遲恭說：“作為人之常情，有誰能夠舍得去死！現在大家誓死侍奉大王，這是上天所授。禍事馬上就要發生，大王卻仍舊神態自若，毫不擔憂。即使大王把自己看輕，又怎麼對得起宗廟社稷呢！如果大王不肯采用我的主張，我就準備逃身荒野草澤，不能留在大王身邊，拱手任人宰割！”長孫無忌說：“如果大王不肯聽從尉遲恭的主張，事情肯定要失敗了。尉遲恭等人肯定不會再追隨大王，我也應當跟著他們離開大王，不能夠再事奉大王了！”李世民說：“我講的意見也不能完全放棄，明公再計議一下吧。”尉遲恭說：“如今大王處理事情猶豫不定，這是不明智的；麵臨危難，不能決斷，這是不果敢的。況且，大王平時畜養的八百多名勇士，凡是在外麵的，現在都已經進入宮中，他們穿好盔甲，手握兵器，起事的形勢已經形成，大王怎麼能夠製止得住呢！”
李世民征求秦王府幕僚們的意見，大家都說：“齊王凶惡乖張，是終究不願意事奉自己的兄長的。近來聽說護軍薛實曾經對齊王說：‘大王的名字，合起來可以成為一個唐字，大王終究是要主宰大唐社稷。’齊王歡喜地說：‘隻要能夠除去秦王，奪取東宮太子之位就易如反掌了。’他與太子謀劃作亂還沒有成功，就已經有了奪取太子之位的心思。作亂的心思沒有滿足，又有什麼事情做不出來呢！假使這兩個人如願以償了，恐怕天下就不再歸大唐所有。以大王的賢能，捉拿這兩個人就如拾取地上的草芥一般容易，怎麼能夠為了信守匹夫的節操，而忘了國家社稷的大事呢！”李世民仍然沒有決斷，大家又問道：“大王認為舜是什麼樣的人呢？”李世民答道：“是聖人。”大家說：“假如舜帝在疏通水井的時候沒有躲過父親與弟弟在上麵填土的毒手，便化為井中的泥土了；假如他在塗飾糧倉的時候沒有逃過父親和弟弟在下麵放火的毒手，便化為糧倉上的灰燼了，怎麼還能夠讓自己恩澤遍及天下，法度流傳後世呢！所以，舜帝在遭到父親用小棒笞打的時候便忍受了，而在遭到大棍笞打的時候便逃走了，這大概是因為舜帝心裏所想的是大事啊。”李世民命人算卦以卜吉凶，恰好秦王府的幕僚張公謹從外麵進來，便將占卜的龜殼奪過來扔在地上，說：“占卜是為了決定疑難之事的，現在事情並無疑難，還占卜什麼呢！如果占卜的結果是不吉利的，難道就能夠停止行動了嗎？”於是便定下了行動計劃。