東都洛陽城外，旌旗飄展，行轅大營羅列，不少士卒正在挖掘戰壕、堆土築牆，安插鹿角拒馬，打樁架起營帳。
這支十萬的大軍，兵甲雖然不齊，但鬥誌卻很昂揚，正是楊玄感率領的大軍。
此次起兵，楊玄感經過了深思熟慮，覺得時機成熟，可以一搏了，很早他就想對大隋下手，廢掉隋煬帝，如今，趁著楊廣禦駕親征，遠在關外正跟高句麗人廝殺，所以，發動了起義。
這個恩怨，結下已久，楊素功高震主，地位顯赫，儼然成為大隋第一關隴貴族的門閥世家，權力之大，幾乎權傾朝野，這使隋煬帝想滅掉楊素一家，盡管沒有下死手，但楊素之死，的確跟隋煬帝有些關係，楊素家的族人，都對隋煬帝有了反心。
在楊素死後，楊玄感承襲楚國公爵位，與長安、洛陽名士多有交往，綠林好漢也結識不少，而且滿朝文武多半是楊素的老部下，因此，楊玄感在朝野內外都有不小號召力。第二次北伐遼東，全國怨聲載道，楊玄感覺得有機可乘，就利用百姓的不滿情緒，借勢推翻隋煬帝的統治。
此次北伐中，楊玄感身為禮部尚書，分配的任務是駐守黎陽倉，負責督糧，大軍的後勤保障，幾乎都要依靠他在後運籌，權力很大，擁有足夠的糧食後，立即將周圍郡縣的青年和壯丁組織起來，府兵也召集過來，發布隋煬帝的罪名，正式起兵。
黎陽倉在黃河北岸，夾在永濟渠與黃河之間，比鄰武陽城，是隋朝八大糧倉中最東邊的倉城，糧草通過黃河，可以運輸至渤海灣，給北海郡、東萊郡的隋兵使用，出海攻打高句麗；往北可以通過永濟渠，往涿郡運送糧草，這裏一斷，等於掐住了前線的糧草命脈。
占據黎陽倉城之後，楊玄感做軍事部署，充當軍師的李密給他獻上、中、下三策，上策是是進攻薊縣，控製涿郡幽州一帶，奪取煬帝回國的咽喉臨榆關，斷其糧草，同時聯絡高麗夾擊之，中策輕裝急進，西取關中，然後扼潼關天險，長久對抗，守時待變，徐圖天下；下策則以精兵猛將大舉東進，強攻東都洛陽。
楊玄感考慮一番之後，選擇了李密的下策，為此，還跟李密做了一番爭辯。
因為楊玄感身為起義主帥，他入職很早，對朝廷局勢了解清楚，有自己的考量，他覺得那個下策，才是他最需要的，真正上策，因為朝廷百官的家屬都在東都洛陽，也是目前政治、軍事、經濟中心，不攻下它，卻舍近求遠，進攻幽州或是進攻長安，都是本末倒置了。
按照他的意思，洛陽是政治象征，得洛陽，便是得了天下核心，掌控了社稷根本，所以，馬不停蹄，揮師奔襲洛陽而來。
在河內郡、修武、臨清關等地，義軍都遭到頑強抵抗，無奈，楊玄感隻好繞過諸城，從汲縣渡黃河向洛陽進發，沿途起兵響應者甚重，從最初幾萬人，發展到了十萬大軍，兵甲一時都未湊齊，糧草也隻攜帶了一個月的口糧，就是為了速戰速決，盡快拿下洛陽城。
兵抵洛陽之後，義軍兵分兩路，一路由楊玄感親自率領，從白馬寺以西翻越邙山南攻洛陽，一路由其弟楊積善從偃師沿洛河西攻洛陽。