益州總管王謙還指望著各路軍隊得勝，自己好出兵在後跟隨，哪知各處軍報都瓦解消散了，不免心驚肉跳，非常憂慮。隆州刺史高阿那肱因被楊堅外調，怏怏不樂，於是向王謙獻計道：“您如果親自率領精銳直接前往散關，蜀人知道您仗義勤王，一定肯為您效命，這是上策；如果出兵梁漢，占據腹地，這是中策；如果坐守在劍南，領兵自衛，這便是下策了。”王謙覺得上策太冒險，想選用中、下二策。總管長史乙弗虔、益州刺史達奚惎說道：“蜀道崎嶇，來兵不能飛越，應該據險自固，等待時機出兵。”於是王謙命兩人率領十萬兵馬前去利州堵截敵軍。周西征元帥梁睿調集利、鳳、文、秦、成各州兵馬，直接向利州進發。梁睿等人在途中與蜀兵相遇，蜀兵還沒開始交戰，便立即潰散逃走。乙弗虔、達奚惎兩人節節退走，梁睿節節進逼，兩人無計可施，便悄悄派人送信到梁睿軍中，表示願意作為內應，將功補過。梁睿當然答應。乙弗虔和達奚惎退回到成都。王謙還不知道乙弗虔、達奚惎二人已經投降敵軍，還當他們是自己的心腹，命令他們守城，又命他們的兒子為左右軍，倉促出戰。等到梁睿的大軍掩殺而來，左右兩翼已叛逃離去，王謙的手下隻剩下數十人，逃回到城下。結果王謙抬頭一看，隻見城門緊閉，城上站著乙弗虔、達奚惎二人，他倆一同對王謙說道：“我們已經歸附梁元帥，您請自便吧。”王謙無法入城，隻能逃往新都。新都縣令王寶假意出來迎接，引誘王謙入城殺死，然後將首級傳送到長安。梁睿率軍殺入成都，活捉了高阿那肱，押送進關。楊堅下令斬下高阿那肱的頭顱，和王謙的首級一起懸掛城門示眾。隨後楊堅又派人傳話給梁睿道：“達奚惎、乙弗虔二人原本是首謀，應該問罪斬首。”於是梁睿將二人斬首了事。至此，數路大兵都已經被蕩平，權焰熏天的隨公楊堅便可安安穩穩地篡奪那周室江山了。
鄖國公韋孝寬班師回朝沒多久，就得病了，終年七十二歲。韋孝寬智勇深沉，世稱良將，每次遇到勁敵，他都從容布置，決策常常被人誤解。等到成功以後，眾人才非常驚服。平時在軍中，他喜歡閱讀文史，有空閑時間就親自披閱。韋孝寬早年喪父母，視兄嫂為父母，所得的俸祿不入私房，全都賑給親族和孤貧之人，因此他在當地擁有很高的聲望。隻是他甘心做楊堅的爪牙，鏟滅義師，釀成楊氏篡周的禍祟，徒落得晚節不終，遺譏千古，這豈不是一大可惜嗎？楊堅非常悲傷，為沉重悼念他，追封他為太傅，賜予諡號為襄。高熲隨軍回朝，愈加受到楊堅的寵信，命其代替劉昉擔任司馬。先前，在各路義軍紛紛響應之時，楊堅想派人到韋孝寬的軍營督軍，因為鄭譯找各種各樣的理由，推辭不受，所以楊堅漸漸疏遠了鄭譯，雖然沒有撤去鄭譯的官職，但楊堅卻暗中告誡官屬，不必向鄭譯奏報國事。鄭譯漸漸覺得自己處境很危險，便乞求解去職務。楊堅表麵上還是安慰他，但態度卻已經今非昔比了。那時，周室五位王爺已經被楊堅害死三人，隻剩下代王宇文達和滕王宇文逌，毫無權力。楊堅還是不肯放過，索性也誣陷他們通敵叛國，都令他們自盡了。隨後，楊堅又脅迫周主宇文闡下詔，晉封自己為相國，總掌百官，晉爵為隨王，將安陸等二十個郡縣作為隨王的屬地。楊堅假裝謙讓，隻接受了十郡。隨後，周主又下達詔令，加封隋王楊堅九錫禮，準許他建台置官，並且晉封隨王妃獨孤氏為王後，世子楊勇為王太子，楊堅推讓再三才接受。開府儀同大將軍庾季才、盧賁以及太傅李穆等人都勸楊堅順天受命，逼迫周主禪位，楊堅始終沒有答應。又過了一年多，到了大象三年二月間，楊堅才逼周主宇文闡禪位。周主此時已經無力回天，隻能頒下一道遜國詔書。楊堅得到詔書後，當然躊躇滿誌，隻是表麵上不得不三辭三讓。
於是，周主再派太傅杞公宇文椿手捧冊書，大宗伯趙煚手捧玉璽，到隨王府中勸他登位。楊堅接受了冊書和皇帝璽綬，便不再假意推辭。庾季才說二月甲子日是吉日，應該登帝位，楊堅依言辦理。
這一天早起，楊堅召集文武百官，乘車入宮。宮中儀衛已經備齊袞冕，獻到楊堅的麵前，楊堅立即穿上帝服，由百官簇擁到臨光殿，升座接受朝拜。一班舍舊從新的官吏，當然是鼓舞歡呼，齊聲呼喊萬歲。楊堅改國號為“隨”，改年號為開皇元年，他本來襲承其父的封爵，號稱“隨公”，便將“隨”字作為朝名。後來他見“隨”字中有一個走之旁，寓意為走，又擔心有什麼不吉利的預兆，所以去掉走之旁改為“隋”，想取四方升平的好意圖。少內史崔仲方奏請改掉周室的官儀，仍然沿用漢、魏時期的舊製，楊堅下詔準許。於是，楊堅下詔設置三師三公，以及尚書、門下、內史、秘書、內侍等五省，禦史都水二台，太常等十一寺，左右衛等十二府，分司定職；又設置上柱國至都督十一等勳官，用來酬勞勤苦和立功的將帥，設置特進至朝散大夫七等散官，用來加封有德行和聲望的文武大臣；還將門下省長官侍中改稱納言。楊堅任命相國司馬高熲為尚書左仆射，兼任納言一職；任命相國司錄虞慶則為內史監，兼任吏部尚書；任命相國內郎李德林為內史令，典軍元胄為左衛將軍。同時，楊堅追尊皇考楊忠為武元皇帝，廟號太祖，皇妣呂氏為元明皇後，冊封獨孤氏為皇後，立長子楊勇為皇太子。