李淵前往太原赴任，身邊隻帶了二兒子李世民。當初李淵聽說楊廣要派他去山西任職，是非常高興的，那裏是陶唐故國的發祥地，自己又是唐國公。如果說一切都是天意，那麼上路是必須的。
在去的路上，李淵和李世民父子還有一番心與心的交流。李淵對這個最能幹的兒子說：“唐固吾國，太原即其地焉。今我來斯，是為天與。”也就是說，唐是我們的國，太原就是我們創家業的地方，今天調我到這個地方開展工作，不是朝廷派我來的，是上天派我來的。唐是咱的地盤，咱的地盤咱要做主。
這話明顯不是在教育自己的兒子如何去忠君愛國的，分明是狼子野心，昭然若揭。
大業十三年（公元617年）初，李淵父子見隋王朝惡貫滿盈，於是決定乘亂起兵，期望於亂世之中撈上一票。李淵遂命劉文靜、長孫順德、劉弘基等人分頭招募士兵。李淵的異常舉動引起了太原副留守王威、高君雅的懷疑，他們私下裏找到武士彠來商量這個事。
武士彠與王威雖然交情不錯，但是大勢在哪一邊他還是能看清楚的。我們不要忘了武士彠是一個商人，玩的是資本投資。他把單位成本與投入回報率給兩個人算了一下，得出的結論是，這是一項賠本買賣，不適合投資。
經過武士彠的耐心勸說，王威、高君雅並沒有采取什麼行動，這為李淵消除了太原起兵的障礙。李淵也將計就計，將王、高二人除掉。
等到李淵登基，開唐朝一代偉業時，武士彠因功官拜光祿大夫，封太原郡公，又以後勤部軍需官的身份躋身於十四名太原首義功臣之列，並從李淵手裏得到了一塊欽定的免死金牌。有了這塊免死牌，即使有一天犯了死罪，也沒有人可以殺得了他。
無數的曆史案例告訴我們：免死金牌這玩意兒其實是騙人的把戲，當權者如果不想讓你死，這塊牌子就是金牌；當權者如果想讓你死，這塊牌子就是破銅爛鐵。
但無論怎樣，這時候的武家應該說是徹底轉運，摘掉了幾輩子戴在頭上的“貧農帽子”，武士彠也一躍成為新朝顯貴。為了這一天的到來，武士彠等了太久，但他終究還是等來了光明；有的人窮盡一生在黑暗中摸索，卻不得法門而入。
武士彠實現了他光耀門楣的夢想，用他自己的方式，不是偷搶扒拿，不是豆腐批發，靠的是商人的眼光，權術的厚黑。
大業十三年（公元617年）末，唐軍攻破長安。次年四月，宇文化及在揚州縊死隋煬帝，隋朝滅亡。五月，李淵稱帝建立唐朝，改元武德，於長安太極殿（即隋大興殿）下詔書敕封開國元勳，武士彠是十六位“太原元謀勳效功臣”之一。
武德元年（公元618年）八月六日這一天，唐高祖李淵論功行賞，把太原起義跟著自己一起鬧革命的功臣分為兩個等級，均賜以“太原元謀勳效功臣”的勳號，其中一等功臣隻有兩個人，其餘十四人為二等功臣，武士彠名列二等功臣。
當時武士彠的職位是中央最高行政機關尚書省兵部的庫部郎，也就是兵部四司之一庫部司的司長。庫部司是執掌全國武器軍備設施，屬於正五品官員。由此可見，這時候的武士彠雖有“勳”，卻未“貴”。庫部郎，這個職位雖然不高，但卻非常關鍵。當時國家剛剛建立，群雄並列，戰爭的硝煙還未散去。
兩年後，武士彠升為正三品部長級的工部尚書。唐朝官僚製度，三品以上就是國之大臣，掌握大權的行政機構是尚書省，由尚書令、仆射和六部尚書組成權力核心，稱為“八座”，工部尚書是尚書八座之一，可見武士彠這時候已經躋身政府高層。
這時候的“十二軍”是唐朝政權的核心武力，而武士彠兼統其中一軍，甚至又指揮右廂禁軍，可見武士彠在唐高祖李淵心目中的位置。武士彠兄弟也分別得到皇帝的厚賞，甚至出現了一門三公—一國公、兩郡公的盛況，這是武氏家族發展的一個高峰。也就是說，從武德三年（公元620年）以後，憑借著武士彠的地位，武氏家族已經成為“當世勳貴”。
武士彠在官場混得越來越得意，可他的家庭生活卻在這時候出了些許狀況。他在禁衛軍中供職期間，留在原籍的夫人相裏氏和一個兒子相繼離世。
武士彠一心想把自己打造成大唐體製內愛崗敬業、勤於職守的模範官員，老婆和孩子的雙雙離世，都沒有牽絆住他前行的步伐，甚至都沒回家奔喪。有時他也會在心裏問自己，跟著李淵奮鬥了大半生，自己到底圖的是什麼？難道僅僅是為了一世的虛名？他有自己的原則，這個原則就是：凡事都要分個輕重緩急，不能以犧牲自己的官場利益為代價。
老婆死了，可以再續弦；孩子死了，可以再生養。如果前途丟了，能不能找回來就很難說了。要知道他當時正隨帝國的一把手李淵在並州視察，離家也隻是半天的路程，但他沒有選擇回家，而是選擇了忠誠地守護在李淵的身邊。
唐高祖李淵知道情況後，深受感動。特地下詔給予褒揚：此人忠節有餘，去年兒夭，今日婦亡，相去非遙，未嚐言及，遺身徇國，舉無與比！他特下敕表彰，提拔武士彠為三品工部尚書，封為應國公。
相裏氏死後為武士彠留下了兩個兒子，他們分別是武元慶和武元爽。
不知道從什麼時候起，“升官、發財、死老婆”被譽為中國男人的三大幸事。自己的三品大員，怎麼能夠長期無妻室。唐朝人選擇婚姻有三個標準—門第、財富和功名，而以門第為第一優先。李淵打算為武士彠續娶一位有貴族血統的媳婦，借以提高武氏的社會地位。