虞克用是沙月部落酋長虞國昌的第三子，他們家本姓朱斜氏。因為虞克用父親當年助大雍平定北邊節度使叛亂有功被賜予虞姓。
虞克用十三歲時，曾經見兩隻兩隻大鳥在空中飛翔，於是發一箭而射中兩隻大鳥，一箭雙雕，在場的人沒有不歎服他的箭術的。
因為虞克用年少時就很驍勇，軍對中稱他為勇士。虞克用十五歲時，虞國昌討伐叛亂的節度使。他從軍出征，虞克用衝鋒陷陣均在眾將領之前。
平定叛亂後，虞國昌被封為振武節度使，李克用被封為雲中牙將。
沙月部族一向強大，在唐朝平定節度使起義的過程中更是戰功赫赫。虞國昌自恃有功更是傲慢，大雍當時的皇帝對此很是擔心。於是朝廷下令轉任李國昌為雲州刺史、大同軍防禦使。
虞國昌雖然書讀的不多，但是不是傻子，知道這是要削減他的權力和地盤，因此稱病拒絕接受任命。
虞國昌拒命後，虞克用便殺了大同軍防禦使段楚，占據雲州，自稱留後。
大雍朝廷任命太仆卿盧方為振武節度使，會同幽、並兩州之兵討伐沙月部族。不料盧簡方才到達嵐州，大雍軍隊就被沙月騎兵打得潰不成軍，沙月部落乘機占據代州，成為大雍的北部邊患。還和匈然汗國打過幾仗，屢次打敗匈然汗國。
大雍僖宗即位之後，因原太原節度使大雍宗室虞業對沙月有恩，而虞業已死，因此任命其子虞鈞為靈武節度使、宣慰沙月六州三部落使，讓虞鈞安撫虞克用，同時朝廷封李克用大同軍防禦使。
過了一陣，虞國昌出擊黨弗，土渾部落領袖叱雲鐸乘機突襲攻破振武軍。
虞克用聽到後，從雲州出發去迎接父親虞國昌，但回雲州時，雲州的守將已經投降了叱雲鐸，緊閉關卡不讓他們進入。
虞國昌父子無處可歸，因此襲擊蔚州、朔州，收編當地士兵三千人。虞國昌進駐蔚州而守，虞克用回軍占據新城。
大雍僖宗遂任命叱雲鐸為大同軍使，任命虞鈞為代北招討使，前去繼續討伐沙月。
可惜此時誰也不會為大雍朝廷出全力，雍軍數次敗北，沙月勢力因此愈加強盛。
沙月北麵占據蔚、朔兩州，南麵侵入忻、代、嵐、石等地。大雍朝廷讓招討使虞琢會同幽州李舉、雲州叱雲鐸出擊沙陀。
此時虞克用的叔父虞友金為了取代自己哥哥，就攜蔚、朔兩州向虞琢投降，虞克用聽到後，馬上帶兵返回。李舉追虞克用至藥兒嶺，大敗虞克用。
後虞琢軍隊又對虞克用進行夾擊，又在蔚州擊敗虞克用。沙月大敗，虞國昌、虞克用父子流亡到匈然。
大雍中和元年，黃臘攻陷雍都長安城，將軍陳思率領沙月降軍與土渾、安慶軍隊萬人前往長安。
行軍到絳州，沙月軍大亂，大肆掠奪後回去。陳思覺得沙月軍除了虞克用都沒法節製，於是請僖宗下詔書從匈然召回虞克用，任命為代州刺史、雁門以北行營節度使。
虞克用接到命令，權衡利弊，欣然允諾出山，率領蕃漢軍隊上萬人出石嶺關。
路過太原，虞克用要求朝廷發軍餉。河東節度使鄭讜隻給他錢幣一千緡、米一千石，虞克用很生氣，縱兵大掠後回去了。
中和二年十一月，陳思、虞克用再以步騎兵一萬七千前往京師長安。
中和三年正月，虞克用出兵河中，屯兵乾坑。黃臘軍驚恐的說：“沙月大軍到了”。
二月，虞克用在石堤穀擊敗黃巢軍將領黃野。
三月，在良田坡擊敗趙章、尚穰，起義軍橫屍三十裏。
這時，各地軍隊都來到長安，在渭橋與黃臘軍大戰，黃臘軍敗退入城，虞克用乘勝追擊，從光泰門進城，與起義軍戰於望春宮升陽殿，黃臘軍敗退，向南逃到藍田。
長安被大雍收複，虞克用軍功居首。僖宗任命李克用為檢校司空、同中書門下平章事、河東節度使，任命虞國昌為雁門以北行營節度使。可惜虞克用用自己的出生入死換來的東西，他父親沒享受多久就去世了。
十一月，虞克用派其弟虞克修攻打昭義的孟立，奪下澤、潞二州。孟立敗走山東，以邢、洺、磁三州軍隊另外組建昭義軍。黃臘向南敗走到蔡州，降服秦權，攻打陳州。