薛仁貴為薛安都的六世孫，屬於河東薛氏家族，但是到他的一輩已經沒落。父親薛軌早喪，雖自幼家貧，但是習文練武，刻苦努力，天生臂力過人．但是生於亂世之中，未有什麼發展，長大務農，娶妻柳氏，生得一副大飯量。到30歲的時候，記載中描寫他窮困不得誌，希望遷移祖墳，以希望帶來好運，他的妻子說：“有本事的人，要善於抓住時機。現在當今皇帝禦駕親征遼東，正是需要猛將的時候，你有這一身的本事，何不從軍立個功名？等你富貴還鄉，再改葬父母也不遲！”仁貴聽了，覺得有道理，就告別妻子，去新絳州城裏找張士貴將軍，應征入伍，開始了他馳騁沙場40年的傳奇經曆。
顯慶三年（658年），唐高宗李治命程名振征討高句麗，以薛仁貴為其副將。薛仁貴於貴端城（位於今遼寧渾河一帶）擊敗高句麗軍，斬首三千餘級。第二年，薛仁貴又和梁建方、契必何力等，與高句麗大將溫沙門戰於橫山。當時，薛仁貴手持弓箭，一馬當先，衝入敵陣，所射者無不應弦倒地。接著，又與高麗軍戰於石城，遇善射敵將，殺唐軍十餘人，無人敢當。薛仁貴見狀大怒，單騎突入，直取敵將。那個敵將懾於薛仁貴勇武，來不及放箭，即被薛仁貴生擒。不久，薛仁貴與辛文陵在黑山擊敗契丹，擒契丹王阿卜固以下將士，戰後他因功拜左武衛將軍，封河東縣男。
龍朔元年（661年），一向與唐友好的回紇首領婆閏死，繼位的比粟轉而與唐為敵。唐高宗詔鄭仁泰為主將，薛仁貴為副將，領兵赴天山擊九姓回紇。臨行，唐高宗特在內殿賜宴，席間唐高宗對薛仁貴說；“古善射有穿七劄者，卿試以五甲射焉。”薛仁貴應命，置甲取弓箭射去，隻聽弓弦響過，箭已穿五甲而過。唐高宗大吃一驚，當即命人取堅甲賞賜薛仁貴。鄭仁泰、薛仁貴率軍赴天山後，回紇九姓擁眾十餘萬相拒，並令驍勇騎士數十人前來挑戰。薛仁貴臨陣發三箭射死三人，其餘騎士懾於薛仁貴神威都下馬請降。薛仁貴乘勢揮軍掩殺，九姓回紇大敗，所降全部坑殺。接著，薛仁貴又越過磧北追擊敗眾，擒其首領兄弟三人。薛仁貴收兵後，軍中傳唱說：“將軍三箭定天山，壯士長歌入漢關。”從此，回紇九姓衰敗，不再為邊患。
乾封元年（666年），高句麗莫離支泉蓋蘇文死，其子於泉男生繼位，但為其弟泉男健驅逐，特遣使者向唐求救。唐高宗派龐同善、高品前去慰納，為泉男健所拒，於是，唐高宗命薛仁貴率軍援送龐同善、高品。行至新城，龐同善為高句麗軍襲擊，薛仁貴得知後，率軍及時趕到，擊斬敵首數百級，解救了龐同善。龐同善、高品進至金山，又為高句麗軍襲擊，薛仁貴聞訊後，率軍將高句麗軍截為兩斷奮擊，斬首5000餘級，並乘勝攻占高句麗南蘇、木底、蒼岩三城，與泉男生相遇。對此，唐高宗特下詔慰勉薛仁貴。接著，薛仁貴又率兩千人，進攻高句麗重鎮扶餘城，這時，部將都以兵少，勸他不要輕進。薛仁貴說：兵“在善用，不在眾”，於是率軍出征，這次戰役，他身先士卒，共殺敵萬餘人，攻拔扶餘城，一時聲威大振，扶餘川40餘城，紛紛望風降附。這時，唐又派李績為大總管由他道乘機進攻高句麗。薛仁貴也沿海繼進，與李績合兵於平壤城，高句麗降伏。
薛仁貴任安東都護時，吐蕃漸趨強盛，擊滅了慕容鮮卑建立的吐穀渾，又侵略唐西域地區。為此，唐高宗調任薛仁貴為邏婆道行軍大總管，並以阿史那道真、郭待封為副將，率軍十餘萬人，征討吐蕃。薛仁貴奉命西行，軍至大非川（今青海共和縣西南切吉平原；一說今青海湖西布哈河），將趨烏海（今青海光海縣西南苦海），薛仁貴對阿史那道真和郭待封說：“烏海地險而瘴，吾人死地，可謂危道，然速則有功，遲則敗。今大非嶺寬平，可置二柵，悉內輜重，留萬人守之，吾倍道掩賊不整，滅之矣。”郭待封自願留守，薛仁貴又囑咐他千萬不可輕舉妄動。
薛仁貴安排好後，率部前往烏海，及至河口，遇吐蕃守軍數萬人，薛仁貴率軍一陣衝殺，斬獲殆盡。薛仁貴收其牛羊萬餘頭，鼓行而西，直逼烏海城，然後派千餘騎兵回大非川接運輜重，但這時郭待封已被吐蕃擊敗。薛仁貴因無輜重接濟，退軍大非川。至此，吐蕃調集40萬大軍前來進攻，唐軍抵敵不住，大敗。但吐蕃並不窮逼，以唐軍不深入為條件與唐議和，薛仁貴不得已應允，然後率敗軍東歸。戰後，他因敗績被免為庶人。
不久，高句麗地區相率叛唐。唐高宗起用薛仁貴為雞林道總管，以經略遼東。任內，薛仁貴因事違法，貶象州，後遇赦免而還。