正當山姆在彭尼公司信心十足地工作時，第二次世界大戰爆發了。1942年初，山姆僅僅工作了18個月，便退出了彭尼公司。作為美國後備軍官訓練團的一名大學畢業生，山姆雄心勃勃地想參軍為國效勞，然而他卻由於輕微的心律不齊未能上前線，被留下來作為後備軍官訓練團的一名少尉軍官到了南方的小鎮克萊莫爾。
在克萊莫爾，山姆幸運地遇到了海倫·羅布森，後者成為他一生的伴侶。1945年，山姆離開了軍隊，這時，他不僅決定要進入零售業謀生，而且還和妻子商定要自己創一番事業。
最終山姆看中了位於阿肯色州的紐波特的一家雜貨店，盡管小店不大，店麵也很陳舊，租金卻出奇地高，一年要2，5萬美金。但是山姆卻看出小店具有很大的潛力，他下決心租下這家店鋪作為自己事業的起點。店是開起來了，但如何獨立經營，山姆一點經驗都沒有。為此，他專門到有名的本·富蘭克林商店接受了兩周的培訓。他開始嚴格地按照本·富蘭克林公司的一套程序進行管理和經營。
然而山姆很快進行了新的嚐試，他不再遵循本·富蘭克林公司的老規矩，而是直接從製造商那裏購買最優惠的商品，進行促銷宣傳。一天山姆駕車在田納西州遇到了一位女士緊身內衣的製造商哈裏，哈裏按每打2美元的批發價經銷女內褲，而山姆過去一直是按每打2，5美元向本·富蘭克林公司購買同樣的女內褲，並按1美元3條的零售價出售的。從哈裏那裏訂貨後，山姆就可以按1美元4條的價格進行促銷，並同樣可以獲得利潤。這一筆生意對山姆來說獲益匪淺，它不僅使山姆找到了新的供貨渠道，同時也啟發了山姆新的經營思想，這就是通過采購價格的競爭，使商品削價，通過削價，可以擴大銷售額來賺取更多的錢。從此，山姆確定了商品的定價方向，也確定了未來的經營理念。
山姆不僅從價格上實行低價銷售的戰略，同時在他的頭腦中想出一些新的花樣以幫助銷售。比如在商店門口擺放一台爆米花的機器，沒想到爆米花的生意出奇地好，他於是又向銀行貸款1800美元，買了一台冰激淩機擺放在爆米花機器旁邊，這在旁人看來是不可思議的舉動卻給顧客們帶來了新鮮和好奇，同時也給山姆的小店帶來了可觀的利潤。
然而，正當山姆雄心勃勃地想擴大發展時，他遇到了事業上的第一次挫折。當五年租期到期後，山姆的房東無論如何也不願意將店麵繼續租給他了，因為山姆的小店太具有競爭力了。
山姆很快從挫折中站起，他帶著全家離開了紐波特，尋找新的創業基地。山姆將他東山再起的夢想寄托在本頓維爾鎮。他找到一家願意出售的老店。很快山姆的店又以它獨特的風貌、實惠的價格吸引了小鎮上絕大多數的居民，甚至連過路的商人和顧客也都願意到這家小店裏來購買必需用品。
自助銷售，在當時的美國還是個全新的經營概念，山姆卻大膽地將這種做法引人到他的小店中去，小店的貨架就是為了滿足這種需要而設置的，進入到店麵雖然不大卻整潔的小店，顧客們可以隨心所欲地從貨架上取下他們想要的貨物。這種方式讓他們感到既新鮮又方便，很快被顧客接受下來，山姆在本頓維爾鎮的小商店也成了當時美國實行自助銷售的第三家商店，也是周圍八個州中的第一家自助雜貨店，這不能不說是一個壯舉。在此後的一段時間內，山姆不斷地在小城中開設一係列雜貨店。在短短的幾年時間裏，他便擁有了15家獨立雜貨店，成為美國最大的獨立雜貨店經營者。山姆對此似乎很不滿足，他一直在醞釀著一個大的行動。
1962年7月2日，山姆的第一家沃爾瑪商店開張了，盡管這家商店幾乎簡陋得像一個大貨棚，但是由於山姆實實在在的低價銷售，這家商店在第一年的營業額就高達100萬美元，幾乎是他硼經營的十家小雜貨店銷售額之和。自從沃爾瑪商店開張以來，山姆就明確地確立了它的銷售原則，即不管是做什麼樣的生意，它都確保價格比任何其他商店都低，而且說到做到，讓顧客得到最大的實惠。為了能達到這個目的，一方麵山姆尋找最直接的供貨商，以確保商品以最低價進貨，另一方麵，山姆竭力減少一些諸如廣告之類的豪華促銷手段來減少開支，他相信一點，隻要你的商品價廉物美，就是最好的宣傳。
此後，山姆在每個他能發現機會的地方開設商店，有時他會在低空飛行的飛機上研究地形，如果他發現有塊地處於幾個小鎮的交彙處，他就會在那兒買下一片空地，建立一個沃爾瑪超市，使他的超市遍布全美國。
當全國連鎖店建成時，山姆在管理方式上又作出重大調整，他又一次走在了時代的前麵。早在1966年，擁有20家連鎖店時，他就到了位於紐約的IBM學校。他的目的是雇傭班上最聰明的學生來計算他的生意運作，他意識到，如果沒有電腦化的商業管理，他的連鎖店就不能按他期望的速度來發展。這一點他是完全正確的。沃爾瑪連鎖店成為及時存貨控製、最大化利用信息取得競爭優勢的標誌。盡管很少被人記起，山姆卻可以說是第一位真正的信息時代的總裁。