在那些日子裏，山姆·沃爾頓除了尋找新的開店地點外，就是尋找那些能使他的商店獨樹一幟、名聲大震的點子和商品。 山姆·沃爾頓說：“其實，這一行並沒有多少奧妙，你隻是憑直覺判斷需要進多少貨。”有一次，山姆·沃爾頓廉價店的首任經理鮑勃·博格爾到一家商店去買聖誕禮物，他看到櫃台下麵有一排排的洋娃娃。他靈機一動，連忙趕回本頓維爾，幾經查詢，終於打通了紐約的生產廠家。“我們開始訂貨， ”博格爾回憶道，“我有把握，每一個母親都想給自己的小女兒買一個那樣的洋娃娃。我把整個櫥窗全擺滿了洋娃娃。說保守點，我們一下子就賣掉5000個，而當時我們隻有五六家商店，洋娃娃的價格還相當貴，但我們的洋娃娃還是成了搶手貨。”
1957年，山姆·沃爾頓花1850美元買了一架老式飛機。一旦使用飛機，他就更加熱衷於開新店。每個星期，他都會開著飛機飛來飛去尋找開設商店的最佳地點。他以合夥企業形式，和其他合夥者開了一係列雜貨店。
在短短十幾年時間裏，他和他的合夥者開了15家雜貨店，成為當時美國最大的雜貨店經營者。
多年之後，在回憶自己早期的創業史時，山姆·沃爾頓說：“做生意應該逆流而上，另辟蹊徑，藐視傳統的觀念。如果每個人都在走老路，而你選擇一條不同的路，那你就擁有了絕好的機會。”
盡管山姆·沃爾頓廉價店的經營非常成功，但每個商店都是如此之小，根本成不了氣候。當時，15家這樣的雜貨店的年總營業額僅有140萬美元。山姆·沃爾頓冥思苦想，四處打探，尋求新的主意，以便能闖進某個領域。
這時，本頓維爾鎮的一名理發師所開設的商店吸引了他的注意力。這名理發師的經營哲學是“低價買入，大量進貨，廉價賣出”。他的商品比任何人都賣得便宜，也比任何人出售得多。在當時，他是唯一采取折扣方式銷售的人。
山姆·沃爾頓立刻意識到折扣銷售的想法代表著未來零售業的主流，通過擴大經營規模則可降低經營成本。那麼折扣商店和以前的那種廉價店有什麼不同呢？山姆·沃爾頓認為：以前的那種廉價店僅僅是低價銷售某種商品的商店，而折扣商店則要使所有商品都實行廉價銷售。
但是折扣銷售的思想並不是每個人都能接受。山姆·沃爾頓曾找到巴特勒兄弟公司，希望能跟他們合作，但巴特勒兄弟公司認為這個計劃太過冒險而拒絕了。山姆·沃爾頓又找了幾個私人投資者，但都沒有談成。於是他決定自己籌資建店，因為他知道雜貨業將會受到廉價銷售的沉重打擊。山姆·沃爾頓把自己所有住房和財產統統抵押出去以借到更多的錢。他買下了羅傑斯鎮一幢大約16000平方英尺的樓房，開始建設自己的第一家連鎖店。
商店快竣工時，山姆·沃爾頓與鮑博·博格爾一道乘飛機去史密斯堡審查準備招收的新雇員。在飛機上山姆·沃爾頓從口袋裏掏出一張卡片，在上麵寫了三四個名字問博格爾喜歡哪一個。博格爾說：“我是蘇格蘭後裔，我隻想保留山姆·沃爾頓這個姓，並且使它成為購物場所的名稱。 ”他在卡片上寫上Ｗ-Ａ-Ｌ-Ｍ-Ａ-Ｒ-Ｔ七個字母，並且說：“這個名稱沒有多少字母要購買（指用霓虹燈做的字母）。 ”
幾天以後，即1962年7月2日，第一家沃爾瑪商店終於開業了，它的名稱就叫做WAL-MART（沃爾瑪）。在招牌的一邊寫著“低價銷售”，另一邊寫著“保證滿意”。
這兩個作為經營思想的基礎哲學至今仍指導著沃爾瑪公司。 雖然這第一家沃爾瑪商店並不很大，營業額為一年100萬美元，但也比大多數雜貨店大得多。當時，那些雜貨店的一年營業額僅為20萬到30萬美元。在隨後的五年裏，又有18家同樣的沃爾瑪商店開業。