中國明清時期的商幫，以晉商和徽商為首，是當今史學界的共識。和以長途販運起家，並以“北票號，南錢莊”聞名天下的晉商不同，徽商的創業，大多源於小本經營和幾代人艱辛的財富積累。
“前世不修，生在徽州，十三四歲，往外一丟，翻山越嶺，來到杭州，有生意就停留，沒生意到蘇州……”這首數百年來經久不衰的當地民謠，道出了徽州人外出經商的無奈。
徽州自古土地貧瘠。近代的一些學者根據有關史料進行統計後發現，明清時期，即使在豐年，徽州全年的產糧，也隻夠當地人吃三四個月。為了生存，徽州人隻得脫離農村，背井離鄉外出經商。明清之際的大儒顧炎武說：“中家以下皆無田業，徽人多商賈，蓋其勢然也。”由此可見，大多數徽商在經商之前，都處於“無田業”的貧困狀態，沒有較多的資本。
根據徽州婺源、休寧等地的縣誌記載，即使日後經商有成榮歸故裏，得以名列其間的“名商”，也大都出身貧寒，不得不從小本經營做起。
婺源人李士葆家貧離鄉後，20歲來到蕪湖，為當地的中產之家做傭工，收入甚微，直到年逾四旬，依然一貧如洗。後來，他向別人借了些錢，開始做小買賣，憑借一點一滴的積攢和一套把生意做活的本領，逐漸積累了一筆非常可觀的財富。晚年，他把上千兩白銀全部捐出，為家鄉商人修建會館，因此留名青史。
明朝成化、嘉靖年間的歙縣人黃豹，自幼家貧，於是走出家鄉做了貨郎。他一度在湖廣地區當小販，不斷積攢微薄的利潤。多年之後，黃豹帶著這筆錢來到千裏之外的揚州，投資經營鹽業，曆經三年的慘淡經營，在當地鹽市上成為規模較大的商戶。黃豹死後，他的兒子黃子承父業，幾十年後成為當地鹽商中的頭麵人物，甚至多次為當地官府出謀劃策，其建議多被采納。
在重農抑商的封建社會，商人是備受歧視的。即使出身草莽的明太祖朱元璋，也明文規定：農民可以穿絲綢製成的衣服，但商人即使再富有，也隻能穿布衣。清朝的雍正皇帝也曾說：“四民以士為長，農次之，工商其下。”
為此，其他如京郊和冀、魯、豫等地的商人，大都“以末致富，以本守之”，即經商發財後回到家鄉購買田產——務農是根本，經商隻是萬般貧困下迫不得已的權宜之策。
但很多徽商，即使經商有成，也沒有回歸土地經營，而是代代相傳，將商號招牌不斷做大，如王致和、胡慶餘堂、胡玉美等流傳到21世紀的徽商老字號，都在數百年來，曆經了幾代名商的苦心經營。
被封建社會視為“末業”的貨殖（商業），改變了很多徽州人的命運，“以賈代耕”成為諸多徽商終其一生乃至累代相傳的立身之本。乾隆年間，揚州徽商的辦公聚會場所，被命名為“務本堂”。以“務本”、“敦本”命名的徽商寓所，在很多地方都屢見不鮮。可見，大多數徽商都抱定了以貨殖為恒產的決心，僑居異地經商，也是一種安身立命的“本分”和“本業”。
一幅流傳至今的徽商舊宅對聯，可以作為其“務本”經商、以貨殖為恒產的注腳：“讀書好，行商好，效好便好；創業難，守業難，知難不難。”