上海總商會采取議董集體領導、總協理全權負責的單一領導體製。議董由會員大會投票選舉產生，以得票最多者擔任總理，然後報請商部批準劄委。第一屆上海商務總會會員數171名，會員組成分為行業幫口代表代表兩大部分，行業幫口的代表18名，占10.5%，企業代表153名，占89.5%，顯示出了資本主義企業占主導優勢的組織結構。
上海商務總會的職能有三點宗旨，一是“聯絡同業，啟發智識，以開通商智”；二是“調查商業，研究商學，備商部谘詢、會眾討論”；三是“維持公益，改正行規，調息紛爭，代訴冤抑，以和協商情”。這三者，都是上海工商界切盼實行的振興商務的根本性措施。從中我們看到，商會在當時所處的複雜社會環境中，以社會團體的身份替代了本來應該由政府進行的事情，諸如關心市政建設、社會公益、商事公斷等等事宜；同時，商會麵臨的許多直接或間接影響民族工商業生存和發展的內政外交事件，也迫使它從維護民族工商業利益出發出麵表態或進行幹預。上海總商會從成立伊始，就擔負了相當程度的社會管理職能，其活動以經濟管理為核心，延展到政治、教育、地方自治、理案、社會公益等方麵。
上海商務總會的第一任總理是嚴信厚，字筱舫，浙江慈溪人。他出身一般，但早年曾得到著名“紅頂商人”胡光墉（雪岩）的提攜引薦，後又獲得李鴻章的賞識和重用，先後被委任長蘆鹽務督銷、署天津鹽務幫辦等官職，並多次奉派到各地辦理餉械、籌措賑款及標彙公帑等事宜。這些受人豔羨、爭奪的肥缺和差使，使他能夠近水樓台，上下其手，在各個任期內積累了不少錢財。與此同時，他借助權勢，在天津開辦了一家同德鹽號，經營官鹽。以後在上海投巨資創設源豐潤銀號，經營官商款項的彙解存兌，利源充盈，規模日展，先後在北京、天津及長江沿岸城市裏設立十多處分號，在各地都設有私人傳舍，而以上海作為其事業的據點。他以所謂“勞績”並通過加捐，取得候補道的官銜，並以此身份被派任惠通官銀號經理，掌管上海道的公款收支，一方麵以官為護符，取得一般商人無法獲得的特權利益，另一方麵又以商為渠道，取得一般官吏、士紳難以得饗的利源。他還自設軋花廠、紗廠，並在十多家工礦、金融企業中投資附股。中國通商銀行成立時，他不但附有股份，而且被委派為該行九名總董之一。到20世紀初，他集官位、官銜和商務局商董、通商銀行總董以及大批近代工商企業的投資者、經營者於一身，聲名顯赫，左右逢源，是上海官、商兩界公認的紳商領袖。
上海商務總會的議董、議員也都是近代上海著名的紳商人物。如，梁鈺堂、陳潤夫、朱葆三、周金箴、施子英、謝綸輝、李雲書、陳輝庭、虞洽卿、祝大春、曾少卿、陳瑞海等。這些人均捐有不同職級的官銜，有的還曾實授過官職，這說明上海總商會確立的是一個“紳商領導體製”的組織形式，這與當時的社會曆史實際是相適應的。
“紳商”，是晚清特定的社會曆史條件下形成的一個特殊社會階層。它集“紳”與“商”雙重身份、雙重性格於一身，上利用官與紳一脈相通的政治地位和社會勢力，下利用商與商利害與共、休戚相關的經濟聯係，在當時社會經濟生活裏，為消除有礙於商務發展、實業振興的官商隔閡，溝通官商聯係，是最合適的中介力量。正因為如此，應時興起的上海紳商階層很快便成為各業各幫的領袖人物，在局部的行業或地區範圍內起著決定行止、主宰命運的作用。而當這個紳商階層從同鄉、同業的狹隘利益，“互分珍域”“渙散不群”，進而聯袂組合到一個商界組織的共同體中的時候，紳商的引領作用和社會中介作用也就從一業一幫的範圍擴展到整個地區的商界共同體內，形成足以支配整個商業社會的領導體製。
從成立的大致過程可以理解，上海總商會的建立不隻是幫助談判的問題，更是工商界進一步增強社會關係，管理散亂局麵，籌劃發展大局，謀求長期發展的需要，反映了當時上海商界中人發展民族資本主義經濟的強烈願望，也反映了上海工商界追趕時代潮流的創新競爭意識。