1902年1月，清政府委派商務大臣盛宣懷和工部尚書呂海寰，與英、美、日等國代表在上海舉行修訂商約談判。談判剛剛開場，英國外交部印度事務委員會的代表詹姆·馬凱就拋出早已擬好的“24條款”，包括英商進口貨物減免稅項、英商與華商享有平等權益等詳盡內容，讓自詡見慣風浪的盛宣懷頗感措手不及。

　　事後，盛宣懷打聽到商人出身的馬凱受命來華前，曾在倫敦專門聽取了英國商會對此次商約談判的意見；途經香港時，又與在港英商見面收集建議；而以在滬英商為主組成的“和明商會”，那段時間更是“日夕聚議，討論研求，不遺餘力”，為馬凱出謀劃策。

　　盛宣懷意識到對手是有備而來，而自己既無本國商會可供諮詢，又無成文商業法規可為依據，倉促應戰，“斷無不虧損之理”。於是，他連發手諭，催促上海道及滬上紳商領袖嚴信厚、鄭觀應、朱葆三等儘快籌設商會，以匯集研究洋布、洋貨、絲、茶、錢莊等各大業幫意見，為正在進行的商約談判提供智囊支援。

　　時在上海官、商兩界敬畏有加的商場“大佬”嚴信厚是浙江寧波人，是公認的“寧波幫”的開山鼻祖。其早年在寧波鼓樓前的恒興錢肆學業，後經同鄉介紹到上海小東門寶成銀樓任職，餘暇習詩作文，精畫蘆雁。同治初年，由“紅頂商人”胡雪岩推薦為李鴻章幕僚，成為李鴻章手下的得力大將。嚴信厚曾創設天津最大的金店——物華樓金店；創辦中國第一家近代機械化工廠——寧波通久源機器軋花廠；在故鄉寧波慈城創辦浙江第一家火柴廠——慈溪火柴廠；在上海發起創辦中國第一家銀行——中國通商銀行，並任總董，成為中國近代金融業的開創者。

　　嚴信厚意識到，組織成立商會，無論于公于私，都義不容辭。於是，他連日奔波，利用自己在上海商界的地位和號召力，與各大行幫首領磋商，終於達成“力任其役，責無旁貸”的共識，並墊資在南京路附近租了一處房子，置辦器具，作為會議及辦公場所。同時，又邀請同鄉好友兼生意夥伴周晉鑣當副手籌備會務，前後不過一個月，就把“中國第一商會”的臺子搭起來了。

　　1902年2月22日，即光緒二十八年正月十五元宵節，嚴信厚和周晉鑣在上海最繁華的南京路邊新租來作為商業會議公所的院子裏，召集了70多位滬上工商各界的頭面人物集會商議創辦商會事宜。這場匆匆籌備的商人聚會，後來就成了中國近代商業史上的標誌性事件，中國最早的一家商會組織——上海商業會議公所，在這一天問世。

　　中國近代的第一個商會組織，就在這樣民族危難的背景下誕生。

　　商會籌備之初，如何為其取名？曾讓嚴信厚等人頗費了一番心思。最初擬稱“上海商界總會”，但滬上各行各業商人，向來有各自幫總會，且多為休息聚會之所，並非討論公事之地，沿用此名怕有誤解，遂改叫“上海商務公所”；但官方的上海商務總局下設有一個商務公所，大家不希望新的商會看起來“官味”太濃。幾經折中，最後才一致同意定名為“上海商業會議公所”。

　　在元宵節的聚會上，嚴信厚順理成章獲推舉為上海商業會議公所首任總理；周晉鑣為副總理兼坐辦，負責日常事務；江蘇太倉籍官員毛祖模為另一副總理，但未到任；朱葆三等江浙籍商人為主的13位各行幫代表，當選議員。在此基礎上，又推選成立出一個5名總董組成的權力管理機構，除寧波幫的嚴信厚、朱葆三外，還包括兩名廣東籍商人和一名江西籍商人。

　　上海商業會議公所的會員，係由各大行幫推選一到兩位董事代表本幫，還有一些規模較大的企業，則由經理人出面入會。會員不限名額，可以參會議事，但無決策權力。出席公所成立會議的其餘約60位商人，都成了創會會員。據留存下來的資料統計，會員以浙江籍（尤其是寧波府屬各縣）居多，其次則為廣東、江蘇、福建、安徽、江西、山西和四川等各地在滬商幫人士。會員所從事行業多達20余個，囊括了20世紀初期活躍在黃浦江畔的大部分華商精英。

　　由於籌備倉促，上海商業會議公所的第一份正式章程，只有區區6條共約2000字，概而言之，即“明宗旨、通上下、聯群情、陳利弊、定規則、追逋負（處理錢債糾紛）”。雖然談不上成熟和完備，但上海商界中人期盼一改各商幫、行幫渙散風氣，攜手振興民族工商業之情以及想消除長久以來的官商隔閡，嚮往自主自治之心，躍然紙上。

　　中國“第一商會”的成立，可以説是盛宣懷臨陣磨槍之舉，但對火燒眉毛的中外商約談判，也起到了一定的支援作用。當初英方在談判桌上拋出的條款中，以裁減進口關稅及在中國內地運貨稅捐兩項為重心，而上海工商業者最關心的則是“裁厘加稅”一項。上海商業會議公所成立聚會後的第3天，又召集了一次會議，討論進口商稅事宜，提議將進口關稅提高到15%，同時免征國內貿易稅。這個方案一經提出即遭到英方代表的強烈反對。公所同仁只得再次閉門開會，結合國情商討對策。最後達成“可加至值百抽十或多至十二五”的一致意見，使盛宣懷與馬凱討價還價時，有了一個可以參考標準和迴旋餘地。在1902年9月簽訂的中英商約及其後中美、中日間新修的商約中，確定洋貨進口稅率為12.5%，土貨出口稅率為7.5%，基本上採納了上海商業會議公所的建議。

　　1902年三四月間，當時獨攬中央行政大權的慶親王奕劻的長子、深得慈禧寵愛的載振，奉命赴歐美及日本等國考察商務，回國途經上海時，受到了嚴信厚等上海商業會議公所各紳商宴請。載振了解公所組成情況後，即席發表演講稱：“照世界現狀，必須迅速講究商務，如中國能振興商務，不患不能富強，惟俟君等努力。”他積極建議中央政府設立商部，推動了全國各地商會建設。

　　1903年9月，清政府批准成立專司工商事宜的商部，載振出任尚書（即部長）。1904年1月，商部奏準朝廷頒布《奏定商會簡明章程26條》，規定“凡屬商務繁富之區，不論係會垣，係城埠，宜設立商務總會，而于商務稍次之地，設立分會，仍就省份隸屬於商務總會”。並明令各省各埠已有的此類商業組織，一律改稱商會。1904年5月，上海商業會議公所正式改組為上海商務總會，德高望重的嚴信厚仍為首任總協理，成為中國商會歷史上名副其實的首任總理（會長）。