1884年6月，中法戰爭吃緊，法國軍隊以封鎖上海吳淞要挾，讓招商局的船沒法通過。李鴻章就同招商局總辦馬建忠商量，馬建忠奉命去和美國旗昌洋行商量。旗昌洋行行長史密特和他是朋友，答應招商局的船掛美國旗。李鴻章寫了兩張合同，明的合同是招商局出賣給美國人，暗的合同是請求懸旗。
合同簽後第三天，中法戰爭開始，招商局的船掛了美國旗，出入自由。外邊謠言說是馬某將招商局賣給美國人發了6000萬大財。次年，中法戰爭結束後，李鴻章派建忠去天津辦理交涉，收回招商局財產。馬相伯奉命到全國各地調查訪招商局賬目，馬相伯對天津、煙台、漢口、廈門、上海、廣州各埠招商局財產，花了二年多時間。招商局虧空達1200餘萬兩，都是一本爛賬，提出《改革招商局建議》，寫了報告給李鴻章。馬相伯在廣州，眼看香港為英國占去後，商業發達，就向兩廣總督張之洞建議：“張總督，老夫以為把香港對過的九龍辟為商埠，建築市場，招引中外商人到彼交易，修一條鐵路直達廣州，這樣可把香港的生意奪過來。”
張之洞點頭道：“滿好滿好！”可並末采納。這年冬天，馬相伯乘輪船北返，觸礁遇險，滯留廈門，台灣省巡撫劉銘傳得知後電邀他來台灣。馬相伯勸劉銘傳借外款開發台灣經濟。劉銘傳怕擔向外人借款的責任，不敢接受。馬相伯看到劉銘傳不是真心留他作事，而是天天要他陪著下圍棋，不足共事，就離開台灣，回天津交差。李鴻章見馬相伯，十分關心地問：“馬公，各地招商局究竟有多少財產？”馬相伯直歎氣：“都是一筆爛賬嗬，招商局虧空有1200餘萬兩銀。”李鴻章有點吃驚：“虧空這麼多？”“商局之弊，非改弦更張，難期振興。”馬相伯將自己花了幾天整理成的《改革招商局建議》呈上，“喏，這是老夫的報告，請中堂過目。”李鴻章粗粗翻了一遍：“好，好，等總理衙門定奪。”但總理衙門對招商局興衰抱觀望態度，未予理會。馬相伯又談起辟九龍為商阜和修鐵路直通廣州的建議。李鴻章聽了雖然點頭：“這是個好主意，但兩廣是張之洞所轄，我不好直接出麵上報，此事還需張總督具奏。”這皮球被李鴻章踢得無影無蹤。幾年後，九龍又被英國割據為商埠。馬相伯曉得此事又不了了之，也不便再說。沉默片刻，李鴻章發牢騷說：“軍機處命我興辦海軍，隻給五百萬兩銀子，怎能辦得好？”美國旗昌洋行，正聯合美法意荷各國，組成對華商業團體，馬相伯和這團體組織者美國商人熟識，就說：“李中堂，現在有美國資本家可以借錢給我們，對華商業團體願意借錢給中國振興實業。”李鴻章聽了，高興起來，“可借多少？可借多少？”馬相伯道：“至少有五千萬才有發展希望。”李鴻章聽了數字這麼大，吃了一驚：“有個兩千萬就行了。”馬相伯連連搖頭：“不夠，不夠，至少要二千五百萬。”李鴻章點頭道：“那就二千五百萬。”馬相伯和住天津的美國商人接洽後商定，決定中美合資組織官辦銀行，資本四千萬，以兩億兩為開發中國，統一幣製，發行紙幣，整理中央和地方金融，建設鐵路，整理黃河，安置電話等企業投資，中國方麵以李鴻章為代表，美國方麵以鋼鐵大王範得比為代表，總行設在天津，上海和各省設分行，各項新政經費都由此行出納。查賬權，由中美雙方分別負責。議定後，李鴻章派馬相伯赴美國和美國銀行家洽談。馬相伯猶豫片刻說：“李大人，老夫看還得奏明朝廷。”李鴻章不悅：“難道我一個北洋大臣兼通商大臣，連和洋人商訂借款的權都沒有麼？你去好了，我會打電報給美國大總統的。”馬相伯乘輪船抵達美國舊金山，美國海關已得到總統電報，對他行李按外交代表慣例免驗。他到達紐約時，美國總統特派侍從武官迎接。美國金融界正盤算輸出資本，對中國清廷還有點吃不透，馬相伯精通數國語言，英語純熟，談吐不凡，折服了高傲的洋人，銀行界各巨子都紛紛和馬相伯相會。馬相伯將大家商訂的數字並起來一算，高達五億兩，知道李鴻章無這般魄力答應，而美國人的盛情又不可推卻，就同美方商定，以五千萬兩作為正式借款，以三億為美方存款，存款以三厘起息。消息傳出，其他各國爭相加入，馬相伯興致勃勃將商談結果電告李鴻章。一時清廷沸騰，頑固派群起彈劾，百般攻訐，慈禧諭軍機大臣：“李鴻章與美商訂約合股開華美銀行，此事流弊甚多，斷不可行。現文章論劾，眾議沸騰。該督如果有與美商訂約之事，著即罷議，迅速複奏，毋再遷延不咎。”李鴻章隻好複電馬相伯：“辦法正當，朝廷大嘩，輿論沸騰，群矢集我，萬難照準。”馬相伯接到電報，像迎頭一盆冷水，開辦銀行事隻好作罷，就悄然離美赴歐，瀏覽英法考察商務，參觀劍橋大學。馬相伯是退出教會後結婚，天主教會叫他去向羅馬教皇說明理由，他又去羅馬覲見教皇宗良十三世，親手摸過教皇戒指。並到各國都會大教堂宣講，闡述理由，因此轟動世界，成了大演說家。馬相伯回到天津向李鴻章報告了赴美借款之事，心裏有點氣：“蠻好的一樁事，全給搞掉了。”李鴻章直歎氣：“朝廷不想好，有什麼辦法？”