而據其間擔任翻譯的另一同盟會會員、孫中山的小同鄉陳公哲回憶：“奧皮音初來中國，不曉國人拳術比賽方法，隻取西洋拳術比賽規則，手戴皮套，隻擊腰圍上部，不許足踢。霍元甲則以中國擂台打鬥方法，手足並用，無所限製，如有死傷，各安天命。彼此協商，未能獲得協議。”
其實，奧皮音無非是個跑碼頭的賣藝人而已，“嘴大”並不意味著“無腦”，自知之明還是有的，沒必要非把大英帝國的榮譽套在自己身上，與中國功夫名家性命相搏。
總之，在這場高調宣揚的比武中，霍元甲已經不戰而勝。為了滿足台下觀眾的熱情，主辦者隻好邀請觀眾上台打擂，“以不傷對方為原則，以身體倒地分勝負”。一場關係到民族榮譽的大戰，至此演變為一場集體聯歡。霍元甲及其徒弟自然是輕鬆獲勝，自此在上海灘打響了名頭。
1910年6月1日，霍元甲在農勁蓀等武術界同仁的協助下，在上海創辦了“中國精武體操會”（後改名精武體育會）。孫中山先生讚揚霍元甲“欲使國強，非人人習武不可”之信念和將霍家拳公諸於世的高風亮節，親筆寫下了“尚武精神”四個大字，惠贈精武體育會。
精武體育會對會員之約束甚嚴，凡入會者，必有介紹人，入會後，若發現有不規矩行為，立予開除會籍。精武會創辦於1910年，初由陳公哲，農勁蓀，陳其美，陳鐵生等倡導，是中國建立最早的體育團體。 精武以體，智，德三星會旗和三星會徽為標記，代表精武以體，智，德三育為宗旨，倡導和發揚愛國，修身，正義和助人的精武精神，還定有包括人格，風度，言行，服務，友誼等行為規範。
霍元甲的品牌在上海灘立足後，同盟會再接再厲，於1909年當年就開始在閘北的王家宅籌備 “精武體操會”，自然掛的是霍元甲的名頭：由霍主持精武技擊並習軍事，農勁蓀擔任會長。
“精武體操會”宣稱以提倡尚武精神為目的，招收12~35歲的健康男子，每人收會費銀元2元。
其實，類似精武體操會這樣的武術團體，在晚清及民國初年，如雨後春筍般在全國湧現。這其中，自然有著強身、強國的樸素追求，但背後也摻雜了各種政治勢力跑馬圈地、拉杆子聚團夥、以期實現“槍杆子裏麵出政權”的現實目的。無疑精武門也帶有這樣的性質，但是它在根本上帶有一種強身健體的武術協會的目的。
有一次日本一個大力士團來中國要求比試，霍元甲因病派弟子劉振聲接戰比試，結果打敗了日本力士。1910年9月，日本柔道會會長率十餘名技擊高手與霍較藝，又敗在霍的手下。
由於“精武體操會”的首批會員七十三人成為日後反清的骨幹，再加上屢次讓日本人沒麵子，霍元甲成為了日本人的眼中釘，肉中刺。
1910年霍元甲在上海創立精武體育會之後數月內即逝世。霍元甲的死因成了一個謎。
有一個說法是霍元甲死於肝病，霍元甲長久以來患黃疸。但是，必須指出的是，1989年，霍家在給霍元甲與其妻墳墓遷移時，發現霍元甲的遺骨上有黑色斑點。經過天津市公安局實驗室檢測該黑色斑點為砷化物（即砒霜）。另外，當時霍元甲的主治醫生是日本人。
根據精武體育會創辦人陳公哲記錄：“霍先生原患有咯血病，自寓所深居時，時發時愈。日人有賣仁丹藥物者，時到旅邸，出藥示霍，謂之可愈咯血而治肺病。霍先生信之，購服之後，病轉加劇。霍先生得病之由，謂少年之時，曾練氣功，吞氣橫闕，遂傷肺部，因曾咯血，麵色蠟黃，故有黃麵虎之稱。自遷之王家宅後，霍先生病轉加劇，由眾人送入新閘路中國紅十字會醫院醫治二星期，即行病逝。眾人為之辦殮，移厝於河北會館，時在1909年陰曆八月間（此處有誤，霍元甲卒年為1910年）。越一年運柩北返。”
根據上述證據表明，霍元甲中毒於9月14日身亡，終年四十二歲。
有傳說霍元甲被日本人下毒藥害死之後，他的愛徒陳真替他報仇。這個傳說在20世紀60年代末70年代初首次被李小龍搬上銀幕（電影《精武門》，李小龍演陳真）。但其實曆史上並沒有“陳真”這個人物。
霍元甲逝世後，當時精武會弟子和上海武術界愛國人士為霍元甲舉行了隆重葬禮，敬獻了“成仁取義”挽聯，安葬於上海北郊。轉年，由弟子劉振聲扶柩歸裏，遷葬於小南河村南。上海精武會由元甲之弟元卿、次子東閣任教。各地分會相繼分起，十數年後，海內外精武分會達四十三處，會員逾四十萬之眾。