黃興領導的這次起義，就這樣失敗了，但黃興並不氣餒。1905年，經日本友人宮崎寅藏的介紹，黃興在東京結識了孫中山，他們誌趣相投，很談得來。他對孫中山提出的聯合各派力量、建立統一的革命組織的主張，深表讚同。經孫中山提議興中會和華興會合並的主張，黃興也同意了。
經過孫中山和黃興的積極籌備，中國同盟會籌備會如期在東京召開。出席會議的有興中會、華興會、光複會和科學實習所赴日成員黃興、陳天華、宋教仁、田桐、吳春腸等，以及其他留日學生共70餘人。日本誌士宮崎寅藏等與會。會議確定會名為“中國同盟會”。確定了同盟會的綱領為孫中山提出的“驅除韃虜，恢複中華，創立民國，平均地權”，並舉行宣誓，公推黃興、陳天華、宋教仁、馬君武、汪兆銘等8人起草同盟會章程。8月20日，中國同盟會正式在東京成立。孫中山任總理，黃興任執行部庶務。相當於同盟會第二領袖。
同盟會成立以後，黃興積極奔走，履險蹈危，身先士卒，為武裝起義作了大量的具體工作。他在組織領導了欽州、防城起義和鎮南關起義。
1908年，黃興、梁仲實等人在河內組織同盟會員200餘人，成立“中華國民軍南軍”，於3月27日向廣西欽州進發，並約請清軍協統郭人漳響應。4月2日，起義軍在馬篤山擊敗清軍，接連打了幾次勝仗。郭人漳不僅不出兵響應，還率眾圍攻起義軍。黃興在敵眾我寡的形式麵前，招募敢死隊，乘夜間突襲敵營。清軍亂作一團，不戰而潰。於是起義軍在廣西欽州、廉州及上思一帶，建立了根據地，後因彈藥不濟，被迫退回河內。這次起義，使清廷大為震動，黃興的威名，也由此傳開了。
1910年11月，同盟會領導人孫中山在南洋檳榔嶼召集黃興、趙聲、胡漢民等同盟會重要骨幹以及南洋、國內東南各省代表秘密會議，分析了以前各次起義失敗的原因，總結了力量分散、組織不嚴密、準備不充分等教訓，決定集中力量，在廣州發動一次大規模的武裝起義，並具體布置了起義工作。受孫中山委托，由黃興具體負責領導大興起義。
黃興擔負起領導這次起義的重擔後，立刻開始籌措經費。1911年1月，在香港成立了統籌部，負責具體的準備工作。4月8日，黃興主持了統籌部的動員會議，製定了詳細的作戰計劃。並寫下了絕筆書：
本日馳赴陣地，誓身先士卒，努力殺賊，書此當以絕筆。
隨後黃興混入廣州，當晚在兩廣總督衙門附近的小東營五號設立了臨時指揮部。
這時，肖政府廣州當局已風聞革命黨人要起義的消息，陸續增加廣州城的兵力，並且控製了城內製高點越秀山。不久，已經聯絡好響應起義的一部分新軍士兵的槍械，也被當局提前收繳。在這種種不利的情況下，有人主張緩期進行，但是任何推遲起事的行動，都可能意味著前功盡棄。再說，軍火彈藥已經運入，萬一起義推遲進行，必然會被資金的主要資助者海外僑胞們誤解，這會對革命事業產生嚴重影響。他思慮再三，最後決定自己召集幾十個同誌去殺掉清朝的當地官員，以謝國人讓剩下的同誌撤退，以保存實力。
第二天，黃興又得知廣州新調來的士兵們大多都很同情革命，於是由於計劃一再變化，人員撤離了一部分，軍火也有一批尚未運到，這些都打亂了起義的原計劃，堅持到最後真正發動起義的，隻有黃興率領的分隊。
4月27日（農曆三月二十九日），震驚中外的廣州起義爆發了。下午4點多種，黃興在總指揮部集合起義隊伍，下了總動員令，慷慨激昂的出發了。
下午5時30分，黃興帶領130人衝向兩廣總督衙門。剛走出東轅門，就與清軍遭遇。黃興的右手中指和食指第一節被槍彈打斷，但他強忍劇痛用手指第二節扣槍射擊。和敵人展開了激戰。黃興見清軍越來越多，命令起義者分為三路突圍，他自帶一隊衝出南大門，邊戰邊撤退。他用肩頭撞開街旁一家已關門的小店，從店內伸出兩支槍，左右開弓，擊斃清兵七八人。等到夜色將近，清兵退卻，槍聲沉寂時，他用涼水衝洗了傷口，簡單的包紮一下，乘艇逃出了清軍的包圍圈。