早在武漢三鎮保衛戰中，武昌成立戰時司令部之後，革命軍就準備建立革命軍政府。11月7日湖北都督黎元洪便向各省發出通電，要求各省派代表到武漢舉行聯席會議，成立中央臨時政府。與此同時，江浙方麵正在策動成立江浙聯軍攻占南京，新的革命中心正在醞釀形成。11月15日江蘇、浙江、湖南、福建等7處的代表在上海集會，準備成立各省都督府代表聯合會，大有形成兩個革命中心的趨勢。後來上海方麵考慮到武漢是全國首義地區，起到了一呼百應的作用，於是顧全大局，肯定了武漢的中心地位。11月30日，各省代表在漢口英租界舉行了第一次會議，決定中央臨時政府成立之前由湖北軍政府代行中央軍政府職權。接著又通過了《中華民國臨時政府組織大綱》，但此時漢口、漢陽已被清軍所攻占，武昌危在旦夕，而江浙聯軍又光複了南京。鑒於局勢變化，代表大會又遷往南京舉行。
此前，在同盟會中部總部陳其美、宋教仁的策動下，江蘇、浙江、上海都督代表曾舉行會議，出於對黎元洪的不夠信任曾選出黃興為假定大元帥，黎元洪為副元帥。而黎元洪對此則十分不滿，通電取消這一決議，指責選舉不符合法定人數，而黃興也堅辭不就。12月12日，各省代表齊集南京，17日改選黎元洪為大元帥，黃興為副元帥代行大元帥職權。這時又傳來孫中山即將從海外回國的消息，黃興也就推辭此任，沒有組織南京臨時政府。
當時隻有孫中山可擔任革命政府元首的重任，但孫中山長期流亡國外，武昌起義時他正在美國，12月25日孫中山從海外回到上海，12月29日在南京17省代表大會上，孫中山被推舉為臨時大總統。17省代表多不屬同盟會會員，但從所得16票中可以看到全國人民對孫中山和同盟會的信任，及對其在辛亥革命中所起推動作用的肯定。1912年1月1日，孫中山在南京就任臨時大總統，並宣告中華民國成立，結束了中國兩千年的封建帝製。孫中山在就職典禮上的誓詞說：“傾覆滿清專製政府，鞏固中華民國，圖謀民生幸福，此國民之公意，文實遵之，以忠於國，為眾服務。至專製政府既倒，國內無變亂，民國卓立於世界，為列邦公認，斯時文當解臨時大總統之職。謹以此誓於國民。”1月3日又選出黎元洪為副總理，各部總長如下：陸軍，黃興；海軍，黃鍾瑛；外交，王寵惠；內務，程德全，財政，陳錦濤；司法，伍廷芳；教育，蔡元培；實業，張謇；交通，湯壽潛。總統府秘書長為胡漢民，參謀總長由黃興兼任。這是一個以資產階級為主體的政權，革命黨人占主要地位。
南京政府成立後，采取了一些從未有過的革新措施，如改用公曆，以臨時大總統就任的日子作為民國建元的開始，國人限期剪去發辮，禁止婦女纏足，廢止跪拜等，移風易俗，使國人耳目一新，確實感到了新社會的到來。孫中山就任大總統後，總統府設在前清兩江總督衙門，即太平天國天王府。孫中山曾以洪秀全第二自詡，但他生活簡樸，平易近人。揚州有位80多歲的老鹽商專程到南京瞻仰大總統，不但被接見，而且得以敘話。老人一見麵就跪下，要行三跪九叩大禮，孫中山連忙將老人拉起，請他坐下，並說：“總統在職一天，就是國民的公仆，是為全國人民服務的。”老人問：“總統若是離職後呢？”孫中山說：“總統離職以後，又回到人民的隊伍裏去，和老百姓一樣。”而後老人見人就說：“今天我總算見到民主了。”此事傳為佳話。
1912年3月11日公布了《中華民國約法》，總綱規定：“中華民國，由中華人民組織之”，“中華民國之主權，屬於國民全體”，這就有史以來第一次以法律形式確定了中國人民的自主權。