為了保存辛亥革命的勝利果實，孫中山一直在開展護法運動，同北洋軍閥進行鬥爭。在第一次護法運動失敗後，孫中山並未氣餒，而在積極尋求進行第二次護法運動的機會。隨著粵桂戰爭的爆發，孫中山開展第二次護法運動。
1920年孫中山領導的反對北洋軍閥的鬥爭。
第一次護法運動失敗後，孫中山避居上海。此時，國際國內都發生了重大的曆史性變化，孫中山在新的社會形勢和社會力量的推動下，繼續探尋著民主共和的出路。他重新檢討了“護法”口號，認識到“護法”不過是“維持現狀”的法子，解決不了中國社會的根本問題，而根本解決的辦法，應該是南北新舊國會一概不要它，再來一次“重新革命”，以掃除陳腐的官僚係統。為此，他在進行革命宣傳的同時，又領導了組織改造工作，把中華革命黨改組為中國國民黨，廢除了舊黨章，製定了新規約，規定中國國民黨的綱領為“鞏固共和，實行三民主義”，並把黨從半秘密狀態解脫出來，以便使它成為指導革命鬥爭的政黨。1920年6月，國內政治形勢發生急劇變化：滇桂矛盾日益激化，西南各省內部戰亂紛起，執政者更迭不斷。7月，直皖戰爭爆發，皖係潰敗；8月，南方爆發粵桂戰爭。11月，陳炯明率粵軍驅逐桂係出廣東。同月下旬，孫中山自滬回到廣州，受到廣東軍民的熱烈歡迎。隨即，孫中山宣布重新組成軍政府，繼續執行護法職務；國會議員也相繼返粵，準備重開國會非常會議。第二次護法運動由此展開。
為適應戰時的集中領導和外交的需要，同時也為了表示推翻北洋政府的決心，孫中山建議國會在廣州成立正式政府。孫中山的建議得到了國會議員們的讚同。
1921年4月，國會非常會議通過《中華民國政府組織大綱》。國會依據“大綱”有關條款，選舉孫中山為非常大總統，原軍政府即行撤銷。5月5日，孫中山宣誓就職，並在就職《宣言》中表示：中國必須在完成自治主義基礎上實現統一。他支持省自治運動，製定省憲，自選省長，中央分權於各省，但必須“各省分權於各縣”，使民權具有更為廣泛的社會基礎；提出“發展實業，保護平民”，使平民免除“生計壓迫之痛苦”。不久，孫中山又公開發表《勸徐世昌退位書》，揭露北方“國會”選出的總統徐世昌，隻不過是袁世凱時代君主專製政體的走卒，警告徐世昌必須“即日引退，以謝國人”，表示了推翻北洋軍閥政府的決心和銳意北伐的戰略。
為了北伐，孫中山非常注意刷新政治，鞏固後方。廣州政府對於北洋政府統治下的廣大人民革命鬥爭，反對帝國主義和反動軍閥統治的鬥爭，給予大力支持。在政府內部，實行裁員減政。孫中山反複告誡革命黨人和政府工作人員，要少做官，多做事；官吏應正直供職，不得受賄。在軍事方麵，桂係軍閥的殘餘勢力仍然盤踞廣西，企圖與北洋政府勾結，恢複在廣東的統治。孫中山決定徹底消滅桂係，以靖後方。1921年夏秋之際，孫中山命令駐在廣東的粵、贛、黔、滇各軍，在李烈鈞、陳炯明等率領下，攻人廣西，桂係將領劉震寰表示支持廣州政府，戰場起義，使粵軍直搗梧州。3月5日，廣州政府軍攻入南寧、龍州，13日再克桂林，散在其他地區的桂軍逐漸被瓦解。桂係軍閥首從領陸榮廷宣告下野，逃出廣西，兩廣遂告統一。
當此之時，北方軍閥直奉兩派的矛盾也日益激化，雙方間的戰爭不可避免。孫中山決定抓住時機，利用直奉矛盾，聯奉反直。11月10日，廣州國會非常會議通過北伐案。12月初，孫中山親抵廣西桂林，組成大本營。大本營集中了擁護廣州政府的各省護法軍3萬人，準備出廣西全州，取道湖南揮師北上。孫中山委任朱培德為滇軍總司令，彭程萬為贛軍總司令，穀正倫為黔軍總司令，李烈鈞為參謀長，胡漢民為文官長。此外，尚有許崇智及李福林所部粵軍。大本營指派廖仲愷籌劃財務，鄧鏗負責警衛部隊，以保證餉械糧秣供應及後方安全。1922年2月，孫中山以大元帥名義，頒布出師令，開始北伐護法戰爭。北伐軍前鋒部隊迅速推進至湖南境內。身為粵軍總司令的陳炯明雖表麵上同意北伐，但內心卻對北伐統一政策持反對態度，欲圖聯省自治，做“廣東皇帝”，因此對孫中山的北伐軍事部署敷衍塞責，甚至暗中進行破壞。他秘密與湖南軍閥趙恒惕結成反孫聯盟，以阻止和破壞北伐軍進入湖南。他控製的廣東政府，拒不接濟北伐軍糧餉器械，甚至指使人在廣州火車站槍殺積極支持北伐的鄧鏗，以斷孫中山的臂膀。麵對陳炯明的阻撓和經濟上的困難，孫中山遂決定改道北伐，準備以廣東境內的韶關為大本營，經江西北伐。北伐軍遂即從湖南撤軍，秘密向廣東轉移。陳炯明得知北伐軍回師廣東的消息後乃致電孫中山以辭職相威脅。