從此，陳獨秀離開了中國共產黨的領導崗位。這時，他48歲。
此後，他與中國共產黨中央、共產國際的分歧越來越大。1928年7月，中國共產黨“六大”在莫斯科召開時，共產國際直接邀請陳獨秀出席，他拒不到會。
此後，他越走越遠。以他為首，組成了中國共產黨“反對派”，人稱“陳獨秀派”。他的觀點與托洛茨基（自1988年以來，蘇共正在重新處理和評價托洛茨基問題）不謀而合，他接受了托洛茨基觀點，組織了反對派小集團。
此後，在1929年9月26日，陳獨秀和彭述之聯名致信中國共產黨中央，表明自己的政治態度：“托洛茨基同誌在一年以前，已經預見到你們不正確的政治路線之發展和你們真正的政治麵目……你們說我們是反對派，不錯，我們是反對派；我們的黨此時正需要反對派……”於是，同年11月15日中國共產黨中央政治局通過了《關於開除陳獨秀黨籍並批準江蘇省委開除彭述之、汪澤楷、馬玉夫、蔡振德四人決議案》。從此，這位“中國共產黨開山書記”被開除了中國共產黨黨籍。
此後，陳獨秀組織了托派小組織“無產者社”。不久，在1931年5月中國各托派小組織的“統一大會”上，他當選為“中國共產黨‘左’派反對派”的中央總書記。
1932年10月15日，蔣介石以“危害民國罪”逮捕了陳獨秀——盡管他是“反對派”的總書記，但在蔣介石看來，仍屬“危害民國分子”。
1933年4月，陳獨秀受到了國民黨政府江蘇省高等法院公審。當審判長問他“何以要打倒國民政府”時，陳獨秀慷慨陳詞，提出三條理由：
一 現在國民黨政治是刺刀政治，人民既無發言權，即黨員恐亦無發言權，不合民主政治原則。
二 中國人民已窮至極點，軍閥官僚隻知道集中金錢存放於帝國主義銀行，人民則困苦到無飯吃，此為高麗（即朝鮮）亡國時之現象。
三 全國人民主張抗日，政府則步步退讓。十九路軍在上海抵抗，政府不接濟。至所謂長期抗戰，隻是長期抵抗四個字，始終還是不抵抗。
根據以上三點，人民即有反抗此違背民主主義原則與無民權實質政府之義務。[2]
陳獨秀的老朋友章士釗，擔任他的義務辯護律師。
1933年6月30日，國民黨政府最高法院終審判決，判處陳獨秀有期徒刑13年，後減為8年。
在獄中，陳獨秀有兩個大書架，放著經、史、子、集，他埋頭於鑽研《說文》。1937年“七七”事變後，經胡適和天津南開大學校長張伯苓保釋，陳獨秀得以出獄。
濮清泉在《我所知道的陳獨秀》一文中，回憶了一段重要史實：
陳出獄後，暫住在他友人家中。他說，董老[3]銜中國共產黨中央之命，曾去訪問他一次，多年未晤，談得很長。董老勸他，應以國家民族為重，拋棄固執和偏見，寫一個書麵檢討，回黨工作。他說回黨工作，固我所願，唯書麵檢討，礙難遵命。
陳獨秀客死之地——四川江津石牆院
出獄後，陳獨秀離開南京，在武昌雙柏巷租了三間平房暫居。他的老朋友、當年北京大學教授王星拱，此時是武漢大學校長，有意聘他在武漢大學任教，他以“我所學亦無以教人”為理由謝絕了。1938年7月，陳獨秀由武漢入川，來到重慶。重慶是個繁華熱鬧的所在，已是貧病交加的他，在那裏隻住了一個月便深感不適。於是，帶著老母（繼母謝氏）和第四次結合的妻子潘蘭珍（在高曉嵐、高君曼之後，陳獨秀還曾與施芝英同居多年），避居於離重慶180裏水路的小小的江津縣城。
在江津，陳獨秀的母親去世，他“心緒不佳，血壓高漲，兩耳日夜轟鳴，幾於半聾”。生活困苦的他，身體日衰。1942年5月13日，老友包惠僧前去看他，使他十分喜悅。但當夜發病，醫治無效，於5月27日病逝，終年64歲。
1945年，毛澤東在《“七大”工作方針》一文中，對陳獨秀曲折多變的一生，作出了公允的評價：
關於陳獨秀這個人，我們今天可以講一講，他是有過功勞的。他是五四運動時期的總司令，整個運動實際上是他領導的。他與周圍的一群人，如李大釗同誌等，是起了大作用的……我們是他們那一代人的學生。五四運動，替中國共產黨準備了幹部。那個時候有《新青年》雜誌，是陳獨秀主編的。被這個雜誌和五四運動警醒起來的人，後頭有一部分進了共產黨。這些人受陳獨秀和他周圍一群人的影響很大，可以說是由他集合起來，這才成立了黨。我說陳獨秀在某幾點上，好像俄國的普列漢諾夫，做了啟蒙運動的工作，創造了黨，但他在思想上不如普列漢諾夫。普列漢諾夫在俄國做過很好的馬克思主義的宣傳，陳獨秀則不然，甚至有些很不正確的言論。但是，他創造了黨，有功勞。普列漢諾夫以後變成了孟什維克，陳獨秀是中國的孟什維克……關於陳獨秀，將來修黨史的時候，還是要講到他。[4]
另外，毛澤東在1942年3月30日中國共產黨中央學習組關於《如何研究中國共產黨黨史》的講話中，也談及陳獨秀：
在五四運動裏麵，起領導作用的是一些進步的知識分子。大學教授雖然不上街，但是他們在其中奔走呼號，做了許多事情。陳獨秀是五四運動的總司令。[5]
陳獨秀去世之後，安葬在江津縣大西門外鼎山之麓。