中國共產黨建黨最初醞釀的時間，一些學者都追溯到1920年2月李大釗在騾車中與陳獨秀的密談。雖然他們談的是建立一個馬克思主義政黨，還是一個有無政府主義者參加的“同盟”，今天已經無法確切地知道，但是，“南陳北李”在應該建立一個“黨”或者“組織”這一點上，從那時起就達成了一致。
陳獨秀到上海後，尤其是在漁陽裏2號安頓下來之後，在他的周圍迅速聚集了當時在上海的對馬克思主義感興趣並自覺進行研究和傳播的人，形成了一個以陳獨秀為核心，有李漢俊、戴季陶、沈玄廬、邵力子、張東蓀、陳望道、沈雁冰、俞秀鬆、施存統、陳公培等人共同組成的研究馬克思主義的“圈子”。這個看似鬆散的“圈子”實際上就是醞釀建黨的最初的“胚胎”。
通過到上海工人團體中調查、演講，陳獨秀和這個“圈子”中的一部分人邁出了具有初步共產主義思想的知識分子與工人階級相結合的第一步，而聲勢浩大的紀念五一國際勞動節活動，使陳獨秀更清楚地意識到建立一個馬克思主義政黨是實現對中國社會“根本改造”、建立“理想社會”的必需的手段。
就是在這個時候，維經斯基來到了漁陽裏2號，和陳獨秀談到了建黨問題，兩人不謀而合。通過陳獨秀，維經斯基與經常出入漁陽裏2號的李漢俊、戴季陶、沈玄廬、邵力子、張東蓀、陳望道、沈雁冰等人逐漸熟悉起來。
維經斯基熱情地向他們介紹俄國十月革命和革命後的政治、經濟、教育等方麵的狀況，介紹列寧和布爾什維克黨的理論和各項政策，使大家大開眼界，耳目一新。通過維經斯基的介紹，他們看到了一個新型的社會革命和社會主義國家的輪廓，增進了依靠工農群眾進行革命的信念。維經斯基還帶來了共產國際出版的《國際通訊》等刊物、介紹馬克思主義的外文書刊，以及美國記者約翰·裏德所寫的著名長篇紀實《震撼世界的十日》，引起了他們的廣泛興趣。
於是，漁陽裏2號裏談話的主題逐步轉到發起成立一個“馬克思主義研究會”上來了。陳望道對於馬克思主義研究會成立的過程是這樣回憶的：
一九二○年我到上海後，住在法租界三益裏《星期評論》所在處，邵力子也在這裏。我們幾個人都是搞文化的，認識到要徹底改革舊文化，根本改革社會製度，有研究馬克思主義的必要。……大家住得很近（都在法租界），經常在一起，反複的談，越談越覺得有組織中國共產黨的必要，便組織了“馬克思主義研究會”。這是一個秘密的組織，沒有綱領，會員入會也沒有成文的手續，參加者有：陳獨秀、沈雁冰、李達、李漢俊、陳望道、邵力子等，先由陳獨秀負責。
參加過一次會議的周佛海留下了這樣的回憶：
有一天我和張東蓀、沈雁冰去環龍路漁陽裏2號，去訪仲甫。當時有第三國際遠東代表俄人吳廷斯基（指維經斯基）在座。吳大意說：中國現在關於新思想的潮流，雖然澎湃，但是第一太複雜，有無政府主義，有工團主義，有社會民主主義，有基爾特社會主義，五花八門，沒有一個主流，使思想界成為混亂局勢。第二沒有組織，做文章，說空話的人太多，實際行動一點也沒有，這樣決不能推動中國革命。他的結論，就是希望我們組織中國共產黨。當天討論，沒有結果。東蓀是不讚成的，所以以後的會議，他都沒有參加。我和雁冰是讚成的。經了幾次會商之後，便決定組織起來。南方由仲甫負責，北方由李守常負責，當時所謂“南陳北李”。
通過以上兩人的回憶，可以確定：1920年5月，有十幾個人在陳獨秀家裏召開“馬克思主義研究會”座談會，討論成立“共產黨”組織，並且起草了一個很簡單的章程，陳獨秀和維經斯基是座談會的組織者。在討論過程中，座談會出現了分歧，戴季陶和張東蓀兩個重要人物先後退出。
張東蓀為什麼一聽要成立中國共產黨或中國社會黨，就打“退堂鼓”呢？沈雁冰回憶說，張東蓀所持的理由是：他原以為這個組織是學術研究性質，現在說這就是共產黨，那他不能參加。因為他是研究係，他還不打算脫離研究係。
所謂“研究係”，原是梁啟超、湯化龍等成立的“憲法研究會”，後來演變為“不再過問政治，專心從事學術研究”的“研究係”，以北京《晨報》和上海《時事新報》為機關報。張東蓀作為《時事新報》主編，是“研究係”首領之一。在他看來，社會主義學說可以作為“學術”進行“研究”，而他不願介入政治——參加共產黨。
有多人回憶到戴季陶痛哭流涕，似乎很不情願退出，但又不得不堅決地退出。去時聲言：“我無論如何一定從旁讚助，現在暫時退出。”
邵力子說得很婉轉：“戴季陶退出時，說因有不方便處。”
沈雁冰說：“戴季陶不幹的理由是怕違背了孫中山的三民主義。”
李達道出了背後的情形：“孫中山知道了這件事，就罵了戴季陶一頓，戴季陶就沒有參加組織了。”因為孫中山不讚成成立共產黨，戴季陶是孫中山的秘書和親信，他是絕對服從孫中山的。
戴季陶、張東蓀退出之後，陳獨秀得到教訓，認識到要建立一個馬克思主義政黨，必須以個人信仰馬克思主義、共產主義為首要條件，必須有嚴格的組織紀律。由此確立了以個人獨立信仰和誌同道合者結合為前提，以單個個人為對象，經過考察了解，把有共同信仰的人吸收進來的建黨思路。於是，秘密成立一個由幾位誌同道合的同誌組成的革命組織付諸行動了。
這個組織就是中國共產黨上海發起組最早的雛形。據黨史專家考證，最初成員隻有5人，成立的時間是1920年6月。
俞秀鬆、施存統、陳公培3人都是20歲左右的青年學生。俞秀鬆和施存統是浙江一師的同學，參加北京工讀互助團失敗後，於3月27日回到上海暫居星期評論社，在陳獨秀的影響下很快確立了共產主義信仰，積極參加工人運動。
陳公培是湖南長沙人，1919年受新思潮影響，進入北京法文專修館學習，準備赴法勤工儉學，年底結業後參加北京工讀互助團，與俞秀鬆、施存統同在第一組。俞秀鬆和施存統到上海不久，陳公培也從北京來到上海，與施存統取得聯係，經常出入星期評論社和漁陽裏2號，多次和俞秀鬆、施存統一起參加在這裏召集的馬克思主義研究會的座談。
正如許多人回憶的那樣，前前後後有十幾個人參加的馬克思主義研究會的座談活動，由於陳獨秀和維經斯基提出要成立一個共產主義的“黨”，戴季陶和張東蓀表示不能參加，使一度熱鬧的聚會不歡而散。究其原因，除了戴季陶和張東蓀聲明不能脫離他們已經加入的組織派係的原因外，大部分人對過嚴密的組織生活這一點也難以接受。
為了建立一個純潔的黨的組織，陳獨秀決心另起爐灶。他的這個想法得到李漢俊的支持。
李漢俊作為星期評論社的“靈魂”人物，有比較深厚的馬克思主義理論修養，與戴季陶、張東蓀等人出於某種需要或興趣來研究馬克思主義不同，李漢俊是把馬克思主義作為改造中國社會的武器和自己的信仰而進行研究和傳播的。在陳獨秀醞釀建黨時期，李漢俊頗為熱心並且出力“獨多”，他經常和陳獨秀一起參加各種活動，並和陳獨秀一起成為維經斯基發起的社會主義同盟的領導機構上海革命局的核心成員。由此可見，李漢俊成為陳獨秀在上海建黨的最為“誌同道合”的同誌，絕非偶然。
吸收俞秀鬆、施存統、陳公培3個年輕人，是陳獨秀和李漢俊經過慎重思考和考察後的決定。這3個充滿朝氣的年輕人，經曆了工讀互助團實驗的失敗後，很快接受了馬克思主義，在陳獨秀、李漢俊的指導下深入工人中開展革命活動。這在當時是十分難能可貴的。
根據許多人的回憶，我們可以大致確定這個“五人小組”發起和成立的過程。
6月中旬的一個晚上，陳獨秀、李漢俊、俞秀鬆、施存統、陳公培5人彙聚到漁陽裏2號陳獨秀的家裏，召開了一個秘密會議，明確提出成立共產主義的政黨。
在這個秘密會議上，與會者以馬克思主義為指導起草了具有黨綱、黨章性質的若幹條文，確定中國共產黨用下列手段，達到社會革命的目的：（一）勞工專政（或勞農專政）；（二）生產合作，其他還有黨的嚴密的組織等內容。會議選舉陳獨秀為領導人（書記），標誌著中國共產黨發起組雛形的出現。說它還僅僅是一個雛形，是因為許多地方還有待完備。比如會上爭議比較大的是黨的名稱，叫“中國社會黨”，還是叫“中國共產黨”？考慮到黨的名稱是一個比較大的問題，為了慎重起見，陳獨秀決定寫信與北京的李大釗、張申府商議。
作為一個老資格的革命者和特立獨行的思想家，陳獨秀在建黨問題上表現出與維經斯基不同的建黨思路和不依賴共產國際的強烈的獨立自主意識。正如他後來一再說過的：“我們沒有必要靠它，現在我們還沒有陣地，以後工作展開了再找第三國際聯係。”“要靠中國人自己組織黨，中國革命靠中國人自己幹，要一麵工作，一麵革命。”
事實上，陳獨秀領導的五人小組成立之後，就已經以一個黨的組織的形式開展活動了。在組織馬克思主義的研究、出版工作的同時，開始根據黨綱麵向全國、全世界有中國勞動群眾的地方發展黨員。根據陳獨秀的指示，施存統和陳公培出國之前，都抄寫了一份黨綱，負有到日本和法國發展支部的使命。眾所周知，他們完成了這個使命，對於在日本和法國成立黨的組織都起到了與上海發起組聯絡和紐帶的作用。
當然，建黨前後各地成立的黨的早期組織當時並沒有一個統一的名稱，有的稱“共產黨支部”，有的稱“共產黨小組”，有的直稱“共產黨”。從性質和特征來看，它們都是後來組成全國統一的中國共產黨的地方組織。為了敘述方便，本書把這些組織統稱為“中國共產黨早期組織”。
位於霞飛路新漁陽裏6號的石庫門院落，是中國共產黨成立前後一處重要的活動地。這裏原是戴季陶的住宅，維經斯基一行到上海後，曾經在這裏組織過馬克思主義研究會的座談。這處院落比距此不遠的陳獨秀住的漁陽裏2號建成的時間稍晚，布局更寬敞些，因此習慣被稱作“新漁陽裏”。
本來很熱心馬克思主義的戴季陶，因為孫中山的批評，不再參加座談會，不久隨孫中山去了廣東。
戴季陶走後，這處房子就由維經斯基和楊明齋租了下來，作為他們在上海的落腳點和正在籌備中的“華俄通訊社”的辦公地點。通訊社社長由楊明齋擔任，這裏的二樓至今還保留著楊明齋的臥室。楊明齋在這裏將俄文報刊上的文章翻譯成中文，以通訊社的名義發給各報社采用。一年多的時間裏，華俄通訊社向全國共發稿140多篇，其中在上海《民國日報》上先後發表過《遠東俄國合作社情形》、《新俄國組織彙記》、《布爾什維克沿革史》、《列寧小史》、《列寧關於勞動的演辭》、《列寧答英記者的質問》等譯文。後來該通訊社由黨組織直接領導，成為中共第一個通訊社，依然由楊明齋負責。
維經斯基與陳獨秀在建黨問題上達成共識之後，這裏就成為除陳獨秀住處之外另一個籌備建黨的主要活動場所。
關於黨的名稱問題，李大釗在接到陳獨秀和他商議的信後不久就來信說，就叫“共產黨”！與陳獨秀、李大釗關係都很密切的張申府是這樣回憶的：
關於黨的名稱叫什麼，是叫社會黨，還是叫共產黨，陳獨秀自己不能決定，就寫信給我，並要我告訴李守常。信寫得很長，主要講創黨的事，信中說：這件事情在北大隻有你和守常可以談。為什麼呢？一是因為陳獨秀在北大當過文科學長，認識的人很多，但有些人不搞政治，不適於談，而建黨的事是秘密進行的。二是陳獨秀在北京時，他和守常以及我經常在一起，他常到北大圖書館李主任辦公室來，觀點一致。他辦《新青年》，我們經常寫稿。民國七年十一月底辦《每周評論》又在一起。每期刊印是在宣武門外一個報館裏，我曾與李大釗同誌去校對，彼此很了解，所以陳獨秀說：這件事情在北大隻有你和守常可以談，不是偶然的。當時建黨究竟叫什麼名字，這沒有確定，征求我們的意見。我和守常研究，就叫共產黨。這才是第三國際的意思，我們回了信。
張申府信中說的“這才是第三國際的意思”有這樣一個背景。當時西歐一些社會民主黨被認為已經墮落為機會主義政黨。這些黨內的左派紛紛組織共產黨加入第三國際，明確要求同社會民主黨右派實行公開決裂。因此，陳獨秀、李大釗最後定名為共產黨，是符合當時的潮流的，而且從一開始就明確了中國共產黨作為無產階級政黨的性質。
施存統和陳公培出國之後，陳獨秀在6月成立的秘密組織隻剩下他和李漢俊、俞秀鬆三人，經過近兩個月的頻繁活動，原來馬克思主義研究會中的許多成員對建黨問題的態度越來越明朗，在陳獨秀周圍集聚起越來越多的“真同誌”。進一步擴大黨的組織，正式成立“共產黨”的時機成熟了。
黨史界普遍認為，中國共產黨上海早期組織正式成立的時間是1920年8月。
蘇聯學者舍維廖夫在《中國共產黨成立史》中這樣認為：“1920年7月19日，在上海舉行了中國積極分子會議。這次會議為未來的中國共產黨奠定了基礎，會上，陳獨秀、李漢俊、沈玄廬堅決讚成建立中國共產黨。不久，李達、施存統、周佛海、俞秀鬆和其他人也同意了他們的意見。這樣，上海出現了以陳獨秀為首的共產主義小組。”
一直在東京與陳獨秀、李漢俊等保持通信聯絡的李達，於1920年8月從日本回到上海，參加了中共上海早期組織的活動。他回憶道：“我回到上海以後，首先訪問陳獨秀，談起組織社會革命黨派的事，他說他和李漢俊正在準備發起組織中共，就邀請我參加，做了發起人。這時的發起人一共是8人，即陳獨秀、李漢俊、沈玄廬、陳望道、俞秀鬆、施存統（時在日本）、楊明齋、李達。每次開會時，吳廷康（即維經斯基）都來參加。首先擬定一個類似黨章的東西，是由李漢俊用兩張八行格紙寫的。所謂黨綱，隻有勞工專政，生產合作八個字。首次決議，推陳獨秀擔任書記，函約各地社會主義分子組織支部。”
由於中共上海早期組織是在“馬克思主義研究會”的基礎上成立的，有人退出，有人加入，因此成員與“馬克思主義研究會”的成員不盡相同。
從1920年5月上海成立馬克思主義研究會，到1921年7月中共一大召開這段時間裏，有些人在上海同陳獨秀、李漢俊等發生聯係，讚同建黨，但以後或去外地，或去國外進行建黨活動，這些人不應列入上海早期組織成員。如劉伯垂先在上海，後去武漢籌建武漢早期組織；陳公培、趙世炎在上海時同意陳獨秀的建黨主張，後去法國參加旅法早期組織，施存統、周佛海在上海時參加建黨活動，後去日本留學，成為旅日早期組織成員。有些人雖去外地活動，但仍與上海早期組織保持聯係，則應列入上海早期組織成員之內，如林伯渠。這樣，從1920年8月到1921年7月這段時間內，上海早期組織成員有15人，即陳獨秀、李漢俊、沈玄廬、陳望道、俞秀鬆、楊明齋、李達、袁振英、邵力子、李季、林伯渠、沈雁冰、李啟漢、李中、沈澤民。