1920年初，李大钊专门将从监狱里面释放出来，但仍然受到北洋军阀政府监视的陈独秀护送到天津，然后转往上海。在护送的路上，李大钊和陈独秀商定要建立中国共产党。所以我们大家熟悉的“南陈北李，相约建党”，就来自这样的历史背景。陈独秀到了上海之后，便于1920年5月间就组织了一个秘密的具有共产主义色彩的团体——马克思主义研究会。那么在考虑成立组织的名称问题上，陈独秀特意跟李大钊写信商量，李大钊明确表示，我们党的组织就叫共产党。于是，经过酝酿和准备，在陈独秀的直接领导下，上海共产党的早期组织于1920年8月间在上海法租界老渔阳里2号《新青年》的杂志编辑部成立了，当时党的组织名字就直接叫做中国共产党。这是中国诞生的第一个共产党的组织，当时发起人一共有8个。其中有陈独秀、李汉俊、沈玄庐、陈望道、俞秀松、施存统、杨明斋和李达，大家推举陈独秀为书记，上海的中国共产党早期组织成立之后，实际上就开始了全国党的各地组织的成立指导工作。他们通过写信的方式或者派人去直接指导等等方式来推动各地共产党早期组织的产生。因此，中国共产党上海早期组织实际上起了中国共产党发起组织的这样一个作用。由此我们可以这样认为，上海共产党发起组织及担任书记的陈独秀在指导全国共产党组织建立方面起到重要的作用，也正因为这样，1945年毛泽东同志在一次会议上特别讲到，陈独秀创造了党，有功劳。那么，在上海共产党早期组织的指导下，各地开始建立共产党的地方组织。北京共产党的早期组织是在李大钊的直接指导下成立的。

早在1920年3月份，在北京大学就成立了马克思学术研究会，以这个研究会为基础，1920年10月在北京大学图书馆李大钊同志的办公室成立了北京的共产党的早期组织，名称为共产党小组。到1920年底，北京的党组织召开会议，名称正式确定为共产党北京支部，由李大钊任书记、张国焘负责组织工作，罗章龙负责宣传工作。武汉党的早期组织是1920年8月份成立的，由刘伯垂组织召开会议，名字是共产党武汉支部，当时参加的成员有董必武、张国恩、陈潭秋、包惠僧等人，长沙的共产党早期组织是于1920年初冬在新民学会的先进分子中秘密产生，由于当时湖南军阀的残暴统治，长沙党的组织活动十分隐蔽，直到1921年7月,党在长沙的成员也只有毛泽东、何叔衡、彭璜等少数几个同志。广州的共产党早期组织是于1921年春开始成立的，命名为广州共产党。先是由陈独秀，后是由谭平山任书记，陈公博负责组织工作，谭植棠负责宣传工作。济南的共产党早期组织于1921年春成立，成员有王尽美、邓恩铭同志在内，这样包括上海在内，全国共有六个城市成立了中国共产党的早期组织，并且开展工作，成员也逐渐地增加起来。根据1921年的一份档案文献记载，当时党的组织全部加起来的党员分子有53个成员，张国焘回忆是59个人，称全国社会主义青年团团员约350人，其中上海党员9人，北京党员15人，武汉党员8人，湖南党员约10人，广东党员约7人，山东党员8人，旅日党员8人。我们这里需要指出的是党的早期组织没有统一的名称，比如有的地方叫共产党支部，比如北京就叫北京共产党支部。也有叫共产党小组的，还有直接就称共产党的，这就是中国共产党早期组织的建立情况。