中国共产党的最早组织是在上海首先建立的。1920年8月，上海共产党早期组织正式成立。参加者有
陈独秀、
李汉俊、李达、
陈望道、
俞秀松等，陈独秀任书记。
1920年秋，
董必武、
陈潭秋、
包惠僧等在武昌秘密召开会议，正式成立武汉共产党早期组织，推选包惠僧为书记。
1920年秋，
施存统、
周佛海等在日本东京建立旅日共产党早期组织，施存统为负责人。
1921年春，在与
无政府主义者组织的“共产党”分道扬镳后，陈独秀等重新组建广州共产党早期组织，成员有
谭平山、
陈公博、谭植棠等，陈独秀、谭平山先后任书记。
1921年，张申府、
周恩来、
赵世炎、刘清扬等在法国巴黎也建立了由留学生中先进分子组成的共产党早期组织，张申府为负责人。
1921年7月23日，中国共产党第一次全国代表大会在上海召开。最后一天的会议转移到浙江嘉兴南湖举行。参加会议的各地代表是：李达、李汉俊（上海），张国焘、刘仁静（北京），毛泽东、何叔衡（长沙），董必武、陈潭秋（武汉），王尽美、邓恩铭（济南），陈公博（广州），周佛海（旅日），包惠僧受在广州的陈独秀派遣，也参加了会议。他们代表着全国50多名党员。共产国际代表马林和尼科尔斯基列席会议。党的第一次全国代表大会正式宣告了中国共产党的成立。
这些共产党早期组织的名称不一，有的叫“共产党”，有的叫“共产党支部”或“共产党小组”，它们的性质相同，都是组成统一的中国共产党的地方组织，后来被通称为“共产主义小组”。
各地共产主义小组成立后，有组织、有计划地扩大马克思主义的研究和宣传，批判各种反马克思主义思潮，发起建立
社会主义青年团，创办工人刊物，开办工人学校，领导工人成立工会，开展工人运动，进一步促进了马克思主义同工人运动的结合。这样，正式成立中国共产党的条件就基本具备了。