最早酝酿建党的是李大钊和陈独秀。1920年3月，李大钊在北京大学组织了马克思主义学说研究会。同年5月，陈独秀在上海发起了马克思主义研究会。不能不说的是，其间的4月，经共产国际批准，俄共（布）远东局海参崴（今符拉迪沃斯托克）分局派全权代表维经斯基（化名吴廷康）来到中国，先在北京会见了李大钊，接着又到上海见了陈独秀。他此行的目的，就是了解中国革命运动的发展情况，探讨在中国建立共产党组织的可能性。经过考察他认为，在中国建立共产党组织的条件和时机基本成熟。应该说，这对中国共产党的创建起到了一定的促进作用。
中国共产党最早的组织是1920年8月在上海成立的，经过是：在同年5月发起成立马克思主义研究会的基础上，6月，陈独秀同李汉俊等人开会商议，决定成立党的组织，并起草共有10条内容的党的纲领。关于党组织名称问题，用“社会党”还是“共产党”？陈独秀征求李大钊意见，李大钊主张用“共产党”。8月，共产党的第一个组织在上海租界老渔阳里2号《新青年》编辑部成立，推举陈独秀任书记。到了11月，又拟定了《中国共产党宣言》，指出“共产主义的目的是要按照共产主义者的理想，创建一个新的社会”。
“南陈北李，相约建党”。1920年10月，北京的共产党早期组织在北京大学图书馆李大钊的办公室正式成立，取名为共产党小组。同年底，决定成立共产党北京支部，李大钊为书记。
上海、北京建立共产党早期组织之后，董必武等在武汉，*等在长沙，王尽美等在济南，此外，在旅日、旅法华人中，也成立了共产党早期组织。
由于中国共产党的创建工作是在秘密情况下进行的，所以党的一大召开之前，党的早期组织没有一个统一的名称，有的称“共产党支部”，有的称“共产党小组”，有的就直接称作“共产党”。而关于早期党组织成员的人数，长期有不同的说法，权威党史读本采用了58人之说。