各地共產主義小組建立以後，十分重視馬列主義理論的宣傳工作。1920年9月，上海黨的發起組把《新青年》雜誌改為黨的理論刊物，開闢“俄羅斯研究”專欄，系統介紹十月革命的經驗。11月7日，又創辦了第一個黨內刊物《共產黨》月刊，這個刊物除了刊登馬克思、列寧的一些重要著作外，還介紹共產國際和俄國共產黨的建黨經驗，成為各地共產主義小組成員的重要讀物。在黑暗的中國，它第一次發出了“共產黨萬歲”的戰鬥口號，高舉起革命的火炬，照亮了中國無產階級前進的方向。
1920年11月，中國共產黨上海發起組在陳獨秀主持下，制定了《中國共產黨宣言》，以此作為建立組織、收納黨員的標準。同時加緊出版各種宣傳馬克思列寧主義的書刊，《共產黨宣言》、《經濟學研究導言》、《社會主義從空想到科學的發展》、《社會主義史》等相繼出版。還出版了許多小冊子和傳單，如《一個士兵的故事》、《工人的對話》、《工會》、《共產黨人是什麼樣的人》等。各地也出版了一批面向工人的通俗刊物，在上海有《勞動界》，北京有《勞動音》，廣州有《勞動者》等。這些書刊對於傳播馬列主義，提高工人的階級覺悟，起到了積極作用。在此基礎上，各地共產主義小組積極深入工人民眾，舉辦工人夜校，建立工會組織，進一步促進了馬克思主義同工人運動的結合。
上海共產黨發起組成立後，陳獨秀擔任書記。1920年12月，他到廣州任廣東省教育委員會委員長，黨的書記由李漢俊代理。李漢俊接替陳獨秀職務後，一方面主編《新青年》雜誌，另一方面負責黨的發起組的日常工作。他由於在黨綱問題上同陳獨秀的分歧，辭去代理書記的職務，由李達接替李漢俊的工作。
1921年3月以前，中國不僅還沒有一個統一的共產主義組織，而且在北京、廣州等許多地區又不得不同無政府主義者一起共事。“在這些共同組織中我們有自己的同志進行監督和領導，我們曾作過努力，要使這些組織變成純粹的共產主義組織。然而後來我們確信，要繼續同這些無政府主義分子一起合作是不可能的，因為他們已開始以共產主義組織的名義發表宣言，宣揚他們的宗旨和原則，而他們的宗旨和原則則與我們對共產主義的基本概念相矛盾。”
為了闡明共產黨人的宗旨、原則和策略，為了把無政府主義分子從組織中清除出去，在俄共遠東局和共產國際的建議和支持下，1921年3月召開了各地共產主義組織的代表會議。
這次會議發表了關於共產主義組織的宗旨和原則的《宣言》，並制定了臨時性的《綱領》。這個《綱領》確定了共產主義組織的工作機構和工作計畫，表明了共產主義組織對社會主義青年團、同業公會、行會、文化教育團體和軍隊的態度，也表明了共產黨對工會的態度。
