１９２１年１０月，蔡和森因领导留法勤工俭学学生斗争被法国政府强行遣送回国。同年底加入中国共产党，并在中共中央从事党的理论宣传工作，成为党早期重要的理论家和宣传家。１９２２年６月，他出席党的二大，参与起草二大宣言，为制定党的民主革命纲领作出了贡献，当选为中央执行委员会委员。１９２２年９月起任中共中央机关报《向导》周报主编，组织发表并亲自撰写大量文章，宣传马克思列宁主义和党的纲领、主张等，揭露和批判帝国主义和封建军阀，为维护、推动国共合作大革命高潮的到来做了大量工作。这期间，他还运用马克思列宁主义积极探索中国革命基本问题，对中国革命的性质、任务、前途、中国社会各阶级在革命中的地位和作用等问题，提出了许多正确观点。

在党的三大、四大上，他当选为中央局委员，参与中央领导工作。１９２５年参与领导五卅反帝爱国运动。同年１０月，受中共中央委派，赴莫斯科参加共产国际第五届执行委员会第六次扩大会议，会后任中共驻共产国际代表。１９２７年春回国，在５月举行的中共五届一中全会上当选为中央政治局委员、常委，随后又兼任中共中央秘书长。