中共中央同意后，孙中山委托张继等与在沪国民党负责人商议，并通电国民党相关支部。国共两党领导人终于就中共党员加入国民党问题达成了初步意向。9月初，经张继介绍并由孙中山“亲自主盟”，陈独秀、李大钊等中共领导人率先加入了国民党。
尽管陈独秀等中共领导人已迈出了第一步，但共产国际和中共内部对两党“党内合作”仍存有歧见。维经斯基即担心中共加入国民党后，有丧失自身独立性的严重危险。马林对此坚决否认。他认为中国并不存在真正的共产主义运动，即使存在，也只有与民族主义运动密切合作才能发展。对于马林与维经斯基等人的争论，共产国际领导人布哈林采取妥协调和的策略：一方面肯定国民党是中国“唯一重大”的民族革命集团，中共党员应当加入国民党，另一方面又指出国共党内合作不能以取消中共独特的政治面貌为代价，党必须保持自己原有的组织和严格集中的领导机构；一方面要求“全力支持国民党”，准备向国民党提供大笔援助，另一方面又坚持中共要大力组织和争取工人群众，建立强大的群众性的共产党。正是这种策略为两党以后的党际关系埋下了无穷的后患。