Trước khi về Việt Nam, Nguyễn Ái Quốc đã thành lập Hội Việt Nam cách mạng thanh niên ở Trung Quốc vì những lý do sau: Thứ nhất, người muốn chuẩn bị đầy đủ và kĩ lưỡng nhất trước khi thành lập Đảng. Đây là một tổ chức sơ khai của Đảng, giúp Người có thể thực hiện truyền bá sâu rộng chủ nghĩa Mác - Lênin vào nhân dân trong nước, đặc biệt là công nhân, trí thức, nông dân. Thứ hai, năm 1924, tại Trung Quốc đang có một lực lượng những thanh niên yêu nước được tập hợp trong tổ chức " tâm tâm xã". Tuy nhiên, lực lượng này đang đi theo con đường lạc hậu, gây nhiều tổn thất về người. Sự kiện Phạm Hồng Thái dù mang lại tiếng vang lớn nhưng lại cho thấy con đường cụt của tổ chức. Chính vì vậy, Người cần xây dựng nền tảng đầu tiên của Đảng trên chính tổ chức này.
