Ông sinh ra trong một gia đình nhà nho nghèo yêu nước ở xã Phù Khê, huyện Từ Sơn, tỉnh Bắc Ninh.
Ông là hậu duệ đời thứ 17 của Anh hùng dân tộc Nguyễn Trãi.
Ông sớm giác ngộ cách mạng đi theo lý tưởng Bác từ khi mới 15 tuổi. Ông được tổ chức Hội Việt Nam Cách mạng Thanh niên giới thiệu đi “vô sản hóa”. Chỉ một năm sau ông trở thành người chỉ đạo trực tiếp phong trào công nhân, phong trào Cộng sản ở khu vực có lực lượng công nhân đông đảo nhất lúc bấy giờ.
Từ đó ông nhanh chóng thể hiện rõ bản lĩnh của một nhà lãnh đạo tài ba của Cách mạng Việt Nam và trở thành Tổng bí thư trẻ nhất trong lịch sử Đảng ta khi chưa đầy 26 tuổi.