Tháng 2 năm 1929, Việt Nam Quốc dân đảng tiếp tục chiến thuật hành động và âm mưu khủng bố đã ra lệnh giết Bazin, một tên cai mộ phu cho các đồn điền cao su và hầm mỏ. Cảnh sát thuộc địa thắt chặt mạng lưới bủa vây, Quốc dân đảng bị lâm vào thế có thể tan rã hoàn toàn. Đảng đã đối phó bằng cách tự chia nhỏ thành những bộ phận tách biệt hẳn với nhau, tìm cách tiêu diệt những tên phản bội đã chui vào hàng ngũ của mình, đẩy mạnh việc kết nạp đảng viên trong binh lính, xúc tiến gấp việc chuẩn bị đấu tranh vũ trang. Nhưng đến lúc này Đảng vẫn không có chủ trương huy động quần chúng. Nhiều kho vũ khí bị cảnh sát thực dân phát hiện. Bọn phản động tố giác những đảng bộ được tổ chức trong một số trại lính. Các lãnh tụ của đảng đi đến kết luận và phải cấp tốc hành động vũ trang. Họ biết rằng điều kiện chưa chín muồi, nhưng nghĩ rằng ''Không thành công cũng thành nhân'', dù cho cách mạng có thất bại thì ít ra danh dự cũng sẽ được cứu vãn. Họ quyết định chuyển sang hành động, thề ''chết để cho toàn thế giới biết rằng tinh thần của dân tộc Việt Nam vẫn sông mãi''.
Trong đêm mồng 9 sáng mồng 10 tháng 2 năm 1930, binh lính đồn Yên Bái ở phía tây bắc châu thổ sông Hồng nổi dậy giết chết các sĩ quan Pháp, chiếm kho súng. Ở các tỉnh lân cận - Phú Thọ, Sơn Tây, những hành động tương tự cũng được tiến hành, trong khi ở Hà Nội một vài quả bom đã nổ. Vài địa phương ở các tỉnh Hải Dương, Kiến An cũng nổi dậy. Tuy nhiên, mọi nơi khác trong cả nước đều không động tĩnh, kể cả đông đảo quần chúng ở các tỉnh và thành phố có các cuộc nổi dậy. Nghĩa quân không đủ sức làm chủ được thị xã Yên Bái. Cuộc nổi dậy không thể kéo dài. Các lãnh tụ của đảng bị bắt và bị hành hình. Họ đã chết rất anh dũng. Vụ Yên Bái đã gây náo động lớn trong dư luận Việt Nam và Pháp. Đảng Cộng sản Đông Dương vừa thành lập đã ủng hộ cuộc khởi nghĩa. Tại nghị viện Pháp, Đảng Cộng sản Pháp cũng lên tiếng ủng hộ.
Cuộc đan áp thật là đẫm máu. Quốc dân đảng mất cơ quan đầu não, các tổ chức cơ sở tan rã. Khởi nghĩa Yên Bái là chiến công hiển hách đầu tiên và cuối cùng của đảng. Vì không bám rễ sâu trong quần chúng nhân dân nên đảng không thể vượt qua được cuộc đàn áp để phục hồi. Những phần tử trẻ nhất và năng động nhất trong đảng đã nhanh chóng hướng tới những con đường cách mạng khác. Một số người lãnh đạo và đảng viên lánh nạn sang Trung Quốc. Tại đây, dưới sự che chở của Tưởng Giới Thạch, họ tìm cách khôi phục lại đảng của mình. Nhưng họ chỉ uổng công. Quốc dân đảng biến khỏi sân khấu chính trị. Những kẻ trở về nước năm 1945, cùng với quân đội của Tưởng Giới Thạch chẳng còn là đồng chí với các chiến sĩ yêu nước Yên Bái năm xưa.
