Việc vua Hàm Nghi bị bắt không chấm đứt phong trào yêu nước của nhân dân. Tinh thần “trung quân” chẳng qua chỉ là biểu hiện của một chủ nghĩa yêu nước đã cắm rễ sâu trong tâm trí của nhân dân và các nhà nho. Các cuộc nổi dậy vẫn tiếp tục nổ ra ở nhiều tỉnh cho đến năm 1897.
Ở Thanh Hóa, nhà nho Tống Duy Tân tiếp tục cuộc chiến đấu sau khi Ba Đình thất thủ, liên minh với người Mường, cho đến năm 1892. Khi ông bị bắt, giặc giam ông trong một cái lồng, ông đã dùng cán bút lông của mình tự rạch bụng mà chết. Vị phó tướng người Mường của ông là Cầm Bá Thước tiếp tục cuộc chiến đấu đến tận năm 1895.
Ở Hà Tĩnh, nhà nho Phan Đình Phùng cùng với viên tướng của mình là Cao Thắng đã tổ chức trong vùng Hương Khê một căn cứ kháng chiến hùng hậu, phạm vi hoạt động của nghĩa quân bao gồm cả 4 tỉnh Quảng Bình, Hà Tĩnh, Nghệ An, Thanh Hóa. Cao Thắng, một người xuất thân bình dân, là một nhà chỉ huy quân sự lớn đã biết tổ chức các lực lượng của mình một cách có hiệu quả và đã trang bị cho họ một loại súng trường được chế tạo theo kiểu súng của Pháp năm 1874. Phong trào mở đầu năm 1885. Năm 1893, Cao Thắng cầm đầu quân của mình tiến về hướng tỉnh lỵ Nghệ An và bước đầu đã đánh bật được nhiều đồn của giặc. Việc Cao Thắng tử trận khi mới ở tuổi 29, đã làm cho cuộc khởi nghĩa bị ngưng lại đột ngột. Tuy nhiên, người Pháp và bọn tay sai vẫn phải huy động đến 5.000 quân để “Tảo thanh” khu vực. Năm 1896, Phan Đình Phùng chết vì bệnh lỵ và phong trào tắt lịm dần.
Từ năm 1889 đến năm 1893, trong lưu vực sông Đà và thượng lưu sông Hồng, sau khi Nguyễn Quang Bích chết và thủ lĩnh người Thái là Đào Văn án chạy sang hàng giặc, quyền lãnh đạo phong trào chuyển vào tay Đề Kiều và Đốc Ngữ.
Trong tất cả những phong trào tiếp tục cuộc chiến đấu sau khi vua Hàm Nghi bị bắt, nổi bật rõ ràng nhất là phong trào Yên Thế, bắt đầu năm 1885; trong vùng núi non này ở bên rìa châu thổ sông Hồng, nông đần vốn đã nổi dậy chống lại bọn thực dân đã tước mất ruộng đất của họ. Những người khởi nghĩa đến từ vùng châu thổ đã gia nhập hàng ngũ những nông dân nổi dậy này và vị thủ lĩnh của phong trào là Hoàng Hoa Thám (Đề Thám) đã biết cách thúc đẩy mạnh mẽ phong trào, bằng một cuộc chiến tranh du kích kéo dài, được lãnh đạo một cách rất tài tình. Lực lượng quân chính quy của ông chỉ có mấy trăm chiến sĩ, nhưng lực lượng chủ yếu lại là những nông dân vừa sản xuất vừa tham gia chiến đấu khi cần.
Từ căn cứ Yên Thế , phong trào mở rộng phạm vi hoạt động đến các tỉnh Bắc Giang, Bắc Ninh, Thái Nguyên, Lạng Sơn. Nhiều cuộc hành quân của Pháp đánh vào Yên Thế đã bị thất bại. Frey, một sĩ quan Pháp, viết:
“ Người ta không thể tự giải thích được làm sao những con người đó tập hợp trong một khoảng không gian chật hẹp, bị ngập chìm dưới hỏa lực của bốn khẩu pháo bắn ở cự ly 300m mà lại có thể cầm cự được lâu đến thế... Nếu kẻ địch mà quân đội ta đang chiến đấu chống lại không có sự cuồng tín của dân vùng Kabyle hay những du kích ở đất Saudan, thì họ lại có đầu óc thông minh sắc sảo hơn, có khả năng tuyệt vời tiếp thu cách sử dụng những phương tiện hoạt động, những phương thức chiến thuật của chúng ta. Họ tỏ ra có nghệ thuật cao hơn trong việc lựa chọn các vị trí chiến đấu, trong cách xây dựng công sự, đồng thời vẫn không kém những con người ở Kabyle hay ở Soudan trong thái độ điềm nhiên, bình thản trước cái chết ... Loạn quân có được những người chỉ huy đích đáng... Họ đợi cho đến lúc các đầu nòng súng chạm vào nhau, hơi thở của quân hai bên hầu như trộn lẫn vào nhau mới nổ súng bắn hạ hàng loạt kẻ địch ”.
Năm 1894, người Pháp đề nghị một cuộc đình chiến, nhượng cho Đề Thám quyền cai trị bốn tổng. Năm 1895, họ phá vỡ đình chiến, bất thình lình tiến công Yên Thế, nhưng Đề Thám luôn luôn đề phòng, lực lượng của ông ta được phân tán tiến hành một cuộc chiến tranh du kích làm cho quân đội Pháp bị trày vi tróc vảy. Năm 1897, Pháp lại thương lượng một cuộc đình chiến thứ hai. Vào lúc này, chỉ còn một mình căn cứ Yên Thế đứng vững, các phong trào kháng chiến khác đã lần lượt bị đè bẹp.
Trên những vùng núi có nhiều dân tộc ít người, nhân dân đã chống cự lâu dài. Nhưng người Pháp rất khôn khéo biết lợi dụng và khơi lên những bất hòa giữa các tộc người với nhau, lôi kéo những thủ lĩnh địa phương về phía chúng. Bộ chỉ huy Pháp sau khi chiếm được một vài cứ điểm liền ra sức thực hiện thủ đoạn chia rẽ chính trị này trước khi tiến hành những chiến dịch quân sự mới. Cứ thế, dần dần các phong trào kháng chiến bị đánh bại và các vùng núi rơi vào tay kiểm soát của người Pháp.
Từ năm 1861 đến năm 1897, không như quân đội nhà vua sụp đổ tan tành dưới những đợt tiến công của quân Pháp, cuộc kháng chiến được tiến hành nhờ sự giúp đỡ của nhân dân, được tổ chức bởi những lãnh tụ có tài thao lược, biết áp dụng những chiến thuật đa dạng, nên đã duy trì cuộc chiến đấu lâu dài trên toàn quốc.
Tuy nhiên, sự đào nhiệm của một chế độ quân chủ bị tê liệt vì bộ máy quan liêu quan lại và hệ ý thức Khổng giáo đã tước đi khả năng hành động thống nhất trên quy mô cả nước của phong trào kháng chiến. Một nền quân chủ biết dựa vào dân có lẽ đã có thể đánh thắng bọn xâm lược.
