Nam Kỳ bị mất vào tay Pháp làm tâm trí của người Việt Nam bàng hoàng. Nhiều người yêu nước dâng sớ lên vua Tự Đức đề xướng nhiều biện pháp cải cách ngõ hầu tăng cường tiềm năng quốc phòng của Việt Nam. Đặc biệt dự án của Nguyễn Trường Tộ chủ trương nhiều cải cách trong tất cả các lĩnh vực: chính trị, hành chính, nông nghiệp, thương mại, công nghiệp, giáo dục, tài chính, ngoại giao, quân sự. Có nhiều người đề xướng những cải cách nhằm mở cửa đất nước cho thương mại quốc tế, đổi mới nghề thủ công, mở mang công nghiệp, thương nghiệp, thay đổi hệ thống giáo dục, gửi sinh viên đi học ở nước ngoài, tổ chức lại quân đội theo mô hình phương Tây.
Triều đình sa lầy trong chủ nghĩa bảo thủ, từ chối không chịu xét đến những tờ sớ này; mù tịt về tình hình diễn biến trên trường quốc tế, họ đã không biết lợi dụng những khó khăn của nước Pháp để giành lại thế chủ động. Họ vẫn cứ tin rằng bằng danh sách ''hòa nghị'' của mình, có thể thỏa hiệp với kẻ xâm lược. Họ cũng còn thưởng có thể dựa vào sự ủng hộ của triều đình Mãn Thanh đang trị vì ở Trung Quốc.
Lý do sâu xa của thái độ bảo thủ và nhu nhược này là ở chỗ chế độ phong kiến phản động nhà Nguyễn đang phải đương đầu với nhiều cuộc nổi dậy của quần chúng nhân dân. Năm 1862, ở sát ngay Hà Nội, phong trào do Cai Vàng lãnh đạo phản đối sự xa hoa lãng phí của nhà nước. Năm 1866, những dân phu và phạm nhân đang xây lăng Tự Đức nổi dậy.
Các nhà truyền giáo người Pháp lợi dụng tình thế không ổn định này đã ngấm ngầm khuấy động gây mất ổn định trong các cộng đồng giáo dân trong vùng châu thổ sông Hồng. Với sự khuấy động này, Lê Bao Phụng đã làm bùng nổ cuộc nổi loạn công khai.
Một khó khăn nữa là tàn quân Thái bình thiên quốc bị quân đội nhà Thanh truy kích tràn vào ẩn náu trong vòng thượng du Bắc Kỳ; những toán quân mang tên quân Cờ trắng , Cờ vàng tự chia nhau lãnh địa để cướp bóc. Chỉ có quân Cờ đen dưới quyền chỉ huy của Lưu Vĩnh Phúc chịu quy thuận dưới quyền của triều đình Huế.
Nhờ có các nhà truyền giáo cơ đốc, Bộ chỉ huy Pháp nắm rõ được tình hình này. Việc không thể xâm nhập miền Tây Nam Trung Quốc bằng con đường sông Mê Kông khiến người Pháp toan tính việc mở con đường sông Hồng và mở cửa các hải cảng ở Bắc Kỳ, nếu cần thì bằng vũ lực. Năm 1872, Dupuis (người Pháp) mạo hiểm dẫn đầu mấy trăm lính đánh thuê ngược sông Hồng theo hướng Vân Nam mà không xin phép, chở theo một chuyến hàng vũ khí cho viên tướng Trung Hoa là Mã. Chuyến đầu tiên trót lọt nhờ các quan địa phương tỏ ra dễ dãi nhưng khi Dupuis định làm một chuyến thứ hai thì y bị chặn lại.
Bộ chỉ huy Pháp nắm ngay lấy cái cớ mà họ đang tìm kiếm. Đại uý hải quan Francis Gamier lập tức được phái đến Hà Nội với một đội tùy tùng có vũ trang; viên sĩ quan này bắt liên lạc với giám mục Puginier, về phần mình, ông này tập hợp bọn tàn quân của kẻ nổi loạn Lê Bao Phụng. Francis Gamier tự động ra quyết định từ nay việc thông thương trên sông Hồng là tự do và các đồn thuế quan bị bãi bỏ. Các nhà chức trách Việt Nam từ chối không thông qua lệnh này. Ngày 19 tháng 11 năm 1873, quân Pháp nổ súng và chiếm thành Hà Nội. Vị tướng trấn thủ Hà Nội là Nguyễn Tri Phương đã có tuổi, bị thương và bị bắt làm tù binh, từ chối mọi thủ đoạn mua chuộc từ phía người Pháp và nhịn đói cho đến chết. Quân đội Pháp nhanh chóng đánh chiếm Nam Định, Hải Dương và nhiều địa phương khác trong vùng châu thổ, đặc biệt nhờ có sự đồng lõa của một số cộng đồng tín đồ công giáo. Nhưng các lực lượng của quân đội Việt Nam phản công bao vây Hà Nội và Francis Gamier bị giết chết ngày 21 tháng 12 năm 1873, trong một trận phục kích ở cửa ngõ thủ đô.
Nước Pháp còn chưa hồi phục hẳn khỏi những vết thương của cuộc chiến tranh Pháp -Đức năm 1870, e ngại bị lún quá sâu vào cuộc diện mới. Thế nhưng vua Tự Đức trung thành với chính sách thỏa hiệp của mình, đã không biết lợi dụng tình hình quân sự thuận lợi; ông ta thương lượng với người Pháp hiệp ước năm 1874, theo đó nước Pháp trả lại các thành phố đã bị chiếm nhưng được quyền đóng một đội quân đồn trú ở Hà Nội và Hải Phòng, cũng như việc mở cửa sông Hồng cho thương mại.
