Quân Pháp sau khi chiếm Đà Nẵng đã nổi lửa thiêu hủy thành phố này, nhưng chúng không đủ mạnh để có thể uy hiếp kinh đô và buộc triều đình Huế phải có những nhân nhượng. Giám mục Pellerin liền đề nghị với Bộ chỉ huy Pháp đánh vào châu thổ sông Hồng, nơi có 400.000 giáo dân có thể sẽ sẵn sàng nổi dậy tiếp ứng cho cuộc hành quân. Bộ chỉ huy Pháp chọn con đường hướng lực lượng của mình về phía Nam, nơi việc buôn bán lúa gạo đã thịnh vượng.
Sáng ngày 17 tháng 2 năm 1859, Sài Gòn bị vây hãm, cuối ngày đó, quân đội nhà vua rút khỏi thành phố, trong khi quân tiếp viện từ các tỉnh lân cận đang vội vã kéo đến, trong đó có 5.800 quân tình nguyện do các bậc thân hào trong vùng tuyển mộ. Thế là đạo quân đồn trú Sài Gòn được tăng viện bao vây lại quân Pháp đã kéo vào bên trong thành phố, dồn chúng vào thế gay go. Tuy nhiên triều đình Huế đã không thúc quân đội của mình tiến công mà lại hy vọng có thể tìm kiếm được một thoả hiệp bằng thương lượng. Quân Pháp đã lợi dụng sự do dự này của triều đình Huế để tranh thủ thời gian. Năm 1860, sau một cuộc tiến công mới thắng lợi của các cường quốc phương Tây chống Trung Quốc, nước Pháp đã có thể tập trung toàn bộ lực lượng hải quân của mình ở Viễn Đông vào Sài Gòn để phá tan cuộc bao vây và tiếp đó, năm 1861, chiếm luôn 3 tỉnh miền Đông của Nam Kỳ (gồm có 6 tỉnh, 3 ở miền Đông và 3 ở miền Tây).
Sự bại trận của quân đội nhà vua đã không châm dứt cuộc kháng chiến của Việt Nam. Dưới sự lãnh đạo của những lãnh tụ yêu nước, nhân dân ở khắp nơi nổi dậy chông lại quân đội Pháp. Những sĩ quan Pháp phụ trách biên tập Lịch sử quân sự Đông Dương đã buộc phải thừa nhận rằng '' những trận thất bại của quân đội An Nam không hề có chút tác động nào đến tình hình khởi nghĩa tại các lãnh thổ bị chiếm đóng ''.
Cuộc kháng chiến mang tính toàn dân. Nhà sử học người Pháp Pallu de la Barriere, một nhân chứng có mặt tại chỗ, đã viết:
“ Thực tế là trung tâm kháng cự ở khắp nơi, được chia nhỏ đến vô cùng tận, hầu như mỗi một người An Nam là một trung tâm kháng cự. Có lẽ đúng hơn là cứ coi mỗi một người nông dân đang bó lúa là một trung tâm kháng cự”. (56)
Tính chất nhân dân của cuộc kháng chiến cũng thể hiện rõ trong việc thay đổi chiến thuật. Các đơn vị quân đội nhà vua chiến đấu theo đội hình dày đặc và rất sợ những loại vũ khí có tầm bắn xa của quân Pháp, còn các lực lượng nhân dân thì hoặc đánh du kích hoặc thực hiện những cuộc tập kích bất ngờ áp sát địch mà đánh. Quân do nhà yêu nước Nguyễn Trung Trực chỉ huy đánh giáp lá cà, thậm chí đã nổi lửa đột chiếc tàu chiến L’espérance của Pháp và giáng cho quân Pháp một đòn đau điếng ở Nhật Tảo. Các lực lượng nhân dân giành lại thế chủ động ở nhiều địa phương và Bộ chỉ huy Pháp buộc phải vội vã xin quân tiếp viện.
Chính triều đình Huế là kẻ đã cứu quân Pháp thoát khỏi bước gian nan này bằng cách yêu cầu thương lượng. Ngày mồng 5 tháng 6 năm 1862, Phan Thanh Giản thương lượng với Đô đốc Pháp Bonard một hiệp ước theo đó triều đình Huế nhượng cho Pháp 3 tỉnh miền Đông của Nam Kỳ, chịu bồi thường 20 triệu đồng quan và mở rửa cho Pháp vào buôn bán ở 3 cửa biển của Trung Kỳ và Bắc Kỳ. Triều đình ra lệnh ngay cho các lực lượng nhân dân rút khỏi những tỉnh nhượng cho Pháp.
Lệnh này đã không được thi hành. Sử gia Pháp Vial viết:
“ Vào đúng lúc Đô đốc tưởng chừng đã có thể chấm dứt được một cách may mắn một cuộc chiến tranh thì ông ta lại phải đối mặt với nó, với những kẻ địch còn tích cực chủ động hơn, một cuộc chiến tranh có lẽ còn đáng sợ hơn cuộc chiến thực sự chống lại quân đội chính quy của nhà vua''.( 57 )
Trương Định là người lãnh đạo cuộc khởi nghĩa. Ông đang chỉ huy một đồn điền nông nghiệp khi quân Pháp đánh Sài Gòn. Trương Định điều quân tình nguyện đến cứu viện cho thành phố này; khi Sài Gòn rơi vào tay quân Pháp, ông lui về tỉnh Gò Công, chiêu mộ một đội quân tình nguyện 6.000 người và được triều đình phong chức Phó tổng chỉ huy. Sau khi hiệp ước được ký kết, nhà vua ra lệnh cho ông rút về tỉnh An Giang và chấm dứt mọi kháng cự (đồng thời phong cho ông chức tổng chỉ huy). Trong nhiều ngày, Trương Định phân vân do dự: là người yêu nước chân thành, ông không muôn bỏ rơi cuộc chiên đấu, nhưng là người được đào tạo theo Khổng giáo, ông không thể không tuân mệnh vua. Đúng khi ông sắp sửa làm theo lệnh nhà vua, thì các đại biểu của những lực lượng vũ trang nhân dân và của dân chúng kéo ùa đến doanh trại , khẩn khoản, van nài ông ở lại vị trí thủ lĩnh của phong trào và suy tôn ông là Bình Tây Nguyên soái . Trương Định tuân theo ý chí của nhân dân và nắm quyền chỉ huy cuộc khởi nghĩa.
Những người yêu nước kháng chiến rất anh dũng.
“ Những người An Nam với những vũ khi không thể nào địch lại những khẩu súng trường của quân ta, đã ào ào xông thẳng tới những chiến binh của chúng ta với ý chí không chút đắn đo chứng tỏ một tinh thần dũng cảm quên mình đến mức phi thường.”( 58 )
Chiến dịch đánh du kích làm cho quân Pháp điêu đứng, Pallu de la Barriere viết:
“ Còn có cảnh tượng nào buồn chán hơn, đơn điệu và mệt nhọc hơn cảnh tượng của quân đội Pháp trên bộ và trên thủy. Một bên đối phương thì lồ lộ trước mắt mọi người, còn phía đối phương kia thì giấu mình. Với những kẻ địch kiên trì lẩn tránh như thế, dường như các đòn của chúng ta đều đánh vào khoảng không ”.
Trên các mặt hoạt động khác, cuộc kháng chiến cũng đi vào tổ chức với nhiều hình thức. Phần đông các thân hào và quan lại từ chối không cộng tác với kẻ chiếm đóng, nhà thơ Nguyễn Đình Chiểu, mặc dù bị mù lòa, rời khỏi vùng bị chiếm để đến ở nơi khác. Cùng với nhiều nhà nho khác, ông đã viết nên những trang văn nóng bỏng nhiệt tình yêu nước.
Trong một bài văn tế nổi tiếng, ngọn bút bậc thầy của Nguyễn Đình Chiểu đã phác thảo chân dung của những người nông dân yêu nước:
“ Côi cút làm ăn, toan lo nghèo khó
Chưa quen cung ngựa, đâu tới trường nhung
Chỉ biết ruộng trâu, ở theo làng họ
Việc cuốc, việc cày việc bừa, việc cấy, tay vốn quen làm
Tập khiên, tập súng, tập mác, tập cờ, mắt chưa từng ngó...
Ngoài cặt có mặt manh áo vải, nào đợi mang bao tấu, bầu ngòi
Trong tay cầm một ngọn tầm vông, chi nài sắm dao tu, nón gỗ…
Nào sợ thằng Tây bắn đạn nhỏ, đạn to, xô cửa xông vào, liều mình như chẳng có
Kẻ đâm ngang, người chém ngược, làm cho mã tà, ma ní hồn kinh...
Thác mà trả nước nền rồi nợ, danh thơm đồn sáu tỉnh chúng đều khen;
Thác mà ưng đình miếu để thờ, tiếng hay trải muôn đời ai cũng mộ...
Nước mắt anh hùng lau chẳng ráo, thương vì hai chữ thiên dân;
Cây hương nghĩa sĩ thấy thêm thơm, cám bởi một câu vương thổ ”.
Tuy nhiên, bệnh của triều đình buộc phải chấm dứt mọi sự kháng cự đã reo rắc hoang mang vào tâm trí mọi người. Triều đình đã gửi sang Pháp một phái bộ do Phan Thanh Giản cầm đầu. Để thương lượng việc thu hồi 3 tỉnh đã mất, nước Pháp đang gặp khó khăn vì cuộc chiến tranh ở Mêhicô, đưa ra một vài hứa hẹn. Ngày 20 tháng 8 năm 1864, Trương Định bị thương trong một cuộc giao chiến, đã tự sát để khỏi rơi vào tay địch. Người con trai của ông là Trương Quyền tiếp tục cuộc kháng chiến. Cũng trong khoảng thời gian đó, năm 1863, nước Pháp đã buộc được nhà vua Campuchia chấp nhận một hiệp ước bảo hộ. Những người yêu nước Campuchia dưới sự lãnh đạo của nhà sư Pokumbo, liên minh với các lực lượng khởi nghĩa Việt Nam để chống lại cuộc chinh phục của Pháp. Đây là bước đi đầu tiên trong mối liên minh về sau sẽ gắn kết nhân dân hai nước Việt Nam và Campuchia trong cuộc đấu tranh chống chủ nghĩa đế quốc phương Tây.
Năm 1867, Pháp giải quyết xong vấn đề Mêhicô, liền chuyển sang phản công ở Việt Nam, quân đội Pháp tiến vào 3 tỉnh miền Tây Nam Kỳ. Phan Thanh Giản lúc bấy giờ là tổng trấn 3 tỉnh này, cho rằng mọi kháng cự là vô ích, bèn nhượng 3 tỉnh đó cho Pháp rồi tự sát. Cuộc kháng chiến của nhân dân trong các tỉnh miền Tây gắn kết người Việt Nam với người Khơme và người thuộc những dân tộc khác: người Chăm, người Mường, người Xiêm, trải rộng trên cả một vùng lãnh thổ từ vùng Biển Hồ của Campuchia đến tận cửa ngõ của thành phố Sài Gòn. Từ năm 1866 đến năm 1868, các trận chiến đấu diễn ra đặc biệt ác liệt trong tỉnh Tây Ninh; quân khởi nghĩa Khơme áp sát ngoại vi thủ đô Udong. Tuy nhiên, Pokumbo bị tử trận và cuộc kháng chiến trong vùng tây bắc Nam Kỳ và trên lãnh thổ Campuchia dần dần tắt lịm. Ở miền Tây châu thổ sông Mê Kông, hai người con trai của Phan Thanh Giản đứng lên cầm đầu phong trào nhân dân, trong khi nhà yêu nước Nguyễn Trung Trực, người đã đốt cháy chiên hạm Esperance năm 1861, chỉ huy các cuộc chiên đấu. Đặc biệt ngày 16 tháng 6 năm 1868, ông chiếm được đồn Kiên Giang trong tỉnh Rạch Giá. Bị giặc bắt ít lâu sau đó, ông không chịu đầu hàng và trước khi ngã xuống dưới làn đạn của đội hành quyết đã thét lên:
“ Chừng nào cỏ còn mọc trên đất này, thì còn người chống lại quân xâm lược ”.
Người Pháp sau khi chiếm được toàn bộ Nam Kỳ, vội vàng thăm dò suốt chiều dài của sông Mê Kông để xem liệu có thể thu hút về Sài Gòn toàn bộ nền mậu dịch của các tỉnh miền Nam Trung Quốc hay không? Họ đã nhanh chóng nhận ra con đường xâm nhập này mà không thể sử dụng.
