Mối quan tâm đầu tiên của kẻ chinh phục là tạo nên một tổ chức chính trị và hành chính ổn định, hữu hiệu. Ở Nam Kỳ là xứ bị thôn tính từ năm 1862, người Pháp đã vấp phải một thái độ bất hợp tác có hệ thông của giới quan lại và nho sĩ Sử gia người Pháp Cultru viết:

“ Giá như có phép lạ khiến cho các nhà nho chịu phản bội vị hoàng đế của họ mà xích lại gần với người Pháp thì việc cai trị xứ Nam Kỳ đối với chúng ta chỉ là trò chơi đơn giản. Nhưng những người An Nam có học thức, lâng lớp thượng lưu trung thành với luật pháp của nước họ chỉ có thể coi chúng ta là những kẻ thù, những người nông dân chẳng qua vì mảnh ruộng con trâu mà phải ở lại tại chỗ, ngoài mặt thì ra vẻ phục tùng nhưng lòng dạ thì không ”.

Vậy nên người Pháp đành phải trực tiếp nắm lấy quyền cai trị đồng thời tuyển mộ những nhân viên thuộc hạ người bản xứ, những phần tử vô học và không có uy tín để làm thông gian. Vả chăng, thái độ bất phục tùng thường trực của dân chúng làm cho mọi thủ đoạn mua chuộc đều vô hiệu, khiến bộ máy cai trị thực dân, để tự duy trì được, phải trắng trợn dùng đến những thủ đoạn đàn áp dữ dội nhất, tàn bạo nhất. Cho đến tận ngày nó cáo chung, bộ máy cai trị thực dân luôn mang hai vết nhơ dính liền với nhau: một mặt là sự tàn bạo, mặt kia là sự cấu kết với những phần tử thoái hóa nhất, thối nát nhất trong dân tộc Việt Nam. Chủ nghĩa thực dân mới của Mỹ ở Việt Nam chỉ làm tăng lên đến mức tối đa những khuyết tật vốn có ấy của mọi công cuộc chinh phục thuộc địa.

Ngay từ năm 1886, trong báo cáo trình lên Khâm sứ Trung Kỳ, viên công sứ Muselier đã viết:

“ … Bọn quan lại bản xứ không muốn về phe với chúng ta, hoặc chí ít chịu thực bụng làm việc cho chúng ta. Có một số bỏ nhiệm sở, chọn con đường về hưu, một số khác, ít hơn nhưng kiên quyết hơn, xông ra làm những thủ lĩnh chính trị thực sự của phong trào nổi loạn. Trong hàng ngũ nhân viên hành chính, hiếm hoi mới có được một ít kẻ có tham vọng và nhận thức rõ hơn về tiền đồ của mình, còn thì toàn là những kẻ gian manh, những phần tử vô lương tâm, những quân vô học mà tình thế đã đẩy đến với chúng ta và... đôi khi được chúng ta sơn phết cho những phẩm tước thật cao, từ đó họ vơ vét của cải không chút ngại ngùng và bôi nhọ sự can thiệp của chúng ta. Là những phân tử hãnh tiến bất tài, không biết tôn ti trận tự là gì, chúng chẳng có chút nào uy tín... ”.

Phó đô đốc Rieumier thì phàn nàn: '' Chúng ta chỉ nắm được những tên vô lại ''

Để tạo chỗ dựa, chính quyền thuộc địa trực tiếp câu kết với các thế lực phong kiến, chí ít là với những bộ phận phản động nhất của giai cấp này. Chế độ phong kiến không bị bãi bỏ mà lại được tăng cường, vua quan và hào lý trở thành những trợ thủ cho viên quan cai trị người Pháp, còn các địa chủ thì cứ việc tha hồ bóc lột nông dân.

Nước Việt Nam được chia thành 3 ''xứ'' khác nhau: Bắc Kỳ, Trung Kỳ và Nam Kỳ, mỗi xứ hội nhập với tư cách riêng vào Đông Dương - vùng đất thuộc Pháp này còn bao gồm cả Campuchia và Lào, do một viên toàn quyền người Pháp đứng đầu. Ý đồ hiển nhiên của họ là đập tan sự thống nhất của dân tộc Việt Nam để dễ bề nô dịch.

Mỗi một xứ trong năm xứ của Đông Dương thuộc Pháp (Bắc Kỳ, Trung Kỳ, Nam Kỳ, Campuchia và Lào) có một viên công sứ người Pháp đứng đầu và mỗi tỉnh một viên công sứ Pháp. Mọi cơ quan hành chính quan trọng - an ninh, tài chính, công danh, bưu chính, nông nghiệp, y tế, thương mại... đều trong tay người Pháp. Viên toàn quyền điều khiển cả Đông Dương với sự phụ tá của Hội đồng tối cao Đông Dương tập hợp quanh ông ta các viên Khâm sứ và các Giám đốc người Pháp phụ trách những ngành quan trọng nhất.

Các cơ quan hành chính Việt Nam chỉ được giữ lại để làm vì, hoặc chỉ được giao những công việc phụ tá. Hội đồng cơ mật Việt Nam do viên Khâm sứ Pháp chủ tọa và mỗi viên thượng thư đều có một cố vấn người Pháp kèm theo. Viên Khâm sứ này cũng chủ tọa luôn cả Hội đồng hoàng tộc. Năm 1899, nhà cầm quyền Pháp lại tước luôn của bộ máy nhà vua quyền thu thuế và quyền trả lương cho công chức của chính mình. Tại Bắc Kỳ và Trung Kỳ, ở cấp tỉnh, bên cạnh tòa công sứ, còn có một bộ máy hành chính Việt Nam mà các thành viên chỉ là những bù nhìn không hơn không kém. Các viên Khâm sứ được các “Hội đồng dân biểu” phụ tá; các hội đồng này thực ra chỉ là những người được chọn lựa cẩn thận trong tầng lớp mỏng manh các địa chủ, phú thương hoặc những nhà công nghiệp giàu có, những công chức cao cấp để làm vật trang trí cho bộ máy cai trị thuộc địa.

Bộ máy cai trị do Toàn quyền Doumer lập lên tồn tại cho đến hết thời thống trị thuộc địa mà chẳng có gì thay đổi lớn.

Bộ máy đó chỉ có thể duy trì nhờ sự bảo vệ của một đội quân thường trực. Từ sau năm 1896, luôn xảy ra những cuộc nổi dậy lẻ tẻ, chứng tỏ phong trào yêu nước vẫn được duy trì. Xung quanh những đội lính Pháp, lính người Phi và đội quân lê dương làm nòng cốt, người Pháp thành lập một đội “lính bảo an bản xứ” ở cấp tỉnh. Đội bảo vệ người Việt Nam của Hoàng gia chủ yếu làm nhiệm vụ ''bình định''. Như thế vẫn không ngăn được lính bảo an bao lần quay súng chống lại các sĩ quan Pháp đế chạy sang hàng ngũ của các phong trào yêu nước.