“Xăng Đá” là tên đọc trại của hai chữ “Solda”, có nghĩa là “lính” (thành “xăng đá” tức thành lính). Ba năm sau khi Pháp làm chủ Gò Công (1868), họ bắt đầu xây thành “xăng đá” để củng cố an ninh trật tự vùng mới chiếm. Bước kế tiếp, người Pháp cho xây dinh Tham biện (Tỉnh trưởng), hồi đó gọi là “Dinh ông Chánh”, kho bạc (ty ngân khô), trường học. Ca dao, câu hát xưa còn nhắc:

Mười giờ ông Chánh về Tây,

Cô Ba lại lấy chồng thông ngôn...

Trước thành “xăng đá” có một con rạch nhỏ, về sau bắc cầu dân chúng qua lại. Con rạch thông với cầu Huyện. Cầu Huyện kiến trúc bằng sắt, kiên cố, trên lót ván. Ban đầu, chỗ này được gọi là “Cầu quan” vì dẫn đến dinh quan Tham biện. Phía bên kia cầu là khu vực dành cho người Pháp có Bungalow và Bưu điện. Sau này, thành “xăng đá” trở thành trường Nam tiểu học tỉnh lỵ Gò Công. Khoảng đất trống từ phía công viên tới cổng sở Long Thuận, là chỗ cất chợ tỉnh. Khởi đầu nhà ông chợ là một dãy nhà 10 căn, lợp lá, dài, thấp nên thiếu ánh sáng. Hai bên nhà ông, những dãy phố buôn bán tạp hoá của người Hoa. Từ năm 1962, chỗ này đổi tên đường Lê Lợi. Đình làng ở gần chợ bấy giờ, lúc trước là một hồ nước được lấp lại. Phòng thông tin trước kia là chỗ dựng bia kỷ niệm Huỳnh Công Tấn, bị dân chúng phẫn nộ, đập phá năm 1945.

Nhà ông chợ mới, kiên cố như hiện nay, nối với đường Trưng Nữ Vương, ở vào vị trí một bến ghe xuồng sình lầy, đầy cỏ lác lau lách. Hồi đó, dọc theo bến có mấy nhà buôn bán gọi là “vựa” như vựa cá, vựa củi, vựa cối xay, vựa nồi ơ, lu khạp... chất đầy cả bến sông.

Nửa thế kỷ trước, rạch Gò Công cạn và nhiều phù sa bồi đắp, tàu chở hành khách lên xuống Chợ Lớn, phải làm cầu cập bến, gié ra khỏi bờ sông khá xa. Bây giờ chỗ đó đã bỏ, và người lớn tuổi quen gọi chỗ đó là “cầu tàu cũ”. Bến Bắc Mỹ Lợi, lúc ban đầu chưa có bắc chạy máy, phải kéo bằng tay, chèo chống, nên gặp sóng gió rất nguy hiểm.