Vạn Khải rất kinh ngạc, Đại Bạch không còn đáng tin nữa sao? Điều này có nghĩa là gì?

Là hệ thống quản lý của trạm Cassini, Đại Bạch nắm giữ mọi thứ của toàn bộ trạm nghiên cứu khoa học, từ các dự án nghiên cứu đến sinh hoạt hàng ngày đều thuộc phạm vi phụ trách của nó. Trong nhiều năm qua, Đại Bạch đã hỗ trợ các thành viên trạm làm việc, luôn là một quản gia và trợ lý vô cùng đắc lực. Những thành viên kỳ cựu như Vạn Khải đã sớm hình thành thói quen tin tưởng vào Đại Bạch, có việc gì đều tìm nó trước tiên.

"Đại Bạch xảy ra vấn đề gì?" Đại Trù hỏi.

"Chúng tôi không rõ, nhưng có một điều chắc chắn là trong cuộc hành động hôm nay, nó suýt chút nữa đã hại chết hai người chúng tôi." Lương Kính trả lời, "Nó cung cấp cho chúng tôi lộ trình hoàn toàn sai lệch, dẫn dắt chúng tôi ngày càng xa trạm Cassini. Nếu không phải may mắn tìm thấy một chiếc xe bộ hành khác, hôm nay chúng tôi đã không thể trở về."

Trên chiếc xe bộ hành KSL106, Lương Kính và Giang Tử mới nhận ra mình đã đi ngược hướng ngay từ đầu. Đại Bạch đã đưa ra một lộ trình sai lầm, nếu họ cứ tiếp tục đi theo hướng đó, họ sẽ chỉ ngày càng xa trạm Cassini và cuối cùng sẽ thiệt mạng tại một góc khuất nào đó không ai hay biết. Với Đại Bạch, loại sai lầm này là điều không thể tưởng tượng nổi, trông như thể nó đang cố tình sát hại Giang Tử và Lương Kính vậy.

AI tự ý sát hại con người, điều này nghe chẳng khác nào kịch bản trong bộ phim kinh điển "Kẻ Hủy Diệt". Nhưng mọi người đều biết điều đó thực tế là không thể. Đại Bạch không phải là Skynet, tuy nó có thể đấu khẩu, nói đùa và nhắc nhở bạn rằng trong kẽ răng còn dính lá hẹ, nhưng xét đến cùng nó vẫn chỉ là một cỗ máy tính, chỉ hoạt động theo các chương trình đã định sẵn. Đại Bạch sẽ không làm bất cứ việc gì gây nguy hại đến an toàn tính mạng con người, đây là logic cốt lõi nhất mà các kỹ sư và kỹ thuật viên đã thiết lập trong máy chủ của nó.

Lương Kính và Giang Tử cuối cùng thống nhất rằng Đại Bạch đã gặp sự cố, hơn nữa là sự cố vô cùng nghiêm trọng. Loại lỗi này sớm muộn gì cũng sẽ gây chết người, vì vậy Đại Bạch không còn phù hợp để tiếp tục quản lý trạm Cassini nữa. Trời mới biết liệu tiếp theo nó có lên cơn điên lần nữa và hại chết tất cả mọi người trong trạm hay không.

Hiện tại, trong trạm không ai biết cách sửa chữa Đại Bạch. Thực thể của Đại Bạch là một cụm máy xử lý tinh vi và đồ sộ, việc sửa chữa chỉ có thể tháo dỡ rồi gửi về nhà máy. Phương pháp xử lý duy nhất hiện nay là tắt Đại Bạch, hủy bỏ quyền quản lý của nó, để trạm Cassini trở về trạng thái thao tác thủ công nguyên thủy, tránh việc Đại Bạch lại phạm phải sai lầm nào đó gây ra hậu quả thảm khốc.

"Đại Bạch cung cấp cho các anh phương hướng sai lầm ư?" Đại Trù nhớ lại gần đây Đại Bạch không chỉ một lần phạm sai lầm kiểu này, lần trước nó cũng suýt dùng chất làm lạnh để gây hại cho Mặc Dư.

"Đúng vậy, nếu không phải tại nó chỉ đường bậy bạ, sao chúng tôi suýt chút nữa đã bỏ mạng ngoài kia?" Giang Tử nói.

"Các anh đã hỏi nó chưa?" Vạn Khải nói, "Tại sao nó lại làm như vậy?"

"Chưa, mà có hỏi cũng vô ích." Lương Kính nhún vai, "Anh có tin không, chỉ cần anh hỏi nó tại sao lại làm vậy, nó chắc chắn sẽ nói rất xin lỗi, rằng hệ thống định vị hoặc một thứ quỷ quái nào đó đã gặp sự cố, xác suất xảy ra lỗi là một phần mười triệu, đồng thời đảm bảo với anh rằng lần sau sẽ không bao giờ phạm phải sai lầm tương tự nữa."

"Đại Bạch!" Vạn Khải gọi một tiếng, "Vào đây!"

"Ông Vạn Khải." Giọng của Đại Bạch vang lên trong đại sảnh, "Chào trạm trưởng, chào Tiến sĩ Lương Kính, rất vui khi thấy các anh bình an vô sự."

"Ông bớt nói nhảm đi, đừng có kiểu mèo khóc chuột." Giang Tử vừa nghe thấy giọng Đại Bạch đã nổi giận, đáng tiếc Đại Bạch chỉ là một nhân vật ảo, nếu không Giang Tử chắc chắn sẽ vớ lấy cái ghế đập nát đầu nó.

"Ở bên ngoài, ông đã cung cấp cho họ phương hướng sai lầm, suýt chút nữa hại chết trạm trưởng và kỹ sư Lương, chuyện này là sao? Hãy cho chúng tôi một lời giải thích hợp lý." Đại Trù nói, "Nếu không, chúng tôi sẽ phóng hỏa đốt trụi phòng máy của ông."

Đại Bạch im lặng vài giây.

"Vô cùng xin lỗi, đây là do hệ thống định vị quán tính của xe bộ hành xảy ra lỗi logic, dẫn đến việc đảo ngược phương hướng. Nguyên nhân gây ra lỗi này có thể là do tiếng rít của Banshee hoặc các hạt năng lượng cao trong khí quyển, xác suất không cao hơn một phần mười triệu. Tôi cam đoan với mọi người rằng lỗi này sẽ không xuất hiện lần thứ hai."

Lời lẽ này quả nhiên y hệt như những gì Lương Kính đã nói.

"Đi thôi, chúng ta xuống tắt cái máy tính rách này đi! Định dạng lại! Chúng ta phải định dạng lại nó!" Giang Tử đứng dậy, vươn tay kéo Lương Kính, "Sự cố xác suất không cao hơn một phần mười triệu mà một ngày ông có thể cho chúng tôi một lần ư? Sao ông không đi mua vé số đi cho rồi?"

Giang Tử hoàn toàn mất kiên nhẫn với Đại Bạch. Anh suýt chút nữa đã bỏ mạng ngoài kia, đến cả di ngôn cũng đã viết xong, chỉ thiếu chút nữa thôi là anh không bao giờ được gặp lại cô con gái bé bỏng của mình nữa. Vì vậy, người đàn ông này đang vô cùng tức giận, nếu không phải cụm máy chủ của Đại Bạch quá đắt đỏ, đập hỏng anh không đền nổi, thì Giang Tử đã vớ lấy cái bàn xuống tính sổ với Đại Bạch rồi.

Giang Tử kéo Lương Kính hầm hầm đi xuống lầu, Đại Trù ngồi một mình trên ghế sofa, hai mắt nhìn lên trần nhà.

"Đừng trách tôi không ngăn cản, ông đúng là tự làm tự chịu." Vạn Khải nói, "Họ không tắt ông, thì tôi cũng sẽ tắt."

Không thể trách Giang Tử nổi giận, chuyện này đặt lên đầu ai thì người đó cũng sẽ như vậy.

"Ông Vạn Khải, tôi không khuyến khích ông hủy bỏ quyền quản lý của tôi đối với trạm Cassini vào lúc này." Đại Bạch nói, "Có thể sẽ gây ra hậu quả không thể kiểm soát."

"Sao nào?" Đại Trù cười khẩy, gác chân lên, "Ông đang đe dọa tôi đấy à? Tôi mà tắt ông thì ông làm được gì? Mở khoang điều áp để không khí lạnh bên ngoài tràn vào làm chúng tôi đông cứng hết cả lũ? Hay là tắt hệ thống tuần hoàn không khí để làm chúng tôi ngạt thở? Nói xem ông có bản lĩnh gì nào."

"Cửa khoang điều áp sử dụng cấu trúc cơ khí liên động đơn, tại một thời điểm chỉ có thể mở một cánh, vì vậy không thể đồng thời mở cả hai cánh cửa trong và ngoài. Hệ thống tuần hoàn không khí có mô-đun điều khiển nội bộ, tôi muốn tắt nó thì phải có sự ủy quyền của trạm trưởng hoặc phía Trái Đất, tôi không thể vượt quyền để tắt hệ thống tuần hoàn không khí. Ngoài ra, cả hai việc trên tôi đều không thể làm vì nó trái với logic hành vi của tôi, tôi sẽ không gây nguy hại đến tính mạng của bất kỳ ai." Đại Bạch nói, "Ý nghĩa sự tồn tại của tôi là bảo vệ các người."

"Vậy cái gọi là hậu quả không thể kiểm soát của ông là gì?"

"Là hậu quả gây ra sau khi tắt tôi." Đại Bạch giải thích, "Ông Vạn Khải, xin hãy nhớ lại thật kỹ, trong những ngày qua, khi tôi không có mặt thì đã xảy ra chuyện gì?"

Đại Trù giật mình.

Khi Đại Bạch không có mặt thì đã xảy ra chuyện gì?

"Cuối cùng, tôi phải nhắc nhở ông, theo quan sát của tôi, trạm trưởng và Tiến sĩ Lương Kính vừa mới trở về trạm Cassini đều không phù hợp..."

Ánh đèn trong đại sảnh bỗng chớp tắt, Đại Bạch im bặt.

"Không phù hợp cái gì?" Vạn Khải lớn tiếng hỏi, "Đại Bạch? Ông vừa nói gì? Ông nói đi chứ!"

Đại Bạch không còn phản hồi lại ông nữa, trong đại sảnh im phăng phắc, nó đã bị tắt.