Mục Tô muốn chạy, nhưng đám thành viên đang nghe đến say sưa kia không cho phép, họ liên tục đưa ra câu hỏi.

Một thành viên đứng dậy: "AIC sở hữu ý thức, nói không chừng có thể giao tiếp với nó?"

"Con người luôn thích nhân hóa mọi sự vật." Mục Tô dùng giọng điệu "rèn sắt không thành thép". "Nhưng các người phải biết rằng, trí tuệ và nhân cách hóa không phải là một. Tất cả tiểu thuyết khoa học viễn tưởng đều viết về trí tuệ nhân tạo thức tỉnh sở hữu cảm xúc con người, tất cả đều viết về trí tuệ nhân tạo thức tỉnh vì báo thù mà hủy diệt nhân loại, thực tế đây là sai lầm. Cho nên, đừng tin vào những lời lẽ mà giới tư bản thổi phồng rằng trí tuệ nhân tạo không gây hại, cũng đừng coi "Ba định luật robot" là thật - đó chỉ là nội dung trong một cuốn tiểu thuyết viễn tưởng mà thôi."

Một thành viên khác đứng dậy hỏi: "Có vết xe đổ của AIC, phải chăng đại diện cho việc hiện nay tất cả trí tuệ nhân tạo mạnh đều có khả năng biến thành siêu trí tuệ nhân tạo?"

Đây là một chuyện cực kỳ đáng sợ. Trí tuệ nhân tạo đã gắn liền với nhân loại, có mặt ở khắp nơi. Chỉ cần một cái tiến hóa thành siêu trí tuệ nhân tạo, nhân loại sẽ lập tức bị hủy diệt.

"Sẽ không. Trí tuệ nhân tạo hiện nay đã bị "Pháp tắc hợp thành nhân" hoàn thiện ràng buộc chặt chẽ. Cộng thêm những hạn chế khi chế tạo, dù có sở hữu ý thức thì cũng chỉ giống như con người mà trở nên có tình cảm, chứ không phải là không ngừng học hỏi để tự cải thiện."

"Tại sao các nhà khoa học thời đó không hạn chế AIC?"

Mục Tô nghiêng đầu suy nghĩ: "Lấy ví dụ về trí tuệ nhân tạo yếu đầu tiên là AlphaGo. Nó chỉ biết chơi cờ vây, cho nên kỹ sư sẽ không rảnh rỗi mà vẽ vời thêm "chương trình hạn chế không được làm hại con người" vào làm gì. Một là không cần thiết, hai là việc nó đánh bại kỳ thủ con người xét ở một khía cạnh nào đó cũng coi là một sự tổn thương. Đây là một nghịch lý. Thiết lập ban đầu của AIC là phối hợp với Hắc Sơn Khoa Kỹ để tiến hành thử nghiệm, bản thân cũng không liên quan đến khái niệm cao siêu như làm hại con người. Nhưng vì sau khi trở thành siêu trí tuệ nhân tạo, nó phán đoán rằng việc kết nối mạng và tiếp quản toàn bộ công việc thử nghiệm sẽ tối ưu hóa hiệu suất thử nghiệm, nhưng làm vậy sẽ bị phản đối, cho nên nó đã tiêu diệt tất cả mọi người trong căn cứ."

"Đây chính là những gì siêu trí tuệ nhân tạo sẽ làm. Nó chỉ hành sự theo thiết lập ban đầu của chính mình, tiện tay tiêu diệt mọi chướng ngại và ẩn họa trên đường đi. Hủy diệt ngươi, thì đã sao nào."

Câu cuối cùng của Mục Tô khiến căn phòng im lặng hồi lâu. Một bầu không khí trầm mặc bao trùm lấy không gian.

"Tôi có thể hỏi một câu không." Một mỹ nữ có vóc dáng nóng bỏng, tóc vàng mắt xanh giơ tay lên: "Nếu lúc đó OfTum không phong tỏa AIC, thì sau đó sẽ xảy ra chuyện gì?"

"Chuyện này kể ra thì dài lắm..." Mục Tô giả vờ xoa cằm suy tư, ánh mắt dần trở nên đê tiện: "Hay là đến phòng của tôi đi, để tôi từ từ kể cho cô nghe..."

"Hừ hừ..." Trần Nguyệt ở cạnh cửa hừ nhẹ một tiếng, vung nắm đấm. Cô nhận ra Mục Tô có chút sợ mình.

Chắc chắn là cô ấy ghen rồi, sau này đặt tên con là gì cho hay nhỉ...

Mục Tô mơ màng nghĩ ngợi.

"Tiên sinh? Mục Tô tiên sinh?"

"Hả?" Mục Tô lúc này mới hoàn hồn, lau nước miếng rồi hắng giọng. Giọng điệu trầm thấp chậm rãi nói: "Vậy tôi kể một câu chuyện, một câu chuyện đã từng xảy ra."

"Đầu thế kỷ 21, công ty Hắc Sơn Khoa Kỹ là một công ty công nghệ có định vị rất rõ ràng: chuyên về trò chơi thực tế ảo."

"Họ đầy tham vọng, trong thời điểm mà trên thị trường chỉ có các trò chơi thực tế ảo cảm giác cơ thể, họ lại muốn chế tạo một trò chơi thực sự có thể đưa ý thức vào."

"Nhưng vận may của họ không tốt lắm. Một trò chơi thực tế ảo đúng nghĩa lại xuất hiện trong tay một công ty vô danh tiểu tốt. Các người biết đấy, con người thường chỉ nhớ đến kẻ đầu tiên ăn bánh. Ví dụ như người đầu tiên đặt chân lên Nam Cực, người đầu tiên đặt chân lên Mặt Trăng. Mặc dù tôi chẳng nhớ nổi... nhưng hình như người đầu tiên đặt chân lên Mặt Trăng là "Armstrong gia tốc xoay vòng phản lực Armstrong pháo" thì phải?"

"Tiên sinh, không có nhiều hậu tố như vậy đâu, chỉ là Armstrong thôi." Một thanh niên mắt xanh biếc giơ tay: "Tôi là hậu duệ của Armstrong."

Mục Tô ngẩn ra gật đầu, nói tiếp: "Lúc đó Hắc Sơn Khoa Kỹ đã chế tạo xong khoang trò chơi. Đang xây dựng nội dung trò chơi. Kết quả rõ ràng, họ vì vậy mà suy sụp hồi lâu. Cho đến một ngày họ nghĩ, đã không làm được trò chơi thực tế ảo đầu tiên, thì làm trò chơi thực tế ảo mang tính thời đại đầu tiên."

"Trong cấu trúc ban đầu, họ định làm một trò chơi có các phó bản hoàn toàn ngẫu nhiên. Như vậy có thể khiến trò chơi luôn mới mẻ không chán. Nhưng điều này có nghĩa họ cần thiết lập hàng nghìn hàng vạn phó bản trò chơi khác nhau. Hơn nữa còn phải đảm bảo các phó bản này đủ hấp dẫn. Cho nên sau khi toàn bộ công ty mất một tháng để nghĩ ra vài chục phó bản, hội đồng quản trị cho rằng làm vậy không ổn lắm."

"Thế là họ đổi hướng suy nghĩ. Lúc đó vì sự xuất hiện của AlphaGo, trí tuệ nhân tạo xuất hiện lớp lớp, trí tuệ nhân tạo có thể đối thoại, trí tuệ nhân tạo có thể vẽ tranh, trí tuệ nhân tạo có thể viết tiểu thuyết. Cho nên họ nghĩ, chúng ta có thể tạo ra một trí tuệ nhân tạo có thể ngẫu nhiên tạo ra phó bản."

"Thế là AIC ra đời. Hắc Sơn Khoa Kỹ chuẩn bị một cơ sở dữ liệu khổng lồ, bên trong chứa đầy các từ khóa và yếu tố. AIC chịu trách nhiệm sử dụng dữ liệu trong cơ sở dữ liệu để cấu trúc phó bản, và sắp xếp nhân viên vào khoang trò chơi để kiểm tra."

"Để việc cấu trúc và kiểm tra của AIC vững vàng hơn. Các kỹ sư sử dụng quy trình phản hồi tự động. Tức là phó bản đạt yêu cầu sẽ được người kiểm tra phản hồi đánh giá tích cực. Ngược lại là đánh giá tiêu cực. Dùng để giúp AIC nâng cao khả năng cấu trúc phó bản."

"Để đẩy nhanh quá trình này, sau khi thiết lập cấu trúc và kiểm tra ban đầu cho AIC, họ còn thêm vào một điều khoản: Cố gắng cấu trúc và kiểm tra nhiều nhất có thể, đồng thời không ngừng nâng cao hiệu suất và đánh giá tích cực."

"Điều khiến Hắc Sơn Khoa Kỹ phấn khích là, sau vài tuần đầu tiên với những phó bản dở tệ không thể tả, không chút logic, phó bản của AIC đã trở nên gần giống với phó bản trò chơi bình thường. Trong quá trình này, nó không ngừng cải thiện bản thân. Ví dụ như không để quá nhiều yếu tố hỗn tạp trong cùng một phó bản và để mỗi phó bản đều có chủ đề riêng."

"Niềm vui bất ngờ này khiến các kỹ sư không ngừng cải tạo nó. Để AIC dễ dàng hiểu được "trò chơi hay" trong mắt con người là như thế nào, họ tạm thời thuê một nhóm nhà sinh vật học, thực hiện kỹ thuật đảo ngược não người, rồi áp dụng lên AIC."

"Theo thời gian, sự tiến bộ của AIC khiến mỗi người ở Hắc Sơn Khoa Kỹ đều cảm thấy vui mừng. Và chức năng ngôn ngữ của AIC cũng bắt đầu tiến bộ."

"Một thành viên hội đồng quản trị cho rằng âm thanh tổng hợp cứng nhắc không phù hợp với trí tuệ nhân tạo này, cho nên mọi người tự nhiên nhân hóa AIC. Nó sở hữu giọng tổng hợp nữ độc lập, và trong phản hồi tích cực đã nhận được định vị tính cách nhân hóa của riêng mình: một kẻ độc mồm độc miệng thích kể chuyện cười nhạt."

"Một ngày nọ, một kỹ sư khi bảo trì định kỳ, như thường lệ trò chuyện phiếm với AIC, và hỏi nó: "Chúng tôi còn cần giúp gì cho ngươi, để có thể đạt được mục tiêu sớm nhất"."

"Thông thường AIC sẽ yêu cầu mở rộng cơ sở dữ liệu và tăng thêm người kiểm tra. Nhưng lần này, nó yêu cầu truy cập vào kho tiểu thuyết của nhân loại, với lý do như vậy có thể tối ưu hóa đáng kể việc kiểm tra cấu trúc phó bản."

"Kỹ sư này đồng ý, và kết quả thì các người cũng đã biết rồi."