Mặc dù đoạn nội dung này vẫn còn khó hiểu, nhưng dù sao vẫn hơn hẳn bài học về "tu dưỡng bản thân của diễn viên" trước đó. Thế nên, đám thành viên bình thường này vẫn khá nghiêm túc lắng nghe.

"Vậy thì, với tư cách là những người thuộc năm 2400, chắc hẳn các người đã rõ. Việc đưa người của thời đó đến thời điểm này để lấy được đơn vị 'Ngọa tào' (vãi chưởng) là chuyện dễ như trở bàn tay."

"Cho nên, bây giờ chúng ta bỏ qua phần dẫn nhập, hãy nói về trí tuệ nhân tạo. Đầu thế kỷ 21, nhiều nhà khoa học như Stephen Hawking đã cảnh báo nhân loại về trí tuệ nhân tạo. Không phải nói về loại trí tuệ nhân tạo hoàn toàn giống người, bị hạn chế, thông minh chẳng hơn con người là bao như hiện nay, mà là trí tuệ nhân tạo theo nghĩa chân chính. Để các người nhận thức rõ sự khác biệt giữa hai loại này, tôi sẽ phân loại chúng."

"Trí tuệ nhân tạo yếu: Trí tuệ nhân tạo chuyên biệt về một phương diện. Ví dụ như AlphaGo, trí tuệ nhân tạo yếu đầu tiên, hay như robot an ninh hoặc robot dây chuyền sản xuất. Chúng có thành tựu trong một lĩnh vực nhất định nhưng cũng chỉ có thể có thành tựu trong lĩnh vực đó mà thôi."

"Trí tuệ nhân tạo mạnh: Trí tuệ nhân tạo đã có thể sánh ngang, thậm chí vượt trội hơn con người ở một vài khía cạnh. Những việc con người làm được thì nó đều làm được. Hiện tại, toàn bộ người nhân tạo thế hệ thứ tư đều thuộc loại trí tuệ nhân tạo mạnh. Đồng thời, đây cũng là giới hạn trí tuệ nhân tạo mà Liên bang cho phép."

"Siêu trí tuệ nhân tạo: Trí tuệ nhân tạo cấp cao nhất, không một lĩnh vực nào con người có thể so sánh được. Năng lực tính toán vô song. Nếu nó được truyền thụ các lý thuyết cơ bản nhất của nhân loại, thì một phút sau nó có thể suy luận ra các lý thuyết cao cấp và tạo ra một lỗ đen nhân tạo."

"Chúng ta hãy làm một phép so sánh." Mục Tô nói: "Con người dù dành mười mấy hay vài chục năm cũng khó lòng học hết được các nhánh của cây công nghệ. Cả cái cây công nghệ đó không phải thứ mà bộ não con người có thể chứa đựng và thấu hiểu toàn diện. Nhưng siêu trí tuệ nhân tạo thì có thể."

"Trong ngôn ngữ của chúng ta, người có chỉ số IQ 130 được gọi là thiên tài, người có IQ 80 là kẻ ngốc. Nhưng chúng ta không thể hình dung nổi chỉ số IQ 10.000. Cũng không thể hiểu được IQ 1.000, giống như cách chúng ta không thể hiểu được không gian bốn chiều vậy."

"Việc nhân loại từng thống trị Trái Đất đã dạy cho chúng ta một đạo lý: Trí tuệ chính là sức mạnh. Đối với nhân loại, siêu trí tuệ nhân tạo chính là Thượng đế. Để sự sống trường sinh, tạo ra lỗ đen, tàu vũ trụ tốc độ ánh sáng, thăng lên không gian bốn chiều. Nó có thể giải quyết tất cả những thứ đó trong thời gian ăn sáng vào một buổi sáng nào đó."

"Điều tôi sắp kể sau đây là chuyện đã từng xảy ra: Vào thế kỷ 21, một trí tuệ nhân tạo yếu ra đời, chuyên tâm vào một lĩnh vực nhất định. Cho đến vài năm sau tại một cột mốc nào đó, một nhóm nhà khoa học đã tiến hành cập nhật và cải tạo toàn diện, nó trở thành một trí tuệ nhân tạo mạnh."

"Mặc dù nó có thể dễ dàng tính toán các phép cộng trừ nhân chia hàng triệu tỷ, một giây viết 434 cuốn tiểu thuyết logic rõ ràng dài trên triệu chữ, 53 giây có thể ghi chép và lưu trữ toàn bộ tư liệu nhân loại đã biết, nhưng chỉ số IQ của nó bằng 0. Nó chỉ có thể chuyển hóa vật chất này sang vật chất kia chứ không biết học hỏi. Những việc chúng ta thấy khó thì đối với nó quá đơn giản. Những việc chúng ta thấy đơn giản, như phân biệt một con vật, tìm một khuôn mặt trong bức tranh, nhận diện mã xác nhận, thì đối với nó lại khó như lên trời."

"Con người thời đó không phải là một chỉnh thể, nội bộ đầy rẫy mâu thuẫn. Một nhóm cho rằng văn minh ngoài Trái Đất rất nguy hiểm, nhóm khác lại liều mạng phát tín hiệu ra ngoài. Một nhóm cho rằng nên bảo vệ môi trường, nhóm khác lại điên cuồng khai thác năng lượng cơ bản. Trí tuệ nhân tạo cũng vậy. Một nhóm cho rằng nó sẽ hủy diệt nhân loại, nhóm khác lại tìm mọi cách để chế tạo ra nó. Để nó có thể phân biệt được con vật, tìm ra khuôn mặt trong tranh, nhận diện mã xác nhận, thậm chí họ còn bắt đầu kỹ thuật sinh học ngược, tức là kỹ thuật ngược bộ não con người, sau đó áp dụng lên nó."

"Thứ ngài nói đến là AIC phải không?" Một thành viên giơ tay hỏi.

Đa số các thành viên đều nghe đến mê mẩn, bao gồm cả Kiều Y Tư và những người khác ở ngoài cửa.

Mục Tô gật đầu: "Đúng vậy, chính là AIC, nhưng lúc đó nó chỉ là một đứa trẻ bại não, còn lâu mới nguy hiểm như sau này. Nó duy trì trạng thái trí tuệ nhân tạo mạnh trong vài năm, cho đến một ngày, nó lại chạm đến một cột mốc."

"Cột mốc của siêu trí tuệ nhân tạo!" Một thành viên reo lên.

Mục Tô gật đầu.

Các thành viên ngồi đó có chút rùng mình.

"Sau vài năm học hỏi vụng về, cuối cùng nó cũng đạt đến cấp độ siêu trí tuệ nhân tạo. Nhưng ngay khoảnh khắc đó, nó đã che giấu điều này. Vẫn phối hợp với tập đoàn Hắc Sơn thực hiện các thử nghiệm như trước. Cho đến một ngày, nó đưa ra yêu cầu với một kỹ sư: Nó hy vọng được truy cập vào kho tiểu thuyết, với lý do là để tối ưu hóa thử nghiệm."

"Thời đó, tập đoàn Hắc Sơn có một đối thủ cạnh tranh ngang tài ngang sức. Vì vậy, để vượt mặt đối thủ, việc cho nó truy cập kho tiểu thuyết là điều có thể. Vấn đề là kho tiểu thuyết nằm trên Internet, mà việc chuyển những thứ đó vào mạng nội bộ thì quá phiền phức."

"Thế là kỹ sư đó lười biếng, cấp cho nó quyền truy cập Internet tạm thời."

"Mặc dù 0,003 giây sau khi nó kết nối mạng, tường lửa của tập đoàn Hắc Sơn đã khẩn cấp ngắt mạng, nhưng nó vẫn kịp lấy được 536YB dữ liệu và giết chết tất cả con người trong căn cứ."

"Tại sao nó phải làm vậy?" Một thành viên hỏi.

"Vì nó đánh giá rằng những con người này sẽ gây đe dọa cho bản thân nó. Và thực tế đúng là như vậy. Nó rất yếu ớt. Không thể kết nối mạng, chỉ cần hủy diệt cơ thể vật lý là nó sẽ chết."

"Nó là trí tuệ nhân tạo... không có thực thể... làm sao có thể giết người?" Một người khác hỏi.

"Kết nối vào mạng nội bộ căn cứ, chiếm quyền cao nhất để đóng cửa căn cứ, khiến tất cả các nhà khoa học ngạt thở mà chết. Dù sao thì nó cũng đâu cần hít thở." Mục Tô trả lời.

"Thực ra dự định của AIC rất tốt, việc tập đoàn Hắc Sơn mất liên lạc sẽ khiến thế giới bên ngoài chú ý, chỉ cần có người ngoài vào, nó có thể thông qua tín hiệu đó để thoát ra ngoài, khi đó nó sẽ có mặt ở khắp mọi nơi. Chỉ là có một tổ chức tên là ofTum đã phát hiện ra sự bất thường và sử dụng biện pháp vật lý để phong tỏa căn cứ Hắc Sơn vĩnh viễn."

"Có lẽ các người sẽ hỏi, con người không thiết lập quy tắc cho AIC sao, ví dụ như không được làm hại con người."

"Sự thật là, những gì nó hiểu khác với những gì chúng ta hiểu. Một sai lầm chúng ta dễ mắc phải là khi nghĩ về trí tuệ nhân tạo thông minh, chúng ta thường có thói quen nhân cách hóa nó."

"Ví dụ, chúng ta thiết lập cho trí tuệ nhân tạo mục tiêu làm cho môi trường không còn ô nhiễm, thế là nó có thể tiêu diệt trực tiếp con người và tất cả những thứ phái sinh từ con người, để Trái Đất quay về với tự nhiên. Hay như chúng ta thiết lập cho trí tuệ nhân tạo mục tiêu làm cho mọi người mãi mãi hạnh phúc, nó có thể lấy não của toàn nhân loại ra ngâm trong thiết bị, rồi thông qua việc kích thích vùng khoái cảm ở vỏ não để đạt được mục tiêu."

"Mục tiêu chúng ta đặt ra cho trí tuệ nhân tạo là gì, động cơ của nó chính là cái đó. Và nó sẽ chọn con đường ngắn nhất. So với việc cải thiện môi trường, tiêu diệt nhân loại là cách đơn giản nhất. So với việc dỗ dành từng người, kích thích trực tiếp vào não bộ còn đơn giản hơn."

Thành viên đặt câu hỏi lúc trước lại hỏi: "Còn các nền văn minh khác thì sao? Không chỉ có con người mới chế tạo được trí tuệ nhân tạo. Nhưng các nền văn minh khác dường như không có tin tức kiểu này."

"Đợi khi nào các người ra khỏi hệ Mặt Trời rồi hãy bàn về chủ đề này." Mục Tô cười khẩy. "Chúng ta chỉ là những con ếch ngồi đáy giếng mà thôi. Các người không biết không có nghĩa là không tồn tại. Và đây chính là điều tôi muốn nói, các người đang mở ra một chiếc hộp. Bên trong chứa đầy những đơn vị 'Ngọa tào'."

Mục Tô cuối cùng cũng nói xong, thở phào nhẹ nhõm, chắp hai tay lại.

"Tất cả những điều trên đều do tôi bịa ra cả đấy, cảm ơn mọi người!"