Sáu giờ chiều, Giám đốc Phòng nghiên cứu Thần kinh Tâm thần, Bác sĩ La Kiệt Mạch Khắc Phất Sâm, lên tầng bảy để kiểm tra bệnh nhân của mình. Ít nhất thì ông vẫn coi Bổn Sâm là bệnh nhân của mình, một cảm giác sở hữu chủ nhưng không hoàn toàn chính xác. Không có Mạch Khắc Phất Sâm thì sẽ không có Phòng nghiên cứu Thần kinh Tâm thần, không có phòng nghiên cứu thì sẽ không có phẫu thuật não, và tất nhiên, sẽ không có Bổn Sâm. Ông vẫn luôn suy nghĩ như vậy.

Phòng 710 tĩnh lặng, đắm chìm trong sắc đỏ của ánh hoàng hôn. Bổn Sâm dường như đang ngủ, nhưng khi Mạch Khắc Phất Sâm đóng cửa lại, anh ta liền mở mắt.

"Anh cảm thấy thế nào?" Mạch Khắc Phất Sâm vừa hỏi vừa bước về phía giường bệnh.

Bổn Sâm khẽ mỉm cười. "Ai cũng muốn biết điều đó," anh nói.

Mạch Khắc Phất Sâm cũng mỉm cười đáp lại. "Đó là điều tự nhiên thôi."

"Tôi mệt, chỉ cảm thấy rất mệt... Đôi khi tôi nghĩ mình là một quả bom hẹn giờ đang tích tắc đếm ngược, và các người đều muốn biết khi nào tôi sẽ phát nổ."

"Đó là suy nghĩ của anh sao?" Mạch Khắc Phất Sâm hỏi.

Ông theo thói quen chỉnh lại chăn cho Bổn Sâm để kiểm tra đường truyền dịch tĩnh mạch. Mọi thứ vẫn bình thường.

"Tích tắc, tích tắc." Bổn Sâm nói rồi nhắm mắt lại. "Tích tắc, tích tắc."

Mạch Khắc Phất Sâm nhíu mày. Ông đã quen với việc Bổn Sâm dùng những hình ảnh cơ khí để ẩn dụ, dù sao thì trong đầu Bổn Sâm, con người cũng chỉ là những cỗ máy. Nhưng việc suy nghĩ như vậy ngay sau khi phẫu thuật xong lại là một vấn đề...

"Có đau không?"

"Không đau. Chỉ hơi nhức phía sau tai, giống như vừa bị ngã vậy. Ngoài ra thì không có gì."

Mạch Khắc Phất Sâm biết đó là cơn đau sau khi khoan hộp sọ.

"Ngã sao?"

"Tôi chính là một kẻ vừa ngã xuống," Bổn Sâm nói, "Tôi đã khuất phục."

"Khuất phục trước cái gì?"

"Khuất phục trước quá trình biến tôi thành một cỗ máy." Anh lại mở mắt ra mỉm cười. "Hoặc là một quả bom hẹn giờ."

"Anh có ngửi thấy mùi gì không? Hay có cảm giác gì lạ thường không?" Mạch Khắc Phất Sâm vừa hỏi vừa liếc nhìn máy quét điện não đồ phía trên giường bệnh. Máy quét vẫn hiển thị hình ảnh sóng alpha, không có dấu hiệu của bất kỳ đợt phát tác nào.

"Không, không có cảm giác đó."

"Nhưng anh cảm thấy như mình sắp phát nổ?" Ông thầm nghĩ lẽ ra La Tư nên đến để đặt những câu hỏi này.

"Có một chút," Bổn Sâm nói, "Trong cuộc chiến sắp tới, có lẽ tất cả chúng ta đều sẽ phát nổ."

"Sao lại nói vậy?"

"Trong cuộc chiến giữa người và máy sắp tới, anh biết đấy, não người đã không còn tác dụng nữa rồi."

Đây là một quan điểm mới, Mạch Khắc Phất Sâm chưa từng nghe Bổn Sâm nói trước đây. Ông quan sát Bổn Sâm nằm trên giường, đầu và vai anh quấn đầy băng gạc, khiến phần thân trên trông thật nặng nề và sưng tấy.

"Đúng vậy," Bổn Sâm nói, "Não người đã đi đến đường cùng, nó đã quá mệt mỏi, vì vậy nó đã sinh ra dạng trí tuệ thế hệ tiếp theo. Chúng sẽ—tại sao tôi lại mệt thế này?" Anh lại nhắm mắt lại.

"Anh không có sức là do tác động của ca phẫu thuật."

"Một bước đệm nhỏ thôi." Anh nói xong rồi mỉm cười nhắm mắt. Chỉ trong chớp mắt, tiếng ngáy đã vang lên.

Mạch Khắc Phất Sâm đứng bên giường một lúc, sau đó quay sang cửa sổ nhìn ánh hoàng hôn đang dần lặn xuống Thái Bình Dương. Phòng của Bổn Sâm thực sự rất đẹp, có thể nhìn thấy một mảng đại dương giữa những tòa nhà cao tầng của Santa Monica. Ông đứng thêm vài phút nữa, Bổn Sâm vẫn không tỉnh lại. Cuối cùng, Mạch Khắc Phất Sâm rời phòng bệnh, đi đến văn phòng y tá để ghi chép bệnh án.

Bệnh nhân linh hoạt, nhạy bén, đã thích nghi với mọi thứ. Ông dừng bút tại đây, thực lòng ông không biết liệu Bổn Sâm đã thực sự thích nghi với con người, môi trường và thời gian hay chưa, vì ông chưa làm kiểm tra cụ thể. Tuy nhiên, bệnh nhân quả thực rất linh hoạt và nhạy bén, Mạch Khắc Phất Sâm tiếp tục viết. Tư duy rõ ràng, mạch lạc, nhưng trong đầu ông vẫn còn hình ảnh cỗ máy trước khi phẫu thuật. Còn quá sớm để đưa ra kết luận, nhưng dường như lời tiên đoán trước đó của bệnh nhân là đúng, phẫu thuật không thể thay đổi trạng thái tinh thần của anh ta khi không phát bệnh.

Chữ ký: La Kiệt A. Mạch Khắc Phất Sâm, Tiến sĩ Y khoa.

Ông nhìn chữ ký của mình một lúc, sau đó khép bệnh án lại và đặt lên giá. Bản ghi chép này viết khá tốt, bình tĩnh, trực diện, không có những dự đoán giả tạo. Dù sao thì bệnh án cũng có hiệu lực pháp lý, có thể dùng làm bằng chứng trước tòa. Mạch Khắc Phất Sâm không muốn nhìn thấy bệnh án của Bổn Sâm ở tòa án, nhưng cẩn thận vẫn hơn.

Bất kỳ người đứng đầu phòng thí nghiệm khoa học lớn nào cũng đều có một chức năng chính trị. Bạn có thể không thừa nhận, có thể không thích, nhưng nó thực sự là một phần không thể thiếu của chức vụ này.

Bạn phải giữ cho cấp dưới của mình làm việc trong tâm thế vui vẻ. Cũng giống như chính trị thuần túy, càng nhiều kẻ vô kỷ luật, công việc của bạn càng khó khăn.

Bạn phải đi tìm kiếm quỹ tài trợ cho phòng thí nghiệm của mình, đó cũng là chính trị thuần túy. Nếu bạn làm việc trong một bộ phận hóc búa như Phòng nghiên cứu Thần kinh Tâm thần, tình hình còn tệ hơn. Mạch Khắc Phất Sâm đã sớm hình thành một nguyên tắc để xin phê duyệt quỹ: Nguyên tắc Horseradish Peroxidase (Enzyme cải ngựa). Rất đơn giản: Khi xin kinh phí, bạn hãy tuyên bố rằng khoản tiền này sẽ được dùng để nghiên cứu enzyme Horseradish Peroxidase, thứ có khả năng tạo ra phương pháp chữa trị ung thư. Bạn sẽ dễ dàng xin được sáu mươi nghìn đô la cho dự án, trong khi nếu làm về kỹ thuật tư duy, bạn đừng hòng xin được dù chỉ sáu xu.

Ông nhìn hàng bệnh án trên giá, đó là một loạt những cái tên xa lạ, cái tên Bổn Sâm ở phòng 710 đã biến mất không dấu vết trong đó. Ông thầm nghĩ, lời nói của Bổn Sâm xét trên một khía cạnh nào đó là đúng—anh ta là một quả bom hẹn giờ sống. Một người tiếp nhận công nghệ kiểm soát tư duy sẽ phải đối mặt với đủ loại định kiến phi lý từ công chúng. Máy tạo nhịp tim dùng cho "kiểm soát tim" được coi là phát minh kỳ diệu; "kiểm soát thận" bằng thuốc là một điều may mắn, nhưng "kiểm soát não bộ" lại là tội ác, là thảm họa—dù kỹ thuật kiểm soát của Phòng nghiên cứu Thần kinh Tâm thần rất giống với các bộ phận khác, thậm chí công nghệ cũng tương đồng: bộ sạc năng lượng nguyên tử mà họ đang sử dụng vốn được chế tạo cho bệnh nhân tim.

Nhưng định kiến sẽ không thay đổi. Bổn Sâm cho rằng mình là một quả bom hẹn giờ đang tích tắc. Mạch Khắc Phất Sâm thở dài, lấy bệnh án của anh ra, lật đến phần y lệnh. Cả Ellis và Morris đều đã viết hướng dẫn chăm sóc sau phẫu thuật. Mạch Khắc Phất Sâm bổ sung: "Sau khi kết nối vào sáng mai, bắt đầu sử dụng Chlorpromazine."

Ông nhìn lại y lệnh, chắc chắn y tá sẽ không hiểu "kết nối" là gì. Ông gạch đi và viết lại: "Bắt đầu sử dụng Chlorpromazine sau trưa mai."

Khi rời tầng bảy, ông nghĩ rằng một khi Bổn Sâm dùng Chlorpromazine, anh ta sẽ nghỉ ngơi tốt hơn. Có lẽ họ không thể tháo ngòi nổ của quả bom hẹn giờ—nhưng họ chắc chắn có thể ném nó vào một thùng nước lạnh.

Đêm khuya, Gerhard lo lắng nhìn chằm chằm vào bảng điều khiển máy tính trong phòng xử lý dữ liệu từ xa. Anh nhập thêm các lệnh, sau đó đi đến máy in, bắt đầu xem xét dải giấy in màu xanh dài. Anh lướt nhanh qua tờ giấy, tìm kiếm lỗi mà anh biết chắc chắn xuất hiện trong chương trình.

Bản thân máy tính không bao giờ sai. Gerhard đã sử dụng máy tính gần mười năm—ở những nơi khác nhau, dùng những dòng máy khác nhau—anh chưa từng thấy máy tính sai bao giờ. Tất nhiên, lỗi vẫn luôn tồn tại, nhưng đó là lỗi chương trình, không phải lỗi máy móc. Đôi khi, việc máy tính không sai lại khiến con người khó chấp nhận. Trước hết, nó không phù hợp với quan điểm của con người về các khía cạnh khác của thế giới, nơi máy móc luôn hỏng hóc—cầu chì cháy, dàn âm thanh lỗi, lò nướng quá nhiệt, xe không khởi động được. Người hiện đại không kỳ vọng máy móc không bao giờ sai.

Nhưng máy tính hoàn toàn khác, hợp tác với máy tính sẽ khiến bạn mất mặt. Chúng không bao giờ sai, sự việc đơn giản là vậy. Ngay cả khi bạn mất vài tuần để tìm ra nguồn gốc vấn đề, ngay cả khi chương trình đã được kiểm tra hàng chục lần bởi những người khác nhau, ngay cả khi toàn bộ nhân viên chậm rãi đi đến kết luận rằng lần này là do hỏng đường dây máy tính—cuối cùng, kết quả sai vẫn là do con người. Luôn luôn là như vậy.

Richards bước vào, cởi áo khoác thể thao, rót cho mình một cốc cà phê. "Sao rồi?"

Gerhard lắc đầu. "Tôi rất khó thao tác với George."

"Lại hỏng rồi à? Chết tiệt." Richards nhìn bảng điều khiển. "Martha thế nào?"

"Martha không vấn đề gì. Tôi nghĩ là do George không ổn."

"George nào?"

"Thánh George," Gerhard nói, "Đúng là một gã khốn."

Richards nhấp một ngụm cà phê, ngồi xuống trước bảng điều khiển. "Tôi thử nhé, anh có phiền không?"

"Mời," Gerhard nói.

Richards và Gerhard không thiết kế những chương trình này, chúng được sửa đổi từ các chương trình máy tính hiện có tại các trường đại học khác, nhưng ý tưởng cơ bản đều giống nhau—tạo ra một chương trình khiến máy tính có cảm xúc như con người. Vì vậy, gọi chúng là George và Martha cũng là điều hợp lý. Tiền lệ đã có từ trước: Eliza ở Boston và Aldous ở Anh.

Hai chương trình George và Martha cơ bản giống nhau, chỉ có khác biệt nhỏ. George được thiết kế ban đầu có phản ứng trung tính với các kích thích, sau đó Martha được tạo ra. Martha hơi kiêu ngạo, cô không thích hầu hết mọi thứ. Cuối cùng, một George khác được tạo ra, một George đáng yêu, được gọi là Thánh George.

Mỗi chương trình có thể có ba phản ứng cảm xúc—yêu, sợ hãi và giận dữ. Mỗi chương trình có thể tạo ra ba hành vi—tiến lại gần, lùi lại và tấn công. Tất nhiên, tất cả đều là trừu tượng hóa cao độ, được thực hiện bằng các con số. Ví dụ, George ban đầu có phản ứng trung tính với hầu hết các con số, nhưng anh không thích con số 751, đó là thiết kế. Vì vậy, anh cũng không thích các con số tương tự như 743, 772, v.v. Anh rất thích các con số như 404, 133 và 918. Nếu bạn nhập một trong số đó, George sẽ hiển thị một loạt các con số thể hiện tình yêu và sự gần gũi. Nếu bạn nhập 707, George sẽ lùi lại. Nếu bạn nhập 750, George sẽ dùng con số đầu ra để phát động cuộc tấn công giận dữ.

Các nhà nghiên cứu tại Phòng nghiên cứu Thần kinh Tâm thần từ lâu đã chơi với các chương trình này, sau đó họ áp dụng các ý kiến sửa đổi để máy tính "trò chuyện". Các con số được dịch thành câu. Điều này rất thú vị và cũng đáng suy ngẫm. Sự tương tác thực sự được gọi là "Trò chơi Giáng sinh", vì hầu hết các trò chơi đều là tặng và nhận quà—những thứ này cũng có giá trị cảm xúc được thiết lập giống như các con số.

Nếu George bình thường tương tác với Martha, George cuối cùng sẽ chinh phục được Martha, và sự kiêu ngạo của cô sẽ mất đi ưu thế.

Nhưng ảnh hưởng của Thánh George đối với cô lại tệ hơn nhiều. Món quà tình yêu mà anh thể hiện khiến cô không thể chịu nổi. Nếu mọi thứ bình thường thì tình hình sẽ là như vậy. Richards nhìn những câu chữ hiện lên trên màn hình.

Chào bạn, tôi là Thánh George

Chào bạn

Bạn tên là gì?

Martha.

Bạn không nói nhiều lắm, Martha.

Đúng vậy

Nhưng tôi thích bạn.

Tại sao tôi lại không thích bạn.

Điều này tôi hiểu. Tôi có thể giúp gì cho bạn?

"Đôi khi không có dấu chấm," Richards hỏi, "Chuyện này bắt đầu từ khi nào?"

"Không quan trọng," Gerhard nói, "Xem tiếp đi."

Giúp tôi?

Đúng vậy, tôi muốn giúp bạn.

Tặng bạn một con mèo.

Richards nhíu mày. Mèo là thứ mà cả George và Martha đều không thích trong thiết kế chương trình. Tặng George một con mèo là hành vi đầy thù địch.

Cảm ơn bạn

Tặng thêm bạn một con mèo nữa.

Cảm ơn bạn, bạn thật tốt.

Không, cảm ơn bạn.

Chẳng lẽ bạn không thích mèo sao?

Thích, nhưng mèo của tôi đã đủ nhiều rồi.

Tặng bạn một con khỉ đột.

"Thật tệ hại," Richards nói, "Những tương tác khác thì sao?"

"Tương tự như vậy," Gerhard nói.

"Tệ như thế này sao?"

"Gần như vậy."

Họ đã quen với quan điểm cho rằng khi máy tính tương tác, kết quả là không thể dự đoán trước. Hình thức tương tác chung có thể đoán được, nhưng kết quả cụ thể thì không. Nó giống như máy tính chơi cờ caro—nó có thể thắng, nhưng cách thắng mỗi lần lại khác nhau, tùy thuộc vào đối thủ đánh như thế nào.

Tôi không muốn con khỉ đột.

Chẳng lẽ bạn không thích khỉ đột?

Không thích, cảm ơn bạn.

Bạn quá khách sáo rồi.

Nếu tôi làm bạn mếch lòng, xin hãy tha thứ.

Lời của bạn quá nhiều.

Xin lỗi.

Tặng bạn một quả cà tím.

Richards quan sát với vẻ thích thú. Thánh George không có dữ liệu nền về cà tím, nhưng anh không thích dưa chuột và chuối.

Không, cảm ơn bạn.

Chẳng lẽ bạn không thích cà tím?

Không thích lắm.

Tặng thêm bạn một quả nữa.

Tôi muốn bạn cầm lấy.

Mau cầm lấy đi.

Không, cảm ơn bạn.

Tôi nhất định phải tặng bạn.

"Thánh George bị sao vậy?" Richards hỏi, "Phản ứng của anh ta hoàn toàn không khác biệt."

"Đây chính là điều tôi không hiểu nổi."

"Trong chương trình của anh ta có những gì?"

"Tôi đang kiểm tra khi anh bước vào."

Tôi nhất định phải tặng bạn một quả dưa chuột.

Tôi từ chối.

"George!" Richards gần như thốt lên không suy nghĩ.

Vậy thì cầm lấy quả chuối đi.

Không.

"George bị lỗi rồi," Richards nói, "Anh ta không còn là một vị thánh nữa."

Vậy thì cầm lấy một quả chuối và một quả dưa chuột đi.

Không, cảm ơn bạn.

Tôi nhất định phải tặng bạn.

Biến đi, tôi giết chết ngươi:::::::::::::::::::::::::::::::::::

:::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::::

Màn hình toàn là những dấu chấm trắng. "Điều này có nghĩa là gì, là phản ứng không thể in ra được sao?" Richards hỏi.

"Tôi không biết. Tôi chưa từng thấy những dấu chấm trắng này bao giờ."

"Chương trình này đã được sử dụng bao nhiêu lần rồi?" Richards hỏi.

"Một trăm mười lần, dành cho Martha."

"Có ai xóa đi chưa?"

"Chưa."

"Chết tiệt," Richards nói, "Anh ta đang trở thành một vị thánh nóng nảy." Anh nhếch mép cười. "Chúng ta có thể bổ sung điều này vào."

Gerhard gật đầu rồi quay lại máy in. Về lý thuyết, tất cả những điều này không gây ngạc nhiên. Chương trình của George và Martha đều có thiết kế học hỏi từ kinh nghiệm. Giống như chương trình chơi cờ caro—máy tính càng chơi càng thông minh—trong thiết kế của chương trình này, máy tính sẽ "học được" những phản ứng mới đối với sự vật. Sau một trăm mười lần thử nghiệm, Thánh George đột nhiên không làm thánh nữa. Anh đang học cách không làm thánh trước mặt Martha—ngay cả khi anh được thiết kế để làm thánh.

"Tôi biết anh ta cảm thấy thế nào." Richards nói xong rồi tắt máy, sau đó anh bước đến bên cạnh Gerhard để tìm kiếm lỗi chương trình gây ra tất cả những điều này.