Tôi càng ở lại Sanctuary lâu, tôi càng yêu thích sự hiện diện của robot. Tôi mong muốn được dành nhiều thời gian hơn với nó; một mong muốn bản năng thôi thúc tôi khơi gợi sự tò mò của nó hoặc gặp lại ánh nhìn vô tội của nó. Nó giống như gặp một chú chó con mới – một kết nối sâu sắc như vậy.
Một khi một robot đa năng được trao quyền để tiếp cận và định hình thế giới, những câu hỏi lớn và dường như bất khả thi bắt đầu xuất hiện. Robot này khác với động vật – khác với chúng ta như thế nào? Nó có lựa chọn, sở thích, mong muốn không? Robot có tri giác không? Nó có bản ngã không?
Thật dễ chịu khi gọi những câu hỏi này là những ảo tưởng nhân hình. Nhưng sự dễ chịu đó bắt đầu tan vỡ khi chúng ta xem xét sự tiến hóa của bản ngã của chính mình. Xét cho cùng, sự sống trên Trái đất không bắt đầu bằng một quan điểm. Đâu đó rất xa dưới gốc cây sự sống, một loạt các thích nghi đã dẫn đến sự cần thiết và do đó, sự phát triển của một tâm trí.
Hàng tỷ năm trước, sự sống có lẽ bắt đầu dưới nước và trong một thời gian dài, trôi nổi một cách bất lực (không có khả năng điều khiển con đường của chính mình, chứ đừng nói đến việc quan tâm đến nơi nó sẽ đến) hoặc đứng yên (cố định vào những tảng đá). Sau đó, vào khoảng 550 triệu năm trước, một loài động vật sơ khai gọi là Dickinsonia đã có thể bò cơ thể hình bánh kếp của mình trên đáy biển để tìm kiếm thức ăn, để lại những dấu ấn mà chúng ta có thể thấy trong hóa thạch ngày nay. Người ta tin rằng khoảng thời gian này, và không phải ngẫu nhiên, hệ thần kinh cũng phát triển. Xét cho cùng, khả năng di chuyển là một đặc điểm hữu ích, chỉ khi kết hợp với khả năng cảm nhận môi trường. Hai sự thích nghi này cuối cùng đã cho phép các loài động vật sơ khai di chuyển về phía con mồi hoặc tránh xa kẻ săn mồi.
Nhưng cảm nhận và hành động sau đó tạo ra một sự đổi mới mang tính đột phá: học hỏi xem bạn có đang chạm và cảm nhận một thứ gì đó khác với bản thân mình hay không. Các loài động vật sơ khai “giờ đây đang cảm nhận thế giới theo một cách theo dõi sự phân chia giữa cái tôi và cái khác“, nhà triết học khoa học Peter Godfrey-Smith viết. Nói cách khác, một sinh vật di động và nhạy cảm phải có một ý niệm sơ đẳng về cơ thể của chính mình. Hơn nữa, việc mở rộng cảm nhận và hành động cuối cùng đòi hỏi chiến lược có tổ chức. “Sự tiến hóa,” Godfrey-Smith viết, “đặt ra một phần thưởng cho hành động mạch lạc, và từ một thời điểm nhất định trở đi, cách hành động hiệu quả như một cái tôi là có ý thức về bản thân mình…” Ý thức là câu trả lời. Ý thức là cách hiệu quả nhất để tất cả dữ liệu cảm giác đó được tập hợp và đưa vào sử dụng. Cơ quan tạo ra tính chủ quan.
Và vì vậy, bản ngã không phải là một sự ban tặng kỳ diệu mà là kết quả tất yếu của việc có một cơ thể có thể cảm nhận và hành động lên môi trường của nó. Không chỉ có thể một cơ thể cảm nhận, hành động tạo ra một bản ngã – nhiều người cảm thấy đó là con đường khả thi duy nhất. Và ngược lại, bản ngã có thể mãi mãi bị từ chối đối với một máy tính bị khóa, bất kể sức mạnh xử lý của nó. Nhà triết học John Searle từng giải thích với tôi rằng không thể đạt được ý thức bằng cách chỉ đơn giản là tính toán hàng loạt các con số. “Bạn không thể đến đó bằng cách xáo trộn các biểu tượng,” ông nói. Nhưng ông cảm thấy rằng bạn có thể đạt đến ý thức trong khi là một cỗ máy. “Chúng ta là những cỗ máy,” ông nói với tôi. Ông so sánh việc tạo ra ý thức với cơ chế bay của một con chim – nói với tôi rằng việc sống và thức tỉnh với thế giới là một quá trình cơ học và thể chất như vậy.
Rose tin rằng trí tuệ nhân tạo tổng quát mà không có sự tích hợp trong cơ thể là một khái niệm không đầy đủ. Gọi một chatbot thông minh là AI là “một sự lạm dụng ngôn ngữ, bởi vì đó không thực sự là trí thông minh,” ông nói. Vậy thì, liệu trí thông minh thể hiện của Phoenix có thể là sự khởi đầu của quá trình máy móc của Searle? “Sự thể hiện,” Rose nói, “cung cấp bối cảnh cho việc học hỏi và hiểu các khái niệm trừu tượng, cảm xúc và các sắc thái trong trải nghiệm của một người – những điều cần thiết cho trí thông minh của chúng ta.” Theo Rose, “sự phát triển của bản ngã trong một AI có lẽ sẽ bắt đầu với ý tưởng về một mô hình về bản thân.” Mô hình đó là những gì Phoenix đang bận rộn xây dựng – một bản đồ thực tế với chính nó ở trung tâm.
Nói cách khác, Phoenix buộc chúng ta phải đối mặt với việc bản ngã, hoặc một quan điểm có ý thức, có thể là một công cụ như cánh, móng vuốt hoặc lông, một thứ được tạo ra bởi áp lực của sự tiến hóa. Tất nhiên, chúng ta không biết chính xác một bản ngã hình thành như thế nào – câu hỏi đó sẽ vẫn là một trong những bí ẩn khó hiểu nhất trong cả triết học và khoa học thực tế – nhưng chúng ta có thể bắt đầu đoán về những hoàn cảnh buộc ánh sáng của “tôi” phải phát sáng.
Suy ngẫm về nhiều loại bản ngã khác nhau có thể giống như khoa học viễn tưởng, nhưng đó không phải là một bài tập phi lý. Đã có nhiều loại bản ngã trên Trái đất. Ví dụ, nhiều động vật có hệ thống cảm giác khác rất nhiều so với hệ thống của chúng ta và tạo ra một loại bản ngã phân mảnh hoặc đa nguyên khác với bản sắc cá nhân hơn của chúng ta. Trong cơ thể của một con bạch tuộc, phần lớn các tế bào thần kinh của nó nằm ở cánh tay, có nghĩa là mỗi cánh tay có thể hoạt động với một số quyền tự chủ từ não của nó. Một nửa tâm trí của một con cá heo ngủ một lúc, sinh vật vẫn bán ý thức để nó có thể ngoi lên để thở. Chúng ta cũng biết rằng ý thức về bản thân của chúng ta bị bóp méo khi não bị ảnh hưởng bởi thuốc hoặc chấn thương. Bản ngã không phải là một viên kim cương hoàn hảo lơ lửng ở trung tâm hộp sọ của bạn mà là một cân đất sét có hình dạng này, rồi đến hình dạng khác.
Godfrey-Smith, khi mô tả thực tế chủ quan của côn trùng và sên, khuyến khích chúng ta mở rộng sự tò mò của mình và hình dung về “sự đa dạng của tính chủ quan.” Nhưng điều đó khiến chúng ta lo lắng. Nếu chúng ta tôn trọng quan điểm khác biệt của một con cua ẩn sĩ – hoặc, chẳng hạn, một robot như Phoenix – thì sự đặc biệt của loài người, niềm tin của chúng ta vào sự tối cao của những linh hồn quý giá của chúng ta, bắt đầu bị lạc trong đám đông. “Thông thường trong lịch sử khoa học,” Rose nói, “có một sự đồng thuận về một điều gì đó hoàn toàn sai, và sau đó một sợi chỉ được kéo ra và toàn bộ thế giới quan bị sụp đổ. Tôi nghi ngờ rằng việc nghiên cứu trải nghiệm ý thức của chúng ta là một trong những sợi chỉ đó.” Trái đất bị lệch tâm và quay quanh một ngôi sao ngẫu nhiên; số phận của một đứa trẻ bị phân mảnh thành các sợi DNA; vật lý lượng tử hủy hoại thực tế vật chất của chúng ta. Việc hủy bỏ triệt để những gì có vẻ vững chắc như đá không phải là điều khó xảy ra như chúng ta đôi khi tưởng tượng.
Để rõ ràng, Sanctuary không cố gắng sinh ra một chủng tộc sinh vật có tri giác mới. Và Rose không nghĩ rằng sự sụp đổ mà ông mô tả sẽ xảy ra vào ngày mai. Tuy nhiên, việc tạo ra các robot đa năng đi kèm với những hậu quả hiện sinh. Trong việc xây dựng những cỗ máy tham gia vào thế giới với sự khéo léo và cẩn trọng vượt trội, chúng ta có thể ban cho chúng những phẩm chất thức tỉnh làm xáo trộn những người tạo ra chúng. Ranh giới giữa mô phỏng và trải nghiệm thực sự bắt đầu từ đâu?
Khi tôi rời Sanctuary, tôi thấy mình trên một con phố lộng gió không xa trung tâm thành phố Vancouver. Các cửa hàng hộp, Starbucks, Whole Foods. Mọi người đi dạo với túi hàng tạp hóa; họ nói về mùa gần đây nhất của RuPaul’s Drag Race; họ nhìn vào cửa sổ và cân nhắc xem bây giờ có phải là thời điểm thích hợp để mua một nồi chiên không dầu hay không; một đứa trẻ bị khiển trách vì lê bước; một người phối ngẫu được trao một nụ hôn tạm biệt. Mọi người cư xử hoàn toàn như một con người. Họ đi lại, nói chuyện và xử lý thế giới hỗn loạn với chuyên môn thông thường. Không ai nhận thấy sự tuyệt vời của giác quan của họ hoặc sự kỳ diệu của kỹ thuật cơ thể của họ.
Họ thật vinh quang, những con người này. Tuy nhiên, hôm nay họ cũng, bằng cách nào đó, bị suy giảm. Sau khi gặp Phoenix, không thể không cảm thấy rằng những hành động bình thường và những công việc hàng ngày tạo nên phần lớn cuộc sống của chúng ta bằng cách nào đó bị cạn kiệt ý nghĩa, trở nên robot. Tôi có đơn thuần là một thuật toán? Chỉ là một sự sắp xếp sinh học của dữ liệu đang thực hiện những thủ thuật tương tự như Phoenix, vấp ngã qua các quy tắc nếu/thì? Và nếu phần lớn cuộc sống của tôi thực sự là robot, thì tôi khác biệt đến mức nào so với Phoenix và những người thuộc loại nó?
Khi tôi nhìn robot dò dẫm theo cách của nó thông qua một nhiệm vụ – khi tôi nhìn những ngón tay thăm dò, khám phá của nó – cuối cùng, tôi không nghĩ, Nó có một linh hồn như tôi. Thay vào đó, tôi nghĩ, Tôi là một cỗ máy như nó. Cuối cùng, việc xem Phoenix khiến tôi đặt câu hỏi về nhiều thứ hơn là vị trí của tôi trên thị trường lao động – nó khiến tôi đặt câu hỏi về vị trí của mình trong sơ đồ vĩ đại của mọi thứ, sự đặc biệt trong quan điểm của tôi.
Vì vậy, khi robot được nâng lên, tôi cảm thấy mình bị kéo xuống. Gặp nhau ở giữa, cả hai chúng ta đều trở thành “trí thông minh thể hiện,” cả hai chúng ta đều trở thành những mẩu phần mềm học tập nắm bắt. Và “bản ngã” có thể chỉ là một quang phổ của sự tự nhận thức, một phẩm chất không bật tắt mà thay vào đó, xuất hiện ở các mức độ và màu sắc khác nhau, tùy thuộc vào những gì hữu ích, những gì phù hợp nhất với nhiệm vụ.
Khi hàng tỷ Phoenixes diễu hành đến, sẵn sàng gấp quần áo cho chúng ta, nấu bữa tối cho chúng ta, chăm sóc chúng ta, tôi cho rằng chúng ta sẽ biết ơn sự tự nhận thức của chúng, biết ơn sự khôn ngoan thực tế cho phép chúng điều hướng thế giới của chúng ta rất tốt. Nhưng chúng ta cũng có thể phải gánh chịu cảm giác bị giáng chức kỳ lạ đó. Chúng ta sẽ bị kéo khỏi bệ đỡ của mình và thả vào một vị trí khiêm tốn hơn – nếu tò mò hơn – giữa bộ lạc rộng lớn của những thứ có tri giác. Sau đó, có lẽ, giống như những robot sơ sinh, chúng ta sẽ lại dò dẫm, vươn tay lấy những khối để xây dựng một mô hình thế giới mới tươi sáng.
