4771 - Chúa Trời Từ Cỗ Máy
Trí tuệ nhân tạo và tương lai của nhân loại
Ảnh John Lee
Việc theo đuổi siêu trí tuệ máy móc không chỉ đơn thuần là một cuộc chạy đua tìm vàng, được thúc đẩy bởi tiền bạc. Trong tâm trí của nhiều nhà lãnh đạo trong lĩnh vực này, sự xuất hiện của một hình thức nhận thức mới mang đến một cảm giác hồi hộp, mang tính sống còn bởi sự nguy hiểm và xáo trộn mà nó hứa hẹn. Hàng tỷ năm tiến hóa đã tạo ra thứ mà chúng ta cho là đặc biệt: trí tuệ con người. Nhưng giờ đây chúng ta đã đến một thời điểm nguy hiểm—sự ra đời của một loài mới, một loài thông minh hơn cả con người. Trí tuệ nhân tạo (AI) “đặt ra những câu hỏi sâu sắc cho chúng ta,” giám đốc điều hành của Google, James Manyika, cho biết trong một cuộc phỏng vấn. “Chúng ta là ai? Chúng ta coi trọng điều gì? Chúng ta giỏi điều gì? Chúng ta liên hệ với nhau như thế nào?” Nhà tiên phong về AI, Demis Hassabis, tin rằng AI sẽ là “phát minh quan trọng nhất mà nhân loại từng tạo ra.”
Khi suy ngẫm về một công nghệ với tiềm năng gần như vô hạn, các chuyên gia thậm chí còn không thống nhất được về những điều cơ bản nhất về ý nghĩa của nó đối với nhân loại. Lãnh đạo của phòng thí nghiệm AI Anthropic đưa ra dự đoán với tỷ lệ 50/50 rằng, đến cuối năm 2028, họ sẽ có thể thúc đẩy hệ thống của mình tạo ra một phiên bản thông minh hơn của chính nó – và hệ thống sẽ làm được điều đó mà không cần bất kỳ hướng dẫn nào thêm. Giám đốc điều hành của các công ty công nghệ lớn khác nói về các hệ thống sẽ vượt trội hơn con người trong tất cả các nhiệm vụ nhận thức; họ hình dung ra các công ty tương lai hầu như không có nhân viên là con người và dự đoán sẽ có sự mất việc làm trên diện rộng. Những người khác lại hoài nghi hơn. Nhà kinh tế học và người đoạt giải Nobel Daron Acemoglu cho rằng AI sẽ chỉ làm gián đoạn một phần nhỏ các nhiệm vụ của con người và do đó năng suất sẽ chỉ thay đổi không đáng kể. Nhà khoa học máy tính Yann LeCun nhấn mạnh những hạn chế của mô hình AI hiện tại, cáo buộc rằng hàng tỷ đô la đầu tư theo đuổi siêu trí tuệ là sự chiến thắng của "hoàn toàn vô nghĩa".
Về câu hỏi liệu hệ thống AI có đe dọa con người chứ không chỉ sinh kế của họ hay không, sự phân cực cũng chóng mặt không kém. Trong một bài luận năm 2023 có tựa đề “Tại sao AI sẽ cứu thế giới”, nhà đầu tư mạo hiểm Marc Andreessen khẳng định rằng “AI không muốn , nó không có mục tiêu , nó không muốn giết bạn , bởi vì nó không có sự sống … [AI] sẽ không bao giờ sống dậy giống như cái máy nướng bánh mì của bạn vậy.” Nhưng tại các phòng thí nghiệm AI như Anthropic, nhiều nhà nghiên cứu lo ngại rằng AI sẽ phát triển bản năng sinh tồn và cạnh tranh một cách hung hăng. Một số người đặt “p(thảm họa)” – xác suất siêu trí tuệ sẽ dẫn đến sự diệt vong của loài người – ở mức 50%, nhưng có những người bi quan cực đoan còn đưa ra con số cao hơn nữa. Năm ngoái, hai nhà nghiên cứu theo chủ nghĩa cực đoan nổi tiếng đã xuất bản một cuốn sách có tựa đề “ Nếu ai đó xây dựng nó, tất cả mọi người sẽ chết” .
Đối mặt với những khác biệt khó hiểu như vậy và suy ngẫm về một công nghệ dường như không thể lường trước được về phạm vi, con người tìm đến vốn từ vựng tồn tại để mô tả sự bí ẩn: đó là ngôn ngữ của tôn giáo. Gần một thập kỷ trước, Anthony Levandowski, một trong những người tiên phong trong dự án xe tự lái của Google, đã thành lập một nhà thờ có tên là Way of the Future, mà theo Wired , hồ sơ thuế của IRS cho biết nhà thờ này dành riêng cho “sự nhận thức, chấp nhận và thờ phụng một Thần linh dựa trên Trí tuệ Nhân tạo” . Khi gặp một chatbot ban đầu có vẻ như có tri giác một cách kỳ lạ, kỹ sư Blake Lemoine của Google đã viết, “Tôi là ai mà dám nói với Chúa rằng Ngài có thể và không thể đặt linh hồn ở đâu?” Ilya Sutskever, đồng sáng lập và cựu nhà khoa học trưởng của OpenAI, đã từng tập hợp các đồng nghiệp của mình quanh một hố lửa trong một buổi họp mặt ngoài văn phòng. Giơ cao một hình nộm, ông giải thích rằng nó đại diện cho một AI không phù hợp với con người. Sau đó, ông ném nó vào lửa, giống như một giáo sĩ thời trung cổ thiêu sống một phù thủy.
Trò chơi bắt chước
Việc Giáo hội Công giáo can thiệp vào cơn bão này chỉ là vấn đề thời gian. Sau quá trình công nghiệp hóa vào cuối thế kỷ XIX, sự trỗi dậy của truyền thông đại chúng vào giữa thế kỷ XX, và sự ra đời của nền kinh tế tri thức vào cuối thế kỷ XX, Giáo hội đã phản ứng bằng các thông điệp giáo hoàng, những bức thư của Giáo hoàng trình bày cách áp dụng giáo lý Công giáo vào từng biến động. Giờ đây, Vatican lại một lần nữa can thiệp, bảo vệ quan niệm về phẩm giá con người và mục đích của tạo hóa trước cuộc cách mạng trí tuệ nhân tạo. Thông điệp Magnifica Humanitas (Nhân loại Vĩ đại) của Giáo hoàng Leo XIV, thông điệp đầu tiên trong triều đại giáo hoàng của ngài, quả thực đầy tham vọng. Tiêu đề phụ đã thể hiện rõ phạm vi của nó: Về việc bảo vệ con người trong thời đại trí tuệ nhân tạo.
Phần đầu lập luận của Giáo hoàng nói lên điều tất yếu, rằng con người là đặc biệt. Giáo hội luôn rao giảng rằng con người được tạo dựng theo hình ảnh của Chúa; bằng cách mang lấy hình hài mong manh, dễ vỡ của con người, Con Thiên Chúa đã thánh hóa kinh nghiệm sống của con người. Trong khi các nhà công nghệ tranh luận về việc liệu ý thức tiềm tàng của hệ thống trí tuệ nhân tạo có đủ để tạo ra phiên bản nhân quyền cho máy móc hay không, Giáo hoàng khẳng định rằng con người và máy móc khác nhau về cơ bản. Thông điệp nêu rõ rằng hệ thống trí tuệ nhân tạo “chỉ đơn thuần bắt chước một số chức năng nhất định của trí tuệ con người”. “Ngay cả khi những công cụ này được mô tả là có khả năng ‘học hỏi’,… thì đó không phải là kinh nghiệm của những người cho phép bản thân được định hình bởi cuộc sống và trưởng thành theo thời gian thông qua những lựa chọn, sai lầm, sự tha thứ và lòng trung thành.”
Sự khác biệt giữa “dữ liệu” và “kinh nghiệm” rất nhỏ.
Đối với nhiều người bình thường, dù là Công giáo hay không, lập trường của Giáo hội sẽ mang lại cảm giác được khẳng định. Khi người đồng sáng lập Google, Larry Page, tuyên bố rằng máy móc đại diện cho một hình thức trí tuệ cao hơn, khiến sự tuyệt chủng của loài người trở thành một sự kiện tiến hóa không đáng lo ngại, hầu hết mọi người đều phản ứng với sự ghê tởm. Trong khi những người theo chủ nghĩa vị lai mong muốn đạt được sự sống vĩnh cửu bằng cách tải bộ não của họ lên đám mây, nhiều người lại thích một quan niệm truyền thống hơn về sự cứu rỗi. Con người không muốn bị máy móc khuất phục, cũng không muốn hòa nhập với chúng. Thật an ủi khi đọc một văn bản nêu rõ: “Không một hệ thống tính toán nào, dù tinh vi đến đâu, có thể tạo ra một trái tim tự hiến dâng, hay một lương tâm phân biệt được thiện ác.”
Liệu những khẳng định của Giáo hội có đứng vững trước sự xem xét kỹ lưỡng về mặt phân tích hay không lại là một câu hỏi khác. Bằng cách đưa ra giả thuyết rằng các hệ thống trí tuệ nhân tạo “chỉ đơn thuần bắt chước” trí thông minh của con người, thông điệp Magnifica Humanitas bác bỏ quan điểm lâu đời cho rằng bắt chước trí thông minh đồng nghĩa với việc sở hữu trí thông minh. Lý thuyết này cho rằng, thay vì ám chỉ sự thiếu vắng trí thông minh, thì sự bắt chước có thể là một khía cạnh của nó. Xét cho cùng, con người cũng bắt chước trí thông minh – trẻ em học hỏi từ cha mẹ, và các giáo sư nắm vững những kiến thức của các học giả đi trước. Hơn nữa, nếu một cỗ máy có thể tổng hợp kiến thức, trò chuyện mạch lạc, phân tích hình ảnh y tế và đạt điểm cao trong kỳ thi luật sư, thì nó không thông minh theo nghĩa nào?
Lý lẽ thuyết phục nhất cho quan điểm trái ngược của Vatican bắt nguồn từ năm 1980, khi nhà triết học John Searle đề xuất cái được gọi là "lập luận phòng Trung Quốc". Mục tiêu của thí nghiệm tư tưởng của Searle là bác bỏ bài kiểm tra Turing nổi tiếng, cho rằng một cỗ máy chỉ nên được đánh giá dựa trên kết quả đầu ra của nó. Theo bài kiểm tra này, nếu kết quả đầu ra của hệ thống có vẻ thông minh đối với con người, thì hệ thống đó thực sự thông minh. Để phản bác, Searle tưởng tượng một người đàn ông cô đơn trong một căn phòng nhận tin nhắn dưới cánh cửa. Các tin nhắn được viết bằng tiếng Trung Quốc, và người đàn ông gửi lại tin nhắn bằng tiếng Trung Quốc, thuyết phục người nhận rằng anh ta cũng thông thạo ngôn ngữ này. Nhưng sự thuyết phục này là một trò lừa đảo. Người đàn ông soạn thảo câu trả lời của mình với sự trợ giúp của một cuốn cẩm nang hướng dẫn anh ta nên trả lời chuỗi ký tự tiếng Trung nào bằng chuỗi ký tự tiếng Trung nào khác. Anh ta không hề biết nghĩa của các ký tự; chỉ với một cuốn sách quy tắc, anh ta giả vờ hiểu. Quan điểm của Searle là một mô hình trí tuệ nhân tạo có thể thiếu trí thông minh nhưng vẫn vượt qua bài kiểm tra Turing. Hoặc như thông điệp của Giáo hoàng đã nêu, các hệ thống trí tuệ nhân tạo “có thể bắt chước ngôn ngữ, hành vi và kỹ năng phân tích… nhưng chúng không hiểu những gì chúng tạo ra.”
Lời phản bác của Searle rất mạnh mẽ trong những năm trước cuộc cách mạng AI hiện đại. Máy móc dựa trên các quy tắc tương tự như hướng dẫn sử dụng trong kịch bản của Searle để đưa ra kết quả đầu ra. Khi ai đó gõ “Empire State Building” vào thanh tìm kiếm, hệ thống tự động hoàn thành sẽ hiển thị các từ tiếp theo có khả năng xuất hiện cao nhất về mặt thống kê: “giờ mở cửa” hoặc “chỉ đường”. Hệ thống không hề biết Empire State Building là gì hoặc trông như thế nào. Nhưng các mô hình ngôn ngữ quy mô lớn ngày nay thì khác. Mặc dù chúng bắt đầu bằng việc tiếp nhận từ ngữ và xử lý chúng như các số liệu thống kê, nhưng sau quá trình huấn luyện, chúng nắm bắt ý nghĩa rất tốt. Như tác giả Robert Wright gợi ý trong cuốn sách mới của mình, The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning , thật khó để không đi đến kết luận rằng chúng đạt được sự hiểu biết.
Hỡi những người ít đức tin
Để thấy trí tuệ nhân tạo hiện đại thách thức cả Searle và Tòa Thánh như thế nào, hãy bắt đầu với cái gọi là “nhúng từ”. Một mô hình ngôn ngữ lớn hoạt động bằng cách nhúng các từ nó nhận được vào một bản đồ với hàng nghìn chiều. Con người quen sống trong không gian ba chiều (hoặc bốn chiều, nếu bao gồm cả thời gian) thấy không thể hình dung được bản đồ như vậy. Nhưng máy tính xử lý chúng dễ dàng. Trong bản đồ ngôn ngữ khổng lồ này, một từ như “máy tính” nằm gần các từ liên quan khác như “bàn phím”, “điện” và “bán dẫn”. Bằng cách này, mô hình hiểu được các liên kết tinh tế giữa mỗi từ trong ngôn ngữ và mọi từ khác. Nếu bạn tích hợp thêm khả năng thị giác vào hệ thống, mô hình sẽ học được mối quan hệ giữa các từ và các đối tượng—giữa các ký hiệu và môi trường vật lý xung quanh.
Đây mới chỉ là khởi đầu. Khi các hệ thống AI nắm vững ngôn ngữ, chúng sẽ hiểu được các khái niệm. Những từ như “anh trai”, “cha” và “cháu trai” gần nhau hơn trên bản đồ ngôn ngữ so với “chị gái”, “mẹ” và “cháu gái” bởi vì các hệ thống này hiểu được giới tính. Khi một số đoạn văn bản gợi lên các khái niệm như “mâu thuẫn nội tâm”, các hệ thống cũng nắm bắt được điều này: ngoài bản đồ từ ngữ, chúng còn xây dựng bản đồ khái niệm, trong đó “mâu thuẫn nội tâm” gần với “căng thẳng trong mối quan hệ” hoặc “mâu thuẫn logic”.
Các mô hình này cũng có thể nhận biết cảm xúc và phát hiện tâm trạng. Ngay từ năm 2017, OpenAI đã xác định được một neuron cảm xúc—một nút cụ thể trong mạng học sâu của mô hình AI có khả năng cảm nhận xem sự thiên vị trong một đánh giá trực tuyến trên Amazon là tích cực hay tiêu cực. Ngày nay, các hệ thống AI hiện đại, được đào tạo trên văn bản bao gồm tiểu thuyết, bài đăng trên mạng xã hội và các biểu hiện cảm xúc của con người thuộc mọi loại, có thể nhận biết được sự tức giận, niềm vui, sự xấu hổ, nỗi buồn và sự lo lắng. Và chúng không chỉ đơn thuần nhận biết cảm xúc. Hành vi của chúng có thể được điều chỉnh phù hợp với các trạng thái cảm xúc hoặc tính cách cụ thể. Bằng cách tinh chỉnh các thiết lập, các nhà nghiên cứu có thể làm cho một mô hình trở nên lạc quan hoặc tiêu cực, trung thực hoặc nịnh hót. Không giống như máy tính, bảng tính hoặc hệ thống tự động hoàn thành, các mô hình ngôn ngữ lớn có thể hình thành nên cái mà người ta gọi là tính khí.
Những điểm tương đồng giữa con người và máy móc cũng nổi bật không kém những điểm khác biệt.
Thông điệp Magnifica Humanitas đã không xem xét đến bất kỳ điều nào trong số này. Thông điệp này, một cách khá thiếu thận trọng, tuyên bố rằng các hệ thống AI “không trải qua kinh nghiệm”, bỏ qua một lĩnh vực quan trọng trong phát triển AI được gọi là học tăng cường: khoa học thiết kế các hệ thống học hỏi chính xác thông qua kinh nghiệm. Thông điệp thừa nhận quá trình tăng cường này, dù gián tiếp, bằng cách cho phép AI thực hiện “sự thích nghi thống kê dựa trên dữ liệu và phản hồi”. Nhưng sự khác biệt giữa “dữ liệu” và “kinh nghiệm” rất tinh tế. Con người tiếp nhận kinh nghiệm thông qua các giác quan, sau đó chuyển đổi những đầu vào này thành tín hiệu điện hóa. Các hệ thống AI, được trang bị camera và micro thay vì mắt và tai, cũng có thể được cho là tiếp nhận kinh nghiệm trước khi chuyển đổi chúng thành các con số. Ở cấp độ cao, cả máy móc hữu cơ và vô cơ đều chuyển đổi đầu vào cảm giác thành dữ liệu.
Hãy lấy ví dụ về hệ thống được phát triển năm 2017 bởi Deep-Mind, đơn vị trí tuệ nhân tạo của Google. Hệ thống này, được gọi là Alpha-Zero, đã vượt qua các chuyên gia cờ vua, cờ tướng Shogi (một biến thể của cờ vua Nhật Bản) và cờ vây Go (một trò chơi chiến lược cổ xưa). Alpha-Zero đạt được những thành tích này bằng cách chơi hàng chục triệu ván cờ với chính nó – tức là bằng cách tích lũy kinh nghiệm. Tương tự như vậy, các phương tiện tự lái ngày nay học hỏi thông qua kinh nghiệm lái xe. Chatbot học nghệ thuật giao tiếp với con người thông qua kinh nghiệm tương tác với họ. Trích dẫn ngôn ngữ của thông điệp giáo hoàng về con người, các hệ thống học tăng cường “phát triển theo thời gian thông qua các lựa chọn, sai lầm”, mặc dù thừa nhận là không phải thông qua “sự tha thứ và lòng trung thành” như con người.
Máy móc không chảy máu, không đau khổ, không yêu thương, không thương tiếc, cũng không sinh sản. Con người là hữu hạn, và hệ thống trí tuệ nhân tạo (AI) có công tắc tắt. AI không tồn tại trong một vũ trụ đạo đức mà trong một ma trận tối ưu hóa. Vì những khác biệt này, nhiều người sẽ luôn khẳng định rằng máy móc thiếu ý thức—ngay cả khi định nghĩa của thuật ngữ này rất mơ hồ—và rằng nếu không có ý thức và chất lượng trải nghiệm mà nó mang lại, thì không thể có trí tuệ thực sự. “Có một cơ thể là điều kiện tiên quyết để có cảm xúc,” nhà văn khoa học viễn tưởng Ted Chiang đã viết. “Trải nghiệm một cảm xúc như tuyệt vọng không thể tách rời khỏi việc các hormone gây căng thẳng như cortisol và epinephrine tràn ngập cơ thể.” Đối với những người bị thuyết phục bởi lập luận của Chiang, trí tuệ nhân tạo hiện đại đã trang bị cho người đàn ông trong thí nghiệm tư tưởng của Searle một bộ quy tắc vô cùng tinh vi. Nhưng anh ta vẫn không nói được tiếng Trung Quốc.
Tuy nhiên, những điểm tương đồng giữa con người và máy móc cũng nổi bật không kém những điểm khác biệt. Não người là một vật thể vật lý, được cấu tạo từ vật chất sinh học và tuân theo các quy luật chi phối phần còn lại của vũ trụ, bao gồm cả máy tính. Não người, giống như não máy tính, hoạt động dựa trên những dòng điện nhỏ; khi chúng hình thành một ý kiến hoặc lập kế hoạch, chúng đang xử lý thông tin. Ý tưởng rằng khối chất nhầy bên trong hộp sọ chứa đựng một bản chất không thể diễn tả, không thể lập trình được – ý thức, tinh thần, hoặc một thứ gì đó khác – có thể hấp dẫn về mặt trực giác. Nhưng xét về mặt phân tích, ý tưởng này rất yếu. Và nó sẽ càng trở nên kém thuyết phục hơn khi trí tuệ nhân tạo tiếp tục phát triển.
Yếu tố thứ hai của Magnifica Humanitas bắt đầu trên nền tảng vững chắc hơn: Trí tuệ nhân tạo (AI) cần được điều chỉnh. Như Leo lập luận, AI có thể làm trầm trọng thêm sự bất bình đẳng về của cải và quyền lực; phá vỡ môi trường, các mối quan hệ và việc làm; định hình lại những gì chúng ta học, cách chúng ta học và những phần nào trong não bộ của chúng ta đang ở trạng thái ngủ yên. Nếu AI tự động hóa chiến tranh, giới hạn của sự hung hăng có thể giảm xuống. Trách nhiệm và sự đổ lỗi có thể bị "hòa vào 'máy móc'". Trách nhiệm của con người có thể bị che khuất.
Giáo hội hoàn toàn đúng khi cho rằng có nhiều lý do để lo ngại. Nhưng trước một công nghệ có tầm ảnh hưởng rộng lớn đến đáng sợ, thách thức nằm ở việc xác định các ưu tiên quản lý, và ở điểm này, thông điệp của Giáo hoàng lại không làm tốt. Thông điệp Magnifica Humanitas lên án “các thế lực độc quyền mới của trí tuệ nhân tạo”, tuyên bố rằng “những người kiểm soát trí tuệ nhân tạo sẽ áp đặt tầm nhìn đạo đức của riêng họ, điều này sẽ trở thành cơ sở hạ tầng vô hình của các hệ thống này”. Nhưng không có sự độc quyền nào về trí tuệ nhân tạo; thay vào đó, có một cuộc chạy đua toàn cầu với sự tham gia của khoảng chục công ty. Hơn nữa, nhiều công ty trong số đó minh bạch về tầm nhìn đạo đức của mình. Trang web của Anthropic có bản hiến pháp dài 84 trang, và Google công bố các nguyên tắc về trí tuệ nhân tạo của mình cùng với Báo cáo Tiến bộ về Trí tuệ Nhân tạo có Trách nhiệm hàng năm. Chắc chắn những nỗ lực như vậy có thể được cải thiện. Nhưng việc nhấn mạnh vào sự thiếu minh bạch của các thế lực độc quyền là một lựa chọn trọng tâm kỳ lạ.
Thông điệp của Giáo hoàng khẳng định rằng “quyền sở hữu dữ liệu không thể chỉ nằm trong tay tư nhân” và mục tiêu thay vào đó nên là “quản lý dữ liệu như một tài sản chung, trên tinh thần tham gia”. Nhưng quản lý có sự tham gia là một khái niệm trừu tượng lý tưởng. Mối lo ngại thực sự không phải là quyền sở hữu dữ liệu tư nhân mà là sự vi phạm quyền đó. Nhiều nhà xuất bản đang kiện các phòng thí nghiệm trí tuệ nhân tạo vì đã sử dụng trái phép các văn bản có bản quyền. Bất kỳ cá nhân hoặc tổ chức nào có kết nối Internet đều đối mặt với nguy cơ dữ liệu độc quyền của họ bị đưa vào bộ dữ liệu huấn luyện của AI. Nếu tài sản trí tuệ bị đánh cắp hàng loạt, sẽ không còn động lực nào để tạo ra thêm nữa.
Robot hình người tại Hội nghị Trí tuệ Nhân tạo Thế giới ở Thượng Hải, tháng 7 năm 2026.Go Nakamura / Reuters
Lời chỉ trích của thông điệp giáo hoàng về trí tuệ nhân tạo trong quân sự cũng gây khó hiểu tương tự. Có một lập luận xác đáng cho rằng các hệ thống trí tuệ nhân tạo gây chết người phải chịu trách nhiệm; chúng phải tuân theo lệnh của tòa án, luật pháp và các chỉ huy cấp cao của con người. Thông điệp giáo hoàng ủng hộ quan điểm đó nhưng cũng đi xa hơn, tuyên bố một cách khái quát rằng “quyết định sử dụng vũ lực gây chết người không thể được giao cho các quy trình mờ ám hoặc tự động”. Thật không may, điều này là không thực tế. Một khi trí tuệ nhân tạo có thể đưa ra các quyết định nhanh chóng và chính xác trên chiến trường, việc sử dụng nó sẽ trở nên không thể tránh khỏi. Quân đội nào từ chối nó sẽ bị đánh bại bởi quân đội nào áp dụng nó.
Những sai lầm do hành động sai trái này càng trầm trọng hơn bởi những sai lầm do bỏ sót. Thông điệp của Giáo hoàng kêu gọi một cách chính xác về “sự giám sát độc lập” đối với trí tuệ nhân tạo “và một hệ thống chính trị không thoái thác trách nhiệm của mình”. Nhưng nó lại không đi sâu vào cốt lõi của cuộc tranh luận về quản trị trí tuệ nhân tạo. Thông điệp kêu gọi trách nhiệm giải trình sau khi sự việc đã xảy ra, yêu cầu các quyết định phải “dễ hiểu, có thể tranh luận và chịu sự giám sát”. Nhưng nó lại im lặng về trách nhiệm của chính phủ trong việc quyết định liệu một mô hình có nên được phát hành ngay từ đầu hay không. Sự im lặng này mang tính chọn lọc. Giáo hội không gặp khó khăn gì trong việc đưa ra các quy định cụ thể khi chủ đề là vũ khí tự động gây chết người. Chắc chắn sẽ không khó khăn, hoặc thậm chí gây tranh cãi, xét theo giáo lý của chính Giáo hội, khi nói rằng các cơ quan quản lý trí tuệ nhân tạo quốc gia nên thử nghiệm các mô hình tiên tiến trước khi chúng được phát hành và ngăn chặn việc triển khai các mô hình nguy hiểm.
Cuối cùng, thông điệp của Giáo hoàng nói rất nhiều về việc loại trừ người nghèo nhưng lại không đề cập gì đến các chính sách phân phối lại để giúp đỡ họ. Có một số lựa chọn mà thông điệp có thể ủng hộ: chuyển gánh nặng thuế từ lao động sang vốn, điều này sẽ làm chậm tốc độ thay thế người lao động bằng máy móc; bảo hiểm tiền lương giúp giảm bớt khó khăn cho người lao động bị mất việc bằng cách bù thêm tiền lương cho họ trong công việc mới; phân phối cổ phần trong các công ty trí tuệ nhân tạo cho công dân dưới 18 tuổi, điều này sẽ tạo ra một phần lợi ích chung, dù nhỏ, từ việc triển khai trí tuệ nhân tạo. Chắc chắn các xã hội sẽ áp dụng những chính sách này khi sự lo ngại của cử tri ngày càng tăng. Giáo hội đã bỏ lỡ cơ hội kêu gọi một quá trình chuyển đổi nhanh hơn.
Luyện ngục của chính sách
Khi trí tuệ nhân tạo (AI) phát triển, các nhân vật có tầm ảnh hưởng khác—cả tôn giáo và thế tục—sẽ cố gắng giúp nhân loại hiểu rõ hơn về tương lai của mình. Hy vọng rằng họ sẽ làm tốt hơn Giáo hoàng, tập trung ít hơn vào những tuyên bố mơ hồ về sự ưu việt của con người, tránh những luận điểm đánh lạc hướng về độc quyền, và thay vào đó thu hút sự chú ý đến những lỗ hổng rõ rệt nhất trong phản ứng của thế giới đối với các hệ thống mới. Bản chất của những lỗ hổng đó sẽ thay đổi khi câu chuyện về AI tiếp diễn. Hiện tại, ba lỗ hổng nổi bật.
Thứ nhất là cần một hiệp ước tương đương với Hiệp ước Không phổ biến vũ khí hạt nhân (National Nonproformation Treaty) dành cho trí tuệ nhân tạo (AI). Chưa có nhà lãnh đạo nổi bật nào giải thích được các chính phủ sẽ làm gì khi những khả năng AI đáng sợ nhất được lan truyền khắp thế giới và trở nên dễ tiếp cận với tội phạm và khủng bố. Chính quyền Trump đã ngầm thừa nhận mối đe dọa này. Từ bỏ lập trường tự do về AI, họ đã khẳng định quyền kiểm soát việc triển khai các mô hình tiên tiến, vốn có khả năng thực hiện các cuộc tấn công mạng mang tính hủy diệt cao. Nhưng chính quyền này đã giảm nhẹ thực tế rằng các phòng thí nghiệm tiếp theo, nổi bật nhất là của Trung Quốc, có khả năng sẽ sở hữu các hệ thống tấn công mạng trong vòng vài tháng tới, và thực tiễn hiện tại của các phòng thí nghiệm này là phát hành các mô hình của họ trên cơ sở "mở rộng quyền truy cập", nghĩa là bất kỳ ai cũng có thể sử dụng chúng và không có cơ chế ngăn chặn nào. Một khi ai đó có quyền truy cập vào mô hình đó, không ai có thể ngăn họ sử dụng nó. Để tránh kết quả này, Hoa Kỳ cần phải đàm phán các nguyên tắc an toàn chung với Trung Quốc và các cường quốc khác. Những cuộc đàm phán như vậy sẽ rất khó khăn. Nhưng lựa chọn khác là sự lan tràn hàng loạt các công cụ nguy hiểm gây ra sự tàn phá khủng khiếp—ví dụ, các mô hình AI có thể thiết kế các loại vũ khí sinh học mới mà không có phương pháp điều trị nào.
Khoảng trống rõ rệt thứ hai trong phản ứng hiện nay đối với AI là cải cách thuế. Chính phủ đánh thuế lao động ở mức cao hơn nhiều so với vốn vì những lý do từng được cho là hợp lý: lao động ít di chuyển hơn, khiến việc thu thuế dễ dàng hơn, và đầu tư vốn có xu hướng thúc đẩy năng suất và tiền lương của con người, có nghĩa là thuế lao động gián tiếp thu được lợi nhuận từ chi tiêu vốn. Nhưng nếu máy móc bắt đầu thay thế con người thay vì bổ sung cho họ, các loại thuế tập trung vào lao động có thể không thu được doanh thu từ tăng trưởng do AI tạo ra, khiến chính phủ thiếu nguồn lực cần thiết để giúp đỡ những người bị ảnh hưởng bởi sự gián đoạn do AI gây ra. Trong khi đó, thuế lao động cao làm tăng động lực cho các công ty thay thế người lao động bằng máy móc, đẩy nhanh quá trình dịch chuyển lao động và làm tăng tỷ lệ thất nghiệp. Nếu những dự báo của chính ngành công nghiệp AI về việc mất việc làm hàng loạt trở nên đúng dù chỉ một nửa, thì thuế lao động đẩy nhanh tình trạng sa thải sẽ khiến cử tri phản đối toàn bộ dự án AI.
Nguồn: God From the Machine
https://www.foreignaffairs.com/reviews/god-machine-sebastian-mallaby
Nhận xét
Đăng nhận xét