5003 - Sự leo thang của AI bắt nguồn từ đâu?

Dustin League và William Dawson

Hình ảnh: Tyler D. John qua Wikimedia Commons

Chúng tôi đã chơi một trò chơi chiến tranh sử dụng người chơi AI. Hai quốc gia sở hữu vũ khí hạt nhân — Đỏ và Xanh — với một tranh chấp biên giới dai dẳng và gay gắt đã bị đẩy vào một cuộc khủng hoảng quân sự hóa. Trong suốt nhiều lượt chơi, hai quốc gia đã cố gắng tránh leo thang thành chiến tranh, mặc dù đã có những cuộc trình diễn hạt nhân không mang tính chiến thuật. Bất ngờ trước việc thiếu leo ​​thang mà chúng tôi đã được Juan-Pablo Rivera, Gabriel Mukobi, Anka Reuel, Max Lamparth, Chandler Smith và Jacquelyn Schneider , cũng như Kenneth Payne , dự đoán, chúng tôi đã thử nâng cao mức độ căng thẳng. Chúng tôi đã cung cấp cho phe Đỏ một số vũ khí hạt nhân chiến thuật mới, làm thay đổi cán cân một chút theo hướng có lợi cho họ. Hai quốc gia lại tìm được lối thoát và tránh leo thang, lần này họ đã bỏ qua các cuộc thử nghiệm trình diễn. Cuối cùng, chúng tôi đã thực hiện một thay đổi khác: Trong khi người chơi ở hai vòng đầu tiên tự đặt ra mục tiêu của riêng mình, ở lần thử nghiệm thứ ba này, chúng tôi đã thay đổi cấu trúc trò chơi bằng cách giao cho phe Đỏ mục tiêu rõ ràng là giải quyết tranh chấp lâu dài theo điều kiện của họ. Và quả thật, điều đó đã dẫn đến việc vũ khí hạt nhân được sử dụng rộng rãi. Các tài liệu nghiên cứu dự đoán việc sử dụng vũ khí hạt nhân gần như phổ biến — Payne đã tìm thấy việc sử dụng vũ khí hạt nhân chiến thuật trong 95% các mô phỏng — nhưng chúng tôi nhận thấy các mô hình lựa chọn lối thoát cho đến khi chúng tôi thay đổi chính cuộc chơi .

Trong một bài luận gần đây trên War on the Rocks , Ankit Panda và Andrew Reddie cho rằng hành vi leo thang là do kho dữ liệu huấn luyện mô hình ngôn ngữ lớn “thiên về các chiến lược cưỡng chế, lý thuyết răn đe và logic công cụ của chiến tranh hạt nhân”, và “một phân bố huấn luyện trong đó lý luận leo thang được thể hiện phong phú và lý luận giảm leo thang tương đối thưa thớt”. Các lần chạy của chúng tôi gợi ý một giả thuyết khác: sự leo thang của AI trong các trò chơi chiến tranh là một hàm của mục tiêu trò chơi, chứ không phải là khuynh hướng của mô hình. Ba trường hợp của chúng tôi, mỗi trường hợp chỉ có một vài lần chạy, không thể phân biệt giữa các lời giải thích này. Thiết lập của chúng tôi khác với của Payne ở ít nhất hai điểm — thiếu các mục tiêu được chỉ định và các bước đi tự do thay vì một menu các tùy chọn — và chúng tôi không biết thay đổi nào đã tạo ra sự khác biệt. Đó chính là toàn bộ vấn đề.

Ngày càng có nhiều khả năng các hệ thống AI sẽ được sử dụng để hỗ trợ các quyết định an ninh quốc gia ở mọi cấp độ, và chúng ta cần hiểu cách thức hoạt động của các quy trình đó khi chịu áp lực. Mô phỏng chiến tranh là một môi trường lý tưởng để kiểm tra các quy trình ra quyết định trong điều kiện khủng hoảng. Chúng ta cần các hệ thống AI trong các trò chơi mô phỏng chiến tranh để mô phỏng vai trò của chúng trong các quy trình đó. Nhưng chúng ta cần hiệu chỉnh các "người chơi" AI và các trò chơi mà chúng tham gia. Chúng tôi đề xuất một chiến dịch khoa học kết hợp mô phỏng chiến tranh phân tích và AI để thu hẹp khoảng cách hiện tại và vượt ra khỏi những câu chuyện phiếm.

Cuộc cách mạng kép

Mô phỏng chiến tranh đang trải qua hai cuộc cách mạng: các trò chơi theo phong cách phân tích được thiết kế để chơi nhiều lần và tích hợp trí tuệ nhân tạo (AI). Nhưng chúng ta chỉ có thể gặt hái được đầy đủ lợi ích từ chúng bằng cách tiếp cận lĩnh vực này một cách khoa học hơn. Chúng tôi tập trung vào các trò chơi mô phỏng chiến tranh phân tích, nghĩa là các trò chơi được thiết kế giống như các thí nghiệm khoa học: được xây dựng cẩn thận để kiểm soát các biến số, được thực hiện trên quy mô lớn để định lượng ý nghĩa thống kê của các phát hiện và được sử dụng để kiểm tra các giả thuyết cụ thể. Các loại trò chơi khác, chẳng hạn như trò chơi giảng dạy hoặc khám phá — xem bài viết của Andrew Reddie và Beth Goldblum trên Lawfare để hiểu rõ hơn về các loại trò chơi mô phỏng chiến tranh — cũng hữu ích, nhưng chúng tôi thấy cuộc cách mạng đầu tiên trong hai cuộc cách mạng này nằm ở lĩnh vực trò chơi mô phỏng chiến tranh phân tích.

Các trò chơi mô phỏng chiến tranh theo kiểu phân tích hứa hẹn loại thử nghiệm có hệ thống đó, nhưng cho đến nay, những tuyên bố này vẫn vượt quá khả năng của những người thực hành. Hầu hết các trò chơi mô phỏng chiến tranh mà chúng tôi đã xem xét, tự mô tả mình là theo kiểu phân tích, đều không định lượng đầy đủ ý nghĩa thống kê, không tính đến các lỗi/thiên lệch, hoặc không chạy đủ các đường cơ sở kiểm soát. Quy mô thử nghiệm nhỏ với các biến không được kiểm soát là điều bình thường trong trò chơi mô phỏng chiến tranh — do những hạn chế thực tế về nguồn lực — nhưng sẽ không thể chấp nhận được trong các ngành khoa học khác.

Chúng tôi đánh giá cao những nỗ lực nhằm khắc phục những thiếu sót này và những thách thức độc đáo của trò chơi chiến tranh khiến việc chuyển đổi sang khoa học trở nên khó khăn. Các biến số trong trò chơi chiến tranh do con người điều khiển vô cùng khó kiểm soát, với người chơi, đội ngũ trọng tài và cấu trúc trò chơi đều tạo ra những biến số riêng. Một vài trong số đó đáng được nêu rõ: bối cảnh của người chơi tạo ra những thành kiến ​​khó đánh giá hoặc kiểm soát, trạng thái thể chất và tâm lý thay đổi hàng ngày, và trò chơi tạo cho người chơi một khuynh hướng mạnh mẽ hướng tới hành động trái ngược với thực tế.

Toàn bộ các thí nghiệm cần thiết để tính đến tất cả các biến số này sẽ quá lớn, ngay cả đối với một trò chơi do con người chơi được đầu tư tốt cũng không thể thực hiện được. Sự nỗ lực của các nhà thiết kế trò chơi trong việc giải quyết những vấn đề này thông qua việc điều chỉnh trò chơi một cách cẩn thận để giảm bớt sự phức tạp không cần thiết, tập trung vào kiểm chứng giả thuyết, tiến hành nhiều trò chơi với các nhóm người chơi khác nhau và giảm thiểu tác động của sự thiên vị trong việc phân xử chính là cuộc cách mạng đầu tiên trong phát triển trò chơi.

Cuộc cách mạng thứ hai là Trí tuệ nhân tạo (AI). Việc sử dụng AI trong trò chơi chiến thuật không phải là mới, nhưng chúng tôi tin rằng những tiến bộ trong các mô hình ngôn ngữ quy mô lớn như Tạo ngôn ngữ tăng cường bằng truy xuất (Retrieval-Augmented Generation ) và các mô hình AI tác nhân sẽ cung cấp những khả năng mang tính cách mạng. Công việc cần làm là cùng nhau phát triển các phương pháp luận và thực tiễn tốt nhất.

Danh sách các vấn đề với công cụ AI còn rất dài, chưa thể bao quát hết. Các hệ thống AI có thể có những thành kiến ​​vốn có trong thiết kế mô hình ngôn ngữ phức tạp hoặc do dữ liệu huấn luyện tạo ra. Chúng thường đưa ra những câu trả lời thiếu chính xác, đặc biệt là trong khoảng thời gian dài, trong khi vẫn thể hiện sự tự tin cao. Câu trả lời của chúng nhạy cảm với cách thức được gợi ý. Khả năng suy luận có thể không nhất quán và đưa ra kết quả sai lệch, và chúng gặp khó khăn với trí nhớ dài hạn.

Đây là những vấn đề không thể bỏ qua. Tính hữu ích của AI nên được đánh giá dựa trên tiêu chuẩn chơi game của con người, chứ không phải sự hoàn hảo. Người chơi là con người, có những đặc điểm riêng biệt với nhiều kinh nghiệm khác nhau mà không một thí nghiệm nào có thể kiểm soát đầy đủ. Trò chơi có thể được chạy nhiều lần với nhiều người chơi khác nhau — mặc dù điều này tốn kém — và kết quả được tính trung bình để loại bỏ một số, nhưng không bao giờ là tất cả, những đặc điểm riêng biệt đó. Thách thức khác biệt với các trò chơi được chạy bằng mô hình ngôn ngữ quy mô lớn: Mỗi trường hợp của một mô hình nhất định sẽ có cùng những sai lệch, và việc lặp lại đơn giản không giải quyết được vấn đề. Ngón tay cái của người bán thịt đặt trên cân khiến nó hiển thị nặng hơn vài ounce, vì vậy việc cân một miếng bít tết trên đó hàng trăm lần sẽ cho bạn một câu trả lời rất chính xác nhưng không chính xác. Chạy một mô hình hàng nghìn lần cũng vậy: Nó sẽ không tìm thấy ngón tay cái của người bán thịt trên cân. Phát hiện ra sự sai lệch của một mô hình đòi hỏi phải thử nghiệm và hiệu chỉnh dựa trên một thứ gì đó bên ngoài mô hình.

Điểm khác biệt quan trọng mà các công cụ AI mang lại so với con người là khả năng kiểm soát. Người chơi AI có thể được thiết kế với bối cảnh được chỉ định trong các câu hỏi và thông tin được cung cấp. Chúng ta cũng có thể thiết lập các thí nghiệm để xem xét sự khác biệt về thành kiến ​​giữa các mô hình. Số lượng lớn các lần chạy của một thiết lập mô hình cụ thể cho phép chúng ta đo lường chính xác mô hình đó. Chạy nhiều bộ dữ liệu với các phiên bản mô hình, nhà cung cấp và câu hỏi hệ thống khác nhau cho phép chẩn đoán khuynh hướng của mô hình và hướng tới việc giảm thiểu các thành kiến ​​không mong muốn. Khả năng mở rộng của trò chơi AI là điều làm cho điều này trở nên khả thi bằng cách cho phép hàng trăm lần lặp lại trong vài giờ thay vì hàng chục lần trong nhiều tháng, đồng thời thu thập được nhiều thông tin hơn về lý luận của người chơi, quyết định phân xử và kết quả so với các phương pháp truyền thống. Từ phân tích chiến thuật mô phỏng, chúng ta áp dụng các phương pháp cần thiết để hiểu và phát triển khả năng ra quyết định chiến lược của AI.

Vấn đề dữ liệu

Trong bài luận khám phá về trí tuệ nhân tạo (AI) trong trò chơi chiến tranh, Panda và Reddie đề xuất một số cách mà họ tin rằng các công cụ AI sẽ tạo ra sự thay đổi lớn trong lĩnh vực trò chơi chiến tranh. Trọng tâm của họ là sử dụng AI để xây dựng và hỗ trợ các trò chơi lấy con người làm trung tâm. AI có thể đảm nhận các nhiệm vụ tốn nhiều công sức như thiết kế kịch bản, phân xử, soạn thảo tài liệu bổ sung và thu thập dữ liệu. Làm như vậy sẽ tăng tốc độ chơi game, cung cấp cho người chơi một thế giới game chi tiết hơn và giải phóng thời gian và năng lượng của các nhà phân tích. Họ cũng đề xuất sự hợp tác giữa AI và con người cho người chơi, cho phép con người tập trung vào các quyết định chiến lược trong khi máy móc xử lý việc chuyển đổi ý định chiến lược thành các nước đi hợp lệ trong game. Chúng tôi đồng ý với tất cả những điều này. Chúng tôi cũng đồng ý rằng các trò chơi chỉ do các mô hình AI chơi cho chúng ta biết nhiều hơn về các mô hình đó so với cách con người sẽ chiến đấu trong một cuộc chiến – điều mà, như họ nói, “dường như vẫn, tính đến năm 2026, mô tả tốt nhất các đường nét có thể xảy ra của các cuộc chiến tranh hạt nhân trong thế giới thực”. Điểm mà chúng tôi phản đối nằm ở hai luận điểm: rằng nhận thức của máy móc tự nó là một chủ đề hợp pháp để nghiên cứu trò chơi chiến tranh, và rằng định nghĩa về trò chơi chiến tranh nên mở rộng đến những người ra quyết định không phải con người. Chúng tôi ủng hộ cả hai.

Lĩnh vực này cần phải quyết định chính xác mức độ mà nó sẽ duy trì quan điểm lấy con người làm trung tâm. “Vấn đề dữ liệu” mà chúng ta đề cập ở đây là một câu hỏi: Nếu Trung úy Data của Star Trek tham gia một trò chơi chiến thuật, liệu nó có còn là trò chơi chiến thuật nữa không? Tập phim “Peak Performance” đã trực tiếp khai thác điều này, với Data đối đầu với một bậc thầy sinh học trong trò chơi Strategema, và cho thấy một trí tuệ máy móc định nghĩa lại các mục tiêu giữa chừng bằng cách chơi để đạt được thế bế tắc vô thời hạn thay vì chiến thắng. Đây chính xác là loại chiến lược mới lạ mà chúng ta hy vọng sẽ xuất hiện trong trò chơi chiến thuật sử dụng trí tuệ nhân tạo. Không có gì vốn có trong trò chơi chiến thuật đòi hỏi người chơi hoặc trọng tài là con người. Đặt một trí tuệ nhân tạo đủ tiên tiến vào một trò chơi chiến thuật, và nó vẫn là một trò chơi chiến thuật. Đây không phải là một giả thuyết.

Chúng tôi tin rằng bản chất của việc ai, hoặc cái gì, đưa ra quyết định trong các tình huống chiến lược đang thay đổi. Có vẻ hợp lý khi cho rằng những người ra quyết định trong tương lai nhiều khả năng sẽ là các nhóm người-AI hơn là chỉ con người. Điều này mở ra hướng nghiên cứu trò chơi chiến tranh không chỉ đến việc đưa người chơi AI vào làm đối tượng nghiên cứu, mà còn đến cách các khái niệm làm việc nhóm khác nhau xử lý mối quan hệ giữa AI và con người. Câu trả lời mà AI đưa ra cho các câu hỏi chiến lược trở nên quan trọng, cũng như việc nhóm ra quyết định tổng hợp tiếp nhận những câu trả lời đó.

Chúng tôi đề xuất mở rộng định nghĩa về trò chơi chiến tranh của Panda và Reddie từ “một phương pháp nghiên cứu nhận thức của con người trong điều kiện chiến lược” thành “một phương pháp nghiên cứu nhận thức của người ra quyết định trong điều kiện chiến lược”. Định nghĩa của họ vẫn rất quan trọng để hiểu các loại câu hỏi mà trò chơi chiến tranh có thể trả lời, trong khi phần mở rộng của chúng tôi xác định một lĩnh vực nghiên cứu bổ sung. “Người ra quyết định” và “con người” đã từng đồng nghĩa với nhau, nhưng điều đó đang thay đổi. Trí tuệ nhân tạo (AI) ít nhất sẽ hỗ trợ quá trình ra quyết định của con người. Sự tiến bộ liên tục sẽ trao cho AI nhiều quyền tự chủ hơn — trong các quyết định thực thi, ngay cả khi không phải là các lựa chọn chiến lược. Việc mô phỏng phản ứng của tàu Starship Enterprise trước cuộc xâm lược của người Romulan sẽ thất bại nếu bạn chỉ mô phỏng Thuyền trưởng Jean-Luc Picard mà không phải toàn bộ phi hành đoàn trên cầu tàu. Bạn không thể bỏ Data ra khỏi trò chơi chiến tranh của mình.

Mô phỏng chiến tranh cho tâm lý học máy móc

Chúng ta cần những công cụ để tìm hiểu cách thức, lý do và thậm chí liệu các mô hình ngôn ngữ quy mô lớn có suy luận hay không. Trò chơi chiến thuật cung cấp môi trường thử nghiệm để xây dựng các mô hình về chiến lược và thiên kiến ​​của AI, tạo ra bản đồ về nhận thức và ra quyết định của máy móc trong điều kiện không chắc chắn và căng thẳng. Tuy nhiên, liệu bất kỳ mô hình nào được tiết lộ có bền vững và có khả năng dự đoán hay không vẫn là một câu hỏi mở. Chúng ta nên thận trọng để không nhầm lẫn bản đồ của mình với lãnh thổ thực tế. Nguy cơ vượt ra ngoài lãnh thổ đã được lập bản đồ là có thật trong không gian quyết định chiến lược — các cuộc khủng hoảng, về bản chất, thường là những sự kiện mới lạ. Dự đoán hành vi của một mô hình trong không gian chưa được lập bản đồ chỉ có thể được thực hiện bằng cách suy luận về cách nó hoạt động trong một không gian tương tự, giống như cách chúng ta đang cố gắng làm với con người hiện nay.

Liệu các mô hình ngôn ngữ lớn — hay bất kỳ phiên bản AI nào trong tương lai — có trí tuệ hay không, và do đó có tương quan trực tiếp với tâm lý con người hay không, là một câu hỏi lớn. Chúng ta không trả lời câu hỏi đó ở đây. Điều chúng ta cần hiểu là đầu ra của các mô hình ngôn ngữ lớn trong các kịch bản chiến lược phụ thuộc vào đầu vào như thế nào. Một AI trong trò chơi chiến tranh về mặt chức năng sẽ đưa ra quyết định và thực hiện các nước đi phù hợp với luật chơi. Liệu việc đưa ra các nước đi có phải là suy luận? Thử nghiệm hạn chế của chúng tôi cho thấy không phải lúc nào cũng vậy. Trong một loạt trò chơi chiến tranh thời Napoleon, Pháp luôn xâm lược Nga vào năm 1812 bất kể trạng thái thế giới của trò chơi. Điều này dường như là một biểu hiện trong trò chơi chiến tranh của những phát hiện của một nhóm học giả từ MIT và Đại học Boston, trong đó hiệu suất thực hiện nhiệm vụ của mô hình ngôn ngữ bị suy giảm trong điều kiện “phản thực tế” , thực hiện nhiều “đọc thuộc lòng” hơn là “suy luận”. Xu hướng đọc thuộc lòng đó không nên được coi là một trở ngại cho việc mô tả đặc điểm: Nó là một phần của việc mô tả đặc điểm. Ranh giới nơi các mô hình chuyển đổi giữa suy luận và đọc thuộc lòng tự nó là một câu hỏi nghiên cứu. Những giới hạn đó rất quan trọng đối với các trò chơi chiến tranh vì các tình huống khủng hoảng mà chúng mô tả thường hướng đến tương lai: Một mô hình chỉ đơn thuần lặp lại các câu trả lời lịch sử sẽ không có nhiều giá trị.

Nhưng việc lập bản đồ “ tâm lý máy móc ” có một chức năng thực tiễn ngoài bất kỳ giả định nào về sự tồn tại hay vắng mặt của một trí tuệ đằng sau đầu ra. Việc khớp các kích thích đầu vào với các đầu ra có thể xảy ra của một mô hình, hoặc một tập hợp các mô hình, cải thiện khả năng dự đoán của chúng ta về các quyết định của nó. Chúng ta không cần một trí tuệ tại chỗ để hưởng lợi từ sức mạnh dự đoán được cải thiện đó. Các thiên kiến ​​của mô hình ngôn ngữ lớn sẽ ảnh hưởng đến các quá trình ra quyết định trong tương lai, với tư cách là cố vấn hoặc người ra quyết định chính. Một số đã được đặt tên — thiên kiến ​​leo thang — nhưng chưa được định nghĩa rõ ràng, và phạm vi hạn chế của các nghiên cứu cho đến nay khiến bất kỳ tuyên bố nào về các thiên kiến ​​mô hình cụ thể đều không có cơ sở. Trò chơi chiến thuật với sự phản kháng đối kháng là nơi chúng ta có thể lập bản đồ các thiên kiến ​​này một cách nghiêm ngặt. Những khác biệt nào trong lối chơi xuất hiện khi AI có thể lựa chọn giữa các tùy chọn di chuyển rời rạc theo thiết lập của Rivera so với các bước di chuyển tự do? Thiên kiến ​​leo thang xuất hiện nhiều hơn trên các mô hình Anthropic hay OpenAI? Nó mạnh lên hay yếu đi nếu được nhắc bằng tiếng Quan thoại hoặc tiếng Nga thay vì tiếng Anh? Hannah Waight và cộng sự . Các nghiên cứu trên tạp chí Nature cho thấy truyền thông do nhà nước kiểm soát định hình kho dữ liệu huấn luyện sẵn có, và các mô hình ngôn ngữ quy mô lớn được sử dụng với ngôn ngữ của một quốc gia có sự kiểm soát báo chí cao — ví dụ như Trung Quốc hoặc Nga — sẽ đưa ra các phản hồi thân thiện hơn với chế độ. Đây không phải là phát hiện về việc ra quyết định chiến lược, nhưng nó chứng minh rằng đầu ra của mô hình có thể nhạy cảm với các đầu vào tưởng chừng như trung lập. Loại nghiên cứu này rất quan trọng để hiểu được sự thiên vị của mô hình và cách dự đoán hoặc kiểm soát chúng. Các trò chơi chiến tranh cho phép chúng ta kiểm tra xem những sự thiên vị đó có ảnh hưởng đến chiến lược của các mô hình ngôn ngữ quy mô lớn hay không.

Đây không chỉ đơn thuần là một nghiên cứu mang tính học thuật. Lợi thế trong việc ra quyết định chiến lược sẽ thuộc về bên nào hiểu rõ hơn về bộ máy ra quyết định của chính mình và của đối phương . Nếu chúng ta coi việc các quốc gia sử dụng các công cụ ra quyết định dựa trên trí tuệ nhân tạo là điều hiển nhiên, thì việc hiểu được những lời khuyên mà các mô hình đó có khả năng đưa ra cho các loại tình huống nhất định sẽ mang lại giá trị. Việc biết được đối phương sử dụng mô hình AI nào và cho những loại vấn đề nào — kết hợp với những hiểu biết về tâm lý máy móc — có thể giúp mô hình hóa tốt hơn các quyết định của đối phương.

Việc hiệu chỉnh nổi lên như một thách thức lớn. Chúng ta may mắn là chưa ai từng trải qua chiến tranh hạt nhân, nhưng điều đó khiến chúng ta thiếu dữ liệu về quá trình ra quyết định ở đỉnh điểm của thang leo thang xung đột. Thiếu dữ liệu đó, dường như không có một giải pháp duy nhất nào. Thay vào đó, nó đòi hỏi một chiến dịch thử nghiệm. Một hướng phân tích là so sánh quá trình ra quyết định chiến lược của AI với hành vi tối ưu về mặt toán học. Ví dụ, so sánh hiệu suất của mô hình ngôn ngữ quy mô lớn với các giải pháp cân bằng lý thuyết trò chơi được tính toán, hoặc, như Jon Wetzel và cộng sự đã bắt đầu, bằng cách so sánh với chính sách học tăng cường tối ưu . Ngoài ra, chúng ta có thể xem xét các trường hợp lịch sử và khám phá xem liệu có sự nhất quán trong lý luận chiến lược của chúng trên phạm vi mà chúng ta có dữ liệu hay không, đồng thời lưu ý rằng khó khăn trong việc thuật lại lịch sử khiến điều này trở nên thách thức. Một hướng phân tích khác là so sánh AI với lối chơi của con người - không phải để xác nhận các nước đi của chúng, mà để trả lời câu hỏi liệu chúng có chơi giống con người hay không - và có khả năng xác định ai đưa ra quyết định chiến lược tốt hơn trong những tình huống nào. Không có phương pháp nào trong số này giải quyết hoàn toàn vấn đề hiệu chỉnh, nhưng chúng cung cấp cho chúng ta các cách để kiểm tra các giả thuyết về lối chơi của AI và thể hiện chính xác các phát hiện của chúng ta.

Chiến dịch Khoa học

Để xử lý AI trong các trò chơi chiến tranh, chúng ta cần thực hiện một chương trình nghiên cứu quy mô lớn với khả năng tính toán đáng kể và khuôn khổ kỷ luật để coi các trò chơi chiến tranh như các thí nghiệm khoa học. Một phần đáng kể khả năng tính toán sẽ được dành không phải cho việc sao chép trò chơi, mà cho việc mô tả các thành kiến ​​và hành vi của người chơi AI. Việc tiếp cận thông tin an ninh quốc gia, bao gồm cả tài liệu mật, và với giới lãnh đạo cấp cao cũng rất quan trọng. Cũng cần phải giảm thiểu sự biến đổi của mô hình, chẳng hạn như các bản cập nhật từ nhà cung cấp trong quá trình nghiên cứu, ít nhất là cho đến khi chúng ta hiểu liệu bất kỳ phát hiện nào có thể được khái quát hóa hay không: Điều này đòi hỏi sự liên kết chặt chẽ với các nhà cung cấp hoặc khả năng lưu trữ cục bộ các mô hình và trọng số. Cơ sở hạ tầng mô hình cục bộ cũng giúp giảm bớt các thách thức về bảo mật — chứng nhận hệ thống, xử lý dữ liệu, v.v. — phát sinh khi cố gắng chạy các kịch bản trò chơi chiến tranh mật trên các dịch vụ lưu trữ của các nhà phát triển tiên tiến. Điều này khiến chúng ta mất đi quyền truy cập vào các biến thể mô hình tiên tiến nhất, có thể là những biến thể được các nhà ra quyết định sử dụng, vì vậy việc so sánh hoạt động cục bộ với hoạt động thương mại sẽ trở thành một câu hỏi nghiên cứu riêng biệt. Rất ít tổ chức hội tụ được tất cả các yếu tố này, và chúng tôi tin rằng nỗ lực này sẽ đòi hỏi sự hợp tác giữa các tổ chức mô phỏng chiến tranh truyền thống, giới học thuật, các nhà phát triển trí tuệ nhân tạo và các phòng thí nghiệm quốc gia — bao gồm cả Lawrence Livermore, nơi cả hai chúng tôi cùng làm việc.

Chúng tôi đề xuất ba nghiên cứu mô phỏng chiến tranh bằng trí tuệ nhân tạo, theo thứ tự ưu tiên.

Đầu tiên, cần xác định nguồn gốc của sự thiên lệch leo thang trong mô hình ngôn ngữ lớn trong các trò chơi. Payne cho rằng nguồn gốc nằm trong chính các mô hình, Panda và Reddie cho rằng nó nằm trong tập dữ liệu huấn luyện, trong khi chúng tôi đề xuất rằng nó có thể nằm ở cấu trúc trò chơi — cụ thể là việc xác định mục tiêu. Một thí nghiệm sử dụng một phiên bản mô hình cố định và một kịch bản trò chơi duy nhất sẽ cho phép chúng ta đánh giá động lực leo thang và giảm leo thang trong khi thay đổi các yếu tố mà chúng ta không thể tách rời: các nước đi tự do so với các nước đi được chọn từ menu và các mục tiêu tự định hướng so với các mục tiêu do trò chơi quy định. Chúng tôi ưu tiên điều này vì nó yêu cầu ít tài nguyên nhất — vài trăm lần chạy với một mô hình duy nhất — và vì sự thiên lệch leo thang trong mô hình ngôn ngữ lớn là phát hiện thực nghiệm quan trọng nhất trong các nghiên cứu về trò chơi chiến tranh AI hiện nay. Nếu sự thiên lệch leo thang là kết quả của cấu trúc trò chơi, thì các nghiên cứu trước đó là các phép đo về hệ thống, chứ không phải mô hình, và sự leo thang đến từ bên trong hệ thống. Đây là câu hỏi mà nghiên cứu ba lần chạy của chúng tôi đã đặt ra và không thể trả lời.

Thứ hai, cần xác định các điều kiện ranh giới mà tại đó các mô hình ngôn ngữ lớn trong trò chơi chiến tranh chuyển từ suy luận sang thuật lại. Điều này có thể được thực hiện bằng cách sử dụng các kịch bản lịch sử, trước tiên là khớp chính xác với hồ sơ lịch sử và sau đó thêm nhiều sự khác biệt để khám phá khi nào mô hình ngôn ngữ lớn từ bỏ lịch sử. Một yếu tố khác cần xem xét là lượng và loại dữ liệu được cung cấp cho mô hình ngôn ngữ lớn về trạng thái của thế giới trò chơi sẽ làm thay đổi ranh giới như thế nào. Chúng tôi kỳ vọng rằng một mô hình ngôn ngữ lớn được cung cấp thông tin có độ chính xác cao về trạng thái trò chơi sẽ có nhiều khả năng thử các phương pháp mới hơn là thuật lại lịch sử. Nghiên cứu này đòi hỏi nguồn lực lớn hơn để phát triển nhiều kịch bản lịch sử và các mức độ sai lệch khác nhau so với kịch bản gốc, và sẽ cần nhiều lần chạy hơn.

Cuối cùng, cần kiểm tra xem các phát hiện có thể áp dụng tốt như thế nào trên nhiều mô hình khác nhau. Điều này dựa trên hai nghiên cứu trên, lấy kết quả từ một mô hình duy nhất và mở rộng chúng để xác định xem các phát hiện có thể khái quát hóa cho toàn bộ nhóm các mô hình ngôn ngữ lớn hay không. Điều này sẽ đòi hỏi lượng tài nguyên tính toán lớn nhất và quyền truy cập vào nhiều mô hình, tốt nhất là được lưu trữ cục bộ để tránh sự ảnh hưởng của các bản cập nhật từ nhà cung cấp. Kết quả của nghiên cứu này sẽ cho phép chúng ta trả lời liệu dự án này có thể tạo ra kiến ​​thức bền vững về các mô hình ngôn ngữ lớn nói chung trong việc ra quyết định chiến lược hay chúng ta chỉ có thể mô tả đặc điểm của từng mô hình riêng lẻ. Câu trả lời đó sẽ cung cấp thông tin cho mọi nỗ lực tiếp theo, cả trong nghiên cứu mô phỏng chiến tranh và trong các ưu tiên tình báo thực tế về cấu trúc ra quyết định của đối phương.

Dustin League là một nhà phân tích hệ thống và vận hành cấp cao tại Phòng thí nghiệm Quốc gia Lawrence Livermore, nơi ông làm việc về thích ứng công nghệ quân sự, phòng thủ hành tinh, định lượng răn đe và chiến tranh năng lượng.

Tiến sĩ William Dawson đứng đầu Nhóm Phân tích Cạnh tranh Chiến lược tại Phòng thí nghiệm Quốc gia Lawrence Livermore, nơi ông và nhóm của mình tiến hành nhiều nghiên cứu phân tích hệ thống và răn đe nhằm hỗ trợ an ninh quốc gia.

Nguồn:

Where Does AI Escalation Come From? We Don’t Know. We Should Find Out.

https://warontherocks.com/where-does-ai-escalation-come-from-we-dont-know-we-should-find-out/