5077 - Thỏa thuận lớn về AI

Ben Buchanan and Tantum Collins

Hình ảnh Ninta Fosch

Sự dẫn đầu của Hoa Kỳ trong lĩnh vực trí tuệ nhân tạo dường như không thể lay chuyển. Các công ty Hoa Kỳ—Anthropic, Google, OpenAI và xAI—đang dẫn đầu trong hầu hết các đánh giá về năng lực chung của công nghệ. Các mô hình AI của Mỹ đang vượt trội hơn các nhà khoa học trình độ tiến sĩ trong các vấn đề thách thức về vật lý, hóa học và sinh học. Chỉ một vài công ty AI và chip khổng lồ của Mỹ có giá trị hơn toàn bộ thị trường chứng khoán Trung Quốc, và các nhà đầu tư từ khắp nơi trên thế giới đang đổ ngày càng nhiều nguồn lực vào hệ sinh thái AI của Mỹ.

Sự tiến bộ chóng mặt này, xét trên nhiều phương diện, là minh chứng cho sức mạnh của mô hình phát triển AI của Mỹ đã thống trị trong thập kỷ qua: để khu vực tư nhân tự vận hành, với sự can thiệp hoặc cung cấp nguồn lực trực tiếp đáng kể của chính phủ. Cách tiếp cận này khá khác biệt so với những cách tiếp cận đã mở ra những công nghệ đột phá trong quá khứ. Vũ khí và năng lượng hạt nhân, du hành vũ trụ, hệ thống tàng hình, máy tính cá nhân và Internet xuất hiện trực tiếp từ các nỗ lực của chính phủ Hoa Kỳ hoặc nhờ nguồn tài trợ công đáng kể. AI cũng bắt nguồn từ khoa học do chính phủ tài trợ, bao gồm cả máy tính cá nhân và Internet, và được hưởng lợi từ các nghiên cứu đang diễn ra do chính phủ hỗ trợ. Tuy nhiên, việc mở rộng AI về cơ bản là một hoạt động của khu vực tư nhân.

Tuy nhiên, có lý do để tin rằng cách phát triển AI của Mỹ đang đạt đến giới hạn. Những giới hạn đó có thể sẽ ngày càng rõ ràng hơn trong những tháng và năm tới, và chúng sẽ bắt đầu làm xói mòn - và thậm chí có thể chấm dứt - sự thống trị của Hoa Kỳ. Cuối cùng, chúng sẽ đặt Hoa Kỳ vào thế bất lợi trước Trung Quốc, quốc gia có một cách tiếp cận khác trong cuộc cạnh tranh AI.

Để tránh kết cục đó, Washington sẽ cần áp dụng những cách thức mới để thúc đẩy phát triển AI, những cách thức đòi hỏi sự hỗ trợ lẫn nhau chặt chẽ hơn nhiều giữa khu vực tư nhân và nhà nước. Những tiến bộ hơn nữa hiện nay phụ thuộc vào các nguồn lực và năng lực mà chỉ chính phủ mới có thể cung cấp hoặc tạo điều kiện: năng lượng để vận hành các trung tâm dữ liệu ngày càng lớn, nguồn nhân lực quốc tế và khả năng phòng thủ hiệu quả chống lại các nỗ lực gián điệp tinh vi của nước ngoài. Về phần mình, chính phủ Hoa Kỳ sẽ cần sự hợp tác của khu vực tư nhân để tích hợp AI vào bộ máy an ninh quốc gia và đảm bảo công nghệ này không làm suy yếu nền dân chủ trên toàn thế giới.

Nói cách khác, mô hình AI mới của Mỹ phải được duy trì trong một cuộc mặc cả lớn giữa ngành công nghệ và chính phủ. Ngành công nghệ có thể giúp nhà nước hiểu rõ và triển khai AI. Nhà nước có thể giúp ngành công nghệ tiếp tục phát triển theo hướng mang lại lợi ích cho tất cả mọi người.

TỐI ĐA HÓA

Thật dễ hiểu tại sao cách tiếp cận nhẹ nhàng của Washington đối với AI nhìn chung đã mang lại những lợi ích. Các công nghệ mang tính cách mạng trong quá khứ, chẳng hạn như vũ khí hạt nhân và du hành vũ trụ, không có ứng dụng thương mại ngay lập tức. Nhưng cơ hội kinh doanh cho AI hiện đại đã rất hấp dẫn. Các công ty AI đã nhận thấy nhu cầu người dùng rất lớn, dẫn đến doanh thu tăng vọt, và họ đã hứa sẽ tự động hóa vô số nhiệm vụ có giá trị, chẳng hạn như lập trình. Kết quả là, thị trường vốn đang tài trợ cho các dự án AI ở quy mô mà trước đây đòi hỏi nguồn lực của chính phủ. Hơn nữa, bản chất tập trung vào tính toán của AI ngày nay đồng nghĩa với việc nó được xây dựng gọn gàng trên cơ sở hạ tầng điện toán đám mây mà khu vực tư nhân, chứ không phải chính phủ, đã nắm vững.

Việc nguồn vốn tư nhân dồi dào để thúc đẩy sự tiến bộ của AI là điều tuyệt vời đối với người nộp thuế, nhưng những hạn chế của cách tiếp cận này đang trở nên rõ ràng. Để hiểu lý do, hãy xem xét cơ sở hạ tầng. Lượng chip máy tính khổng lồ cần thiết để phát triển và sử dụng AI ngày nay đòi hỏi một lượng năng lượng khổng lồ, vì vậy các công ty Hoa Kỳ sẽ cần nhiều năng lượng hơn để cung cấp năng lượng cho các trung tâm dữ liệu mà họ dự định xây dựng trong những năm tới. Một phân tích của Anthropic ước tính rằng Hoa Kỳ sẽ cần sản xuất 50 gigawatt điện mới chỉ dành cho AI vào năm 2028—tương đương với lượng điện mà toàn bộ đất nước Argentina đang sử dụng hiện nay. (Một trong số chúng tôi, Buchanan, tư vấn cho các công ty AI và an ninh mạng, bao gồm cả Anthropic.) Đến lúc đó, các trung tâm dữ liệu có thể tiêu thụ tới 12% sản lượng điện của Hoa Kỳ. Nếu không có thêm điện, việc phát triển AI sẽ bị đình trệ. Ví dụ, CEO của Amazon, Andy Jassy, ​​đã gọi năng lượng là "rào cản lớn nhất" đối với sự tiến bộ của AI. Và việc xây dựng cơ sở hạ tầng mới ở cấp độ này sẽ cần sự hỗ trợ của chính phủ.

Trong một thời gian dài, Washington đã làm quá ít để bổ sung nguồn điện mới vào lưới điện. Từ năm 2005 đến năm 2020, Hoa Kỳ gần như không bổ sung thêm nguồn điện mới. Sau khi Tổng thống Hoa Kỳ Joe Biden nhậm chức vào năm 2021 và thông qua luật trợ cấp xây dựng cơ sở hạ tầng năng lượng sạch, nước này đã bổ sung hơn 100 gigawatt công suất mới. Trong những ngày cuối nhiệm kỳ, ông đã ký một sắc lệnh hành pháp nhằm mục đích đẩy nhanh hơn nữa việc phát triển AI và năng lượng sạch. Tuy nhiên, mặc dù người kế nhiệm ông, Donald Trump, đã nói những điều đúng đắn về việc xây dựng cơ sở hạ tầng năng lượng mới cho AI, nhưng ông đã không thực hiện. Ông đã ký một sắc lệnh hành pháp để đẩy nhanh việc cấp phép liên bang cho các trung tâm dữ liệu, nhưng việc triển khai vẫn còn đang ở giai đoạn đầu. Tệ hơn nữa, "Dự luật Lớn Tuyệt Vời" mang dấu ấn của ông, được thông qua vào tháng 7, và các hành động hành pháp khác đã phá hủy các phần quan trọng trong nỗ lực mở rộng năng lượng của Biden, chẳng hạn như các dự án truyền tải quan trọng. Một lĩnh vực lẽ ra đã có thể thành công nhờ lưỡng đảng đã trở thành nạn nhân của chính trị và giờ đây đã trở thành mối quan tâm lớn đối với khả năng cạnh tranh của doanh nghiệp và AI.

Có lý do để tin rằng cách thức phát triển AI của Mỹ đang đạt đến giới hạn.

Nếu được thực hiện tốt, một sự bùng nổ năng lượng dựa trên AI sẽ mang lại những lợi ích vượt xa bản thân việc phát triển AI. Các công ty AI hàng đầu đang chi hàng trăm tỷ đô la cho việc xây dựng cơ sở hạ tầng, tạo ra cơ hội việc làm. Họ đã cam kết hoạt động không phát thải carbon và thể hiện sự sẵn sàng trả giá cao hơn cho năng lượng sạch. Những khoản đầu tư khổng lồ này có thể thúc đẩy sự phát triển trong nước các nguồn năng lượng tốt hơn, nhiều trong số đó được cả hai đảng ủng hộ, chẳng hạn như năng lượng địa nhiệt tiên tiến và các cơ sở hạt nhân thế hệ tiếp theo. Các mô hình AI mạnh mẽ cũng có thể thúc đẩy nghiên cứu liên quan đến khí hậu.

Tuy nhiên, nếu Hoa Kỳ không xây dựng thêm công suất năng lượng, các công ty AI của Mỹ sẽ cảm thấy áp lực phải thuê ngoài việc phát triển các cơ sở quan trọng về mặt chiến lược - có thể là các khu vực giàu dầu mỏ như Vịnh Mexico, nơi sử dụng nhiên liệu bẩn hơn. Đối với Washington, bất kỳ triển vọng nào về việc chuyển giao AI ra nước ngoài đều nên gióng lên hồi chuông cảnh báo. Một công ty Mỹ chuyển giao chương trình đào tạo AI tiên tiến sang một quốc gia nước ngoài, đặc biệt là một quốc gia độc tài, sẽ gây ra những rủi ro rất lớn khi AI bắt đầu thúc đẩy nền kinh tế Hoa Kỳ và đóng một vai trò không thể thiếu trong quốc phòng. Nếu một quốc gia chủ nhà không hài lòng với hành vi của Mỹ, họ có thể trừng phạt Washington chỉ bằng một cái búng tay. Việc không xây dựng được năng lực năng lượng trong nước do đó sẽ lặp lại những sai lầm trong việc thuê ngoài của các ngành công nghiệp quan trọng khác trong nhiều thập kỷ qua, chẳng hạn như chất bán dẫn, mà Hoa Kỳ hiện đang phụ thuộc vào các nhà cung cấp nước ngoài.

Hoa Kỳ có công nghệ và năng lực công nghiệp cần thiết để xây dựng các cơ sở năng lượng mới. Tuy nhiên, việc này vẫn bị cản trở bởi hàng loạt quy định của chính phủ và các công ty tiện ích, cũng như sự chậm trễ về thủ tục - một số có lý do chính đáng, một số thì không. Những hạn chế này gây ra sự chậm trễ rất lớn trong việc kết nối (quá trình kết nối nguồn điện hoặc trung tâm dữ liệu mới với lưới điện) và đòi hỏi phải đánh giá tác động môi trường trong nhiều năm. Bên cạnh những rào cản của liên bang và các công ty tiện ích, các chính sách của tiểu bang và địa phương có thể rất phức tạp, đặc biệt là đối với các dự án liên bang, chẳng hạn như đường dây truyền tải. Các công ty - chứ không phải công dân - nên trả tiền cho việc xây dựng năng lượng, nhưng các chính sách của chính phủ phải tạo điều kiện cho họ thực hiện các dự án này theo đúng tiến độ.

Cơ sở hạ tầng không phải là lĩnh vực duy nhất mà các chính sách của Mỹ kìm hãm ngành AI. Sự phát triển của AI phụ thuộc nhiều vào nhân tài cũng như công nghệ và sức mạnh tính toán, đó là lý do tại sao chính quyền Biden đã hành động quyết liệt để tạo điều kiện cho những người có năng lực kỹ thuật đặc biệt đến Hoa Kỳ từ khắp nơi trên thế giới. Nỗ lực này bao gồm việc nâng tầm AI và các lĩnh vực công nghệ cao khác thành các lĩnh vực ưu tiên cấp thị thực, cũng như cập nhật các tiêu chí đủ điều kiện để chào đón các nhà khoa học hàng đầu.

Về vấn đề này, Trump đôi khi nói đúng nhưng luôn thất bại trong thực tế. Trong chiến dịch tranh cử tổng thống năm 2024, ông tuyên bố rằng khi sinh viên nước ngoài tốt nghiệp các trường đại học Hoa Kỳ, họ sẽ "tự động" nhận được thẻ xanh. Thay vào đó, dưới sự lãnh đạo của ông, Hoa Kỳ đã bắt đầu đóng cửa với người lao động và sinh viên nước ngoài, đe dọa ngay cả những người có thị thực và đang cư trú hợp pháp. Vào tháng 9, chính quyền thậm chí còn tuyên bố sẽ áp dụng mức phí 100.000 đô la cho các đơn xin thị thực H1-B - loại thị thực thường được cấp cho người nhập cư có tay nghề cao. Những động thái như vậy đã và đang gây ra những tác động tiêu cực. Ví dụ, nghiên cứu sơ bộ của NAFSA, một hiệp hội phi lợi nhuận của các nhà giáo dục quốc tế, cho thấy vào năm 2025, các trường đại học Mỹ sẽ bị giảm 30 đến 40% lượng tuyển sinh quốc tế.

Nếu Washington cắt đứt quan hệ với các nhà khoa học sinh ra ở nước ngoài hoặc trục xuất họ về nước, hậu quả sẽ vô cùng thảm khốc. Hoa Kỳ dẫn đầu cuộc đua AI phần lớn là nhờ thu hút các chuyên gia từ khắp nơi trên thế giới. Theo một nghiên cứu của Đại học Georgetown về nghiên cứu AI từ năm 2010 đến năm 2021, 70% các nhà nghiên cứu AI hàng đầu tại Hoa Kỳ sinh ra ở nước ngoài. 65% các công ty AI hàng đầu tại Hoa Kỳ, theo xếp hạng của Forbes, có ít nhất một nhà đồng sáng lập là người nhập cư. Trước nhiệm kỳ tổng thống hiện tại của Trump, 70% sinh viên theo học các chương trình sau đại học về AI tại Hoa Kỳ đến từ nước ngoài. Trước đây, phần lớn những sinh viên này đã ở lại, thường có những đóng góp quan trọng cho ngành công nghiệp và học thuật của Hoa Kỳ. Nhưng nhờ các chính sách của Trump, nhiều sinh viên ngày nay có thể sẽ trở về nước. Một số có thể đến Trung Quốc, quốc gia đã nhận thấy cơ hội tuyển dụng các chuyên gia AI - và cũng là thách thức lớn nhất đối với lợi ích AI của Hoa Kỳ.

THÁCH THỨC TỪ TRUNG QUỐC

Bảo vệ vị thế dẫn đầu về AI của Hoa Kỳ không chỉ là vấn đề tự hào. Điều này rất cần thiết cho an ninh quốc gia và khả năng cạnh tranh kinh tế của Hoa Kỳ. Trung Quốc đã và đang đạt được những bước tiến trong phát triển AI, và mặc dù chưa có công ty nào của họ có thể sánh ngang với những công ty tốt nhất của Mỹ, nhưng họ không thiếu nhân tài kỹ thuật.

Trung Quốc phải đối mặt với một bất lợi nghiêm trọng trong cuộc cạnh tranh này: không có khả năng sản xuất số lượng lớn chip AI tiên tiến, một điểm yếu càng trầm trọng hơn do các biện pháp kiểm soát xuất khẩu của Hoa Kỳ bắt đầu từ nhiệm kỳ đầu tiên của Trump và được Biden mở rộng đáng kể. Nhưng sau khi ngành công nghiệp vận động hành lang mạnh mẽ, chính quyền Trump thứ hai đã bắt đầu phá bỏ lĩnh vực đồng thuận lưỡng đảng này. Ví dụ, vào tháng 7, chính quyền Trump đã đảo ngược quyết định hồi tháng 4 về việc loại Trung Quốc khỏi các chip AI mới hơn, và tổng thống cũng cho biết kế hoạch bãi bỏ các biện pháp kiểm soát khác dưới thời Biden. Những động thái như vậy gần như chắc chắn sẽ thúc đẩy sự phát triển AI của Trung Quốc.

Bắc Kinh đã hành động quyết đoán để đảm bảo rằng, nếu họ có được quyền truy cập vào các chip như vậy, phần còn lại của hệ sinh thái AI của họ sẽ thay thế Hoa Kỳ. Hãy xem xét năng lượng. Bắc Kinh đã đầu tư đáng kể vào các nhà máy điện, lưu trữ năng lượng và truyền tải năng lượng. Kết quả là, Trung Quốc hiện sản xuất lượng điện gấp đôi Hoa Kỳ và vị thế dẫn đầu của họ đang ngày càng được mở rộng. Chỉ trong vài tháng, quốc gia này đã lắp đặt hơn 90 gigawatt công suất năng lượng sạch mới - gần gấp đôi lượng điện mà các công ty AI của Mỹ sẽ cần trong vài năm tới.

Bắc Kinh cũng đã giành được lợi thế bằng cách hợp nhất ngành công nghiệp AI với bộ máy an ninh quốc gia. Bộ Quốc phòng Hoa Kỳ cho biết các công ty AI lớn của Trung Quốc, chẳng hạn như Tencent, là trụ cột chính trong chiến lược hợp nhất quân sự-dân sự của Trung Quốc. Các hệ thống AI như thế này có nhiều tiện ích cho các cơ quan quân sự và tình báo: chúng có thể hỗ trợ phát triển vũ khí, hoạt động mạng và giám sát trong nước, cùng nhiều nhiệm vụ khác. Đổi lại, chính phủ Trung Quốc đã cung cấp cho các công ty công nghệ sự hỗ trợ chính sách và an ninh toàn diện. Trước đây, sự hỗ trợ này bao gồm các dịch vụ quốc phòng và chuyển giao bí mật công nghiệp bị đánh cắp từ các doanh nghiệp Mỹ.

Việc mất vị thế dẫn đầu về AI vào tay Trung Quốc cũng sẽ gây ra thiệt hại to lớn trên toàn cầu. Ngày nay, người tiêu dùng trên toàn thế giới được hưởng lợi từ sự nghiêm ngặt và minh bạch của các quy định và tiêu chuẩn của Hoa Kỳ, thường được phát triển cùng với các nền dân chủ khác, trong nhiều lĩnh vực công nghệ. Ví dụ, các công nghệ mới như sạc xe điện đòi hỏi sự hợp tác toàn cầu về các tiêu chuẩn. AI sẽ đòi hỏi những mối quan hệ đối tác tương tự, và việc Washington dẫn đầu là vì lợi ích của mình. Nếu không, sẽ có nguy cơ các chế độ độc tài sẽ đơn phương đặt ra các tiêu chuẩn. Nếu Washington không thể thiết lập mối quan hệ tốt đẹp hơn với ngành AI của mình và đảm bảo vị thế dẫn đầu AI toàn cầu, bộ máy an ninh quốc gia Trung Quốc có thể định hình các tiêu chuẩn toàn cầu để tuân thủ các quy tắc kiểm duyệt của Trung Quốc.

ĐỂ LÀM ĐIỀU ĐÓ

Hiện tại, các mối quan hệ đối tác chặt chẽ giữa các công ty AI và các cơ quan an ninh quốc gia Hoa Kỳ còn rất ít, và những mối quan hệ hiện có vẫn đang ở giai đoạn đầu. Để giải quyết thiếu sót này, chính phủ sẽ cần hiểu rõ hơn về AI là gì và cách thức hoạt động của nó. Chính phủ có thể hỗ trợ các ngành công nghiệp Hoa Kỳ, nhưng chỉ trong những lĩnh vực mà họ hiểu sâu sắc, và hiện nay AI không nằm trong số đó. Trong nhiệm kỳ của mình, chúng tôi đã làm việc với một số công chức và sĩ quan quân đội thực sự am hiểu công nghệ, những người đã thúc đẩy thay đổi bộ máy hành chính. Chính quyền Biden đã tuyển dụng hàng trăm chuyên gia AI để củng cố đội ngũ của họ. Nhưng nhiều người đã bị sa thải hoặc rời khỏi chính phủ trong những tháng gần đây, bao gồm nhiều nhân viên kỹ thuật hàng đầu. Washington sẽ phải làm tốt hơn nữa trong việc đảm bảo nguồn nhân tài AI và đảo ngược xu hướng mà Trump đã khởi xướng.

Trong khi đó, các nhà lãnh đạo ngành công nghiệp phải đảm bảo các quan chức Hoa Kỳ hiểu rõ công việc của họ—và họ sẽ phải đáp ứng tốt hơn nhu cầu của Washington. Các nhà lãnh đạo AI ở Thung lũng Silicon có thể ngần ngại hợp tác chặt chẽ hơn với chính phủ, do sự thiếu hiểu biết về kỹ thuật và sự chậm chạp của bộ máy quan liêu, và do họ đã đạt được thành công khi hoạt động độc lập. Tuy nhiên, các giám đốc điều hành nên nhớ rằng sự hợp tác giữa ngành công nghiệp và Washington thường mang lại lợi ích cho tất cả mọi người. Chính quyền của Tổng thống Hoa Kỳ Franklin Roosevelt đã hợp tác với Công ty Ford Motor trong giai đoạn chuẩn bị cho Thế chiến II để sản xuất máy bay ném bom hạng nặng B-24 Liberator, tạo ra cả doanh thu cho Ford và máy bay rất cần thiết cho quân đội. Dự án Manhattan sẽ không thể thành công nếu không có DuPont, General Electric, Chrysler và các công ty trụ cột khác, tất cả đều được hưởng lợi từ sự hỗ trợ này. Và việc phát minh và cải tiến radar, vệ tinh, hàng không phản lực, bộ vi xử lý và Internet đều xuất phát từ sự hợp tác giữa doanh nghiệp và chính phủ.

Một lĩnh vực quan trọng mà chính phủ có thể hỗ trợ các công ty là hỗ trợ an ninh. Do AI ngày càng thiết yếu đối với an ninh quốc gia, các cơ quan tình báo nước ngoài đang tăng cường nỗ lực đánh cắp các sáng kiến ​​từ các doanh nghiệp công nghệ Hoa Kỳ. Ví dụ, vào tháng 3 năm 2024, Bộ Tư pháp Hoa Kỳ đã ra lệnh cho Linwei Ding, một kỹ sư phần mềm của Google, vì cáo buộc chuyển giao thiết kế chip AI của Google cho Trung Quốc. Bắc Kinh cũng đã nỗ lực để buôn lậu các sản phẩm công nghệ tiên tiến của Mỹ, chẳng hạn như chính chip AI.

Điệp viên Trung Quốc sẽ moi móc bất kỳ bí mật AI nào có thể từ các doanh nghiệp Mỹ. Nhưng họ có lý do chính đáng để tập trung vào việc đánh cắp trọng số mô hình - những con số mã hóa một mô hình AI đã được đào tạo. Nhờ đó, các công ty Trung Quốc có thể tránh được chi phí đào tạo, cũng như giảm thời gian phát triển mô hình. Ví dụ, các công ty AI đang nỗ lực khám phá các thủ thuật thuật toán cho phép họ sử dụng sức mạnh tính toán hiệu quả hơn. Đối với Trung Quốc, với những hạn chế nghiêm trọng về sức mạnh tính toán, những hệ số nhân như vậy gần như chắc chắn có giá trị vô cùng lớn. Những hệ số nhân này có thể được bảo vệ kém hơn nhiều so với những bí mật cốt lõi của các thời đại trước, chẳng hạn như thời đại nguyên tử và không gian, đơn giản vì chính phủ phần lớn không tham gia vào quá trình phát triển chúng.

Nếu Washington cắt đứt quan hệ với các nhà khoa học nước ngoài, hậu quả sẽ vô cùng thảm khốc.

Các công ty AI chịu trách nhiệm chính trong việc bảo vệ mạng lưới và tổ chức của họ. Tuy nhiên, bất chấp sự mất mát chuyên môn gần đây, chính phủ Hoa Kỳ vẫn có năng lực an ninh mạng mà các doanh nghiệp không thể sánh kịp, và họ nên cung cấp hỗ trợ đáng kể, như hiện nay cho các công ty trong lĩnh vực công nghiệp quốc phòng và cơ sở hạ tầng quan trọng. Sự hỗ trợ đó có thể bao gồm thông tin tình báo về các nỗ lực tấn công mạng của nước ngoài, hỗ trợ sàng lọc nhân tài quốc tế và hướng dẫn về các quy trình bảo mật. Các công ty làm việc trực tiếp với chính phủ Hoa Kỳ về an ninh quốc gia nên đáp ứng các tiêu chuẩn nghiêm ngặt, tương tự như những tiêu chuẩn áp dụng cho các nhà thầu quốc phòng khác.

Để thực hiện được cam kết lớn này, các doanh nghiệp AI nên giúp Hoa Kỳ tích hợp công nghệ của họ vào bộ máy an ninh quốc gia. Sự thiếu tích hợp này là một điểm yếu dai dẳng của Washington. Các công ty Mỹ có thể dẫn đầu thế giới trong việc phát minh ra AI, nhưng nếu không có sự hợp tác như vậy, đất nước sẽ tụt hậu trong việc ứng dụng AI cho mục đích quân sự, điều này có thể gây ra hậu quả tàn khốc trong xung đột. Trong suốt lịch sử quân sự, nhiều lần, các quốc gia không tích hợp công nghệ mới vào lực lượng vũ trang của mình đã phải gánh chịu hậu quả. Ví dụ, Pháp và Vương quốc Anh đã phát minh ra xe tăng trong Thế chiến thứ nhất nhưng đã phải trả giá đắt khi Đức là nước đầu tiên thành thạo việc sử dụng nó, cho phép họ thực hiện các cuộc tấn công chớp nhoáng mạnh mẽ trong Thế chiến thứ hai. Để ngăn chặn một kết cục tương tự, Bộ Quốc phòng và các cơ quan tình báo phải mua sắm và sử dụng các hệ thống AI tiên tiến, và họ sẽ cần sự hướng dẫn thực hành từ các chuyên gia kỹ thuật tư nhân để thực hiện việc này một cách hiệu quả.

Biden đã vạch ra một phác thảo về cách thức hợp tác này có thể hoạt động vào tháng 10 năm 2024, khi ông ký một bản ghi nhớ an ninh quốc gia chỉ đạo chính phủ tăng cường sử dụng AI cho mục đích an ninh quốc gia. Tài liệu này bao gồm các quy định nghiêm ngặt để đảm bảo rằng công nghệ này không cho phép vi phạm nhân quyền, giám sát trong nước hoặc các hoạt động phi đạo đức khác - những biện pháp bảo vệ thiết yếu để giành được lòng tin của các nhà phát triển AI trong khu vực tư nhân và công chúng nói chung. Không giống như nhiều hành động hành pháp khác của Biden, Trump vẫn chưa lặp lại điều đó. Tuy nhiên, tổng thống đã đạt được rất ít tiến bộ trong nhiều điều khoản quan trọng của mình và đã sa thải một số chuyên gia phi chính trị cấp cao, những người đóng vai trò quan trọng trong việc thực hiện các điều khoản này.

Khi chính phủ và ngành công nghiệp phát triển quan hệ đối tác an ninh quốc gia tốt hơn, họ sẽ cần đặc biệt chú ý đến cách AI có thể giải quyết các vấn đề cấp bách trong cuộc cạnh tranh của Washington với Bắc Kinh. Ví dụ, có nhiều cách Hoa Kỳ có thể sử dụng AI trong các hoạt động mạng, như được minh họa bởi Thử thách Mạng AI do Cơ quan Dự án Nghiên cứu Tiên tiến Quốc phòng (DARPA) thực hiện. Quốc gia nào tích hợp AI vào lĩnh vực mạng nhanh chóng và hiệu quả hơn có thể sẽ chứng tỏ khả năng bảo vệ mạng lưới của mình tốt hơn và xâm nhập vào mạng lưới của các quốc gia khác, mở ra một lợi thế tình báo to lớn. AI cũng có thể cải thiện năng lực của Washington trong các lĩnh vực an ninh khác, chẳng hạn như tình báo không gian địa lý, tình báo tín hiệu, hậu cần và thiết kế vũ khí. Nhưng sẽ không có gì xảy ra nếu không có định hướng rõ ràng từ chính phủ và sự tham gia có ý nghĩa của các công ty AI Mỹ.

NGUY HIỂM TỪ NGƯỜI LẠ

Có một lý do cuối cùng tại sao chính phủ Hoa Kỳ và các công ty AI hàng đầu cần xây dựng mối quan hệ chặt chẽ hơn: cùng nhau, họ sẽ phải cân nhắc giữa lợi ích và rủi ro. Trong thế giới công nghệ, hầu như ai cũng đồng ý rằng mặc dù AI có thể mang lại những lợi ích to lớn cho nhân loại - chữa bệnh, thúc đẩy công nghệ sạch, loại bỏ lao động chân tay - nhưng nó cũng có thể gây ra những tác hại to lớn. Một số rủi ro này, chẳng hạn như việc các quốc gia độc tài sử dụng AI để định hình lại trật tự toàn cầu, có thể tránh được bằng cách duy trì và mở rộng vị thế dẫn đầu của Washington so với các đối thủ cạnh tranh. Nhưng những mối nguy hiểm khác lại khó giảm thiểu hơn. Ví dụ, một số nhà tư tưởng AI hàng đầu tin rằng đôi khi một người dùng độc hại có thể khai thác AI mạnh mẽ để tạo ra một mầm bệnh mới gây chết người. Những người khác lo ngại rằng ngay cả trong tay những người có thiện chí, các thuật toán mạnh mẽ vẫn có thể gây ra những tai nạn thảm khốc bằng cách thực hiện những hành động mà người tạo ra chúng không hề mong muốn. Sau đó, có những hậu quả ít hoang đường hơn nhưng vẫn rất thảm khốc, bao gồm thất nghiệp hàng loạt, tập trung quyền lực kinh tế nghiêm trọng và phân biệt đối xử trong các lĩnh vực như chăm sóc sức khỏe do các mô hình và dữ liệu đào tạo bị thiên vị.

Từ góc độ chính sách, bất kỳ kịch bản nào trong số này cũng sẽ đặt ra một thách thức mang tầm vóc lịch sử và buộc phải đánh đổi khó khăn. Ví dụ, trong một thế giới giả định mà chỉ một người dùng AI cũng có thể gây ra những thiệt hại thảm khốc, chính phủ sẽ phải cân nhắc các quy định toàn diện về việc phát triển và sử dụng các hệ thống tinh vi, ngay cả khi điều đó làm chậm quá trình đổi mới. Và nếu AI tự động hóa phần lớn công việc của con người, chính phủ có thể phải chi một khoản tiền lớn để đào tạo lại lực lượng lao động, hoặc có thể phải hỗ trợ một nền kinh tế được tái cấu trúc. Với tốc độ tiến bộ của AI, các nhà hoạch định chính sách sẽ phải đưa ra những quyết định quan trọng này trong một khoảng thời gian cực kỳ gấp rút - tất cả đều liên quan đến một công nghệ mà chính phủ không phải là người phát minh ra và họ biết rất ít về nó.

Sự hợp tác sâu sắc hơn giữa khu vực công và tư, cũng như với xã hội dân sự, không đảm bảo rằng nhà nước sẽ đưa ra những quyết định đúng đắn. Nhưng nó mang lại cho Washington một cơ hội chiến thắng để đảm bảo một kết quả tích cực. Với nền tảng kỹ thuật vững chắc hơn, các quan chức có thể hiểu rõ hơn về mức độ đáng tin cậy của các hệ thống AI tuân theo hướng dẫn, cách chúng xử lý các nhiệm vụ nguy hiểm, lĩnh vực nào chúng có thể thay thế lao động con người và mức độ chúng thiên về tấn công so với phòng thủ trong các lĩnh vực an ninh và an toàn.

Sự ra đời của Trung tâm Tiêu chuẩn và Đổi mới AI tại Bộ Thương mại (được thành lập với tên gọi Viện An toàn AI dưới thời chính quyền Biden) là một bước khởi đầu quý giá để xây dựng sự hợp tác có ý nghĩa. Kể từ khi thành lập, CAISI đã tập hợp các quan chức chính phủ và các công ty để hợp tác về các vấn đề an toàn. CAISI cũng đã hỗ trợ phát triển các cơ chế kiểm tra tiêu chuẩn hóa cho AI. CAISI đã hợp tác với các cơ quan khác có chuyên môn trong từng lĩnh vực để thực hiện các thử nghiệm tự nguyện bổ sung về các chủ đề đặc biệt quan trọng, chẳng hạn như hợp tác với Bộ Năng lượng và công ty AI Anthropic để đánh giá liệu các mô hình AI tiên tiến có kiến ​​thức nguy hiểm về vũ khí hạt nhân hay không. CAISI đóng vai trò nổi bật trong Kế hoạch Hành động AI của Trump, và chính quyền cần trao quyền cho CAISI để thực hiện hợp tác tự nguyện với các công ty, thiết lập các tiêu chuẩn và tiến hành kiểm tra an toàn.

Nhờ nỗ lực của CAISI và các cam kết tự nguyện mà các công ty AI hàng đầu đã thực hiện với Nhà Trắng dưới thời Biden, các công ty AI đã hứa sẽ tiến hành kiểm tra an toàn độc lập cho các mô hình của họ, thường dựa trên hướng dẫn của CAISI. Trong một số trường hợp, các công ty thậm chí còn đồng ý cấp cho CAISI quyền truy cập vào các hệ thống mới trước khi chúng được phát hành và đã khen ngợi chính phủ về chuyên môn an ninh quốc gia mà chính phủ đã cung cấp để đổi lại. Cả hai bên nên tăng cường hợp tác này, dành nhiều thời gian và nguồn lực hơn để xây dựng các tiêu chuẩn cao và tiến hành đánh giá nghiêm ngặt các mô hình mới.

Những thỏa thuận lớn thường hiệu quả hơn khi được dùng làm khẩu hiệu hơn là chính sách, và việc đạt được một thỏa thuận đúng đắn khi nói đến AI thì nói dễ hơn làm. Xét cho cùng, công nghệ đang phát triển nhanh chóng theo một con đường không thể đoán trước. Khi AI được cải thiện, nhu cầu về cơ sở hạ tầng, năng lượng và tiền bạc sẽ ngày càng lớn; nhu cầu cải thiện an ninh trước các mối đe dọa tình báo nước ngoài sẽ tăng lên; và tính cấp thiết của việc hợp tác với bộ máy quốc phòng sẽ ngày càng tăng. Rủi ro lạm dụng cũng tăng theo, dẫn đến những đánh đổi chính sách mới. Nhiều công ty khởi nghiệp sẽ xuất hiện, và các công ty truyền thống hiện nay dường như không thể ngăn cản có thể sẽ bị bỏ lại phía sau. Tất cả những người tham gia vào thế giới AI nên chuẩn bị cho việc đàm phán lại và tái cân bằng liên tục. Về phần mình, các quan chức Hoa Kỳ gần như chắc chắn sẽ phải linh hoạt, thử nghiệm các chính sách AI khác nhau theo thời gian.

Nhưng trong bối cảnh bất ổn này, điều bắt buộc là Washington phải đóng vai trò tích cực hơn trong việc tạo điều kiện và định hình hệ sinh thái AI của Hoa Kỳ. Công nghệ này không cần phải phát triển như vũ khí hạt nhân đã làm - dưới sự kiểm soát chặt chẽ của nhà nước - nhưng Washington không thể ngồi ngoài cuộc này. Thay vào đó, AI có lẽ nên phát triển như đường sắt Hoa Kỳ đã làm vào những năm 1800. Khu vực tư nhân xử lý hầu hết các quy hoạch và xây dựng, nhưng chính phủ cũng đóng một vai trò quan trọng. Chính phủ đã tổ chức luật và giấy phép để xây dựng cơ sở hạ tầng. Chính phủ đã thông qua các yêu cầu an toàn của chính phủ được hiệu chỉnh cẩn thận, hợp lý - chẳng hạn như khổ đường ray tiêu chuẩn, quy tắc sử dụng phanh khí nén và các yêu cầu về khớp nối toa xe - tất cả đều giúp tàu hỏa vừa nhanh hơn vừa an toàn hơn. Sự hợp tác này không hoàn hảo, nhưng nó đã hiệu quả: Đường sắt Hoa Kỳ đã trở thành tài sản quốc gia giúp tăng cường an ninh và thịnh vượng của Hoa Kỳ. AI tiên tiến cũng có thể thúc đẩy sức mạnh và lợi ích của Hoa Kỳ, miễn là nó được phát triển đúng cách và theo đúng bộ thỏa thuận. Bây giờ, như trước đây, đã đến lúc khu vực công và tư nhân sát cánh bên nhau.

https://www.foreignaffairs.com/united-states/artificial-intelligence-grand-bargain-buchanan-collins 

***

The AI Grand Bargain

What America Needs to Win the Innovation Race

Cinta Fosch

The United States’ lead in artificial intelligence might seem unassailable. U.S. companies—Anthropic, Google, OpenAI, and xAI—are out in front across almost all assessments of the technology’s general capabilities. American AI models are outperforming doctorate-level scientists on challenging questions in physics, chemistry, and biology. Just a few American AI and chip giants are worth more than the entire Chinese stock market, and investors from across the world are plowing ever more resources into the American AI ecosystem.

This breakneck progress is, in many ways, a testament to the strengths of the model of American AI development that has dominated for the last decade: letting the private sector operate on its own, with remarkably little direct government meddling or resourcing. This approach is quite different from those that ushered in past breakthrough technologies. Nuclear weapons and power, space travel, stealth systems, personal computing, and the Internet emerged either directly from U.S. government efforts or on the back of significant public funding. AI also has roots in government-funded science, including in personal computing and the Internet, and it benefits from ongoing government-supported research. But scaling up AI has been essentially a private-sector activity.

Yet there is reason to think the American way of developing AI is reaching its limits. Those limits will likely become increasingly evident in the coming months and years, and they will start to erode—and perhaps even end—U.S. dominance. Eventually, they will place the United States at a disadvantage against China, which has an alternative approach to the AI contest.

To avoid that outcome, Washington will need to embrace new ways of advancing AI development, ones that demand much tighter mutual support between the private sector and the state. Further progress now depends on resources and capabilities that only the government can provide or facilitate: the energy to power ever-larger data centers, a pipeline of international talent, and effective defenses against sophisticated foreign espionage efforts. The U.S. government, for its part, will need the cooperation of the private sector to integrate AI into the national security apparatus and to make sure the technology does not undermine democracy across the world.

The new American model of AI, in other words, must rest on a grand bargain between the tech industry and the government. The tech sector can help the state make sense of and deploy AI. The state can help the tech sector continue to grow in a way that advances everyone’s interests.

MAXING OUT

It is easy to see why Washington’s light-touch approach to AI has, by and large, paid dividends. Past revolutionary technologies, such as nuclear weapons and space flight, did not have immediate commercial applications. But the business case for modern AI is already highly compelling. AI firms have found huge user demand, resulting in skyrocketing revenues, and they have promised to automate myriad valuable tasks, such as coding. As a result, capital markets are funding AI projects at scales that would historically have required government resources. Moreover, the computation-centric nature of today’s AI means that it builds neatly on the cloud computing infrastructure that the private sector, not the government, has mastered.

The sufficiency of private-sector capital in enabling AI advances is wonderful for taxpayers, but the limits of this approach are becoming apparent. To see why, look at infrastructure. The vast fleets of computer chips needed to develop and use today’s AI require extraordinary amounts of energy, so U.S. companies will need more power to fuel the data centers they plan to build in the coming years. An analysis by Anthropic estimated that the United States will need to produce 50 gigawatts of new power just for AI by 2028—roughly equivalent to what the entire country of Argentina uses today. (One of us, Buchanan, advises AI and cybersecurity companies, including Anthropic.) By then, data centers could consume up to 12 percent of American electricity production. Without more electricity, the AI build-out will stall. Amazon’s CEO, Andy Jassy, for example, has labeled power the “single biggest constraint” to AI progress. And building this level of new infrastructure will require government help.

For too long, Washington did too little to add new power to its grid. From 2005 to 2020, the United States added close to zero net new power. After U.S. President Joe Biden took office, in 2021, and passed a law subsidizing the construction of clean energy infrastructure, the country added more than 100 gigawatts in new capacity. In the last days of his term, he signed an executive order specifically aimed at further expediting the AI and clean energy build-out. But although his successor, Donald Trump, has said the right things about building new energy infrastructure for AI, he has not delivered. He signed an executive order to accelerate federal permitting for data centers, but implementation remains nascent. Worse yet, his signature “One Big Beautiful Bill,” passed in July, and other executive actions gutted key parts of Biden’s energy expansion efforts, such as vital transmission projects. An area that could have been a bipartisan success fell prey to politics and has now become a major concern for business and AI competitiveness.

There is reason to think the American way of developing AI is reaching its limits.

Executed well, an AI-fueled energy boom would have benefits far beyond AI development itself. Leading AI companies are spending hundreds of billions of dollars on infrastructure build-outs, creating employment opportunities. They have committed to carbon-free operations and demonstrated a willingness to pay higher prices for clean energy. These massive investments can accelerate the domestic development of better energy sources, many of which have bipartisan appeal, such as advanced geothermal power and next-generation nuclear facilities. Powerful AI models could also accelerate climate-related research.

If the United States does not construct more energy capacity, however, American AI firms will feel pressure to outsource the development of strategically critical facilities—likely to oil-rich regions such as the Gulf that run on dirtier fuel. For Washington, any prospect of offshoring AI should set off alarm bells. An American company shifting advanced AI training to a foreign country, especially an autocratic one, would pose huge risks as AI begins to power more of the U.S. economy and to play an integral role in defense. If a host country became unhappy with American behavior, it could punish Washington with the flick of a switch. A failure to build domestic energy capacity would thus echo outsourcing mistakes of past decades in other important industries, such as semiconductors, in which the United States is now dependent on foreign suppliers.

The United States has the technology and industrial capacity needed to build new energy facilities. But it remains inhibited by a thicket of government and utility regulations and by procedural delays—some backed by good reason, some not. These restrictions impose huge delays in interconnection (the process of connecting a new power source or data center to the grid) and require years-long environmental assessments. On top of federal and utility hurdles, state and local policies can be cumbersome, especially for projects that cross multiple states, such as transmission lines. Companies—not citizens—should pay for the energy build-out, but government policies must make it possible for them to undertake these projects on reasonable timelines.

Data storage tapes at a computing center in Berkeley, California, May 2025Manuel Orbegozo / Reuters

Infrastructure is not the only domain in which American policies hold back the AI sector. AI progress depends as much on talented people as it does on technology and computing power, which is why the Biden administration acted aggressively to enable people of extraordinary technical ability to come to the United States from all over the world. This effort included elevating AI and other high-tech fields as priority areas for visas, as well as updating eligibility criteria to welcome top-tier scientists.

Here, too, Trump has sometimes said the right things but always fallen short in practice. During his 2024 presidential campaign, he declared that when foreign students graduate from U.S. colleges, they should “automatically” get a green card. Instead, under his leadership, the United States has begun shutting itself off to foreign workers and students, intimidating even those who have visas and are in the country legally. In September, the administration even said it would slap a $100,000 fee on applications for H1-B visas—the visas most commonly given to high-skilled immigrants. Such actions are already having adverse effects. For example, preliminary research by NAFSA, a nonprofit association of international educators, suggests that in 2025, American universities will suffer a 30 to 40 percent reduction in international enrollment.

If Washington cuts itself off from foreign-born scientists or sends them back home, the consequences will be catastrophic. The United States leads the AI race in large part because it attracts experts from across the world. According to a Georgetown University study that looked at AI research from 2010 to 2021, 70 percent of top U.S.-based AI researchers were born abroad. Sixty-five percent of leading U.S.-based AI companies, as ranked by Forbes, have at least one immigrant co-founder. Before the current Trump presidency, 70 percent of the students enrolled in American AI graduate degrees hailed from abroad. Historically, the vast majority of these students have stayed, often making critical contributions to American industry and academia. But thanks to Trump’s policies, many of today’s students might instead return home. Some could head to China, which has spotted an opportunity to recruit AI experts—and which poses the most significant challenge to the United States’ AI interests.

THE CHINA CHALLENGE

Protecting American AI leadership is not just a matter of pride. It is essential to U.S. national security and economic competitiveness. China has been making strides in AI development, and although none of its firms can yet match the best American ones, they do not lack for technical talent.

China faces one devastating disadvantage in this competition: its inability to make large quantities of advanced AI chips, a weakness exacerbated by U.S. export controls that began in the first Trump term and that Biden greatly expanded. But after heavy lobbying by industry, the second Trump administration has started dismantling this area of bipartisan consensus. In July, for example, it reversed its April decision to cut China off from newer AI chips, and the president indicated plans to undo other Biden-era controls, as well. Such moves will almost certainly accelerate Chinese AI development.

Beijing has acted decisively to ensure that, if it gains access to such chips, the rest of its AI ecosystem will supplant the United States’. Consider energy. Beijing has made extraordinary investments in power plants, energy storage, and energy transmission. As a result, China now produces more than twice as much electric power as the United States, and its lead is expanding. In some individual months, the country has installed over 90 gigawatts of new, clean energy capacity—almost double the amount of energy American AI firms will need in the next several years.

Beijing has also gained an edge by fusing its AI industry with its national security apparatus. The U.S. Department of Defense has said that major Chinese AI companies, such as Tencent, are key pillars of China’s military-civil fusion strategy. AI systems like these have broad utility to military and intelligence agencies: they can support weapons development, cyber-operations, and domestic surveillance, among other tasks. In exchange, the Chinese government has provided technology firms with extensive policy and security support. Historically, this assistance has included defense services and passing along industrial secrets stolen from American businesses.

Losing AI leadership to China would also cause tremendous global harm. Today, consumers across the world benefit from the rigor and transparency of U.S. regulations and standard setting, often developed in concert with other democracies, in many technological domains. For example, new technologies such as electric vehicle charging have required global collaboration on standards. AI will require similar partnerships, and it is in Washington’s interest to take the lead. Otherwise, there is a risk that autocracies will unilaterally set the standards. If Washington cannot establish more and better relations with its AI sector and secure its global AI leadership, the Chinese national security apparatus might shape global standards to adhere to Chinese censorship rules.

THIS FOR THAT

Right now, strong partnerships between AI firms and U.S. national security agencies are few and far between, and those that do exist are in the early stages. To address this deficiency, the government will need a better understanding of what AI is and how it functions. The government can help U.S. industries, but only in sectors it comprehends deeply, and today AI is not among them. In our time in government, we worked with some truly tech-savvy civil servants and military officers who drove bureaucratic change. The Biden administration hired hundreds of AI experts to bolster their ranks. But many have been fired or have left government in recent months, including many of its top technical staffers. Washington will have to do a better job of securing AI talent and reverse the trends that Trump has set in motion.

Industry leaders, meanwhile, must make sure U.S. officials understand their work—and they will have to be more responsive to Washington’s needs. AI leaders in Silicon Valley might be reluctant to cooperate more closely with the government, given its technical ignorance and bureaucratic sluggishness and given that they have enjoyed such success flying solo. But executives should remember that collaboration between industry and Washington often works out well for everyone. U.S. President Franklin Roosevelt’s administration teamed up with Ford Motor Company in the run-up to World War II to produce the B-24 Liberator heavy bomber, generating both revenue for Ford and much-needed aircraft for the military. The Manhattan Project would not have succeeded without DuPont, General Electric, Chrysler, and other corporate stalwarts, all of which profited by providing help. And the invention and refinement of radar, satellites, jet aviation, microprocessors, and the Internet all flowed from corporate-government teamwork.

One critical area in which the government can help companies is security assistance. Because AI is increasingly essential to national security, foreign intelligence services are redoubling their efforts to steal innovations from U.S. tech businesses. In March 2024, for example, the U.S. Department of Justice indicted Linwei Ding, a Google software engineer, for allegedly passing Google’s AI chip designs to China. Beijing has also worked hard to smuggle in advanced American technology products, such as AI chips themselves.

Chinese spies will grab whatever AI secrets they can from American businesses. But they have good reason to focus on stealing model weights—the numbers that encode a trained AI model. Chinese companies can then avoid the training costs, as well as cut down on the time it takes to develop models. For example, AI companies work hard to discover algorithmic tricks that enable them to use their computing power more efficiently. For China, with its severe constraints on computational power, such multipliers are almost certainly incredibly valuable. These multipliers are likely far less well defended than the core secrets of past eras, such as during the atomic and space ages, simply because the government has been largely uninvolved in their development.

If Washington cuts itself off from foreign-born scientists, the consequences will be catastrophic.

AI companies bear the primary responsibility for defending their networks and organizations. But despite the recent loss in expertise, the U.S. government has cybersecurity capabilities that businesses cannot match, and it should provide significant assistance, as it does today to firms in the defense industrial base and critical infrastructure sectors. Such aid could include intelligence about foreign hacking attempts, support in vetting international talent, and guidance on security procedures. Companies that work directly with the U.S. government on national security should meet stringent standards, akin to those imposed on other defense contractors.

To meet their side of the grand bargain, AI businesses should help the United States incorporate their technologies into the national security apparatus. This lack of integration is a persistent area of weakness for Washington. American companies may lead the world in inventing AI, but without such cooperation, the country will fall behind in adapting AI for military purposes, which could prove devastating in a conflict. Time and again throughout military history, states that fail to integrate new technology into their armed forces have wound up suffering. France and the United Kingdom, for example, invented the tank during World War I but paid a heavy price when the Germans were the first to master its use, enabling their powerful blitzkrieg offensives of World War II. To guard against a similar outcome, the Department of Defense and intelligence agencies must procure and use frontier AI systems, and they will need hands-on guidance from private-sector technical experts to do so effectively.

Biden created an outline for how such cooperation might function in October 2024, when he signed a national security memorandum directing the government to bolster its use of AI for national security purposes. This document included strict guardrails to ensure that the technology does not enable human rights abuses, domestic surveillance, or other unethical activity—protections essential to earning the trust of private-sector AI developers and the general public. Unlike with many of Biden’s other executive actions, Trump has not yet repealed it. But the president has made little progress on its many important provisions and has ousted some of the senior nonpolitical experts vital to its implementation.

As government and industry develop a better national security partnership, they will need to pay particular attention to how AI can solve pressing problems in Washington’s competition with Beijing. There are, for example, many ways the United States could use AI in cyber-operations, as illustrated by the AI Cyber Challenge conducted by the Defense Advanced Research Projects Agency. The country that more quickly and effectively integrates AI into the cyber-domain will likely prove better able to protect its own networks and penetrate others’, unlocking a huge intelligence advantage. AI could also improve Washington’s capabilities in other security domains, such as geospatial intelligence, signals intelligence, logistics, and weapons design. But nothing will happen without clear direction from government and meaningful engagement by American AI firms.

STRANGER DANGER

There is a final reason why the U.S. government and leading AI companies need to build closer ties: together, they will have to weigh tradeoffs between upsides and risks. Within the technology world, almost everyone agrees that although AI could offer tremendous benefits to humanity—curing diseases, advancing clean technology, eliminating grunt work—it could also cause massive harm. Some of these risks, such as the use of AI by authoritarian states to reshape the global order, can be avoided by preserving and expanding Washington’s lead over competitors. But other dangers are trickier to mitigate. Several top AI thinkers, for instance, believe it is plausible, or even likely, that a single malicious user could someday harness powerful AI to engineer a deadly novel pathogen. Others worry that even in benevolent hands, powerful algorithms might cause catastrophic accidents by taking actions that their creators do not intend. Then there are less fantastical but still dire outcomes, including massive unemployment, acute concentration of economic power, and discrimination in sectors such as health care because of biased models and training data.

From a policy perspective, any one of these scenarios would pose a challenge of historic proportions and force difficult tradeoffs. For example, in a hypothetical world in which a single AI user can cause catastrophic harm, the government will have to consider sweeping regulations on the development and use of sophisticated systems, even if that slows innovation. And if AI automates away a large share of human work, the government may have to spend large sums of money retraining the workforce, or it might have to facilitate a restructured economy. Given the pace of AI progress, policymakers will have to make these consequential decisions under exceptionally tight timelines—all concerning a technology that government is not inventing and about which it knows worryingly little.

At the World Artificial Intelligence Conference in Shanghai, July 2025Go Nakamura / Reuters

Deeper collaboration between the public and private sectors, as well as with civil society, does not guarantee that the state will make the right calls. But it does give Washington a fighting chance of securing a net-positive outcome. With a stronger technical foundation, officials can better understand how reliably AI systems follow instructions, how they handle dangerous tasks, in which areas they can replace human labor, and to what extent they favor offense versus defense in security and safety domains.

The rise of the Center for AI Standards and Innovation at the Department of Commerce (founded as the AI Safety Institute under the Biden administration) represents a valuable initial step to build meaningful collaboration. Since its inception, CAISI has brought together government officials and companies to collaborate on safety issues. It has also aided in the development of standardized testing mechanisms for AI. CAISI has worked alongside other agencies with domain-specific expertise to carry out additional voluntary testing on particularly critical topics, such as partnering with the Department of Energy and the AI company Anthropic to assess whether frontier AI models have dangerous knowledge about nuclear weapons. CAISI featured prominently in Trump’s AI Action Plan, and the administration must empower it to carry out voluntary collaboration with companies, to set standards, and to conduct safety testing.

Thanks to CAISI’s work and the voluntary commitments that leading AI companies made to the Biden White House, AI firms have already promised to conduct independent safety testing of their models, often based on CAISI guidance. In some cases, companies have even agreed to grant CAISI access to new systems before they are released and have praised the government for the national security–specific expertise it has offered in return. Both sides should deepen this collaboration, spending more time and resources building high standards and conducting rigorous assessments of new models.

FROM THE GOVERNMENT, HERE TO HELP

Grand bargains often work better as tag lines than as policy, and getting the right kind of deal when it comes to AI is easier said than done. The technology, after all, is rapidly progressing along an unpredictable path. As AI improves, ever-larger amounts of infrastructure, power, and money will be required; the need for improved security from foreign intelligence threats will increase; and the urgency of collaboration with the defense apparatus will grow. So will the risks of misuse, prompting new policy tradeoffs. More startups will arrive on the scene, and legacy companies that today look unstoppable may fall by the wayside. Everyone involved in the AI world should prepare for constant renegotiation and rebalancing. U.S. officials, for their part, will almost certainly have to remain agile, experimenting with different AI policies as time goes on.

But amid this uncertainty, it is imperative that Washington take a more active role in enabling and shaping the American AI ecosystem. The technology does not need to develop as nuclear weapons did—under strict state control—but Washington cannot sit this one out. Instead, AI should perhaps evolve as the American railroads did in the 1800s. The private sector handled most planning and construction, but the government played a vital role, as well. It organized laws and permits for building the infrastructure. It passed carefully calibrated, common-sense government safety requirements—such as standardized track gauges, rules for the use of air brakes, and requirements for car coupling—which all helped make trains both faster and safer. The collaboration was not perfect, but it worked: American railroads became a national asset that increased the United States’ security and prosperity. Advanced AI, too, can promote U.S. power and interests, provided it is developed in the right way and under the right set of arrangements. Now, as before, it is time for the public and private sectors to stand shoulder to shoulder.