1534 - Vũ khí sinh học mới

Roger Brent, T. Greg McKelvey, Jr., and Jason Matheny

Sinh học tổng hợp có thể làm thế giới mất ổn định như thế nào

Minh họa của Simón Prades

Trong an ninh mạng, thử nghiệm thâm nhập là một cuộc tấn công mô phỏng vào hệ thống phòng thủ của hệ thống máy tính sử dụng các công cụ và kỹ thuật mà kẻ thù sẽ sử dụng. Các cuộc thử nghiệm như vậy được sử dụng bởi tất cả các loại chính phủ và công ty. Ví dụ, các ngân hàng thường thuê các chuyên gia máy tính để đột nhập vào hệ thống của họ và chuyển tiền vào các tài khoản trái phép, thường là bằng cách lừa đảo để lấy thông tin đăng nhập từ nhân viên. Sau khi những người thử nghiệm thành công, họ trình bày những phát hiện của mình cho các tổ chức và đưa ra các khuyến nghị về cách cải thiện bảo mật.

Vào cuối thập kỷ trước và đầu thập kỷ này, chính xã hội loài người đã phải chịu một loại thử nghiệm thâm nhập: COVID-19. Vi-rút, một kẻ thù không suy nghĩ, đã thăm dò khả năng phòng thủ của thế giới chống lại các mầm bệnh mới. Và đến cuối cuộc thử nghiệm, rõ ràng là loài người đã thất bại. COVID-19 đã lan rộng khắp mọi nơi, từ các trạm nghiên cứu xa xôi ở Nam Cực đến các bộ lạc Amazon biệt lập. Nó hoành hành khắp các viện dưỡng lão và tàu sân bay. Khi nó lây lan, nó san bằng cả những người dễ bị tổn thương và những người có quyền lực - những người lao động tuyến đầu và nguyên thủ quốc gia. Các lệnh phong tỏa hà khắc do các chế độ độc tài áp đặt và các loại vắc-xin kỳ diệu do các nền dân chủ phát triển đã làm chậm lại, nhưng không ngăn chặn được, sự lây lan của vi-rút. Đến cuối năm 2022, cứ bốn người Mỹ thì có ba người đã bị nhiễm ít nhất một lần. Trong sáu tuần sau khi Trung Quốc chấm dứt các hạn chế "không COVID" vào tháng 12, hơn một tỷ người dân của đất nước đã bị nhiễm bệnh. Lý do chính khiến số người chết tương đối khiêm tốn của đại dịch không phải là do xã hội đã kiểm soát được căn bệnh này. Đó là thực tế là nhiễm vi-rút đã được chứng minh là chỉ gây tử vong ở mức khiêm tốn. Cuối cùng, COVID-19 chủ yếu đã tự thiêu rụi chính nó.

Thất bại của nhân loại trước COVID-19 thật đáng lo ngại, bởi vì thế giới đang phải đối mặt với ngày càng nhiều mối đe dọa sinh học. Một số trong số chúng, chẳng hạn như cúm gia cầm, đến từ thiên nhiên. Nhưng rất nhiều đến từ những tiến bộ khoa học. Trong 60 năm qua, các nhà nghiên cứu đã phát triển những hiểu biết sâu sắc về cả sinh học phân tử và sinh học của con người, cho phép phát triển các mầm bệnh cực kỳ nguy hiểm và hiệu quả. Họ đã tìm ra cách tạo ra các loại vi-rút có thể trốn tránh khả năng miễn dịch. Họ đã học được cách tiến hóa các loại vi-rút hiện có để lây lan dễ dàng hơn qua không khí và cách chế tạo vi-rút để khiến chúng trở nên nguy hiểm hơn. Vẫn chưa rõ liệu COVID-19 có phát sinh từ các hoạt động như vậy hay xâm nhập vào quần thể người thông qua tương tác với động vật hoang dã hay không. Dù bằng cách nào thì rõ ràng là công nghệ sinh học, hiện được thúc đẩy bởi trí tuệ nhân tạo, đã giúp việc tạo ra các bệnh trở nên đơn giản hơn bao giờ hết.

Nếu một tác nhân gây bệnh do con người tạo ra hoặc do con người cải tiến thoát ra hoặc được phát tán từ phòng thí nghiệm, hậu quả có thể rất thảm khốc. Một số tác nhân gây bệnh tổng hợp có thể giết chết nhiều người hơn và gây ra sự tàn phá kinh tế lớn hơn nhiều so với loại vi-rút corona mới. Trong trường hợp xấu nhất, số người chết trên toàn thế giới có thể vượt quá số người chết vì Cái chết đen, đã giết chết một trong ba người ở châu Âu.

Việc ngăn chặn một thảm họa như vậy phải là ưu tiên hàng đầu của các nhà lãnh đạo thế giới. Đây là một vấn đề phức tạp ít nhất là ngang bằng với những thách thức lớn khác của thời kỳ đầu Anthropocene, bao gồm giảm thiểu và quản lý mối đe dọa của vũ khí hạt nhân và hậu quả của biến đổi khí hậu đối với hành tinh. Để giải quyết mối nguy hiểm này, các quốc gia sẽ cần phải bắt đầu tăng cường sức mạnh cho xã hội của mình để bảo vệ chống lại các tác nhân gây bệnh do con người tạo ra. Ví dụ, họ sẽ phải phát triển các hệ thống cảnh báo có thể phát hiện các bệnh do con người tạo ra. Họ phải học cách tăng cường sản xuất thiết bị bảo vệ cá nhân và cách làm cho chúng hiệu quả hơn nhiều. Họ sẽ cần phải cắt giảm thời gian cần thiết để phát triển và phân phối vắc-xin và thuốc kháng vi-rút xuống còn vài ngày, thay vì vài tháng. Họ sẽ cần phải quản lý các công nghệ được sử dụng để tạo ra và điều khiển vi-rút. Và họ phải làm tất cả những điều này nhanh nhất có thể.

KINH DOANH RỦI RO

Trong hơn một thế kỷ, hầu hết mọi người đều coi sinh học là động lực thúc đẩy sự tiến bộ. Đến đầu thế kỷ 21, vắc-xin đã giúp nhân loại xóa sổ bệnh đậu mùa và bệnh dịch tả trâu bò, và gần như xóa sổ bệnh bại liệt. Thành công chỉ là từng phần; nhiều bệnh truyền nhiễm không có cách chữa trị, vì vậy việc xóa sổ hoàn toàn các tác nhân gây bệnh vẫn là một ngoại lệ, không phải là quy luật. Nhưng những tiến bộ là không thể phủ nhận. Bản chất có điều kiện của những thành tựu của nhân loại có lẽ được minh họa rõ nhất bằng đại dịch HIV. Trong nhiều thập kỷ, HIV đã giết chết hầu hết mọi người mà nó tấn công. Nó vẫn tiếp tục lây nhiễm cho hàng triệu người mỗi năm. Nhưng nhờ vào sự đổi mới khoa học, thế giới hiện có hỗn hợp thuốc ngăn chặn sự nhân lên của vi-rút, biến căn bệnh từ án tử hình thành tình trạng y tế có thể kiểm soát được. Loại tiến bộ y tế này phụ thuộc vào các doanh nghiệp riêng biệt và được phối hợp lỏng lẻo—mỗi doanh nghiệp phản ứng với các động lực khác nhau—cung cấp dịch vụ chăm sóc, quản lý sức khỏe cộng đồng và tiến hành nghiên cứu khoa học và y tế.

Nhưng tiến bộ có thể là con dao hai lưỡi. Nếu sự hiểu biết ngày càng tăng của các nhà khoa học về vi sinh vật đã tạo điều kiện cho những tiến bộ to lớn trong sức khỏe con người, thì nó cũng cho phép các nỗ lực phá hoại nó. Trong Thế chiến thứ nhất, Đồng minh đã nghiên cứu việc sử dụng vũ khí vi khuẩn và các điệp viên tình báo quân sự Đức đã sử dụng các mầm bệnh như vậy để tấn công các loài động vật mà Đồng minh sử dụng để vận chuyển. Họ đã làm ngựa và la bị bệnh ở Pháp và Romania. Ở Na Uy, họ đã cố gắng lây nhiễm cho tuần lộc được người Sami sử dụng để chuyển vũ khí cho lực lượng Nga. Các sĩ quan Đức thậm chí còn tìm cách lây nhiễm cho các chuồng trại và chuồng ngựa ở Hoa Kỳ, nơi chứa đầy động vật được đưa đến châu Âu.

Vào thời điểm Thế chiến thứ hai bắt đầu, những sáng kiến ​​này đã phát triển thành vũ khí được thiết kế để giết người. Tại Mãn Châu do Nhật Bản chiếm đóng, sĩ quan quân đội Nhật Bản Shiro Ishii đã chỉ huy lực lượng của mình chỉ huy Đơn vị 731 phản địa đàng, nơi họ thử nghiệm vũ khí sinh học trên người. Họ đã lây nhiễm và giết chết hàng nghìn tù nhân bằng bệnh than, thương hàn, phó thương hàn, bệnh tuyến, kiết lỵ và bệnh dịch hạch. Trong những ngày cuối cùng của cuộc chiến, Ishii đã đề xuất một chiến dịch chiến tranh sinh học toàn diện - có tên là Hoa anh đào vào ban đêm - trong đó thủy phi cơ Nhật Bản sẽ rải những con bọ chét bị nhiễm bệnh dịch hạch trên các thành phố lớn ở Bờ Tây nước Mỹ. Nhưng kế hoạch này đã bị tổng tham mưu trưởng quân đội phủ quyết. "Nếu tiến hành chiến tranh vi khuẩn", vị tổng tham mưu trưởng lưu ý, "nó sẽ phát triển từ quy mô chiến tranh giữa Nhật Bản và Hoa Kỳ thành một cuộc chiến bất tận của nhân loại chống lại vi khuẩn".

Thật sai lầm khi cho rằng các quốc gia và những kẻ khủng bố không có ý chí hoặc phương tiện để chế tạo vũ khí sinh học.

Suy nghĩ như vậy không ngăn cản các quốc gia khác nghiên cứu và phát triển vũ khí sinh học. Vào những năm 1960, Bộ Quốc phòng Hoa Kỳ đã khởi động Dự án 112, thử nghiệm cách phát tán hàng loạt các mầm bệnh gây khó chịu. Để làm như vậy, quân đội đã rải bào tử trong các đường hầm của tàu điện ngầm Thành phố New York và vi khuẩn trong các bình xịt từ thuyền ở Vịnh San Francisco. Quân đội đã phun hóa chất từ ​​máy bay quân đội trên hàng nghìn dặm vuông, từ Dãy núi Rocky đến Đại Tây Dương và từ Canada đến Vịnh Mexico. Theo quan điểm của các quan chức Hoa Kỳ, những vũ khí này là một loại chính sách bảo hiểm chống lại một cuộc tấn công hạt nhân của Liên Xô: nếu Moscow tấn công Hoa Kỳ và vô hiệu hóa kho vũ khí hạt nhân của Washington, Hoa Kỳ vẫn có thể tàn phá Liên Xô bằng cách phản công bằng các mầm bệnh chết người. Đến giữa thập kỷ, bộ này đã cam kết phát triển vũ khí sinh học gây chết người và làm mất khả năng hoạt động. Khi những năm 1960 sắp kết thúc, các nhà khoa học của chính phủ đã sản xuất ra một lượng lớn vi khuẩn và độc tố gây chết người được thiết kế, theo lời của nhà vi sinh vật học Riley Housewright, để "làm rối loạn chẩn đoán và ngăn cản việc điều trị".

Tuy nhiên, những diễn biến này đã khiến các nhà nghiên cứu dân sự kinh hãi, những người phản đối các kế hoạch của Washington. Họ đã tìm thấy một đối tượng dễ tiếp thu tại Nhà Trắng. Năm 1969, Tổng thống Hoa Kỳ Richard Nixon quyết định dừng chương trình vũ khí sinh học của đất nước mình. Ông cũng kêu gọi một hiệp ước quốc tế cấm các sáng kiến ​​như vậy. Các chuyên gia bên ngoài đã củng cố thông điệp của ông. Ngay sau thông báo của Nixon, Joshua Lederberg - một nhà sinh vật học từng đoạt giải Nobel - đã làm chứng trước Quốc hội để ủng hộ lệnh cấm toàn cầu. Ông cho biết vũ khí sinh học có thể trở nên nguy hiểm như vũ khí hạt nhân. Nhưng chúng sẽ dễ chế tạo hơn. Lederberg cho biết vũ khí hạt nhân “đã được các cường quốc độc quyền đủ lâu để duy trì sự cân bằng trên thực tế về khả năng răn đe và xây dựng một hệ thống an ninh dựa trên nguyên tắc không phổ biến vũ khí hạt nhân”. “Sức mạnh của vi khuẩn sẽ hoạt động theo cách ngược lại”.

Nhưng đối thủ chính của Washington không bị thuyết phục. Năm 1971, khi thế giới đang mặc cả về một hiệp ước, Liên Xô đã thả một chủng Variola major được vũ khí hóa—virus đậu mùa—trên một hòn đảo ở Biển Aral. Điều này dẫn đến một đợt bùng phát bệnh đậu mùa ở Kazakhstan ngày nay. Đợt bùng phát đã được ngăn chặn thông qua những nỗ lực anh hùng của các quan chức y tế công cộng Liên Xô, nhưng những nỗ lực đó chỉ thành công vì dân số thưa thớt ở khu vực bị ảnh hưởng và vì hầu hết công dân Liên Xô đã được tiêm vắc-xin và có một số khả năng miễn dịch.

Cuối năm đó, Liên Xô và Hoa Kỳ đã nhất trí về một hiệp ước cấm vũ khí sinh học, được gọi là Công ước về vũ khí sinh học. Đại hội đồng Liên hợp quốc đã hoan nghênh thỏa thuận này và vào năm 1972, nó đã được mở để ký kết tại London, Moscow và Washington. Nhưng cuối cùng Liên Xô đã bất chấp thỏa thuận. Năm 1979, 68 người đã thiệt mạng tại thành phố Sverdlovsk—nay là Yekaterinburg—sau khi bào tử từ một dự án bệnh than bí mật được phát tán. Moscow không có bất kỳ tai nạn rõ ràng nào khác, nhưng Liên Xô vẫn duy trì một chương trình vũ khí sinh học cho đến khi đất nước họ sụp đổ—một chương trình mà theo những người đào tẩu cho biết, đã sử dụng 60.000 người vào thời kỳ đỉnh cao. Năm 1991, các đại diện của Hoa Kỳ và Anh đã đến thăm một số cơ sở của chương trình, nơi họ nhìn thấy hàng loạt tàu và lò phản ứng sinh học có khả năng sản xuất hàng nghìn lít bệnh đậu mùa có nồng độ cao. Sau đó, những tàu này có thể bơm vi-rút qua các đường ống lạnh và vào các quả bom con, sau đó có thể được lắp vào tên lửa.

Công ước về vũ khí sinh học còn có một vấn đề khác: nó không hạn chế các nhóm tư nhân và cá nhân theo đuổi các loại vũ khí như vậy. Năm 1984, phong trào tôn giáo Rajneesh, có trụ sở tại Oregon, đã làm nhiễm khuẩn salmonella vào các quầy salad. (Mục tiêu của nó là làm tê liệt cử tri đối lập để các ứng cử viên Rajneesh có thể giành chiến thắng trong cuộc bầu cử ở Quận Wasco.) Không ai chết, nhưng hàng trăm người đã bị bệnh. Năm 1995, nhóm Aum Shinrikyo tận thế đã làm hàng nghìn người ở Tokyo bị thương bằng chất độc thần kinh sarin; trước đó, nhóm này đã cố gắng chế tạo vũ khí than nhưng không thành công. Năm 2001, các cuộc tấn công bằng than ở Hoa Kỳ nhắm vào các nhà báo và hai văn phòng Thượng viện Hoa Kỳ—mà FBI tin rằng do một nhà khoa học người Mỹ thực hiện—đã giết chết năm người.

Quy mô tương đối nhỏ của những sự cố này có thể được coi là bằng chứng cho thấy những kẻ khủng bố và các quốc gia hiện có thể bị hạn chế quá mức, có thể là do những khó khăn về kỹ thuật hoặc luật hiện hành, để gây ra thiệt hại sinh học hàng loạt. Nhưng quan điểm này quá lạc quan. Thay vào đó, họ chỉ ra rằng các thỏa thuận quốc tế hiện tại và các biện pháp y tế công cộng không thể ngăn chặn các cuộc tấn công như vậy. Những sự cố này cũng chứng minh rằng việc cho rằng các quốc gia và những kẻ khủng bố không có ý chí hoặc phương tiện để chế tạo vũ khí sinh học là sai. Một số cá nhân và nhóm phải đối mặt với các rào cản—ví dụ, không thể tiếp cận các phòng thí nghiệm hoặc cơ sở phù hợp. Nhưng nhờ những tiến bộ không ngừng của công nghệ, những rào cản đó đang dần sụp đổ.

TỐT HƠN VÀ XẤU HƠN

Vào năm 2012, một nhóm các nhà khoa học do Emmanuelle Charpentier và Jennifer Doudna dẫn đầu đã công bố một bài báo trên Science, một tạp chí học thuật hàng đầu. Bài báo mô tả một hệ thống kỹ thuật, được gọi là CRISPR-Cas9, sử dụng RNA khảm do con người tạo ra để chỉnh sửa vật liệu di truyền. Phát minh này đã bổ sung vào bộ công cụ kỹ thuật sinh học phân tử vốn đã rất mạnh mẽ, bao gồm những gì các nhà khoa học gọi là "ADN tái tổ hợp cổ điển" (được phát minh vào những năm 1970), phản ứng chuỗi polymerase (hay còn gọi là PCR và được phát minh vào những năm 1980) và DNA tổng hợp (cũng được sử dụng vào những năm 1980). Cùng nhau, những phát minh này đã tạo ra một sự bùng nổ về sự khéo léo của con người, thúc đẩy khám phá khoa học và tiến bộ trong y học. Ví dụ, vào tháng 12 năm 2023, FDA đã phê duyệt liệu pháp gen phức tạp dựa trên CRISPR như một phương pháp chữa bệnh thiếu máu hồng cầu hình liềm, một căn bệnh tàn khốc đang ảnh hưởng đến hàng triệu người.

Nhưng do chính trị, kinh tế và các thể chế phức tạp mà tiến bộ sinh học tiếp cận con người, có thể mất nhiều năm trước khi những lợi ích của công nghệ mới nhất chạm đến những người cần. Ví dụ, phương pháp điều trị bệnh thiếu máu hồng cầu hình liềm bằng CRISPR phức tạp về mặt kỹ thuật và y khoa, tốn kém (2,2 triệu đô la cho mỗi người) và tốn nhiều thời gian. Do đó, phương pháp này chỉ tiếp cận được một số lượng rất nhỏ bệnh nhân. Và trong khi thế giới đang đấu tranh để phổ biến những lợi ích của các công nghệ mới tinh vi này, các nhà khoa học vẫn tiếp tục chứng minh rằng chúng cũng có thể dễ dàng gây ra thiệt hại. Vào năm 2018, một cá nhân trong nhóm ba người đã sử dụng DNA tái tổ hợp, PCR và DNA tổng hợp để tái tạo bệnh đậu ngựa, một họ hàng gần của bệnh đậu mùa. Một nhóm khác đã sử dụng các công cụ này, cùng với CRISPR, để thiết kế một loại vi-rút khác liên quan đến bệnh đậu mùa. Nghiên cứu như vậy có thể dễ dàng được sử dụng để sản xuất ra các chất độc gây chết người.

Rủi ro đang gia tăng một phần là do cuộc cách mạng công nghệ thứ hai: sự trỗi dậy của trí tuệ nhân tạo. Các mô hình ngôn ngữ lớn, chẳng hạn như từ ChatGPT và Claude, trở nên tinh vi và mạnh mẽ hơn nhiều với mỗi lần lặp lại mới. Ngày nay, các phiên bản mới nhất được hàng nghìn nhân viên phòng thí nghiệm sử dụng hàng ngày để đẩy nhanh công việc của họ, một phần là bằng cách cung cấp nhiều hướng dẫn hữu ích về các câu hỏi kỹ thuật. Vào năm 2020, các nhà nghiên cứu AI đã tạo ra một hệ thống, AlphaFold, giải quyết hiệu quả một vấn đề quan trọng trong sinh học: dự đoán cấu trúc ba chiều của một protein từ trình tự các axit amin của nó.

Việc tạo ra các tác nhân gây bệnh rẻ hơn so với việc phòng thủ chống lại chúng.

Nhưng đối với những kẻ khủng bố sinh học, những hệ thống này có thể giúp con đường dẫn đến hỗn loạn dễ dàng hơn. Các mô hình AI lớn nhất dường như đã được đào tạo dựa trên toàn bộ kiến ​​thức đã công bố của khoa học sự sống. Tất nhiên, hầu hết kiến ​​thức này đã có sẵn trên Internet, nhưng không con người nào có thể tiêu thụ, xử lý và tổng hợp tất cả kiến ​​thức đó. Các hệ thống AI hiện tại cũng có thể thiết kế các protein mới (cho phép thiết kế các mầm bệnh nguy hiểm) và thực hiện các hoạt động trong phòng thí nghiệm. Một số nhà khoa học máy tính thậm chí đang nghiên cứu để tạo ra các hệ thống tự động có thể thực hiện các nhiệm vụ trong phòng thí nghiệm. Nếu những nỗ lực này thành công, một tác nhân độc ác có thể tạo ra một mầm bệnh mới chết người chỉ bằng cách chiếm đoạt các cơ sở tự động như vậy.

Và sẽ rất khó để các cơ quan chức năng ngăn chặn chúng. Tin tặc đã chứng minh được khả năng đột nhập vào các hệ thống bảo mật cực kỳ phức tạp và các vật liệu cần thiết để tạo ra mầm bệnh mới bao gồm thuốc thử và thiết bị có sẵn rộng rãi. Các cơ quan quản lý có thể cố gắng nhắm mục tiêu vào hàng chục nhà cung cấp thực hiện các đơn đặt hàng cho các thành phần chính. Nhưng vẫn có những cách để tránh các nhà cung cấp này và việc đóng cửa họ có thể làm chậm quá trình nghiên cứu và phát triển y sinh có giá trị.

Nếu những kẻ xấu cuối cùng sản xuất và phát tán một tác nhân gây bệnh do vi-rút, nó có thể lây nhiễm cho nhiều nhóm dân số trong thời gian ngắn hơn nhiều so với thời gian các quan chức phát hiện và xác định mối đe dọa và bắt đầu chống trả. Rốt cuộc, việc tạo ra các tác nhân gây bệnh rẻ hơn so với việc chống lại chúng. Chi phí vốn cho các cơ sở và vật liệu cần thiết để tạo ra một căn bệnh mới là thấp, nhưng việc ứng phó với một dịch bệnh liên quan đến một loạt các thành phần phức tạp và tốn kém một cách đáng kinh ngạc: mạng lưới xét nghiệm và phát hiện mở rộng, số lượng lớn thiết bị bảo vệ cá nhân, lệnh phong tỏa gây rối loạn xã hội và một bộ máy có thể phát triển, sản xuất và phân phối các phương pháp điều trị và vắc-xin.

Chỉ cần nghĩ đến việc chi hàng tỷ đô la để cố gắng ngăn chặn một đại dịch khác là đủ để ngăn chặn các quốc gia biến sinh học thành vũ khí. Tuy nhiên, một số chính phủ vẫn tiếp tục theo đuổi các sáng kiến ​​nguy hiểm. Vào tháng 4 năm 2024, Bộ Ngoại giao Hoa Kỳ đã đánh giá rằng Triều Tiên và Nga có các chương trình vũ khí sinh học tấn công và Trung Quốc và Iran đang theo đuổi các hoạt động sinh học có thể được biến thành vũ khí. Tất cả đều là bên tham gia Công ước về vũ khí sinh học.

NGĂN CHẶN BẰNG PHÒNG THỦ

Trong Chiến tranh Lạnh, các cường quốc hạt nhân trên thế giới đã tránh được thảm họa phần lớn nhờ vào khái niệm hủy diệt lẫn nhau. Các chính trị gia nhận ra rằng một cuộc tấn công hạt nhân duy nhất có thể gây ra sự trả đũa hủy diệt hành tinh—hoặc, như Tổng thống Hoa Kỳ Ronald Reagan và nhà lãnh đạo Liên Xô Mikhail Gorbachev đã tuyên bố vào năm 1985, "không thể giành chiến thắng trong một cuộc chiến tranh hạt nhân và không bao giờ được phép tiến hành". Các quốc gia hạt nhân đã đưa ra các học thuyết phức tạp để quản lý công nghệ của họ và ngăn chặn việc sử dụng vũ khí. Các chính phủ đã ký kết nhiều thỏa thuận không phổ biến vũ khí hạt nhân quốc tế nhằm giảm thiểu số lượng các quốc gia có vũ khí hạt nhân. Và Liên Xô và Hoa Kỳ đã tạo ra nhiều hệ thống—bao gồm các hiệp ước, giao thức chỉ huy và kiểm soát và đường dây nóng—để giảm thiểu khả năng hiểu lầm dẫn đến một cuộc chiến tranh thảm khốc.

Nhưng khi nói đến vũ khí sinh học, công thức răn đe của Chiến tranh Lạnh sẽ không hiệu quả. Hủy diệt lẫn nhau dựa trên nỗi sợ hãi, một điều đã lan rộng trong kỷ nguyên hạt nhân và không phổ biến đối với chiến tranh sinh học. Mối đe dọa hiện tại phụ thuộc vào sự tiếp tục của tiến bộ công nghệ chóng mặt và vào những phát minh chưa từng có, khiến mọi người khó có thể nắm bắt đầy đủ các rủi ro. Không giống như vụ ném bom hạt nhân ở Hiroshima và Nagasaki, không có cuộc tấn công sinh học nào là sự kiện lịch sử thế giới thu hút được sự chú ý lâu dài.

Sự hủy diệt chắc chắn lẫn nhau cũng phụ thuộc vào khả năng xác định kẻ tấn công của một quốc gia. Với vũ khí hạt nhân, việc này khá dễ dàng. Nhưng các quốc gia có thể giải phóng vũ khí sinh học và trốn tránh sự phát hiện—và do đó, trả đũa. Một chính phủ có thể bí mật giải phóng một loại vi-rút nguy hiểm và đổ lỗi cho bất kỳ quốc gia nào khác, hoặc thậm chí là các tác nhân phi nhà nước.

Và các tác nhân phi nhà nước thực sự có thể giải phóng các mầm bệnh chết người, một thực tế khiến sự hủy diệt chắc chắn lẫn nhau trở thành một biện pháp kiểm soát thậm chí còn kém hữu ích hơn. Không chính phủ nào muốn mạo hiểm hủy diệt đất nước của mình, nhưng rất nhiều kẻ khủng bố không quan tâm đến sự sống còn, và giờ đây chúng có quyền truy cập vào các vật liệu, thiết bị, kiến ​​thức và khả năng kỹ thuật cần thiết để chế tạo vũ khí sinh học. Năm 1969, Lederberg đã cảnh báo rằng hậu quả của sự gia tăng sinh học không được kiểm soát sẽ giống như việc "làm cho bom khinh khí có sẵn tại siêu thị". Thế giới năm 2024 tràn ngập các siêu thị, được trang bị đầy đủ vật liệu chế tạo bom.

Vì sự răn đe theo kiểu Chiến tranh Lạnh khó có thể thực hiện được, nên tình hình hiện tại đòi hỏi một triết lý khác. Ở đây, con đường răn đe không nằm ở khả năng trả đũa. Thay vào đó, nó nằm ở khả năng phòng thủ mạnh đến mức khiến các cuộc tấn công sinh học không đáng để thực hiện.

Có một khuôn mẫu lịch sử về cách các xã hội có thể khiến vũ khí sinh học không thành công: chấm dứt các vụ cháy lớn ở đô thị. Trong phần lớn lịch sử được ghi chép, các thành phố trên thế giới thường xuyên bị thiêu rụi bởi các đám cháy lớn san phẳng trung tâm của chúng. Nhưng vào thế kỷ 19, tần suất của những vụ cháy này đã giảm đáng kể. Sự suy giảm này một phần là do phát triển các hệ thống ứng phó tốt hơn, chẳng hạn như lực lượng chữa cháy chuyên nghiệp và vòi cứu hỏa. Nhưng chủ yếu, sự suy giảm này được thúc đẩy bởi các bước đơn giản, bao gồm việc đưa vào sử dụng vật liệu xây dựng ít cháy hơn, áp dụng các tiêu chuẩn kỹ thuật và quy định xây dựng, cũng như các yêu cầu về bảo hiểm trách nhiệm pháp lý - điều này ngăn cản hành vi rủi ro. Khi các tiểu bang đưa ra các định nghĩa rõ ràng hơn về hành vi bất cẩn, giúp dễ dàng khởi kiện dân sự đối với các vụ hỏa hoạn do tai nạn, mọi người trở nên thận trọng hơn.

Các nhà chức trách ngày nay có thể học tập từ cuốn sổ tay này. Chính phủ đã xây dựng các sở cứu hỏa và vòi cứu hỏa để ứng phó với các vụ cháy ở đô thị. Bây giờ, họ cần xây dựng các hệ thống có thể nhanh chóng phát triển vắc-xin, thuốc kháng vi-rút và các biện pháp can thiệp y tế khác. Tuy nhiên, cũng giống như các vụ cháy ở đô thị, chính phủ cần hiểu rằng phản ứng nhanh là không đủ. Thế giới có thể và phải phát triển khả năng tiêm vắc-xin cho tám tỷ người trong vòng 100 ngày sau khi bùng phát dịch bệnh—nhanh hơn thời gian Hoa Kỳ tiêm vắc-xin đầy đủ cho 100 triệu người chống lại COVID-19. Tuy nhiên, điều này vẫn chưa đủ đối với một tác nhân gây bệnh lây lan với tốc độ như biến thể Omicron của vi-rút corona.

Ngoài ra, các nhà hoạch định chính sách phải thực hiện các bước tương tự như thiết lập các quy tắc xây dựng tốt hơn—nói cách khác, các bước khiến các tác nhân gây bệnh khó lây lan hơn. Họ có thể bắt đầu bằng cách tạo ra nhiều kho dự trữ thiết bị bảo vệ cá nhân hơn. Khẩu trang, găng tay và máy trợ thở là chìa khóa để ngăn chặn sự lây truyền của vi-rút, vì vậy các quan chức nên ký các hợp đồng chuẩn bị cho các mặt hàng như vậy. Các tiểu bang cũng nên trợ cấp cho các cơ sở công nghiệp của mình để họ có thể tăng sản lượng nếu cần. Họ nên hướng dẫn các nhà sản xuất thiết kế lại thiết bị bảo vệ cá nhân để làm cho chúng rẻ hơn, hiệu quả hơn và thoải mái hơn. Chính phủ có thể tăng cường khả năng phục hồi này hơn nữa bằng cách đảm bảo rằng những người làm việc trong các dịch vụ thiết yếu có thể tiếp cận thiết bị bảo vệ một cách đặc biệt nhanh chóng. Các tiểu bang nên hỗ trợ trang bị cho các tòa nhà của những ngành này hệ thống lọc tia cực tím xa diệt khuẩn và bộ lọc hạt. Kết hợp lại, các biện pháp này sẽ làm giảm đáng kể nguy cơ bùng phát thành các sự kiện gây mất ổn định xã hội.

TỪNG BƯỚC

Có một cách cuối cùng để giảm nguy cơ xảy ra thảm họa sinh học, một cách không chỉ dừng lại ở việc lập kế hoạch ứng phó và phòng thủ. Các quan chức phải quản lý tốt hơn các công nghệ mới. Và cuối cùng, đây có thể là cách duy nhất để thực sự ngăn chặn một cuộc tấn công sinh học hàng loạt.

Có nhiều công cụ mà chính phủ có thể sử dụng để quản lý các tiến bộ. Ví dụ, các quan chức có thể từ chối tài trợ hoặc thậm chí cấm hoàn toàn các thí nghiệm cụ thể. Họ có thể yêu cầu mọi người và cơ sở phải có giấy phép trước khi thực hiện một số loại công việc nhất định. Họ có thể giám sát chặt chẽ hơn quá trình tự động hóa phòng thí nghiệm trong tương lai.

Nhưng các quan chức cũng nên định hình hệ sinh thái hỗ trợ nghiên cứu và phát triển sinh học. Ví dụ, họ nên yêu cầu các công ty bán axit nucleic, chủng, thuốc thử và các thiết bị khoa học sự sống khác được sử dụng để tạo ra các tác nhân sinh học áp dụng các quy tắc "biết khách hàng của bạn", theo đó các công ty phải xác nhận danh tính của khách hàng và bản chất hoạt động của họ. Họ cũng đảm bảo rằng hàng hóa chỉ được vận chuyển đến các địa điểm hợp pháp, đã biết. (Nhiều chính phủ từ lâu đã buộc các tổ chức tài chính phải tuân theo các quy tắc hiểu biết khách hàng của bạn, nhằm ngăn chặn tiền chảy vào các mạng lưới tội phạm.) Ngoài ra, các nhà hoạch định chính sách nên có thể quản lý hành vi tốt hơn. Chính phủ nên đưa ra những cách mới để phát hiện hoạt động sinh học bị cấm để các cơ quan thực thi pháp luật và tình báo có thể ngăn chặn các cuộc tấn công trước khi chúng xảy ra.

Với tất cả những mặt tích cực của mình, AI và kỹ thuật sinh học cũng tiềm ẩn những nguy cơ to lớn.

Cuối cùng, bắt đầu từ hôm nay, các quốc gia sẽ cần xây dựng chính sách phòng thủ sinh học của mình với AI trong tâm trí. Hiện tại, trước khi phát hành các mô hình ngôn ngữ lớn, các công ty phát minh và cài đặt nhiều biện pháp bảo vệ khác nhau, chẳng hạn như "ranh giới đỏ" mà người dùng không thể vượt qua. Ví dụ, ChatGPT-4 và Claude 3.5 Sonnet từ chối trả lời các câu hỏi trực tiếp về cách tiến hóa vi-rút để giết động vật trang trại. Nhưng nếu người dùng yêu cầu hướng dẫn kỹ thuật về cách tham gia vào quá trình tiến hóa có định hướng như vậy mà không sử dụng từ "giết", thì các mô hình này sẽ đưa ra hướng dẫn tốt. Do đó, các mô hình AI cần có thêm các biện pháp bảo vệ để chống lại việc cung cấp thông tin nguy hiểm và chính phủ nên giúp tạo ra chúng.

Sẽ không dễ để giảm thiểu rủi ro phát sinh từ những công nghệ mới này và một số biện pháp quản lý có nguy cơ làm chậm lại quá trình nghiên cứu hợp pháp. Các nhà hoạch định chính sách phải cân nhắc khi cân nhắc các hạn chế. Nhưng giám sát thông minh là điều cần thiết. Thực tế là mặc dù có nhiều mặt tích cực, AI và kỹ thuật sinh học vẫn tiềm ẩn những nguy cơ to lớn và các xã hội cũng như chính phủ phải đánh giá trung thực những lợi ích hiện tại và tương lai của những phát triển này so với những nguy cơ tiềm ẩn của chúng.

Tuy nhiên, các quan chức không nên tuyệt vọng. Suy cho cùng, thế giới đã từng tránh được thảm họa hiện sinh trước đây. Chiến tranh Lạnh có thể không cung cấp khuôn mẫu về cách giải quyết những thách thức hiện nay, nhưng lịch sử của nó vẫn là bằng chứng cho thấy xã hội có thể chứa đựng những phát minh nguy hiểm. Khi đó, cũng như bây giờ, thế giới đã phải đối mặt với một sự đổi mới, được phát triển bởi sự khéo léo của con người, gây nguy hiểm cho nền văn minh. Khi đó, cũng như bây giờ, các quốc gia không thể loại bỏ công nghệ mới. Nhưng các chính phủ đã thành công trong việc ngăn chặn điều tồi tệ nhất, nhờ vào sự phát triển của các khái niệm và hệ thống giúp giảm thiểu rủi ro ở mức tối thiểu. John von Neumann, một nhà toán học và vật lý học đã giúp định hướng chính sách hạt nhân của Hoa Kỳ, đã viết: "Không có cách nào để tiến bộ". “Bất kỳ nỗ lực nào nhằm tìm ra các kênh an toàn tự động cho sự tiến bộ bùng nổ hiện nay đều phải dẫn đến sự thất vọng. Sự an toàn duy nhất có thể đạt được là tương đối và nó nằm ở việc thực hiện phán đoán hàng ngày một cách thông minh.”

Một thách thức quyết định đối với thế kỷ 21 sẽ là liệu thế giới có thể tồn tại được sau sự xuất hiện của những công nghệ mới hơn này hay không, những công nghệ hứa hẹn sẽ biến đổi nền văn minh. Cũng như năng lượng hạt nhân, chúng là sản phẩm của quá trình nghiên cứu của con người. Cũng như năng lượng hạt nhân, không có cách nào để thu hồi chúng. Nhưng xã hội có thể ngăn chặn điều tồi tệ nhất bằng cách thực hiện phán đoán hàng ngày một cách khôn ngoan. “Yêu cầu trước một công thức hoàn chỉnh sẽ là điều vô lý,” von Neumann nói. “Chúng ta chỉ có thể chỉ định những phẩm chất cần có của con người: kiên nhẫn, linh hoạt, thông minh.”

ROGER BRENT là Giáo sư Khoa học Cơ bản tại Trung tâm Ung thư Fred Hutchinson.

T. GREG McKELVEY, JR., là nhà nghiên cứu chính sách bác sĩ cao cấp và là cố vấn cho Trung tâm Meselson và Trung tâm Chính sách Công nghệ và An ninh tại Tập đoàn RAND.

JASON MATHENY là Chủ tịch kiêm Tổng giám đốc điều hành của Tập đoàn RAND.

https://www.foreignaffairs.com/world/new-bioweapons-covid-biology

***

The New Bioweapons

How Synthetic Biology Could Destabilize the World

Illustration by Simón Prades

In cybersecurity, a penetration test is a simulated attack on a computer system’s defenses that uses the tools and techniques an adversary would employ. Such tests are used by all kinds of governments and companies. Banks, for example, regularly hire computer experts to break into their systems and transfer money to unauthorized accounts, often by phishing for login credentials from employees. After the testers succeed, they present their findings to the institutions and make recommendations about how to improve security.

At the end of the last decade and the beginning of this one, human society itself was subject to a kind of penetration test: COVID-19. The virus, an unthinking adversary, probed the world’s ability to defend against new pathogens. And by the end of the test, it was clear that humanity had failed. COVID-19 went everywhere, from remote Antarctic research stations to isolated Amazonian tribes. It raged through nursing homes and aircraft carriers. As it spread, it leveled the vulnerable and the powerful—frontline workers and heads of state alike. The draconian lockdowns imposed by autocracies and the miraculous vaccines developed by democracies slowed, but did not halt, the virus’s spread. By the end of 2022, three of every four Americans had been infected at least once. In the six weeks after China ended its “zero COVID” restrictions in December, over one billion of the country’s people were infected. The primary reason for the pandemic’s relatively modest death toll was not that society had controlled the disease. It was the fact that viral infection proved to be only modestly lethal. In the end, COVID-19 mostly burned itself out.

Humanity’s failure against COVID-19 is sobering, because the world is facing a growing number of biological threats. Some of them, such as avian flu, come from nature. But plenty come from scientific advances. Over the past 60 years, researchers have developed sophisticated understandings of both molecular and human biology, allowing for the development of remarkably deadly and effective pathogens. They have figured out how to create viruses that can evade immunity. They have learned how to evolve existing viruses to spread more easily through the air, and how to engineer viruses to make them more deadly. It remains unclear whether COVID-19 arose from such activities or entered the human population via interaction with wildlife. Either way, it is clear that biological technology, now boosted by artificial intelligence, has made it simpler than ever to produce diseases.

Should a human-made or human-improved pathogen escape or be released from a lab, the consequences could be catastrophic. Some synthetic pathogens might be capable of killing many more people and causing much more economic devastation than the novel coronavirus did. In a worst-case scenario, the worldwide death toll might exceed that of the Black Death, which killed one of every three people in Europe.

Averting such a disaster must be a priority for world leaders. It is a problem that is at least as complex as other grand challenges of the early Anthropocene, including mitigating and managing the threat of nuclear weapons and the planetary consequences of climate change. To handle this danger, states will need to start hardening their societies to protect against human-made pathogens. They will, for example, have to develop warning systems that can detect engineered diseases. They must learn how to surge the production of personal protective equipment and how to make it far more effective. They will need to cut the amount of time required to develop and distribute vaccines and antiviral drugs to days, instead of months. They will need to govern the technologies used to create and manipulate viruses. And they must do all this as fast as they can.

RISKY BUSINESS

For more than a century, most people have seen biology as a force for progress. By the early twenty-first century, vaccines had helped humanity eradicate smallpox and rinderpest, and nearly eradicate polio. Success has been piecemeal; many infectious diseases have no cure, and so the outright eradication of pathogens remains an exception, not the rule. But the advances have been undeniable. The qualified nature of humanity’s accomplishments is perhaps best exemplified by the HIV pandemic. For decades, HIV killed almost everyone it struck. It continues to infect millions of people each year. But thanks to scientific innovation, the world now has cocktails of drugs that block viral replication, which have turned the disease from a death sentence into a manageable medical condition. This sort of medical progress depends on distinct and loosely coordinated enterprises—each responding to different incentives—that deliver care, manage public health, and carry out scientific and medical research.

But progress can be a double-edged sword. If scientists’ growing understanding of microbiology has facilitated great advances in human health, it has also enabled attempts to undermine it. During World War I, the Allies studied the use of bacterial weapons, and German military intelligence operatives used such pathogens to attack animals the Allies used for transport. They sickened horses and mules in France and Romania. In Norway, they attempted to infect reindeer used by the Sami to deliver weapons to Russian forces. German officers even managed to infect corrals and stables in the United States that were full of animals headed to Europe.

By the time World War II began, these initiatives had matured into weapons designed to kill humans. In Japanese-occupied Manchuria, the Japanese military officer Shiro Ishii had his forces preside over the dystopian Unit 731, in which they tested biological weapons on humans. They infected and killed thousands of prisoners with anthrax, typhoid, paratyphoid, glanders, dysentery, and the bubonic plague. During the final days of the war, Ishii proposed a full-on biological-warfare operation—titled Cherry Blossoms at Night—in which Japanese seaplanes would disperse bubonic-plague-infected fleas over major American West Coast cities. But the plan was vetoed by the chief of the army general staff. “If bacteriological warfare is conducted,” the chief noted, “it will grow from the dimension of war between Japan and America to an endless battle of humanity against bacteria.”

It is wrong to assume states and terrorists lack the will or the means to build biological weapons.

Such thinking did not stop other countries from researching and developing biological weapons. In the 1960s, the U.S. Department of Defense launched Project 112, which experimented with how to mass distribute offensive pathogens. To do so, the army dispersed spores in the tunnels of the New York City subway and bacteria in aerosols from boats in San Francisco Bay. It sprayed chemicals from army planes over thousands of square miles, from the Rockies to the Atlantic and from Canada to the Gulf of Mexico. As U.S. officials saw it, these weapons were a kind of insurance policy against a Soviet nuclear attack: if Moscow hit the United States and neutralized Washington’s own nuclear arsenal, the United States could still devastate the Soviet Union by counterattacking with deadly pathogens. By the middle of the decade, the department committed to developing lethal and incapacitating biological weapons. As the 1960s drew to a close, government scientists were producing sizable quantities of deadly bacteria and toxins that were devised, in the words of the microbiologist Riley Housewright, to “confound diagnosis and frustrate treatment.”

These developments, however, terrified civilian researchers, who pushed back against Washington’s plans. They found a receptive audience in the White House. In 1969, U.S. President Richard Nixon decided to halt his country’s biological weapons program. He also called for an international treaty banning such initiatives. Outside experts bolstered his message. Shortly after Nixon’s announcement, Joshua Lederberg—a Nobel Prize–winning biologist—testified before Congress in support of a global ban. Biological weapons, he said, could become just as deadly as nuclear ones. But they would be easier to construct. Nuclear weaponry “has been monopolized by the great powers long enough to sustain a de facto balance of deterrence and build a security system based on nonproliferation,” Lederberg said. “Germ power will work just the other way.”

But Washington’s main adversary was not persuaded. In 1971, as the world haggled over a treaty, the Soviet Union released a weaponized strain of Variola major—the smallpox virus—on an island in the Aral Sea. It resulted in a smallpox outbreak in present-day Kazakhstan. The outbreak was contained through heroic efforts by Soviet public health officials, but those efforts succeeded only because of the affected region’s sparse population and because most Soviet citizens had been vaccinated and possessed some immunity.

Later that year, the Soviet Union and the United States agreed to a treaty banning biological weapons, called the Biological Weapons Convention. The UN General Assembly universally commended the agreement, and in 1972, it opened for signing in London, Moscow, and Washington. But the Soviets ultimately defied the agreement. In 1979, 68 people died in the city of Sverdlovsk—present-day Yekate­rinburg—after spores from a clandestine anthrax project were released. Moscow did not have any other clear-cut accidents, but the Soviets maintained a biological weapons program until their country fell apart—a program that, according to defectors, employed 60,000 people at its height. In 1991, U.S. and British representatives visited some of the program’s facilities, where they saw rows of vessels and bioreactors capable of producing thousands of liters of high-titer smallpox. Those vessels could then pump the virus through refrigerated pipes and into bomblets, which could, in turn, be loaded onto missiles.

A smallpox production facility, Pokrov, Russia, 1993

The Biological Weapons Convention had another problem: it did not constrain private groups and individuals from pursuing such weapons. In 1984, the Rajneesh religious movement, based in Oregon, contaminated salad bars with salmonella. (Its goal was to incapacitate opposition voters so that Rajneesh candidates could win a Wasco County election.) No one died, but hundreds of people became ill. In 1995, the apocalyptic Aum Shinrikyo group injured thousands of people in Tokyo with the chemical nerve agent sarin; it had previously attempted, without success, to make anthrax weapons. In 2001, anthrax attacks in the United States targeting journalists and two U.S. Senate offices—which the FBI believes were carried out by a lone American scientist—killed five people.

The relatively small scale of these incidents could be taken as evidence that terrorists and states might currently be too constrained, perhaps by technical difficulties or existing laws, to inflict mass biological damage. But this perspective is too optimistic. Instead, they show that current international agreements and public health measures cannot prevent such attacks. These incidents also demonstrate that it is wrong to assume states and terrorists lack the will or the means to build biological weapons. Some individuals and groups do face barriers—say, an inability to access the right labs or facilities. But thanks to relentless technological advances, those barriers are falling apart.

FOR BETTER AND FOR WORSE

In 2012, a group of scientists led by Emmanuelle Charpentier and Jennifer Doudna published an article in Science, a premier academic journal. The article described an engineering system, called CRISPR-Cas9, which uses human-made chimeric RNA to edit genetic material. The invention added to an already formidable toolbox of molecular biological engineering, including what scientists call “classical recombinant DNA” (invented in the 1970s), the polymerase chain reaction (better known as PCR, and invented in the 1980s), and synthetic DNA (which also came into use in the 1980s). Together, these inventions have created an explosion of human ingenuity that powers scientific discovery and advances in medicine. In December 2023, for example, the FDA approved a complex CRISPR-based gene therapy as a cure for sickle cell anemia, a devastating illness that afflicts millions of people.

But owing to politics, economics, and the complex institutions through which biological progress reaches humans, it can take years before the newest technology’s upsides touch those in need. The CRISPR treatment for sickle cell anemia, for instance, is technically and medically complex, costly ($2.2 million per person), and time-intensive. It has therefore reached a very small share of patients. And while the world struggles to spread the benefits of these sophisticated new technologies, scientists continue to demonstrate that they can also easily cause damage. In 2018, one individual on a three-person team used recombinant DNA, PCR, and synthetic DNA to re-create horsepox, a close relative of smallpox. Another group used these tools, plus CRISPR, to engineer a different virus related to smallpox. Such research could easily be used to produce lethal toxins.

The risks are growing in part thanks to a second technological revolution: the rise of artificial intelligence. Large language models, such as those from ChatGPT and Claude, grow far more sophisticated and powerful with each new iteration. Today, the most recent versions are used every day by thousands of lab workers to accelerate their work, in part by providing a wealth of useful guidance on technical questions. In 2020, AI researchers created a system, AlphaFold, which effectively solved a Holy Grail problem in biology: predicting the three-dimensional structure of a protein from the sequence of its amino acids.

Generating pathogens is cheaper than defending against them.

But for would-be bioterrorists, these systems could ease the path to mayhem. The largest AI models appear to have been trained on the entirety of the life sciences’ published knowledge. Most of this knowledge was, of course, already available on the Internet, but no human could consume, process, and synthesize all of it. Present AI systems can also design new proteins (which enable the design of dangerous pathogens) and execute laboratory operations. Some computer scientists are even working to make automated systems that can carry out laboratory tasks. If these efforts succeed, a malevolent actor could create a deadly new pathogen by simply hijacking such automated facilities.

And it will be very difficult for authorities to stop them. Hackers have proven capable of breaking into exceedingly complex security systems, and the materials needed to generate new pathogens include reagents and equipment that are widely available. Regulators could try to target the dozens of suppliers who fill orders for key components. But there are ways around these suppliers, and closing them off could slow valuable biomedical research and development.

If bad actors do eventually produce and release a viral pathogen, it could infect vast swaths of the human population in far less time than it would take officials to detect and identify the threat and start fighting back. Generating pathogens, after all, is cheaper than defending against them. The capital costs of the facilities and materials needed to make a new disease are low, but responding to an epidemic of one involves a complex and staggeringly expensive set of components: expansive testing and detection networks, vast quantities of personal protective equipment, socially disruptive lockdowns, and an apparatus that can develop, manufacture, and distribute treatments and vaccines.

The thought of spending billions of dollars trying to stop another pandemic should be enough to deter states from weaponizing biology. Some governments, however, continue to pursue dangerous initiatives. In April 2024, the U.S. State Department assessed that North Korea and Russia have offensive biological weapons programs and that China and Iran are pursuing biological activities that could be weaponized. All are parties to the Biological Weapons Convention.

DETERRENCE BY DEFENSE

During the Cold War, the world’s nuclear powers avoided catastrophe in large part thanks to the concept of mutually assured destruction. Politicians recognized that a single nuclear attack might trigger a planet-ending retaliation—or, as U.S. President Ronald Reagan and Soviet leader Mikhail Gorbachev famously declared in 1985, “a nuclear war cannot be won, and must never be fought.” Nuclear states produced elaborate doctrines to govern their technology and deter weapons use. Governments struck a variety of international nonproliferation agreements that kept the number of countries with nuclear weapons to a minimum. And the Soviet Union and the United States created numerous systems—including treaties, command-and-control protocols, and hotlines—to diminish the chance that a misunderstanding would lead to a cataclysmic war.

But when it comes to biological weapons, the Cold War deterrence formula will not work. Mutually assured destruction relies on fear, something that was widespread in the nuclear era and is not as prevalent toward biological warfare. The current threat is dependent on a continuation of breakneck technological progress and on inventions without precedent, which makes it hard for people to fully grasp the risks. Unlike the nuclear bombings of Hiroshima and Nagasaki, no biological attacks have been world-historical events that attract enduring attention.

Mutually assured destruction also depends on a state’s ability to identify the attacker. With nuclear weapons, doing so is easy enough. But states could release biological weapons and evade detection—and, therefore, retaliation. A government could secretly release a dangerous virus and blame it on any number of other states, or even on nonstate actors.

And nonstate actors really could release deadly pathogens, a fact that makes mutually assured destruction an even less useful check. No government wants to risk the annihilation of its country, but plenty of terrorists care little about survival, and they now have access to the materials, equipment, knowledge, and technical capability needed to make biological weapons. In 1969, Lederberg warned that the consequences of unchecked biological proliferation would be akin to making “hydrogen bombs available at the supermarket.” The world of 2024 is full of supermarkets, well stocked with bomb-making materials.

Because Cold War–style deterrence is hard to pull off, the present situation demands a different philosophy. Here, the path to deterrence is not in the capacity to retaliate. Instead, it is in a defense so strong that it makes biological attacks not worth conducting.

There is a historical template for how societies can make biological weapons unsuccessful: the end of major urban fires. For most of recorded history, the cities of the world were periodically consumed by massive conflagrations that razed their cores. But in the nineteenth century, the frequency of these fires decreased dramatically. This diminution was, in part, the product of developing better response systems, such as professional firefighting forces and fire hydrants. But mostly, the reduction was driven by mundane steps, including the introduction of less combustible building materials, the imposition of engineering standards and building codes, and requirements for liability insurance—which discouraged risky behavior. When states created sharper definitions of negligence, making it easier to launch civil suits for accidental fires, people became even more cautious.

Today’s authorities can take a page from this playbook. Governments built fire departments and hydrants to respond to urban fires. Now, they need to construct systems that can rapidly develop vaccines, antiviral drugs, and other medical interventions. Yet just as with urban fires, governments need to understand that rapid responses won’t be enough. The world could, and must, develop the ability to vaccinate its eight billion people within 100 days of an outbreak—faster than it took the United States to fully vaccinate 100 million people against COVID-19. Yet this would still not suffice for a pathogen that spread at the pace of the coronavirus’s Omicron variant.

In addition, policymakers must take steps akin to instituting better building codes—in other words, steps that make it harder for pathogens to spread. They can start by creating bigger stockpiles of personal protective equipment. Masks, gloves, and respirators are key to stopping virus transmission, and so officials should sign preparatory contracts for such wares. States should also subsidize their industrial bases so that they can surge production if needed. They should instruct manufacturers to redesign personal protective equipment to make it cheaper, more effective, and more comfortable. Governments can further augment this resilience by ensuring that people who work in essential services have especially prompt access to protective equipment. States should help furnish these sectors’ buildings with microbicidal far-UV-light purification systems and particulate filters. Combined, these measures would substantially reduce the risk that outbreaks grow into societally destabilizing events.

STEP BY STEP

There is a final way to reduce the risk of biological disasters, one that goes beyond plotting responses and defenses. It is for officials to better govern new technologies. And ultimately, it may be the only way to actually prevent a mass biological attack.

There are many tools that governments can use to regulate advances. Officials could, say, deny funding to or even outright ban particular experiments. They could require that people and facilities obtain licenses before carrying out certain kinds of work. They could be more thorough in overseeing future lab automation.

But officials should also shape the ecosystem that supports biological research and development. They should, for example, require that firms selling nucleic acids, strains, reagents, and other life-sciences equipment used to make biological agents adopt “know your customer” rules, which require that companies confirm their customers’ identities and the nature of their activities. They also ensure that goods are shipped only to known, legitimate sites. (Many governments have long forced financial institutions to follow know-your-customer rules, in order to prevent money from flowing into criminal networks.) In addition, policymakers should be able to better regulate conduct. Governments should devise new ways to detect prohibited biological activity so that law enforcement and intelligence agencies can head off attacks before they take place.

For all their upsides, AI and bioengineering carry immense perils.

Finally, starting today, states will need to craft their biodefense policies with AI in mind. Currently, before releasing large language models, companies invent and install various safeguards, such as “redlines” that users cannot cross. ChatGPT-4 and Claude 3.5 Sonnet, for example, refuse to answer direct questions on how to evolve a virus to kill farm animals. But if users ask for technical guidance on how to engage in such directed evolution without using the word “kill,” these models will give good guidance. AI models therefore need additional safeguards against handing out dangerous information, and governments should help create them.

It will not be easy to reduce the risks that come from these new technologies, and some governance measures risk slowing down legitimate research. Policymakers must be thoughtful as they contemplate restrictions. But smart oversight is essential. The reality is that for all their upsides, AI and bioengineering carry immense perils, and societies and governments must honestly assess the present and future benefits of these developments against their potential dangers.

Officials, however, should not despair. The world, after all, has avoided existential catastrophe before. The Cold War may not provide a template for how to address today’s challenges, but its history is still proof that society can contain dangerous inventions. Then, as now, the world faced an innovation, developed by human ingenuity, that imperiled civilization. Then, as now, states could not eliminate the new technology. But governments succeeded in preventing the worst, thanks to the development of concepts and systems that kept the risk to a minimum. “For progress, there is no cure,” wrote John von Neumann, a mathematician and physicist who helped guide U.S. nuclear policy. “Any attempt to find automatically safe channels for the present explosive variety of progress must lead to frustration. The only safety possible is relative, and it lies in an intelligent exercise of day-to-day judgment.”

A defining challenge for the twenty-first century will be whether the world can survive the emergence of these newer technologies, which promise to so transform civilization. As with nuclear energy, they are products of human research. As with nuclear energy, there is no way to wind them back. But society can prevent the worst by wisely exercising day-to-day judgment. “To ask in advance for a complete recipe would be unreasonable,” von Neumann said. “We can specify only the human qualities required: patience, flexibility, intelligence.”

• ROGER BRENT is Professor of Basic Sciences at the Fred Hutchinson Cancer Center.
• T. GREG McKELVEY, JR., is a senior physician policy researcher and an adviser to the Meselson Center and the Technology and Security Policy Center at the RAND Corporation.
• JASON MATHENY is President and CEO of the RAND Corporation.