8800 - AI có thể củng cố nền dân chủ Hoa Kỳ—và làm suy yếu nó
NORMAN EISEN, NICOL TURNER LEE, COLBY GALLIHER, AND JONATHAN KATZ
AI can strengthen U.S. democracy—and weaken it
Những tiến bộ nhanh chóng trong công nghệ trí tuệ nhân tạo (AI) có tiềm năng biến đổi cách quản trị dân chủ và việc thực hiện nó.
AI có nhiều cơ hội để dân chủ hóa sân chơi tranh cử, nhưng nó cũng có thể thúc đẩy các chiến thuật can thiệp bầu cử hiện có.
Các nhà hoạch định chính sách, những người ủng hộ và công dân phải theo kịp những tiến bộ công nghệ liên tục để giảm thiểu tác động đột phá của AI và tối đa hóa tiềm năng dân chủ tích cực của nó.
Mọi người đứng đằng sau một gian hàng riêng tư để điền vào lá phiếu của họ trước khi bỏ phiếu cho cuộc bầu cử giữa kỳ năm 2022, tại P.S. 101 ở quận Queens của New York, NY, ngày 8 tháng 11 năm 2022. (Ảnh của Anthony Behar / Sipa USA)Không sử dụng ở Đức. Mọi người đứng sau một gian hàng riêng tư để điền vào lá phiếu của họ trước khi bỏ phiếu cho cuộc bầu cử giữa nhiệm kỳ năm 2022, tại P.S. 101 ở quận Queens của New York, NY, ngày 8 tháng 11 năm 2022.
***
Theo dõi Diễn đàn hiểu biết AI mới nhất của Lãnh đạo đa số Thượng viện Chuck Schumer (D-NY), tập trung vào bầu cử và quản trị tốt, mọi con mắt đều đổ dồn vào sự giao thoa đang phát triển giữa trí tuệ nhân tạo (AI) và nền dân chủ. Bổ sung cho chuỗi diễn đàn lưỡng đảng tại Thượng viện là lệnh điều hành gần đây của chính quyền Biden về AI và chuyến đi của Phó Tổng thống Kamala Harris tới Vương quốc Anh để tham dự Hội nghị Thượng đỉnh An toàn AI. Sự tập trung ngày càng tăng vào AI này xuất hiện vào thời điểm người ta chú ý nhiều hơn đến tình trạng dân chủ ở cả Hoa Kỳ và trên toàn cầu. Trong phần đầu tiên của loạt bài mới về những rủi ro và khả năng của sự kết hợp giữa AI và nền dân chủ, chúng tôi cung cấp cái nhìn tổng quan về ba lĩnh vực chính mà AI có thể biến đổi quản trị dân chủ và việc thực hiện nó. Các phần tiếp theo của loạt bài này sẽ cung cấp thông tin chi tiết hơn về các chủ đề này và đề xuất chính sách cho các nhà lập pháp.
QUẢN LÝ BẦU CỬ
AI có thể hỗ trợ các quan chức và nhân viên bầu cử trong những nỗ lực quan trọng nhằm giám sát các cuộc thăm dò, dù ở Hoa Kỳ hay ở các nền dân chủ trên toàn thế giới. Ví dụ: AI có thể cải tiến các quy trình quản lý bầu cử để làm cho chúng hiệu quả, đáng tin cậy và an toàn hơn. Khi được giám sát cẩn thận, AI có thể xác định những điểm bất thường đáng lo ngại trong danh sách cử tri và máy bỏ phiếu để ngăn chặn hành vi gian lận hoặc tước quyền công dân bị phát hiện. Máy kiểm phiếu được hỗ trợ bởi AI có thể quét phiếu bầu bằng giấy nhanh hơn nhân viên thăm dò ý kiến, do đó giảm thời gian cần thiết để báo cáo kết quả bầu cử hoặc tiến hành kiểm phiếu lại. Đoạn clip nhanh hơn đó có thể giúp làm dịu đi những cáo buộc gian lận trong các cuộc đua sát nút, gây tranh cãi như những cuộc đã thấy sau cuộc bầu cử năm 2020, khi một lượng lớn các lá phiếu gửi qua thư đòi hỏi phải kiểm phiếu nhiều ngày ở một số bang quan trọng.
Nhưng những người quản lý bầu cử phải cảnh giác với những rủi ro có thể xảy ra. Khả năng định vị và tổng hợp lượng lớn dữ liệu công khai của AI có thể tạo ra các cuộc tấn công lừa đảo phù hợp với các quan chức bầu cử có thông tin liên hệ tồn tại trong phạm vi công cộng. Nếu những quan chức này có đặc quyền truy cập vào dữ liệu nhạy cảm của cử tri và chính phủ, tính toàn vẹn của cuộc bầu cử mà họ giám sát có thể bị đe dọa nếu thông tin cá nhân và nhiệm vụ hành chính của họ bị phần mềm độc hại hoặc ransomware khai thác. Các mô hình AI cũng có thể được viết ra để trấn áp và tước quyền bầu cử của cử tri hơn nữa bằng cách phổ biến thông tin sai lệch hoặc thông tin sai lệch, đặc biệt là đối với những công dân ít hiểu biết hơn, những người có thể dễ bị tổn thương hơn trước những câu chuyện gian lận bầu cử vô căn cứ. Cũng có thể có những thành kiến đảng phái trong cách "dọn dẹp" danh sách cử tri bằng cách sử dụng AI, trong đó các cử tri thiểu số bị nhắm mục tiêu một cách không tương xứng.
CHIẾN DỊCH VÀ GIÁO DỤC CỬ TRI
AI đã và đang thay đổi cách các ứng cử viên cho chức vụ dân cử tiến hành các chiến dịch tranh cử của họ ở Hoa Kỳ và các nền dân chủ khác trên toàn cầu. Các công nghệ mới cũng đang định hình lại—theo chiều hướng tốt hơn cũng như xấu đi—cách cử tri xác định và sử dụng thông tin về ứng cử viên cũng như các vấn đề. Những thay đổi này mang đến những cơ hội và rủi ro ở mọi giai đoạn trước Ngày bầu cử.
Có rất nhiều cơ hội để AI dân chủ hóa, cải thiện và san bằng sân chơi chiến dịch. Các công cụ AI có thể hạ thấp rào cản tài chính khi gia nhập đối với những ứng viên lần đầu đăng ký và chưa được cấp vốn đầy đủ. Các cơ chế gây quỹ kỹ thuật số có thể được hưởng lợi từ việc tinh giản hóa do AI cung cấp. Các ứng cử viên cũng có thể tận dụng các quảng cáo có mục tiêu để tiếp cận những cử tri chưa quyết định một cách hiệu quả hơn. Điều đó có tác dụng thúc đẩy việc giáo dục cử tri tốt hơn về các lựa chọn của họ tại thùng phiếu. AI có thể được các quan chức quản lý bầu cử sử dụng một cách hiệu quả và minh bạch để theo dõi và báo cáo về lời nói căm thù có hại làm nghiêng sân chơi một cách không công bằng cho các ứng cử viên và tác động đến việc đưa ra quyết định của cử tri.
Ngược lại, AI có thể làm trầm trọng thêm làn sóng thông tin sai lệch và thông tin sai lệch thường thấy trong mùa bầu cử. AI trang bị cho các chủ thể phi nhà nước phi tự do và các chế độ chuyên chế một loạt các công cụ không người lái, chi phí tương đối thấp mà nhờ đó, đối thủ có thể tách cử tri ra xa nhau hơn, thúc đẩy sự phân cực sâu sắc và gây bất ổn nội bộ. Các bot chính trị, deepfake và các hình ảnh do AI tạo ra khác đã làm xáo trộn hệ sinh thái thông tin trước bầu cử ở các nền dân chủ trên toàn cầu. Khả năng của AI trong việc nhanh chóng tạo ra “chất nhờn màu hồng”, các trang web tin tức hoàn toàn chứa tin tức giả, cho thấy tiềm năng của nó trong việc tăng cường các chiến thuật can thiệp bầu cử hiện có. Nguy cơ hỗn loạn thông tin do AI thúc đẩy ngày càng nghiêm trọng hơn khi nhiều nền dân chủ tiến tới các cuộc bầu cử có tính rủi ro cao vào năm 2024.
SỰ THAM GIA VÀ THAM GIA CỦA CÔNG DÂN
Ngoài bầu cử và bỏ phiếu, các khía cạnh khác của quản trị dân chủ sẽ được hưởng lợi và phải đối mặt với những thách thức từ cuộc cách mạng AI, trong nước và quốc tế. Các công nghệ mới sẽ giúp người dân nói lên ý kiến của mình, tổ chức những người khác có quan điểm tương tự và hành động theo các ưu tiên của họ ngoài thùng phiếu. Tuy nhiên, những công nghệ tương tự đó cũng có thể cho phép kẻ xấu ngụy trang âm mưu của chúng thành cảm xúc thực sự của công chúng.
AI có thể dân chủ hóa hơn nữa quá trình bình luận của công chúng, nền tảng của ảnh hưởng của công chúng đối với việc hoạch định chính sách và quy định. Học máy có thể thu thập và tóm tắt mối quan tâm của một cá nhân và cuối cùng có thể kết hợp những ưu tiên đó với các vấn đề cụ thể mà các cơ quan quản lý đang nhận được bình luận của công chúng. AI sáng tạo có thể hỗ trợ cả các nhà hoạt động và các chính trị gia dày dạn kinh nghiệm ở cấp quốc gia và địa phương đưa ra nhận xét của họ thuyết phục hơn đối với nhiều đối tượng khác nhau. Công nghệ như vậy cũng có thể nâng cao hiểu biết của người dân về luật pháp phức tạp mà các quan chức được bầu của họ đang xem xét bằng cách đơn giản hóa văn bản lập pháp và theo dõi phiếu bầu của đại diện họ.
Mặt trái là các nhóm vận động hoặc cá nhân muốn xuyên tạc dư luận có thể tìm thấy đồng minh trong AI. Các chương trình được hỗ trợ bởi AI, như ChatGPT, có thể tạo ra các bức thư gửi cho các quan chức được bầu, các bình luận của công chúng và các văn bản xác nhận khác về các dự luật hoặc quan điểm cụ thể thường khó phân biệt với những văn bản do cử tri thực tế viết. Những điều bịa đặt này—cũng như tốc độ và khối lượng mà chúng có thể được tạo ra—có thể được sử dụng để tạo ra sự đồng thuận của công chúng về một vấn đề nhất định và gây áp lực buộc các nhà lập pháp phải hành động theo một chương trình nghị sự mong muốn. Tệ hơn nhiều, các bản sao giọng nói và hình ảnh được khai thác từ các công cụ AI tổng hợp cũng có thể bắt chước các ứng cử viên và quan chức được bầu. Những chiến thuật này có thể làm cử tri nhầm lẫn và làm suy giảm niềm tin vào quá trình bầu cử nếu cử tri biết được những trò gian lận như vậy.
PHẦN KẾT LUẬN
Rủi ro rất cao trong việc xác định những rủi ro và phần thưởng mới nổi ở sự kết hợp giữa AI và nền dân chủ. Năm tới, các cuộc bầu cử có kết quả cao sẽ diễn ra ở Hoa Kỳ và các nước trên thế giới, cùng đại diện cho hơn 3,5 tỷ người. Những kẻ phản dân chủ và những kẻ chuyên quyền sẽ tìm mọi cơ hội để làm lung lay niềm tin vào nền dân chủ, nhắm vào các hệ thống đảm bảo bầu cử tự do, công bằng và quản trị tốt.
Các chính phủ dân chủ, các nhà hoạch định chính sách và những người ủng hộ bầu cử đang phản ứng bằng những phương pháp hay nhất và những lời cảnh báo cần thiết. Sắc lệnh điều hành AI nói trên của chính quyền Biden đã được ca ngợi là điểm khởi đầu đầy hứa hẹn cho cách tiếp cận từ trên xuống đối với các công nghệ mới này. Các nhà lập pháp thận trọng và thân thiện với AI cũng đã bắt đầu đặt mục tiêu vào một chế độ quản lý AI lưỡng đảng. Và xã hội dân sự có một vai trò quan trọng, được thể hiện qua hoạt động của các tổ chức như Hội nghị Lãnh đạo về Dân quyền và Nhân quyền, Ủy ban Luật sư về Quyền Dân sự theo Luật, Trung tâm Tư pháp, Công dân Brennan và Brookings (cơ quan thực hiện công trình nghiên cứu sâu rộng của riêng mình về chủ đề này). Họ cùng với nhiều người khác đang tập trung chuyên môn kỹ thuật và cam kết thực hiện dân chủ để cung cấp hướng dẫn tiên tiến cho các cơ quan quản lý địa phương, tiểu bang và liên bang.
Giảm thiểu những tác động đột phá của cuộc cách mạng AI và tối đa hóa tiềm năng dân chủ tích cực của nó là điều bắt buộc đối với cuộc bầu cử tổng thống Hoa Kỳ năm 2024 sắp tới và các cuộc tranh cử quan trọng tương tự khác. Nhưng nhu cầu về các chiến lược và hướng dẫn hiệu quả, minh bạch sẽ còn vượt xa hơn trong năm tới. Các công cụ hỗ trợ AI đang ở giai đoạn sơ khai. Tác động của chúng có thể sẽ chạm đến mọi ngóc ngách và chức năng của chính phủ, từ cách các cơ quan thu thập dữ liệu đến cách tiến hành bầu cử cho đến cách cử tri đăng ký bỏ phiếu và bỏ phiếu. Khi công nghệ phát triển, các nhà hoạch định chính sách, người ủng hộ và công dân sẽ cần theo kịp để đảm bảo AI được tận dụng như một động lực cho một nền dân chủ tốt hơn và toàn diện hơn.
https://www.brookings.edu/articles/ai-can-strengthen-u-s-democracy-and-weaken-it/
***
AI can strengthen U.S. democracy—and weaken it
- Rapid advancements in artificial intelligence (AI) technologies have the potential to transform democratic governance and its execution.
- AI-powered tools could assist in the administering of elections, but their capability to synthesize vast amounts of data and disseminate mis- and disinformation could also pose risks to election integrity.
- AI has many opportunities to democratize the campaign playing field, but it could also turbocharge preexisting election interference tactics.
- Policymakers, advocates, and citizens must keep up with continuing technological advancements to minimize AI’s disruptive effects and maximize its positive democratic potential.
People stand behind a privacy booths to fill out their ballot before casting their votes for the 2022 midterm election, at P.S. 101 in the Queens borough of New York, NY, November 8, 2022. (Photo by Anthony Behar/Sipa USA)No Use Germany.People stand behind a privacy booths to fill out their ballot before casting their votes for the 2022 midterm election, at P.S. 101 in the Queens borough of New York, NY, November 8, 2022.
Following Senate Majority Leader Chuck Schumer’s (D-NY) latest AI Insight Forum, which focused on elections and good governance, all eyes are on the developing intersection of artificial intelligence (AI) and democracy. Complementing the bipartisan Senate forum series are the Biden administration’s recent executive order on AI and Vice President Kamala Harris’ trip to the United Kingdom to attend the AI Safety Summit. This increased focus on AI comes at a time of heightened attention to the state of democracy in both the United States and globally. In this first part of a new series on the risks and possibilities of the confluence between AI and democracy, we provide an overview of three principal areas where AI may transform democratic governance and its execution. Subsequent installments of the series will offer deeper dives into these topics and policy recommendations for lawmakers.
ELECTION ADMINISTRATION
AI could assist election officials and workers in their critical efforts to oversee the polls, whether in the United States or in democracies around the world. For example, AI could revamp election administration processes to make them more efficient, reliable, and secure. When monitored carefully, AI could identify concerning anomalies in voter lists and voting machines to preempt uncover fraud or disenfranchisement. AI-powered tabulators could scan paper ballots more quickly than poll workers, thereby reducing the time necessary to report election results or to conduct recounts. That quicker clip could help quiet accusations of fraud during close, contentious races like those seen in the wake of the 2020 election, when an influx of mail-in ballots necessitated multi-day counts in several pivotal states.
But election administrators must be wary of possible risks. AI’s capacity to locate and synthesize vast amounts of public data can generate phishing attacks tailored to election officials whose contact information exists in the public domain. If these officials have privileged access to sensitive voter and government data, the integrity of the elections they oversee may be jeopardized if their personal information and administrative duties are exploited by malware or ransomware. AI models could also be written to further suppress and disenfranchise voters by disseminating misinformation or disinformation, particularly to less-informed citizens who may be more vulnerable to baseless election fraud narratives. There also could be partisan biases in the way voter rolls are “cleaned up” using AI, with minority voters being disproportionately targeted.
CAMPAIGNS AND VOTER EDUCATION
AI is already altering the way candidates for elected office conduct their campaigns in the United States and in other democracies around the globe. New technologies are also reshaping—for better and for worse—how voters locate and consume information about candidates and issues. These shifts present opportunities and risks at every stage leading up to Election Day.
Opportunities for AI to democratize, improve, and level the campaign playing field abound. AI tools could lower financial barriers to entry for first-time and underfunded candidates. Digital fundraising mechanisms could benefit from AI-powered streamlining. Candidates may also avail themselves of targeted advertisements that more effectively reach undecided voters. That has the knock-on effect of better educating the electorate about their options at the ballot box. AI can be used effectively and transparently by election administration officials to track and report on harmful hate speech that unfairly tilts the playing field for candidates and impacts voter decision making.
Conversely, AI may worsen the flood of misinformation and disinformation now typical of election season. AI equips illiberal nonstate actors and autocracies with an array of comparatively low-cost, unmanned tools by which adversaries may pry the electorate further apart, fueling caustic polarization and internal destabilization. Political bots, deepfakes, and other AI-generated visuals have already scrambled pre-election information ecosystems in democracies across the globe. AI’s capacity to rapidly generate “pink slime,” news sites comprised completely of fake news, exhibits its potential to turbocharge preexisting election interference tactics. The risk of AI-fueled informational chaos grows more acute as many democracies march towards high-stakes elections in 2024.
CITIZEN ENGAGEMENT AND PARTICIPATION
In addition to elections and voting, other dimensions of democratic governance stand to benefit and face challenges from the AI revolution, domestically and internationally. New technologies will help citizens voice their opinions, organize others with similar alignments, and act on their priorities beyond the ballot box. However, those same technologies may also allow bad actors to camouflage their machinations as genuine public sentiment.
AI could further democratize the public comment process, a cornerstone of public influence over policy- and rulemaking. Machine learning can collect and summarize an individual’s interests and may eventually match those priorities with specific issues on which regulatory agencies are receiving public comment. Generative AI can assist both activists and seasoned politicians at the national and local levels to make their comments more persuasive for various audiences. Such technology may also bolster citizens’ understanding of complex legislation that their elected officials are considering by simplifying legislative text and tracking their representatives’ votes.
The flip side is that advocacy groups or individuals looking to misrepresent public opinion may find an ally in AI. AI-fueled programs, like ChatGPT, can fabricate letters to elected officials, public comments, and other written endorsements of specific bills or positions that are often difficult to distinguish from those written by actual constituents. These fabrications—and the speed and volume at which they can be created—may be used to generate the appearance of public consensus on a given issue and pressure legislators to act on a desired agenda. Much worse, voice and image replicas harnessed from generative AI tools can also mimic candidates and elected officials. These tactics could give rise to voter confusion and degrade confidence in the electoral process if voters become aware of such scams.
CONCLUSION
The stakes are high to identify emerging risks and rewards at the confluence of AI and democracy. Next year, highly consequential elections will take place in the United States and in countries around the world, together representing more than 3.5 billion people. Anti-democratic actors and autocrats will seek every opportunity to shake confidence in democracy, targeting the systems that ensure free and fair elections and good governance.
Democratic governments, policymakers, and election advocates are responding with best practices and necessary words of warning. The Biden administration’s aforementioned AI Executive Order has been lauded as a promising starting point for a top-down approach to these new technologies. AI-friendly and -wary lawmakers alike have begun setting their sights on a bipartisan AI regulatory regime. And civil society has an important role to play, demonstrated by the work of organizations like the Leadership Conference on Civil and Human Rights, the Lawyers Committee for Civil Rights under Law, the Brennan Center for Justice, Public Citizen, and Brookings (which does its own extensive work on the subject). They, along with many others, are marshalling their technical expertise and commitment to democracy to provide cutting-edge guidance to local, state, and federal regulators.
Minimizing the disruptive effects of the AI revolution and maximizing its positive democratic potential is an imperative for the upcoming 2024 U.S. presidential election and other similarly pivotal contests. But the need for effective, transparent strategies and guidelines goes beyond next year. AI-powered tools are in their infancy. Their impacts will likely reach every corner and function of government, from how agencies collect data to how elections are run to how voters register to vote and cast their ballots. As technologies evolve, policymakers, advocates, and citizens will need to keep up to ensure AI is leveraged as a force for a better and more inclusive democracy.
Nhận xét
Đăng nhận xét