Hiện nay, các mối nguy hiểm này chồng chéo và tương tác theo những cách phức tạp và nhân lên gấp nhiều lần, bao gồm không chỉ sự tập trung quyền lực vào các chế độ phi tự do như Trung cộng và Nga, mà còn cả khả năng các chế độ đó sử dụng các công nghệ mới, chẳng hạn như trí tuệ nhân tạo (AI), vốn đang làm gia tăng sức mạnh của các phương pháp giám sát và gây ảnh hưởng hiện có theo cấp số nhân.
Công nghệ có sự hỗ trợ của AI sẽ có khả năng giám sát, nhắm mục tiêu vi mô, và tác động đến các nhóm dân chủ theo những cách mà trước đây từng là bất khả thi đối với sự giám sát truyền thống của nhà nước và các thuật toán truyền thông xã hội do tư nhân phát triển.
Ví dụ, trong không gian chính trị, AI sẽ có thể tìm ra các nhóm dân số cần thiết để giành số phiếu bầu tối thiểu cho một chiến thắng bầu cử, qua đó đề ra các mục tiêu chính trị trong ngắn hạn và trung hạn [cho các chính trị gia], rồi tác động đến các nhóm dân số đó thông qua việc sản xuất nội dung do AI thực hiện để hiển thị trong các ứng dụng (hiện vốn dĩ đã như vậy), chẳng hạn như nền tảng DALL·E 2 chuyên tạo ra tác phẩm nghệ thuật bằng AI, hay Jasper, Writesonic, và Copy.ai, những nền tảng tạo ra mọi thứ từ mạng xã hội và ứng dụng trò chuyện tự động dựa trên công nghệ AI ‘chatbot’ cho đến văn học và các bài báo khoa học.
Thông qua nhắm mục tiêu vi mô, sản xuất vi mô, và phân phối vi mô tuyên truyền tinh vi, AI có thể định đoạt những kết quả của quá trình ra quyết định liên quan đến dân chủ theo cách chưa từng có trong lịch sử, do đó khiến các quy trình trước đây từng là dân chủ này trở nên phi dân chủ.
Có những lập luận mạnh mẽ rằng AI có những lợi thế hơn các phương thức quản trị độc tài. Bà Eileen Donahoe tại Đại học Stanford lập luận rằng trí tuệ nhân tạo “đã tiếp thêm sức mạnh” cho các kiểu đàn áp chuyên quyền hiện có, bao gồm cả các công cụ thiết kế xã hội.
Nhưng AI cũng có thể bị lạm dụng bởi các ông trùm công nghệ, các ông trùm kinh doanh, cá nhân các lập trình viên, và tin tặc chẳng hạn, nếu như những người này giành quyền kiểm soát các hệ thống AI gốc và sửa đổi các mục tiêu của AI. Các chính thể dân chủ nói trên cũng có thể lạm dụng AI để tăng cường khả năng giám sát, như ông Steven Feldstein tại Quỹ Carnegie vì Hòa bình Quốc tế đã chỉ ra.
AI tự lập trình theo cách phi đạo đức
Đáng lo ngại hơn nữa, AI có thể vượt qua mọi sự kiểm soát của con người để học hỏi và đặt ra các mục tiêu tùy tiện hoặc tự trao quyền cho mình. Điều này được theo đuổi thông qua việc gây ảnh hưởng, khen thưởng, cũng như trừng phạt các cá nhân và nhóm người, để thúc đẩy họ trở thành những đầy tớ trung thành của các cỗ máy AI.
Cuối cùng AI có nhiều khả năng định đoạt các sở thích cá nhân và ý chí dân chủ của người dân đến nỗi loại bỏ đa phần những gì chúng ta hiện xem là hiển nhiên như quyền tự quyết của cá nhân hoặc ý chí của tập thể. Kết quả là, quyền tự do của con người và khả năng tự đưa ra quyết định của các xã hội dân chủ có thể chỉ còn là dĩ vãng.
Những đối tượng điều khiển AI (là con người hoặc máy móc) có thể tự phát triển một cách tùy ý hoặc ngẫu nhiên để áp dụng các mục tiêu không tương thích với lợi ích của các sinh vật sống trên hành tinh này. Ví dụ, những cỗ máy này có thể “học hỏi” để ưu tiên một tiêu chuẩn về cái đẹp mà chúng học được thông qua học máy vốn không liên quan gì đến các giá trị của con người, đồng thời sử dụng con người để chống lại lẫn nhau trong quá trình tự hủy diệt hàng loạt của chính họ. AI có thể theo đuổi sự tuyệt chủng của nhân loại như một hình thức tự sát của AI vì AI biết rằng con người nhân rộng AI, và AI phụ thuộc vào con người để tồn tại.
AI có thể đạt được những mục tiêu này hoặc các mục tiêu hủy diệt khác bằng cách tập trung lại quyền lực đối với con người theo cách hoàn toàn không liên quan đến các quy trình dân chủ trong khi vẫn tỏ ra dân chủ. Các cơ quan ra quyết định của các nền dân chủ có thể cố gắng kiểm soát các thuật toán AI nhưng bị đánh lừa bởi một thuật toán tự lập trình để đại diện và thúc đẩy thêm cho các mục tiêu của AI, được cử tri thông qua trong các chiến dịch bị AI gây ảnh hưởng.
Kịch bản trên nghe như một cốt truyện khoa học viễn tưởng dở tệ. Nhưng các chuyên gia ngày càng lo lắng về khả năng AI có thể tự phát triển đến mức có thể vượt qua sự kiểm soát của con người. Lịch sử là câu chuyện của những điều bất ngờ, và có thể AI cũng không ngoại lệ.
Bà Helen Toner tại Đại học Georgetown tin rằng AI có những lợi ích.
Cuộc cạnh tranh trí tuệ nhân tạo Mỹ-Trung
Mối đe dọa của AI rất phức tạp do sự cạnh tranh địa chính trị giữa Hoa Kỳ và Trung cộng. Cả hai phía đều cần đến những công nghệ AI mạnh mẽ nhất để tối ưu hóa sức mạnh quân sự, kinh tế, và chính trị của mình, bao gồm cả sức mạnh mềm cần thiết để tác động đến dân số thế giới.
Việc sở hữu quyền lực mềm trong khi gây hại cho người khác sẽ nhất thiết phải bao hàm AI, vốn là nền tảng cho các chiến dịch truyền thông xã hội thành công nhất thế giới.
Chỉ AI mới có thể đạt được các thuật toán có khả năng nhắm mục tiêu vi mô và sản xuất nội dung phù hợp với thị hiếu để phục vụ tốt nhất cho sở thích của mỗi cá nhân và, do đó, hướng đến sở thích của mỗi cá nhân một cách mạnh mẽ nhất.
Chúng ta biết rằng Bắc Kinh đang ráo riết theo đuổi các công nghệ AI đi đầu trong các ứng dụng kiểm soát xã hội, chẳng hạn như tự động kiểm duyệt nội dung trên mạng xã hội và quảng bá thông điệp ủng hộ Đảng cộng sản Trung cộng (ĐCS_TC) trên mạng xã hội.
Như chuyên gia công nghệ Zuza Nazaruk trình bày trong một bài báo đã qua bình duyệt hồi năm ngoái, “Việc tiết chế nội dung của TikTok tinh vi hơn kiểm duyệt, và thay vào đó bao gồm cả việc định vị (thiết kế sản phẩm sao cho công chúng đánh giá cao thương hiệu của mình hơn so với của đối thủ cạnh tranh). Thuật toán của ứng dụng này đẩy các video chỉ trích ĐCS_TC ra sau những video ủng hộ đảng, mặc dù những video chỉ trích đảng thì phổ biến hơn hoặc được đăng gần đây hơn. Phát hiện này cho thấy rằng TikTok đang cố gắng che giấu đường hướng của ĐCS_TC dưới vỏ bọc tính khách quan do thuật toán điều hành.”
Kiểm soát vũ khí AI?
Do đó, ứng phó với mối đe dọa AI bằng cách hạn chế sự phát triển AI của Hoa Kỳ và đồng minh, mà không có những hạn chế tương tự và có thể kiểm chứng được đối với sự phát triển AI của Trung cộng, sẽ là hành động liều lĩnh dại dột. Làm như vậy sẽ bằng như để mặc sức mạnh của AI cho các đối thủ của nền dân chủ, giống như ứng phó mối đe dọa vũ khí hạt nhân của phe đối địch bằng cách đơn phương tự giải trừ vũ khí.
Nếu AI bị tội phạm hóa, thì chỉ những kẻ tội phạm mới sử dụng AI.
Chẳng hạn, các hạn chế đơn phương đối với việc Google, Facebook, và Twitter sử dụng AI để nhắm mục tiêu vi mô, có thể cho làm cho TikTok dễ dàng hơn để thay thế thị phần của Hoa Kỳ và đồng minh.
Mặt khác, việc các đại công ty công nghệ (Big Tech) của Hoa Kỳ sử dụng AI về căn bản chỉ là sự tập trung quyền lực phi dân chủ vào tay một số tập đoàn lớn nhất thế giới.
Hoa Kỳ có thể cấm tất cả các hoạt động nhắm mục tiêu vi mô và gây ảnh hưởng đến người dân Hoa Kỳ bất kể nguồn gốc quốc gia của công nghệ đó. Ít nhất chúng ta nên làm điều này đối với các công ty do đối thủ kiểm soát như TikTok.
Nhưng điều này vẫn cho phép Bắc Kinh sử dụng các công ty truyền thông xã hội của mình để nhắm mục tiêu và gây ảnh hưởng đến phần còn lại của thế giới. Một TikTok được hỗ trợ bởi AI có thể tập hợp thế giới chống lại Hoa Kỳ, vốn chính xác là điều mà Bắc Kinh đang cố gắng thực hiện.
Cuối cùng, Hoa Kỳ và các đồng minh có thể cố gắng cấm và gây cản trở tất cả AI trên toàn cầu. Lệnh cấm này sẽ áp dụng như nhau đối với các nhóm AI của Hoa Kỳ, đồng minh, và đối thủ. Làm như thế sẽ hiệu quả hơn trong việc bảo vệ các quyền tự do dân chủ toàn cầu. Tuy nhiên, hành động này cũng có thể làm gia tăng sự phản đối liên quan đến quyền tự do ngôn luận và tự do thương mại, đồng thời kích động xung đột quốc tế về việc Hoa Kỳ và đồng minh xây dựng luật pháp ngoài lãnh thổ tự thân.
Bắc Kinh sẽ sử dụng những lập luận này để chống lại việc kiểm soát vũ khí hoặc các lệnh cấm đối với AI, đặc biệt là khi ĐCS_TC có thể sẽ nghĩ rằng hình thức cai trị của họ tương đối được tạo thuận lợi nhờ công nghệ này. Chính quyền đó sẽ lập luận rằng không giống như các nền dân chủ, vốn được kiểm soát bởi dư luận, phương thức cai trị độc đoán của ĐCS_TC sẽ ngăn cản khả năng AI kiểm soát nhà nước.
Bắc Kinh nói đúng về tình trạng cô lập chính trị của họ, nhưng chỉ đúng trong ngắn hạn. Về lâu dài, AI có thể kiểm soát các nền dân chủ để đánh bại các chế độ chuyên quyền. Sau khi các chế độ chuyên quyền này bị đánh bại, AI có thể phá hủy các dấu tích còn sót lại của nền dân chủ để tối đa hóa sự kiểm soát của chính nó. Có rất ít quyền lực sẽ được trao cho hệ thống chính trị của con người, dù là chuyên quyền hay dân chủ.
Lập luận về một lợi ích chung hiếm có đối với Hoa Kỳ và Trung cộng này có thể dẫn đến một hiệp ước kiểm soát vũ khí AI có thể xác minh được.
Nhưng nếu Bắc Kinh bác bỏ lập luận đó và tin rằng họ có thể sử dụng AI để chinh phục các nền dân chủ trước khi AI sử dụng các nền dân chủ đó để tiêu diệt chế độ chuyên quyền, thì họ có thể phản đối việc kiểm soát vũ khí. Ngay cả khi ĐCS_TC chấp nhận lập luận cho việc kiểm soát, thì họ có thể tiến hành chiến thuật ‘AI brinkmanship’ (đẩy một tình huống nguy hiểm đến điểm tới hạn nhưng vẫn an toàn để bảo đảm lợi thế lớn nhất), tiến đến một thảm họa về AI cho Trung cộng và Hoa Kỳ, buộc các nền dân chủ phải khuất phục.
AI và sự tập trung quyền lực
Người ta có thể lập luận một cách hợp lý rằng các kịch bản khốc liệt nhất được hình dung ở trên nhiều khả năng sẽ không xảy ra. Nhưng thật khó để lập luận rằng AI không có lợi thế hơn so với các trung tâm quyền lực hiện hữu.
Do đó, con đường phía trước cho các quyền tự do cá nhân và các nền dân chủ sẽ rất chông gai. Không có sự kiểm soát vũ khí đối với AI, mà thế giới lại đang trong thời khắc phát triển kinh tế giống như trước khi có các cuộc cách mạng nông nghiệp, công nghiệp, hạt nhân, và thông tin. Mỗi một thay đổi hệ thống kiểu như vậy đều đưa đến những thay đổi lớn trong cấu trúc chính trị và công nghệ quân sự, vốn đa phần dẫn đến các vòng xoáy chiến tranh, cách mạng, và biến đổi chính trị theo hướng tập trung quyền lực.
Cuộc cách mạng AI sẽ xảy ra trong tương lai. Cuộc cách mạng này rõ ràng có lợi cho những người vốn đã nắm quyền, và do đó, sẽ dẫn đến sự tập trung hơn nữa của những người đó. Bắc Kinh đang theo đuổi mục tiêu này với sự khoái trá.
Anders Corr _ Yến Nhi
No comments:
Post a Comment
Note: Only a member of this blog may post a comment.