Các chuyên gia cho biết, tác động của deepfake đối với cuộc bầu cử ở Hoa Kỳ vào năm 2024 đã rõ ràng, đồng thời kêu gọi công chúng nhận thức rõ hơn về nội dung giả mạo tiềm ẩn.
Deepfakes là phương tiện truyền thông kỹ thuật số có tính thuyết phục cao và lừa dối thường là video, bản ghi âm, hoặc hình ảnh được tạo ra ngày càng nhiều bằng trí tuệ nhân tạo và thường nhằm mục đích lừa đảo hoặc gian lận.
Các chuyên gia trong lĩnh vực phát hiện AI và deepfake đã cung cấp cho The Epoch Times những hiểu biết có giá trị về những thách thức do thông tin sai lệch và tin giả do AI tạo ra cũng như các biện pháp cần thực hiện để chống lại các công nghệ này.
Ông Rijul Gupta, đồng sáng lập và Tổng giám đốc của DeepMedia, nhấn mạnh sự gia tăng đáng báo động của công nghệ deepfake và những tác động của kỹ thuật này đối với cuộc bầu cử năm 2024.
“Năm 2024 có thể sẽ là một cuộc bầu cử deepfake, không giống như các cuộc bầu cử trước đó,” ông nói. “Điều này sẽ chỉ trở nên phổ biến vào năm 2024, và đó là nhờ khả năng tiếp cận công nghệ này. Các phiên bản cơ bản của công nghệ này đã tồn tại vào năm 2020, nhưng chất lượng không đủ tốt để đánh lừa mọi người. Người ta vẫn có thể biết đó là giả mạo.”
Ông Gupta cho biết chất lượng đã được cải thiện vào năm 2022 và tiếp tục tiến bộ hàng tháng. Nội dung đang trở nên đủ tốt để một người bình thường có thể nhìn hoặc nghe thấy nội dung đó trên TikTok hoặc YouTube và tin rằng nội dung đó là sự thật.
“Họ không nghĩ là giả,” ông nói. “Họ không cố gắng xác định rằng đó là giả. Đối với họ, điều đó có cảm giác như thật nên họ chỉ cho rằng đó là thật. Nhưng điều cuối cùng cần thiết để điều này thực sự trở thành một vấn đề nghiêm trọng là khả năng tiếp cận. Do đó, rào cản đầu tiên là chất lượng, và điều này vừa được khắc phục vào năm ngoái. Rào cản thứ hai là khả năng tiếp cận.”
Giờ đây, ông Gupta cho biết, các công cụ này đã có sẵn trên mạng dành cho công chúng, và thường là miễn phí.
“Hầu hết, quý vị thậm chí không cần thẻ tín dụng, và quý vị có thể tạo ra deepfake về bất kỳ ai chỉ trong năm giây,” ông nói. “Đó là điều mới mẻ. Đó là những gì vừa xảy ra trong vài tháng qua và đó là lý do tại sao năm 2024 có thể sẽ là năm cho cuộc bầu cử deepfake.”
“Đó là một vấn đề khiến tôi mất ngủ,” ông Gupta nói.
“Đó là một trong những lý do chính khiến tôi thành lập DeepMedia, để trở thành công ty đi đầu trong việc chống lại thông tin sai lệch và tin giả,” ông nói. “Khoảng sáu năm trước, tôi nhìn thấy dòng chữ này trên tường. Tôi đã nhìn thấy một tương lai trong đó mọi người sẽ không thể phân biệt được đâu là thật đâu là giả.”
Phát hiện deepfake
Để giải quyết mối đe dọa ngày càng tăng của deepfake, bà Emma Brown, đối tác của ông Gupta, đồng sáng lập và là giám đốc điều hành của DeepMedia, đã nhấn mạnh tầm quan trọng của các phương pháp phát hiện chính xác và có thể mở rộng.
DeepMedia đã phát triển các khả năng phát hiện deepfake thông minh và tân tiến mà họ cho rằng đã được chính phủ Hoa Kỳ và các công ty trên toàn thế giới xác nhận.
Bà Brown cho biết DeepMedia tự hào có khả năng phát hiện deepfake khuôn mặt và giọng nói chính xác nhất trên toàn cầu, bảo đảm nhận dạng một cách đáng tin cậy đối với nội dung do AI tạo ra.
Bà cho biết thêm, khả năng mở rộng là một yếu tố quan trọng khác đối với công ty, và cho biết thêm rằng DeepMedia có khả năng xử lý số lượng lớn video hàng ngày, cho phép xác định nhanh chóng các video deepfake trong các tập dữ liệu lớn.
Thứ ba, bà cho biết sự mạnh mẽ của nền tảng DeepMedia cung cấp các tính năng nâng cao như phân loại nội dung chính xác, cho phép người dùng trích xuất thông tin cụ thể từ nội dung do AI tạo ra.
Bà Brown cho biết: “Chúng tôi đang tích cực tham gia vào việc bảo đảm cuộc bầu cử của chúng ta trước các mối đe dọa từ AI.”
Trao quyền cho công chúng
Nhận thấy nhu cầu nâng cao nhận thức của cộng đồng và tham gia vào việc chống lại thông tin sai lệch do AI tạo ra, DeepMedia vừa cung cấp miễn phí khả năng phát hiện deepfake trên X, trước đây gọi là Twitter.
Ông Gupta cho hay, người dùng có thể gắn thẻ @DeepMedia và thêm hashtag #DeepID vào bất kỳ nội dung truyền thông nào, và bot Twitter của DeepMedia sẽ nhanh chóng chạy nội dung đó thông qua hệ thống phát hiện deepfake và cung cấp kết quả trong chuỗi.
“Chúng tôi hy vọng rằng điều này sẽ trao quyền cho người dùng bình thường và các ký giả công dân những công cụ họ cần để bảo vệ bản thân trước thông tin sai lệch từ AI,” ông nói.
Quyết định này thể hiện một bước quan trọng hướng tới dân chủ hóa cuộc chiến chống lại thông tin sai lệch và tin giả do AI gây ra.
Cuộc bầu cử tổng thống Hoa Kỳ năm 2024 sẽ là một bài kiểm tra quan trọng về khả năng chống lại ảnh hưởng của deepfake đối với nhận thức của công chúng và kết quả bầu cử. Ông Gupta nhấn mạnh rằng thách thức này còn vượt ra ngoài các giải pháp kỹ thuật, và ông kêu gọi mọi người luôn cảnh giác và cập nhật thông tin.
Ông Gupta nói: “Sự kết hợp giữa AI và bầu cử đòi hỏi sự quan tâm và hành động tập thể của chúng ta để bảo vệ tính liêm chính của các quy trình dân chủ của chúng ta.”
Khi được hỏi liệu AI hoặc deepfake đã được chú ý trong chu kỳ bầu cử năm 2024 hay chưa, bà Brown cho biết chỉ một số trường hợp không thu hút được nhiều sự chú ý.
Một video giả mạo có nội dung cho thấy bà Hillary Clinton tiến cử ứng cử viên tổng thống, Thống đốc Ron DeSantis.
“Điều đó hoàn toàn sai, và công cụ dò của chúng tôi có thể phát hiện ra điều đó với độ chính xác cao,” bà Brown nói. “Nhưng những trường hợp như thế này có thể gây tổn hại cho chiến dịch tranh cử của ông DeSantis.”
“Vì vậy, chúng ta sẽ thấy điều đó càng ngày càng nhiều, đặc biệt là khi lượng tin tức đưa tin trong mùa bầu cử thực sự tăng lên.”
Tin tưởng vào nguồn tin của quý vị
Công ty AI Conversica đã hoạt động trong lĩnh vực AI từ năm 2007. Tổng giám đốc Jim Kaskade đã đưa ra một góc nhìn độc đáo về vai trò của AI trong cuộc bầu cử năm 2024.
Ông nói: “Chúng tôi được thúc đẩy bởi mục đích tích cực và phương diện tốt đẹp của ứng dụng AI.”
Cam kết này cho thấy rằng các công nghệ AI, khi được sử dụng một cách cẩn thận, có thể góp phần cải thiện quy trình bầu cử.
Ông Kaskade cho rằng AI có thể là một lực lượng tích cực trong các cuộc bầu cử. Các công cụ được AI trợ giúp có thể cải thiện khả năng giao tiếp, cung cấp thông tin chi tiết có giá trị về sở thích của cử tri, và hợp lý hóa các nỗ lực vận động tranh cử. Ông cho biết điều cần thiết là phải tìm ra sự cân bằng giữa việc khai thác AI cho các mục đích tích cực và ngăn chặn việc sử dụng sai mục đích.
Ông nhấn mạnh sự cần thiết phải sử dụng một cách có đạo đức nội dung do AI tạo ra trong diễn ngôn chính trị và phải cảnh giác trong việc bảo đảm tính xác thực của thông tin trong bối cảnh bầu cử. Điều này nhấn mạnh tầm quan trọng của việc tin cậy các nguồn tin trong kỷ nguyên nội dung do AI tạo ra.
“Tôi nghĩ đó chỉ là điều căn bản,” ông Kaskade nói. “Quý vị cần phải nghiên cứu nguồn thông tin của quý vị.”
Ông thừa nhận rằng mặc dù công nghệ chưa hoàn toàn bắt kịp để phân biệt giữa nội dung thật và giả, người ta vẫn có thể thận trọng bằng cách đánh giá độ tin cậy của các nguồn cung cấp thông tin.
Vấn đề năm 2024
Thách thức do deepfake đặt ra trong cuộc bầu cử năm 2024 là rất nhiều phương diện. Với sự tiến bộ nhanh chóng của công nghệ AI, kẻ xấu có thể dễ dàng tạo ra nội dung giả mạo có sức thuyết phục cao bao gồm video, bản ghi âm, và hình ảnh để thao túng dư luận và gieo rắc bất hòa.
Điều này gây ra một mối đe dọa đáng kể làm xói mòn niềm tin vào các ứng cử viên và thể chế chính trị.
Các chuyên gia cho rằng điều này đòi hỏi nỗ lực chung của các chính phủ, công ty công nghệ, và xã hội nói chung nhằm nâng cao nhận thức, thúc đẩy hiểu biết về kỹ thuật số, và ban hành các quy định để chống lại việc sử dụng AI với mục đích xấu.
Ông Kaskade kêu gọi các ứng cử viên đang tranh cử hãy đề xướng các chính sách và quy định về AI để bảo đảm rằng việc sử dụng công nghệ này mang lại lợi ích cho xã hội, thay vì gây hại, và gây chia rẽ.
Cử tri và người dân cũng sẽ phải cập nhật thông tin về deepfake và sự tiến bộ của AI, đồng thời biết cách tự bảo vệ mình bằng cách sử dụng kỹ năng tư duy phân tích và đánh giá nghiêm túc thông tin mà họ gặp trên mạng.
(*) Ghi chú của người dịch
Deepfake: là một từ kết hợp giữa “deep learning” và “fake,” là một kỹ thuật cho tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo. Deepfake cũng có thể được sử dụng để tạo tin giả và các trò lừa bịp độc hại.
Chase Smith _ Nguyễn Lê
***
Deep fake là gì?
Deepfake _ Tại sao có thể giả giọng, mặt người thân để lừa đảo?
Gần đây mạng xã hội đang lan truyền thủ đoạn gọi video giả và giả giọng người thân để lừa đảo. Thủ đoạn này được gọi là Deepfake. Vậy, Deepfake là gì? Tại sao có thể giả giọng, mặt người thân để lừa đảo?
https://baomai.blogspot.com/
No comments:
Post a Comment
Note: Only a member of this blog may post a comment.