Thư rác kiếm lời từ hình ảnh AI về thảm sát Holocaust

Các tổ chức lưu giữ ký ức Holocaust cho biết những hình ảnh này gây đau buồn cho những người sống sót và gia đình họ.

Họ cũng chỉ trích Meta, công ty mẹ của Facebook, vì cho phép người dùng biến những tội ác này thành một "trò chơi cảm xúc".

Chỉ còn lại rất ít các bức ảnh gốc về bên trong trại tập trung Auschwitz trong Thế chiến II.

Tuy nhiên, thời gian gần đây, các tài khoản spam đã đăng hình ảnh giả mạo được cho là từ bên trong trại, chẳng hạn như một tù nhân chơi violin hoặc một cặp đôi gặp nhau bên hàng rào, thu hút hàng chục ngàn lượt thích và chia sẻ.

Ông Pawel Sawicki, người phát ngôn của Đài tưởng niệm Auschwitz ở Ba Lan, cho biết: "Chúng ta đang có người bịa ra những câu chuyện... cho một trò chơi cảm xúc kỳ lạ đang diễn ra trên mạng xã hội".

"Đây không phải là trò chơi. Đây là thế giới thực, nỗi đau thực và con người thực mà chúng ta muốn và cần tưởng nhớ."

BBC đã lần theo dấu vết nhiều hình ảnh này đến tài khoản của một mạng lưới các nhà sáng tạo nội dung tại Pakistan cùng hợp tác chặt chẽ với nhau để kiếm tiền trên Facebook. Họ đang lợi dụng chương trình kiếm tiền từ nội dung (CM) của Meta, một hệ thống "chỉ dành cho người được mời" trả tiền cho người dùng dựa trên nội dung và lượt xem hiệu quả cao.

Một tài khoản có tên Abdul Mughees, ghi là sống tại Pakistan, từng đăng ảnh chụp màn hình cho thấy người này đã kiếm được 20.000 USD (khoảng 527 triệu đồng) từ các chương trình này. Một bài đăng khác dường như thể hiện tài khoản đã đạt hơn 1,2 tỷ lượt xem chỉ trong bốn tháng.

Chúng tôi không thể xác minh độc lập thu nhập của bất kỳ nhà sáng tạo nào.

Trong số nhiều bài đăng trên Facebook từ tài khoản của Abdul Mughees, có một số hình ảnh do AI tạo ra về các nạn nhân hư cấu của cuộc diệt chủng Holocaust cùng với những câu chuyện bịa đặt, chẳng hạn như một đứa trẻ trốn dưới sàn nhà hoặc một em bé bị bỏ lại trên đường ray xe lửa bên ngoài trại tập trung.

Phân tích về hoạt động trực tuyến của tài khoản này và hàng chục tài khoản khác tương tự cho thấy họ gần như chỉ đăng "AI slop".

Thuật ngữ AI slop chỉ những hình ảnh và văn bản chất lượng thấp được AI tạo ra, thường sản xuất với số lượng lớn và lan truyền trên mạng xã hội.

Auschwitz đã trở thành một chủ đề phổ biến trên các trang và nhóm về lịch sử. Một số trang có tên như "Timeless Tales" (Những câu chuyện vượt thời gian) và "History Haven" (Nơi lưu giữ lịch sử) đăng bài hơn 50 lần mỗi ngày.

Vào tháng 6, Bảo tàng Auschwitz đã cảnh báo rằng những tài khoản như vậy đang ăn cắp bài đăng của họ, đưa chúng qua các mô hình AI và thường xuyên bóp méo chi tiết lịch sử hoặc hoàn toàn bịa đặt về các câu chuyện và nạn nhân. Trong một bài đăng trên Facebook, Bảo tàng Auschwitz cho biết những hình ảnh này là một "sự bóp méo nguy hiểm", "thiếu tôn trọng các nạn nhân và làm tổn hại ký ức của họ".

Ông Sawicki nói rằng làn sóng hình ảnh giả mạo này đang làm suy yếu sứ mệnh của Đài tưởng niệm Auschwitz trong việc nâng cao nhận thức về cuộc diệt chủng Holocaust.

Ông nói: "Chúng tôi đã bắt đầu nhận được những bình luận trên các bài đăng trên Facebook rằng 'ồ, đây là ảnh do AI tạo ra'."

Theo một tổ chức thúc đẩy giáo dục và nghiên cứu về Holocaust, những người sống sót và gia đình họ cũng lo ngại về sự gia tăng dữ liệu AI liên quan đến thảm họa Holocaust.

Tiến sĩ Robert Williams từ Liên minh Tưởng niệm Holocaust Quốc tế cho biết: "Họ không thực sự hiểu họ đang nhìn thấy gì."

Ông cho biết những người sống sót sau cuộc diệt chủng Holocaust đang cảm thấy "một nỗi buồn nhất định khi điều này được phép xảy ra", mặc dù chính phủ và các tổ chức từ thiện đã đầu tư vào các chiến dịch nâng cao nhận thức.

"Họ cảm thấy những nỗ lực của mình vẫn chưa đủ," ông nói.

"Nghĩ đến điều đó thật sự rất buồn vì những người sống sót cuối cùng sẽ sớm rời xa chúng ta."

Meta không cố ý khuyến khích người dùng đăng tải các câu chuyện sai sự thật, kể cả về thảm họa diệt chủng Holocaust, nhưng hệ thống của họ lại tưởng thưởng cho những bài có lượt tương tác cao. BBC cũng phát hiện các tài khoản đăng "AI slop" là từ Ấn Độ, Việt Nam, Thái Lan và Nigeria.

Để hiểu lý do tại sao các mạng lưới này sản xuất hàng loạt loại nội dung nhất định, BBC đã phỏng vấn một người đàn ông Pakistan tên Fazal Rahman, người tham gia nhiều chương trình kiếm tiền từ nội dung trên mạng xã hội và cho biết đây đã trở thành nguồn thu nhập duy nhất của ông.

Trong khi nói rằng mình không tự tạo bất kỳ hình ảnh Holocaust nào và thậm chí không biết từ này có nghĩa là gì khi được hỏi lần đầu, nhưng ông lại hoạt động trong cùng một nhóm Facebook với những người đã tạo ra các hình ảnh đó.

Theo Rahman, một trang Facebook có 300.000 người theo dõi có thể mang về cho chủ tài khoản 1.000 USD mỗi tháng nếu có "nội dung cao cấp" nhắm đến nhóm khán giả giá trị cao hơn từ Anh, Mỹ và châu Âu. Ông ước tính lượt xem từ phương Tây có giá trị gấp tám lần so với từ châu Á cho mỗi bài đăng.

Ông cho rằng chủ đề lịch sử là động lực ổn định để thu hút lưu lượng truy cập trực tuyến.

Những người sáng tạo khác dường như cũng đồng ý. BBC đã xem các video hướng dẫn từng bước cách sử dụng các mô hình AI phổ biến để liên tục tạo ra hình ảnh và văn bản lịch sử giả.

Trong một video, người sáng tạo yêu cầu chatbot AI liệt kê các sự kiện lịch sử quan trọng có thể dùng làm cơ sở cho nội dung, và nhận được câu trả lời là Holocaust.

Một số người sáng tạo khác còn đưa ra lời khuyên về cách đánh lừa khán giả, chẳng hạn để trang của họ mạo danh các tổ chức khác nhằm xây dựng lượng theo dõi và đủ điều kiện tham gia chương trình kiếm tiền (CM) của Meta.

Facebook có tính năng minh bạch trang, cho phép người dùng theo dõi tên trước đây của trang. Nhờ đó, BBC phát hiện nhiều trang từng đăng thông tin AI về Holocaust đã mạo danh nhiều tổ chức khác nhau, kể cả sở cứu hỏa chính thức tại Mỹ, các doanh nghiệp thương mại và những người có ảnh hưởng ở Mỹ - tất cả đều không được sự cho phép.

Theo các bài đăng công khai của người sáng tạo, những trang này cũng có thể được bán hoặc cho thuê cho những ai muốn thâm nhập thị trường sáng tạo nội dung.

Một số tài khoản và nhóm đã bị xóa, trong đó có những tài khoản và nhóm ban đầu được Đài tưởng niệm Auschwitz cảnh báo vào tháng 6.

Người phát ngôn của tập đoàn công nghệ này cho biết mặc dù các hình ảnh giả đó không vi phạm chính sách nội dung, nhưng họ đã điều tra và phát hiện chúng vi phạm các quy tắc về mạo danh hoặc giao dịch trang.

Họ nói: "Chúng tôi đã xóa các Trang và Nhóm được chia sẻ với chúng tôi, đồng thời vô hiệu hóa các tài khoản đứng sau vì vi phạm chính sách về spam và hành vi không xác thực."

AI từng được sử dụng để tưởng niệm nạn diệt chủng Holocaust và tái hiện câu chuyện của các nạn nhân có thật. Nhưng Tiến sĩ Williams, thuộc Liên minh Tưởng niệm Holocaust Quốc tế, cảnh báo rằng điều này có nguy cơ dẫn đến cảm giác rằng lịch sử về Holocaust bằng cách nào đó là bịa đặt.

Ông nói: "Chúng ta nên tránh xa bất kỳ hình thức thao túng cực đoan nào."

 

Kristina Völk