Đánh cắp danh tính phụ nữ Ấn Độ để tạo nội dung khiêu dâm

Chỉ mất vài ngày để tài khoản Instagram nổi tiếng "Babydoll Archi" ở Ấn Độ tăng gấp đôi lượng người theo dõi lên thành 1,4 triệu, nhờ một vài khoảnh khắc lan truyền trên mạng xã hội.

Một trong số đó là đoạn video cô diện đồ truyền thống Ấn Độ sari đỏ, nhảy múa đầy quyến rũ theo bản nhạc Romania Dame Un Grr.

Một bức ảnh khác đăng trên nền tảng này cho thấy cô tạo dáng cùng Kendra Lust, ngôi sao phim khiêu dâm người Mỹ.

Ngay lập tức, ai cũng muốn biết cô là ai – cái tên Babydoll Archi bắt đầu dẫn đầu xu hướng tìm kiếm trên Google, xuất hiện trong vô số ảnh chế và trang mạng xã hội.

Nhưng rồi một sự thật chấn động sắp lộ diện – đằng sau hiện tượng mạng ấy, hoàn toàn không có một người phụ nữ thật nào.

Tài khoản Instagram kia là giả mạo, dù khuôn mặt được sử dụng lại giống một cách kỳ lạ với một người phụ nữ thật – một phụ nữ nội trợ sống tại thành phố Dibrugarh, bang Assam.

Trong bài viết này, chúng tôi sẽ gọi cô là Sanchi.

Mọi chuyện bắt đầu sáng tỏ sau khi anh trai của cô Sanchi nộp đơn khiếu nại lên cảnh sát. Ông Pratim Bora, bạn trai cũ của cô Sanchi, đã bị bắt giữ.

Thanh tra cảnh sát cấp cao Sizal Agarwal là người dẫn đầu cuộc điều tra. Bà Agarwal cho biết cô Sanchi và ông Bora từng có mâu thuẫn gay gắt, và hình ảnh mà ông Bora tạo ra bằng trí tuệ nhân tạo (AI) "thuần túy để trả thù".

Theo bà Agarwal, ông Bora – một kỹ sư cơ khí và là người tự học về AI – đã sử dụng ảnh riêng tư của cô Sanchi để tạo tài khoản giả mạo.

Hiện ông Bora đang bị tạm giam và chưa đưa ra bất kỳ tuyên bố nào.

Tài khoản Babydoll Archi được tạo từ năm 2020, và bài đăng đầu tiên xuất hiện vào tháng 5/2021. Bà Agarwal cho biết những bức ảnh ban đầu là ảnh thật của cô Sanchi và đã bị chỉnh sửa.

"Về sau, Bora dùng các công cụ như ChatGPT và Dzine để tạo ra phiên bản AI của cô ấy, rồi đăng tải lên tài khoản đó những bức ảnh và video deepfake", bà nói.

Tài khoản này bắt đầu nhận được sự chú ý từ năm ngoái, nhưng thực sự bùng nổ kể từ tháng Tư năm nay.

Cô Sanchi không sử dụng mạng xã hội, và chỉ phát hiện ra tài khoản kia sau khi các phương tiện truyền thông chính thống bắt đầu đưa tin về Babydoll Archi, mô tả cô như một "influencer" (người có ảnh hưởng).

Một số bài viết còn suy đoán rằng cô sắp gia nhập ngành công nghiệp phim khiêu dâm ở Mỹ – có thể là người đầu tiên đến từ bang Assam làm điều này.

Đơn khiếu nại ngắn vỏn vẹn chỉ hai đoạn của gia đình cô Sanchi gửi cảnh sát vào đêm 11/7 kèm theo bản in ảnh và video làm bằng chứng.

Bà Agarwal cho biết đơn này không nêu tên nghi phạm vì gia đình không biết ai đứng sau tài khoản đó.

Bà Agarwal nói rằng họ đã từng thấy tin tức và suy đoán trên truyền thông về việc cô ấy là sản phẩm của AI, nhưng không ai cho rằng nó được dựa trên một người thật.

Khi nhận được đơn tố cáo, cảnh sát đã gửi văn bản đến Instagram yêu cầu cung cấp thông tin về người tạo tài khoản đó.

"Khi chúng tôi nhận được thông tin từ Instagram, chúng tôi hỏi Sanchi xem cô ấy có biết ai tên Pratim Bora không. Sau khi cô ấy xác nhận, chúng tôi đã lần theo địa chỉ của anh ta ở quận Tinsukia lân cận và bắt giữ anh ta vào tối ngày 12/7."

Bà Agarwal cho biết "cảnh sát đã tịch thu máy tính xách tay, điện thoại di động, ổ cứng và các giấy tờ ngân hàng của anh ta vì anh ta đã kiếm tiền từ tài khoản này."

"Tài khoản có 3.000 lượt đăng ký trên Linktree và chúng tôi tin rằng anh ta đã kiếm được khoảng 1 triệu rupee từ đó. Chỉ trong 5 ngày trước khi bị bắt, anh ta đã kiếm được 300.000 rupee," bà nói thêm.

300.000 rupee tương đương khoảng 90 triệu VND. 1 triệu rupee tương đương khoảng 300 triệu VND.

Bà Agarwal cho biết cô Sanchi hiện "vô cùng suy sụp" – nhưng hiện tại cô và gia đình đang được tư vấn tâm lý và tình hình đã ổn hơn.

"Thật sự không có cách nào để hoàn toàn ngăn chặn những việc như thế này xảy ra, nhưng nếu chúng tôi hành động sớm hơn, có lẽ đã có thể ngăn chặn việc nó lan truyền rộng rãi," bà Agarwal nói.

"Nhưng Sanchi hoàn toàn không biết gì vì cô ấy không sử dụng mạng xã hội. Gia đình cô ấy cũng không hề biết về tài khoản này. Họ chỉ biết khi nó đã nổi tiếng."

Meta hiện chưa phản hồi về vụ việc, nhưng theo chính sách chung, nền tảng này không cho phép đăng nội dung khỏa thân hoặc có tính chất tình dục.

Tháng trước, CBS cũng đưa tin rằng Meta đã gỡ một số quảng cáo liên quan đến công cụ AI dùng để tạo deepfake khiêu dâm dựa trên hình ảnh của người thật.

Tài khoản Instagram "Babydoll Archi", vốn có 282 bài đăng, hiện đã không còn hiển thị công khai, mặc dù trên mạng xã hội vẫn tràn ngập ảnh và video của nhân vật này, Một tài khoản Instagram khác dường như vẫn lưu giữ toàn bộ nội dung từ Babydoll Archi. BBC đã liên hệ Meta để hỏi họ dự định xử lý thế nào.

Bà Meghna Bal, chuyên gia AI kiêm luật sư, cho biết những gì xảy ra với cô Sanchi là điều khủng khiếp, nhưng gần như không thể ngăn chặn được.

Cô có thể ra tòa và yêu cầu quyền được lãng quên, và tòa án có thể ra lệnh gỡ các bài báo nêu tên cô. Nhưng việc xóa toàn bộ dấu vết khỏi Internet là rất khó.

Theo bà Bal, trường hợp của cô Sanchi phản ánh điều vốn luôn xảy ra với phụ nữ – hình ảnh, video của họ bị phát tán để trả thù.

"Giờ đây, điều đó dễ thực hiện hơn nhiều nhờ AI. Nhưng những vụ như thế này chưa phổ biến như ta tưởng – hoặc có thể đã xảy ra nhiều hơn nhưng không được đưa tin đầy đủ vì sự kỳ thị, hoặc vì nạn nhân còn không biết như trong trường hợp này," bà nói.

Người xem các nội dung đó cũng không có động lực để báo cáo lên nền tảng mạng xã hội hay cổng thông tin tội phạm mạng.

Trong vụ việc này, cảnh sát đã khởi tố ông Pratim Bora bằng nhiều điều luật liên quan đến quấy rối tình dục, phát tán tài liệu khiêu dâm, vu khống, giả mạo nhằm hạ thấp danh dự, giả mạo danh tính và tội phạm mạng.

Nếu bị kết tội, ông Bora có thể phải ngồi tù tới 10 năm.

Vụ án đã gây phẫn nộ trên mạng xã hội những ngày qua, với nhiều ý kiến kêu gọi siết chặt pháp luật để xử lý nghiêm loại tội phạm này.

Tuy nhiên, bà Bal cho rằng luật hiện hành đã đủ để xử lý. Vấn đề là cần xem xét kỹ liệu có cần thêm quy định riêng đối với các công ty phát triển AI tạo sinh hay không.

"Chúng ta cũng phải nhớ rằng deepfake không phải lúc nào cũng xấu – và việc xây dựng luật phải hết sức thận trọng, vì luật có thể bị lợi dụng để bóp nghẹt quyền tự do ngôn luận."

Geeta Pandey