Theo trang tin Sixth Tone, trong nhiều tháng, một người sáng tạo nội dung đã thu hút hàng nghìn người theo dõi mình trên mạng xã hội Douyin (phiên bản tiếng Trung của TikTok) với các video bằng tiếng Trung cập nhật theo thời gian thực từ tâm điểm của cuộc xung đột Nga - Ukraine.
Với cái đầu hói và bộ râu rậm, người sáng tạo nội dung với biệt danh Baoer Kechatie tự nhận mình là một người lính thuộc lực lượng đặc nhiệm Chechnya, đóng quân ở tiền tuyến Ukraine.
Trong một video, đứng trước một “nhà máy điện hạt nhân”, Baoer Kechatie tuyên bố quân đội Nga vừa tiếp quản khu vực này. Trong một video khác, anh ta tuyên bố rằng mình đã chiến đấu với lính thủy đánh bộ Mỹ, và thậm chí còn cho khán giả xem một khẩu súng ngắn.
Các video đăng trên mạng xã hội Douyin của Baoer Kechatie. Nguồn: Sixth Tone
Tuy nhiên, tất cả chỉ là một trò lừa đảo được dàn dựng tốt.
Theo trang tin Sixth Tone, sử dụng công nghệ deepfake (phương thức tạo ra các sản phẩm công nghệ giả dưới dạng âm thanh, hình ảnh hoặc thậm chí là cả video, bằng trí tuệ nhân tạo AI tinh vi) và các công cụ khác, Baoer Kechatie đã thay đổi ngoại hình và tạo ra một danh tính giả để đánh lừa những người theo dõi anh ta trên Douyin.
Một số người thậm chí đã mua các mặt hàng nhập khẩu từ Nga, từ rượu vodka đến mật ong trên gian hàng thương mại điện tử của Baoer Kechatie.
Nhưng khi tài khoản của Baoer Kechatie thu hút nhiều người theo dõi hơn, những nghi ngờ bắt đầu nảy sinh, đặc biệt là xung quanh giọng nói tiếng Trung của anh ta. Khi sự chú ý ngày càng gia tăng, những người dùng khác trên Douyin nhận thấy rằng địa chỉ IP trong tài khoản của Baoer Kechatie cho thấy anh ta đang ở tỉnh Hà Nam (Trung Quốc), điều này cũng khớp với giọng nói tiếng Trung của Baoer Kechatie.
Trong một tuyên bố mới đây, Douyin cho biết họ đã đình chỉ vô thời hạn tài khoản Baoer Kechatie vì phát tán thông tin sai lệch và cấm tài khoản này kiếm tiền. Vào thời điểm giữa tháng 6, tài khoản này có gần 400.000 người theo dõi và đã bán được ít nhất 210 mặt hàng thông qua gian hàng thương mại điện tử được liên kết.
Trước lệnh cấm, chủ sở hữu tài khoản này đã gỡ bỏ tất cả các video và đổi tên tài khoản của mình từ “Baoer Kechatie” – gần giống với tên nhân vật chính Pavel Korchagin trong tiểu thuyết Nga “Thép đã tôi thế đấy” - thành “Wang Kangmei”, có nghĩa là “Vương chống lại nước Mỹ”.
Và mặc dù nhiều video đã được gắn nhãn là “dàn dựng” trước khi bị xóa, nhưng các bình luận cho thấy Baoer Kechatie đã thuyết phục được không ít người dùng, nhiều người trong số đó thậm chí còn cổ vũ cho thành công của Baoer Kechatie.
Trung Quốc 'quản chặt' công nghệ deepfake
Theo trang tin Sixth Tone, đây không phải là lần đầu tiên những người sáng tạo nội dung tại Trung Quốc sử dụng danh tính nước ngoài để kiếm tiền trực tuyến nhanh chóng.
Năm ngoái, một phụ nữ Nga tên là Nana đã gây sốt khi chia sẻ cuộc sống của mình ở Trung Quốc, nhưng cuối cùng đã bị vạch mặt là kẻ mạo danh bắt chước ngoại hình của một phụ nữ khác bằng cách sử dụng các bộ lọc do AI cung cấp. Tài khoản thu hút gần 2 triệu người theo dõi cuối cùng đã bị chặn sau những lời phàn nàn từ người dùng và chỉ trích từ truyền thông nhà nước Trung Quốc.
Những trường hợp như vậy xảy ra trong bối cảnh công chúng ngày càng lo ngại về sự gia tăng của các vụ lừa đảo thông qua việc sử dụng các công nghệ deepfake, có khả năng thay đổi đặc điểm khuôn mặt, giọng nói và các dữ liệu sinh trắc học khác.
Vào tháng 4, một chủ sở hữu công ty công nghệ tại Trung Quốc đã bị lừa 4,3 triệu nhân dân tệ (hơn 14 tỷ VNĐ) sau khi những kẻ lừa đảo giả làm bạn của anh ta bằng phần mềm hoán đổi khuôn mặt, thuyết phục anh ta chuyển tiền vào tài khoản của chúng.
Để giải quyết mối đe dọa này, Trung Quốc đã đưa ra một loạt chính sách nhắm vào các công nghệ deepfake vào tháng 1, bao gồm lệnh cấm các hoạt động bất hợp pháp và thiết lập hệ thống xác minh tên thật.
Kể từ tháng 5, Douyin đã yêu cầu tất cả người dùng tại Trung Quốc gắn nhãn rõ ràng cho các nội dung do AI tạo ra nhằm xóa bỏ những lo ngại về tin đồn và thông tin sai lệch.