Thời gian qua, nhiều nữ sinh và phụ nữ trưởng thành tại Hàn Quốc đã phải sống với nỗi lo liên quan đến deepfake khiêu dâm. Đối mặt với việc hình ảnh khuôn mặt của mình sẽ bị kẻ xấu lợi dụng, hàng loạt người đã vội vã xóa ảnh tự sướng của bản thân khỏi các mạng xã hội như Facebook, Instagram.
Những người này lo ngại rằng bất cứ ai cũng có thể trở thành nạn nhân và cả tội phạm sử dụng công nghệ deepfake ở quốc gia có mạng lưới công nghệ cao nhất thế giới này.
"Cảm giác như nơi đáng lẽ phải là nơi an toàn nhất đối với chúng tôi và gắn bó với cuộc sống thường ngày của chúng tôi đều đã bị xâm phạm" - một phụ nữ 27 tuổi cho biết và đồng thời tiết lộ rằng cô đã xóa mọi dấu vết của mình trên mạng xã hội.
Được biết, những lo ngại về deepfake tình dục đã trở thành tâm điểm chú ý khi một người đàn ông ở độ tuổi 40 từng tốt nghiệp Đại học Quốc gia Seoul (một trong số những trường đại học hàng đầu Hàn Quốc) bị cáo buộc đã âm mưu với ba người đàn ông khác để tạo ra những hình ảnh và video khiêu dâm bằng công nghệ deepfake bằng hình ảnh của nhiều cô gái và chia sẻ chúng lên Telegram cho những hội nhóm. Cho đến nay, cảnh sát đã xác định được danh tính của 61 nạn nhân, trong đó có tới 12 cựu người từng học cùng trường với thủ phạm.
Một bức ảnh cho thấy những kẻ sử dụng deepfake cho mục đích tạo ra các sản phẩm khiêu dâm đang trò chuyện trên Telegram
Sau khi vụ việc này được công bố, các phương tiện truyền thông tại Hàn Quốc đã liên tục đưa tin về các vụ án khác liên quan đến tội phạm tình dục deepfake. Trong đó còn có một số phòng chat nhắm vào trẻ vị thành niên.
Yonhap cho biết, trong quá trình điều tra cảnh sát còn phát hiện một kênh Telegram được cho là có hơn 220.000 thành viên. Kênh này không chỉ là nơi giao dịch hình ảnh nhạy cảm mà thậm chí còn được cài đặt chương trình tự động biến những bức ảnh bình thường thành ảnh khỏa thân ngay lập tức. Đáng chú ý, các thủ phạm còn khuyến khích thành viên nhóm chia sẻ ảnh của những người mà họ quen biết vào nhóm.
Bae Sang-hoon, phó giáo sư khoa quản lý cảnh sát tại Đại học Woosuk, cho biết thủ phạm gây ra những tội ác này thường bị thúc đẩy bởi các yếu tố như cảm giác tự ti, thích thú và đôi khi chỉ muốn quấy rối hoặc trả thù ai đó trên không gian mạng khi không thể thực hiện hành vi đó trực tiếp.
Bae cho biết: "Hình thức xúc phạm người quen sớm nhất bắt đầu từ khi còn nhỏ, người ta thường vẽ ria mép lên ảnh treo trong nhà vệ sinh công cộng hoặc móc mắt khỏi ảnh trong album tốt nghiệp".
Giáo sư cho biết sự khác biệt ngày nay là sự kết hợp giữa Telegram, ứng dụng được thanh thiếu niên và thế hệ trẻ sử dụng rộng rãi, với trí tuệ nhân tạo và gây ra hiểm họa không thể lường trước được.
"Công nghệ deepfake khiến việc phân biệt liệu thứ gì đó được tạo ra là thật hay chỉ là tranh biếm họa trở nên khó khăn và sự nhầm lẫn này khiến nó trở nên nguy hiểm hơn". - Giáo sư Bae nói.
Tổng thống Yoon Suk Yeol (trái) được cung cấp thông tin về phần mềm phát hiện deepfake trong Hội nghị chuyên đề quốc tế về ứng phó với tội phạm mạng năm 2024
Tính từ thời điểm ngày 01/01 đến ngày 25/08 năm nay, số nạn nhân yêu cầu cơ quan nhà nước giải quyết tội phạm tình dục kỹ thuật số giúp đỡ đã lên tới 781 người (trong đó có 288 người, tương đương 36.9% là trẻ vị thành niên).
Bộ giáo dục cho biết họ đã nhận được 196 báo cáo về các sự việc do tội phạm tình dục deepfake gây ra đối với học sinh và giáo viên, trong đó giáo viên chiếm 10 trường hợp.
Trước những tội ác deepfake này, phụ nữ đang vội vã xóa ảnh của mình trên mạng xã hội hoặc tự mình truy tìm những nghi phạm. Trên X, các từ khóa như "khiêu dâm bất hợp pháp" và "vạch trần thủ phạm deepfake" đã trở thành xu hướng. Trong đó nhiều người chia sẻ danh sách các trường học bị nghi ngờ là mục tiêu trong các nhóm chat chuyện. Đồng thời, những người phụ nữ này cũng chia sẻ mẹo để tránh trở thành nạn nhân.
Kim Su-jeong, giám đốc Trung tâm tư vấn nhân quyền phụ nữ, cho biết chính phủ nên giáo dục những kẻ phạm tội rằng hành động của họ là sai trái và không thể dung thứ, thay vì yêu cầu nạn nhân xóa ảnh hoặc bài đăng.
"Tình trạng bạo lực liên tục đối với phụ nữ ở đất nước này là kết quả của việc nhà nước không lắng nghe lời cảnh báo về vấn đề này trong quá khứ, hình phạt đối với thủ phạm còn quá nhẹ khiến cho họ thiếu nhận thức rằng những hành động như vậy phạm tội". - bà Kim Su-jeong nói.
Cảnh sát trường học tiến hành đào tạo phòng ngừa nội dung khiêu dâm bằng công nghệ deepfake tại một trường học ở thành phố Daegu, phía đông nam vào ngày 30 tháng 8 năm 2024. (Yonhap)
Đối phó với tình trạng này, hiện Chính phủ Hàn Quốc đã công bố một loạt các biện pháp, bao gồm tăng nặng hình phạt đối với tội phạm tình dục deepfake, thúc đẩy việc thiết lập đường dây nóng với Telegram để tham vấn và trừng phạt nặng những người sở hữu tài liệu khiêu dâm deepfake.
Sau các báo cáo cho biết nhiều nạn nhân là trẻ vị thành niên, Bộ giáo dục cũng cam kết sẽ giáo dục tốt hơn cho học sinh về đạo đức kỹ thuật số và đào tạo phòng chống lạm dụng tình dục trực tuyến.
Cơ quan Cảnh sát Quốc gia cũng tuyên bố sẽ triển khai chiến dịch truy quét mạnh mẽ kéo dài 7 tháng đối với tội phạm tình dục deepfake.