Chống nạn làm giả hình ảnh khiêu dâm qua công nghệ AI

VÂN ÁNH |

Các nhà nghiên cứu đã dấy lên hồi chuông báo động về tình trạng lan tràn các nội dung lạm dụng tình dục trẻ em do AI tạo nên.

Tại Mỹ, một người mẹ và cô con gái 14 tuổi đang tiến hành cuộc đấu tranh nhằm bảo vệ phụ nữ và trẻ em gái trước nạn dùng trí tuệ nhân tạo (AI) tạo ra hình ảnh khiêu dâm. Hai mẹ con đã có quyết tâm sau khi chính cô con gái và một số bạn nữ cùng lớp trở thành nạn nhân.

Vụ việc một lần nữa cho thấy tình trạng bùng nổ chưa từng có khi các hình ảnh khiêu dâm do AI tạo nên trên mạng đang làm hại phụ nữ và trẻ em trong thế giới thực.

Những hình ảnh làm giả về con gái chị Dorota Mani và các bạn cùng lớp đã lưu hành tại trường ở thị trấn Westfield, bang New Jersey, Mỹ.

Chị Dorota Mani, mẹ của nạn nhân, chia sẻ: "Phản ứng đầu tiên của tôi là bị sốc. Rõ ràng là chẳng người mẹ nào được chuẩn bị tâm lý trước để nghe chuyện như vậy. Sau đó là cảm giác thất vọng về cái cách nhà trường xử lý vấn đề. Thế rồi con gái tôi nói với tôi rằng, cháu muốn đứng ra đấu tranh để bảo vệ mình và những người khác. Đó là vì sao chúng tôi tiến hành cuộc đấu tranh này. Con gái tôi đã lập một website trực thuộc một tổ chức từ thiện, hướng dẫn các nạn nhân cách xử lý tình huống, tìm sự trợ giúp và nâng cao nhận thức cho những người khác".

Chị Mani cho hay, một số học sinh nam đã bị trường và cảnh sát thẩm vấn. Ít nhất 1 học sinh bị đình chỉ học 1 ngày. Nhà trường đã thông báo với cha mẹ học sinh rằng, các hình ảnh đã bị xóa và không được lưu hành nữa. Song các phụ huynh vẫn không yên tâm.

Mẹ của nạn nhân cho rằng: "Chúng ta đều đã nghe đến những dấu vết kỹ thuật số, những hình ảnh được các máy chủ lưu lại. Thông báo của nhà trường, nói theo ý tích cực nhất, thì cũng là thiếu hiểu biết".

Trong năm nay, các nhà nghiên cứu đã dấy lên hồi chuông báo động về tình trạng lan tràn các nội dung lạm dụng tình dục trẻ em do AI tạo nên. Tình trạng này thậm chí có thể vượt ra ngoài khả năng xử lý của lực lượng thực thi pháp luật. Hiện có rất nhiều ứng dụng và website công khai quảng cáo khả năng thực hiện dịch vụ làm giả hình ảnh bằng AI.

Đường dây nóng: 0943 113 999

Soha
Báo lỗi cho Soha

*Vui lòng nhập đủ thông tin email hoặc số điện thoại