Theo tạp chí Wired, nhà nghiên cứu bảo mật Jeremiah Fowler đã phát hiện một cơ sở dữ liệu khổng lồ thuộc về DreamX - công ty đứng sau các ứng dụng AI nổi tiếng như MagicEdit và DreamPal. Điều đáng nói là kho dữ liệu chứa hơn 1 triệu tệp tin này hoàn toàn không được bảo vệ, cho phép bất kỳ ai cũng có thể truy cập trực tuyến.
Tại thời điểm phát hiện vào tháng 10, ông Fowler ghi nhận có khoảng 10.000 hình ảnh mới được nạp vào hệ thống mỗi ngày. Đây là cơ sở dữ liệu thứ ba liên quan đến AI tạo ảnh bị cấu hình sai mà chuyên gia này tìm thấy trong năm nay, nhưng mức độ nghiêm trọng của vụ việc lần này nằm ở tính chất của nội dung bị rò rỉ.
Ảnh minh họa: WIRED
Nạn nhân là người thật và trẻ em
Kết quả phân tích cho thấy phần lớn dữ liệu là ảnh khiêu dâm. Tuy nhiên, chúng không phải là ảnh người mẫu tự nguyện mà là sản phẩm của công nghệ "Nudify" (lột đồ). AI đã được sử dụng để xóa quần áo của người trong ảnh gốc hoặc ghép mặt của những người vô tội vào các cơ thể khỏa thân.
Nghiêm trọng hơn, Jeremiah Fowler cảnh báo: "Vấn đề thực sự là ảnh của những người vô tội, đặc biệt là trẻ vị thành niên, đang bị sử dụng để tạo nội dung khiêu dâm trái phép". Nhiều hình ảnh trong kho dữ liệu mô tả trẻ em hoặc khuôn mặt trẻ em bị ghép vào cơ thể người lớn khỏa thân, dấy lên lo ngại sâu sắc về vấn nạn lạm dụng tình dục trẻ em qua công nghệ số.
Sự việc này là hồi chuông cảnh báo về sự nở rộ của các công cụ AI chỉnh sửa ảnh ác ý.
MagicEdit: Công cụ cho phép chỉnh sửa ảnh, thay đổi trang phục nhưng bị người dùng lợi dụng để tạo ảnh gợi dục.
DreamPal: Dịch vụ trò chuyện nhập vai với "bạn gái AI", mang tính chất người lớn rõ rệt.
Ai cũng có thể là nạn nhân của các công cụ AI chỉnh sửa ảnh ác ý
Những ứng dụng này cho phép kẻ xấu dễ dàng lấy trộm ảnh từ mạng xã hội của bất kỳ ai và biến chúng thành ảnh khiêu dâm chỉ sau vài cú nhấp chuột. Adam Dodge, nhà sáng lập tổ chức EndTAB, nhận định: "Đây là sự tiếp diễn của vấn đề nhức nhối lâu nay: sự tình dục hóa phụ nữ và trẻ em gái, nay được khuếch đại khủng khiếp bởi AI".
Ngay sau khi vụ việc vỡ lở, DreamX đã vội vã tuyên bố khóa quyền truy cập cơ sở dữ liệu và tiến hành điều tra nội bộ, đồng thời biện minh rằng số dữ liệu bị rò rỉ chỉ là tài liệu cũ và khẳng định không dung túng cho hành vi lạm dụng. Tuy nhiên, động thái này không ngăn được sự trừng phạt từ các nền tảng lớn khi cả Apple và Google đều đã thẳng tay gỡ bỏ MagicEdit, DreamPal cùng các ứng dụng liên quan khỏi App Store và Play Store do vi phạm nghiêm trọng chính sách về nội dung khiêu dâm.
Vụ việc lần này thực sự là lời cảnh báo đanh thép tới người dùng mạng xã hội cần cẩn trọng hơn khi chia sẻ hình ảnh cá nhân công khai, bởi trong kỷ nguyên AI, bất kỳ ai cũng có thể trở thành nạn nhân của những trò "lột đồ" ác ý và bị phát tán trên không gian mạng.