Hôm 27/5, trên mạng xã hội Weibo ở Trung Quốc, một người dùng đã tuyên bố anh đã tạo ra một phần mềm sử dụng công nghệ nhận dạng khuôn mặt để tham khảo chéo các bức ảnh phụ nữ trên mạng xã hội với khuôn mặt được lấy từ video trên các nền tảng người lớn như Pornhub. Người đàn ông này cho biết anh đang sống ở Đức và công cụ nói trên đã xác định thành công hơn 100.000 phụ nữ trẻ trong ngành công nghiệp khiêu dâm trên phạm vi toàn cầu. Nam thanh niên không đăng tải bất cứ bằng chứng, đoạn mã hoặc cơ sở dữ liệu nào. Tuy nhiên, anh cho biết sẽ sớm phát hành lược đồ cơ sở dữ liệu và các chi tiết kỹ thuật trong thời gian sắp tới.
Cũng theo chia sẻ trên Weibo, tác giả công cụ này cho biết lý do khi sáng tạo ra công cụ này là để mọi người, cả nam lẫn nữ có quyền được biết về quá khứ của người kia trước khi quyết định kết hôn. Sau khi nhận được không ít ý kiến phản đối, anh tuyên bố thêm rằng ý định của mình là cho phép phụ nữ, đã có chồng hoặc chưa có chồng, kiểm tra xem họ có xuất hiện trên các trang web khiêu dâm không để gửi yêu cầu gỡ xuống những nội dung này.
Lập trình viên Trung Quốc cho biết đã xác minh thành công 100.000 phụ nữ thông qua công cụ so sánh chéo này.
Thông tin trên đã nhanh chóng lan truyền trên cả mạng xã hội Weibo và cả Twitter, Facebook. Câu chuyện cũng khiến các nhà hoạt động xã hội và nhiều học giả nổi tiếng sôi nổi thảo luận về ý nghĩa tiềm năng của công nghệ này. Nhiều người đã tưởng tượng tới viễn cảnh hàng trăm nghìn phụ nữ, thậm chí cả nam giới bị người lạ đe dọa, tống tiền hay quấy rối bởi những video cảnh nóng của họ, thứ đã vô tình hoặc cố ý bị đăng tải trên mạng Internet. Đi kèm với nó là các mối quan hệ tan vỡ do người vợ, hoặc chồng tìm thấy các video riêng tư của đối phương trên mạng Internet chỉ thông qua một bức ảnh.
"Đây là một ví dụ khủng khiếp và hoàn hảo về cách hệ thống này ủng hộ sự thống trị của nam giới, trên phạm vi toàn cầu", Soraya Chemaly, nhà văn kiêm nhà hoạt động vì phụ nữ, chia sẻ trên Twitter. "Giám sát, mạo danh, tống tiền, thông tin sai lệch... mọi thứ đều xảy ra với phụ nữ trước và bị coi là điều hiển nhiên. Nhưng chỉ cần một người đàn ông bị ảnh hưởng, nó bắt đầu được chú ý".
Cho dù tuyên bố của người dùng Weibo kia có đáng tin hay không, các chuyên gia nghiên cứu về nữ quyền và công nghệ học máy đều cho rằng vấn đề quan trọng giờ đây là việc quấy rối phụ nữ một cách có chủ đích đã có sự liên hệ và tham gia của các thuật toán. Sự tồn tại của các chương trình như thế này là chuyện khả thi và rất đáng sợ. Nó gợi nhớ lại câu hỏi về việc có nên quản lý quá trình sử dụng AI, cũng như yêu cầu các lập trình viên hay công ty phải chịu trách nhiệm về mặt đạo đức hay pháp lý không.
Trên thực tế, nhiều phần mềm sử dụng trí tuệ nhân tạo đã có thể hoán đổi khuôn mặt của người nổi tiếng với các nữ diễn viên phim khiêu dâm. Và chúng hoàn toàn có thể được sử dụng với mục đích bôi nhọ hoặc tống tiền. Rõ ràng, trong khi mọi người mải để ý việc sử dụng công nghệ có khiến mình bị lộ thông tin cá nhân hay không, những người phụ nữ và quyền lợi của họ dường như đã bị bỏ lại phía sau.
Danielle Citron, giáo sư luật tại Đại học Maryland, cho biết: "Đây là một ý tưởng tồi tệ. Quan điểm giám sát và kiểm soát phụ nữ đã đạt tới một trình độ xuống cấp mới".
Công cụ nhận diện khuôn mặt đã khiến nhiều nhà nữ quyền, chuyên gia công nghệ tranh cãi.
Các chuyên gia công nghệ cũng cho rằng về mặt lý thuyết, một người có lượng kiến thức về lập trình và học máy ở mức khá, được cung cấp đủ thời gian và công cụ, có thể tạo ra được công cụ như miêu tả ở trên. Hiện nay trên thế giới, khả năng tạo cơ sở dữ liệu về khuôn mặt và triển khai nhận dạng khuôn mặt để nhắm mục tiêu đã được ứng dụng ở nhiều khía cạnh.
Năm 2017, trang web nội dung người lớn Pornhub đã công bố đang phát triển tính năng nhận dạng khuôn mặt mới. Công nghệ này có khả năng phát hiện và nhận dạng 10.000 diễn viên phim người lớn và tự động đánh dấu họ vào các cảnh phim với thông tin được cung cấp bởi người xem hoặc người đăng. Về mặt lý thuyết, những kẻ lạm dụng hoặc quấy rối có thể nhờ nó để dễ dàng tìm thấy các mục tiêu cho mình.
Năm 2018, một nhóm tội phạm trực tuyến bắt đầu biên soạn cơ sở dữ liệu của gái mại dâm, để đe dọa và quấy rối họ. Chiến dịch quấy rối này đã gây ra các hậu quả thực tế, khiến các công cụ thanh toán trực tuyến và mạng xã hội của họ ngừng hoạt động.
Trên thực tế, dù phần mềm kia có thật hay không, nó cũng đại diện cho những con đường và viễn cảnh đen tối nơi công nghệ máy học và một số yếu tố xã hội độc hại kết hợp lại và đưa đến cho chúng ta.
Tham khảo Vice