Nhằm đối phó với công nghệ deepfake và việc phát tán các thông tin sai lệch, mới đây Trung Quốc đã ban hành các quy định mới nhằm cấm các nhà cung cấp dịch vụ video và âm thanh trực tuyến sử dụng kỹ thuật học sâu để tạo ra tin giả.
Ra đời nhờ sự hợp tác của 3 cơ quan chính phủ, bao gồm đơn vị hàng đầu về giám sát internet, Cục Quản lý Không gian mạng Trung Quốc, quy định mới được công bố vào thứ Sáu tuần trước cho biết, cả nhà cung cấp và người dùng dịch vụ tin tức video và âm thanh trực tuyến đều không được phép sử dụng các công nghệ mới như kỹ thuật học sâu và thực tế ảo để tạo nên, phân phối và truyền bá tin giả.
Quy định mới cũng yêu cầu các nhà cung cấp và người dùng các dịch vụ tin tức video và âm thanh trực tuyến phải gắn nhãn lên bất kỳ nội dung nào có liên quan đến việc sử dụng công nghệ mới như kỹ thuật học sâu trong quá trình tạo ra, phân phối và truyền bá.
Hơn nữa, nó cũng yêu cầu các nhà cung cấp phải sử dụng công nghệ để phát hiện các nội dung tin tức video và âm thanh đã được chế ra hoặc có khả năng bị chỉnh sửa.
"Với việc phổ biến các công nghệ mới, bao gồm deepfake, trong ngành công nghiệp video và âm thanh trực tuyến, có những nguy cơ của việc sử dụng các nội dung như vậy nhằm phá hoại trật tự xã hội và xâm phạm đến lợi ích của người khác, tạo ra các nguy cơ chính trị và mang những ảnh hưởng tiêu cực đến an ninh quốc gia và sự ổn định của xã hội." Cơ quan an ninh mạng Trung Quốc cho biết khi giới thiệu về quy định mới vào thứ Sáu vừa qua.
Trước đó một tháng rưỡi, chính quyền bang California cũng đưa ra các quy định xem việc tạo ra các đoạn video deepfake về chính trị là bất hợp pháp, cấm việc tạo ra và phát tán các video, hình ảnh hay âm thanh được chỉnh sửa để giống với các hình ảnh thật trong vòng 60 ngày trước cuộc bầu cử. Trong tháng 4, Liên minh Châu Âu EU cũng đưa ra chiến lược nhằm điều tra nạn tin giả trực tuyến, bao gồm cả kỹ thuật deepfake.
Ứng dụng Zao của Trung Quốc đã trở nên nổi tiếng khi cho phép ghép mặt mình vào các diễn viên người nổi tiếng.
Deepfake là thuật ngữ liên quan đến việc chỉnh sửa video hay các phương tiện trình diễn kỹ thuật số khác bằng những công nghệ trí tuệ nhân tạo phức tạp. Do vậy, nó tạo ra các hình ảnh và âm thanh trông giống như thật. Ví dụ, nó có thể được sử dụng để lắp ghép hình ảnh của những người nổi tiếng vào cơ thể của những người khác, nhằm đánh lừa người xem.
Nhưng quy định mới của Trung Quốc còn rộng lớn hơn thế, khi không chỉ gói gọn trong các tin tức chính trị, mà còn bao gồm cả việc sử dụng công nghệ này, như học sâu và thực tế ảo.
Với các ứng dụng smartphone và camera đang ngày càng tinh vi hơn, người dùng có thể kéo dài chân, thay đổi màu mắt cùng hàng nghìn các thủ thuật khác để tạo ra các hình ảnh và video sai lệch với chất lượng giống như thật. Những công nghệ này hiện đang được sử dụng phổ biến trong các ứng dụng livestream tại Trung Quốc.
Tại Trung Quốc, công nghệ deepfake bắt đầu trở nên nổi tiếng vào tháng Chín vừa qua khi một ứng dụng Trung Quốc cho phép người dùng thay mặt các nhân vật, diễn viên nổi tiếng bằng mặt mình. Ứng dụng đổi mặt này có tên Zao nhanh chóng trở thành ứng dụng giải trí miễn phí số một trên cửa hàng Apple App Store chỉ 2 ngày sau khi ra mắt.
Tham khảo SCMP