Ngày 21/9, trên một số nhóm Facebook xuất hiện bức ảnh một người thanh niên mặc trang phục rằn ri kèm áo phao, bế một em nhỏ cười tươi rạng rỡ. Đằng sau hai người là khung cảnh tan hoang, nhà cửa bị tàn phá do bão lũ ở một vùng miền núi. Chỉ sau chưa đầy 1 tiếng đăng tải, bức ảnh đã thu hút tới 1,5 nghìn lượt bày tỏ cảm xúc, hơn 50 bình luận và 20 chia sẻ.
Bức ảnh "chú bộ đội" ôm em bé thu hút nhiều tương tác.
Dù nội dung hình ảnh gợi đến liên tưởng chiến sĩ bộ đội đang giải cứu người dân, đặc biệt là các em nhỏ tại vùng bị ảnh hưởng bởi cơn bão số 3 vừa qua, nhưng đây hoàn toàn là sản phẩm dàn dựng với bàn tay của AI (trí tuệ nhân tạo).
Có thể nhận ra qua một vài điểm như sau: Khuôn mặt của cả người "chiến sĩ" và em bé đều hoàn hảo một cách kỳ lạ, không hề có khuyết điểm trên da, thậm chí không có vết bẩn dù ngụp lặn giữa nước lũ, bùn sâu; trang phục của nhân vật trong ảnh hoàn toàn không phải trang phục dã chiến của quân đội ta; cả hai nhân vật đều tươi cười, thậm chí có vẻ hạnh phúc như đang tạo dáng chụp ảnh dù hoàn cảnh xung quanh vô cùng tang thương.
Còn một số chi tiết nữa thuộc về ánh sáng, cách mô tả chất liệu, chi tiết, đổ bóng... mà những người quen làm việc với đồ họa hoặc AI sẽ dễ dàng nhận ra, nhưng vẫn có thể đánh lừa, khơi gợi sự xúc động, sau đó là sẻ chia ồ ạt của những người không thạo công nghệ.
Để tăng thêm phần "kịch tính" và khơi gợi cảm xúc, tài khoản đăng bài thậm chí không tiếc công nghĩ thêm vài lời thơ "vàng ngọc", tựa như hình đưa ý đẩy, nhằm đẩy cảm xúc của người dùng mạng lên cao hơn nữa.
Kết quả là, ngoài một số ít bình luận cảnh tỉnh đây chỉ là sản phẩm AI, có không ít người dùng mạng xã hội đã nhiệt liệt hưởng ứng và chia sẻ, tăng tương tác cho tài khoản này.
Đây không phải là lần đầu tiên nội dung giả dạng này xuất hiện trên Facebook. Trong những ngày cả nước vẫn đang gồng mình chống chọi với hậu quả của cơn bão số 3, một số tài khoản liên tục chia sẻ hình ảnh các em bé nằm trong bùn sâu, người ngợm lấm lem, gợi ra sự thương cảm sâu sắc từ nhiều người.
Một hình ảnh khác do AI tạo ra.
Hiện vẫn chưa rõ mục tiêu thật sự của những người tạo ra loại nội dung này - là câu like, câu view, câu tương tác bất chấp, hay còn có ý đồ lợi dụng lòng thương cảm cho mục đích gì khác.
Công nghệ deepfake đã rất phát triển và tạo ra các video, hình ảnh giả mạo, cắt ghép với độ chân thực gần như thật.
Để nhận ra một bức ảnh có phải AI tạo ra hay không, ngoài việc thường xuyên cập nhật thông tin và luyện tập cho bản thân quen dần với các hiệu ứng thị giác đặc trưng, người dùng cũng có thể sử dụng các công cụ có sẵn, miễn phí trên mạng, chẳng hạn như trang web huggingface.co dưới đây. Kết quả kiểm tra AI của bức ảnh "chú bộ đội" trên lên tới 76%.
Bức ảnh giả mạo "chú bộ đội" có khả năng do AI tạo ra lên tới 76%.
Hay kiểm tra bằng công cụ sightengine, công cụ này chỉ ra khả năng bức hình do AI MidJourney tạo ra là 97%, và khả năng do một AI tạo sinh tạo ra là 99%.
Các công cụ kiểm tra khẳng định đây là sản phẩm AI.
Công cụ sightengine.com có khả năng xác định AI khá mạnh.