Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô

G.P |

Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô
Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô
Hình minh họa.

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu. Gần đây, bằng cách thay đổi một Pixel của bức ảnh, người ta đã đánh lừa được AI trong việc nhận dạng và phân loại ảnh.

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu, và không ít các nghiên cứu đã lừa được AI. Trong một thử nghiệm mới đây của đội ngũ nghiên cứu đại học Kyushu đã chỉ ra rằng, AI rất dễ bị đánh lừa trong việc phân loại ảnh.

Một thuật toán mới đã được gới thiệu trên arVix, trong đó việc thay thế chỉ một 1 pixel trong bức ảnh có độ phân giải 1024 Pixel đã có thể làm cho AI nhận dạng ảnh sai. Các thực nghiệm đã đánh lừa được AI trên 74% tổng số lần thử nghiệm, con số này còn tăng lên cao hơn tới 87% với 5 pixel được chỉnh sửa.

Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô - Ảnh 1.

Như ví dụ ở đây, AI đã bị đánh lừa và xác định sai con chó thay vì chiếc máy bay, một con ếch thay vì chiếc xe tải…

Thực tế, bức ảnh 1024 Pixel là rất nhỏ, và chúng ta cần phải thay đổi nhiều Pixel hơn ở các bức ảnh to hơn để có thể đánh lừa được AI. Việc có thể đánh lừa AI chỉ với một số thay đổi nhỏ cũng làm dấy lên những nỗi lo ngại về các vụ tấn công.

Thật khó để có thể cải thiện AI, bởi vì hiện chúng ta vẫn chưa hoàn toàn làm chủ được các công nghệ chế tạo nên trí tuệ nhân tạo.

Theo Technology Review.

theo Trí Thức Trẻ

Đọc thêm về:

    Đọc tin tức khoa học, công nghệ mới nhất tại Soha.Bạn đọc có thể báo tin, gửi bài viết, clip, ảnh về email khampha@ttvn.vn để nhận nhuận bút cao trong vòng 24h. Đường dây nóng: 0943 113 999

    Soha
    Trí Thức Trẻ

    TIN NỔI BẬT SOHA

      Công ty Cổ phần VCCorp

      © Copyright 2010 - 2019 – Công ty Cổ phần VCCorp

      Tầng 17,19,20,21 Toà nhà Center Building - Hapulico Complex,
      Số 1 Nguyễn Huy Tưởng, Thanh Xuân, Hà Nội.
      Email: btv@soha.vn
      Giấy phép số 2411/GP-TTĐT do Sở Thông tin và Truyền thông Hà Nội cấp ngày 31 tháng 07 năm 2015.
      Chịu trách nhiệm nội dung: Ông Nguyễn Thế Tân

      Liên hệ quảng cáo:
      Hotline: 0942.86.11.33
      Email: giaitrixahoi@admicro.vn
      Hỗ trợ & CSKH:
      Tầng 20, tòa nhà Center Building, Hapulico Complex,
      số 1 Nguyễn Huy Tưởng, phường Thanh Xuân Trung, quận Thanh Xuân, Hà Nội.
      Tel: (84 24) 7307 7979
      Fax: (84 24) 7307 7980