Vụ bắt nhầm rúng động
Năm 2016, nước Mỹ rúng động khi Steve Talley, một người đàn ông đến từ bang Colorado, đã bị lực lượng cảnh sát đặc nhiệm Mỹ (SWAT) "tấn công" sau khi công nghệ nhận diện khuôn mặt xác định anh là một tội phạm cướp ngân hàng hàng loạt.
Việc có gương mặt gần giống với gương mặt tên cướp thật, và chỉ sống cách ngân hàng bị cướp 0,1 dặm càng khiến Talley khó lòng chứng minh sự trong sạch của mình.
Công nghệ nhận diện khuôn mặt đã có sự nhầm lẫn giữa Steve Talley và tên cướp. Nguồn ảnh: The Intercept
Sau vài tháng bị giam giữ bất hợp pháp, Talley mới được trả tự do nhờ đấu tranh ác liệt. Tuy nhiên, lúc này anh đã mất nhà, mất việc và không thể xin nổi công việc mới do "tiền án" của mình. Các hóa đơn y tế khiến anh khánh kiệt và trở thành người vô gia cư.
Tiếng xấu tiếp tục đeo bám khiến người đàn ông này bị đẩy vào đường cùng. Mãi cho đến khi một nhân viên làm việc tai ngân hàng bị cướp quyết định ra làm chứng trước tòa rằng Talley không phải là kẻ cướp ngày hôm đó.
Thuật toán tự động sai sót của công nghệ nhận diện hình ảnh và đội ngũ kiểm định được đào tạo kém đã gần như phá hủy cuộc đời của một con người.
Công nghệ gây tranh cãi
Các chuyên gia công nghệ nhận diện khuôn mặt cho biết, khả năng nhận dạng nhầm thường gia tăng theo quy mô của cơ sở dữ liệu nhận dạng khuôn mặt. Càng có nhiều khuôn mặt trùng khớp thì nguy cơ hệ thống nhầm lẫn các khuôn mặt giống nhau càng cao.
Ước tính cơ sở dữ liệu của Cơ quan Điều tra Liên bang Mỹ (FBI) hiện nay lưu trữ tới hơn 640 triệu bức ảnh khuôn mặt của con người.
Con số này nghe có vẻ nhiều, nhưng bộ dữ liệu này chưa là gì so với cơ sở dữ liệu nhận dạng khuôn mặt của một số công ty tư nhân. FBI lấy hình ảnh từ hồ sơ nhà nước và các đại lý hộ chiếu, trong khi các công ty tư nhân có thể thấy hình ảnh trực tiếp từ mạng xã hội mà không bị trừng phạt.
Ảnh minh họa. Nguồn: calbiz
Ví dụ, công ty Clearview AI có trụ sở tại New York đã thu thập khoảng 3 tỷ hình ảnh người dùng từ các mạng xã hội như Facebook, Twitter, sau đó cung cấp bộ dữ liệu cho hàng trăm cơ quan thực thi pháp luật trên toàn nước Mỹ.
Khi được hỏi về tính hợp pháp của việc làm này, Clearview AI nói rằng đó là do người dùng đã tự công khai các bức ảnh của mình.
Các hệ thống kỹ thuật số của công ty ICE (trụ sở tại Mỹ) cũng được cho là đã sàng lọc bất hợp pháp hàng triệu bức ảnh bằng lái xe để bắt những người nhập cư không có giấy tờ.
Theo chuyên san Calbiz, công nghệ nhận dạng khuôn mặt có thể hủy hoại cuộc sống của một con người. Các hệ thống nhận dạng sử dụng trí tuệ nhân tạo (AI) thậm chí có thể xác định bạn đã qua đời, dù đang còn sống.
Trên thực tế đã có trường hợp một nhân viên chính phủ Mỹ bị thuật toán máy tính xác định nhầm là đã chết, trong khi thực tế là cô này đã bị đánh cắp số an ninh xã hội (SSN) và kẻ gian đã dùng danh tính của nạn nhân để đăng ký các khoản vay lớn. Phải mất tới 2 thập kỷ, mọi vấn đề mới được giải quyết.
Ảnh minh họa. Nguồn: The Intercept
Gần đây nhất, vào tháng 1/2023, một người đàn ông đến từ bang Georgia (Mỹ) đã bị cảnh sát bắt nhầm theo lệnh truy nã.
Đáng nói, vụ việc này còn làm nổi bật lên sự chênh lệch về nhận diện sắc tộc trong công nghệ nhận dạng khuôn mặt. Điểm giống nhau duy nhất giữa người bị bắt và tên tội phạm nằm ở nước da đen.
Vụ việc một lần nữa làm dấy lên tranh cãi lớn về công nghệ nhận diện khuôn mặt. Đáng nói, theo nghiên cứu năm 2019 của Mỹ, phụ nữ có khả năng bị nhận dạng sai cao gấp 2-5 lần, trong khi rủi ro đối với người da đen và người châu Á cao hơn từ 10-100 lần so với người da trắng.
Hiện tại, công nghệ nhận diện khuôn mặt ngày càng trở nên phổ biến. Người dùng được tiếp xúc với công nghệ này nhiều nhất thông qua tính năng mở khóa bằng gương mặt trên điện thoại.
Tuy nhiên, "bí mật đen" trong công nghệ nhận diện khuôn mặt vẫn là thứ gây ra rất nhiều tranh cãi. Chúng ta không hề hay biết hình ảnh của mình đang được thu thập khi chưa được phép, và sau này những bức ảnh đó sẽ phục vụ cho chính công cụ giám sát chúng ta.