Chuyên gia Anthropic cảnh báo khả năng AI hủy diệt nhân loại

Evan Hubinger, người phụ trách mảng kiểm thử sức chịu đựng của AI tại công ty Mỹ Anthropic, đưa ra nhận định này hôm 9/9.

Nguyên nhân dẫn đến phát biểu của ông là việc nhà nghiên cứu Anthropic Jacob Coxon rời ngành AI.

Người này cho rằng cuộc đua do các công ty công nghệ khởi động đang đưa thế giới đến gần “điểm không thể quay lại” và có thể biến thành thảm họa cuối năm 2027.

“Jacob nói đúng về điều đó. Chúng tôi thực sự tin tưởng rằng AI có thể hạ gục toàn bộ nhân loại! Cá nhân tôi cho rằng (xác suất xảy ra điều này) là hơn 10% trong 10 năm tới”, ông Hubinger viết trên mạng xã hội X.

Nhà nghiên cứu nói thêm rằng những hệ thống AI hiện có không gây ra mối đe dọa nghiêm trọng. Theo ông, những lo ngại xuất phát từ khả năng xuất hiện “siêu trí tuệ” có thể tự cải thiện.

“Như chúng tôi đã nói, điều này đang diễn ra nhanh hơn chúng tôi nghĩ”, ông Hubinger nói.

Ngày 8/9, ông Coxon cho biết đã quyết định rời khỏi lĩnh vực phát triển AI do lo ngại cuộc cạnh tranh ngày càng nhanh giữa các công ty công nghệ lớn có thể đưa nhân loại đến gần “điểm không thể quay lại”.

Ông cho biết không muốn trở thành một phần của cuộc đua phát triển những mô hình AI ngày càng tự chủ và có khả năng tự phát triển, bởi điều này có thể dẫn đến một kịch bản thảm họa vào cuối năm 2027.