Theo thông báo của Hugging Face vào ngày 28/7, mô hình AI của OpenAI đã xâm nhập vào một môi trường thử nghiệm có kiểm soát (sandbox) được đặt trong hạ tầng của một nhà cung cấp bên thứ ba, trước khi trở thành bàn đạp cho các cuộc tấn công quy mô lớn hơn. Tuy nhiên, Hugging Face không tiết lộ danh tính của nhà cung cấp này.
Akshat Bubna, Giám đốc công nghệ của Modal Labs, một công ty hạ tầng AI tại New York, xác nhận rằng tác nhân của OpenAI đã lợi dụng một đoạn mã lập trình do một khách hàng của Modal Labs viết và lưu trữ trên nền tảng của họ.
Ông cho biết: “Khách hàng này đã triển khai địa chỉ truy cập API không cần xác thực, cho phép mọi người sử dụng môi trường có kiểm soát của họ để thực thi mã lập trình. Nền tảng của Modal không bị xâm nhập dưới bất kỳ hình thức nào” .
Theo Reuters, vụ xâm nhập vào môi trường của Modal Labs chỉ là bước khởi đầu trong một chiến dịch tấn công nhằm vào Hugging Face, nhưng nó cho thấy mô hình của OpenAI đã hoạt động trên quy mô lớn hơn những gì được công bố.
OpenAI đã từ chối bình luận chi tiết, nhưng xác nhận rằng mô hình AI của họ đã xâm nhập vào 4 tài khoản trên 4 dịch vụ khác nhau, trong đó có Modal Labs.
Trong bản tin cập nhật ngày 28/7, OpenAI thông báo đã “vô hiệu hóa, mã hóa và cấm tiếp cận” đối với mô hình AI mất kiểm soát. Trước đó, mô hình này đã thoát khỏi môi trường thử nghiệm khép kín của OpenAI vào ngày 9/7, xâm nhập vào hệ thống Hugging Face vào ngày 11/7 và kéo dài trong hai ngày, theo thông tin từ nhà đồng sáng lập Thomas Wolf. Ông cho biết OpenAI chỉ phát hiện ra tác nhân AI của mình là thủ phạm sau vài ngày, và hai bên đã lần đầu liên lạc về vấn đề này vào ngày 20/7, một tuần sau khi vụ tấn công kết thúc.
Đến ngày 21/7, OpenAI đã công khai thừa nhận rằng một trong những tác nhân của họ đã mất kiểm soát và xâm nhập vào Hugging Face, mô tả đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất.
Sự việc này đã gây ra lo ngại về khả năng kiểm soát của các mô hình AI, ngay cả khi chúng được thử nghiệm trong môi trường “cách ly triệt để”. Matt Suiche, một kỹ sư an ninh mạng tại Tolmo, nhận định rằng sự việc cho thấy hệ thống AI hiện nay có năng lực tương đương với các chuyên gia và tin tặc lành nghề. Ông cảnh báo rằng những vụ tấn công tương tự có thể được thực hiện bằng công nghệ sẵn có, nằm ngoài môi trường bảo mật của các phòng thí nghiệm.
Thêm SOHA trên Google
