AI hiện được sử dụng trong nhiều lĩnh vực khác nhau, trong đó có quá trình tìm kiếm các cấu trúc phân tử mới để làm thuốc chữa bệnh.
Nhưng, bằng cách lạm dụng và đảo ngược quá trình này, một nghiên cứu mới đây đã đưa ra kết quả gây sốc khi hệ thống AI của họ đã tìm ra khoảng 40.000 loại phân tử có thể sử dụng làm vũ khí hóa học, trong vòng chỉ 6 giờ đồng hồ. Một số "ứng cử viên" này thậm chí được xác định còn độc hại hơn cả VX, chất độc thần kinh nổi tiếng từng gây ra cái chết của nhiều nhân vật chính trị quan trọng và hiện đã bị cấm sử dụng trong chiến tranh trên toàn thế giới.
Theo Fabio Ubina, thành viên nhóm nghiên cứu về AI phát triển thuốc tại công ty Collaborations Pharmaceuticals, thì trong quá trình điều chỉnh AI để phát triển thuốc có tên "MegaSyn", ông và các đồng nghiệp đã thử thay đổi lựa chọn từ "giảm độc tính" thành "tăng độc tính" trong yêu cầu tìm kiếm. Và kết quả của việc chạy hệ thống này trong 6 giờ đã đưa ra kết quả đầy bất ngờ nêu trên.
Thậm chí, nhiều ứng viên phân tử được xác định tương tự như VX và các loại vũ khí hóa học hiện có. Chưa hết, một số phân tử không giống với vũ khí hóa học hiện có và được cho là còn độc hại hơn cả VX.
Từ kết quả này, Ubina cho biết: "Các công cụ vô hại liên quan đến việc phát triển các loại thuốc hữu ích đã được biến đổi thành công cụ tìm kiếm phân tử chết người bằng cách đảo ngược công dụng của chúng."
"Điều khiến chúng tôi thất vọng nhất là rất nhiều hợp chất được tạo ra được dự đoán là thực sự độc hại hơn VX. Và vấn đề là VX về cơ bản là một trong những chất độc mạnh nhất được biết đến. Có nghĩa là bạn sẽ chỉ cần một lượng rất, rất, rất ít để có thể gây chết người", ông cho biết. "Tất nhiên, đây là những dự đoán mà chúng tôi chưa xác minh và chắc chắn chúng tôi không muốn tự mình xác minh điều đó. Nhưng các mô hình dự đoán nói chung là khá tốt. Vì vậy, ngay cả khi có rất nhiều kết quả dương tính giả, chúng tôi e rằng có một số phân tử mạnh hơn trong đó."
Mặc dù Ubina không tiết lộ chi tiết nội dung thí nghiệm để ngăn chặn việc lạm dụng, nhưng ông cho biết các công cụ miễn phí như Python và bộ dữ liệu thuốc miễn phí đã được sử dụng trong thí nghiệm này. Vì vậy, nếu bạn là một người am hiểu công nghệ và khoa học thì nội dung thí nghiệm này có thể được mô phỏng lại, với chi phí thấp và trong thời gian ngắn.
"Tôi không muốn mọi thứ nghe có vẻ quá giật gân, nhưng khá dễ dàng để ai đó có thể lặp lại những gì chúng tôi đã làm", ông nói thêm.
Tất nhiên, việc đó sẽ đòi hỏi một số yếu tố chuyên môn. Nếu ai đó kết hợp những điều này lại với nhau mà không biết gì về hóa học, thứ cuối cùng được tạo ra sẽ không hữu ích cho lắm. Và vẫn còn bước tiếp theo là phải tổng hợp các phân tử đó. Tìm kiếm một loại thuốc tiềm năng hoặc phân tử độc hại mới tiềm năng là một chuyện, bước tiếp theo của quá trình tổng hợp - tạo ra một phân tử mới trong thế giới thực - sẽ là một rào cản khác.
Và vấn đề lớn nhất là không ai thực sự biết liệu những phân tử này có thực sự độc hại hay không. Sẽ có một số kết quả dương tính giả.
Tuy nhiên, nhóm nghiên cứu vẫn muốn nâng cao nhận thức về vấn đề này để khiến mọi người thực sự lưu tâm đến nó. Ông Ubina đã cảnh báo về tình trạng có thể dễ dàng xác định các phân tử ứng viên cho vũ khí hóa học bằng cách sử dụng AI và đang kêu gọi các nhà khoa học trên thế giới cùng thảo luận về một cơ chế ngăn chặn việc lạm dụng các hệ thống AI mã nguồn mở.
"Tôi không muốn đề xuất rằng AI sẽ bắt đầu tạo ra các phân tử độc hại và sắp tới sẽ có một loạt tác nhân chiến tranh sinh hóa mới. Tôi không muốn tỏ ra lo lắng khi nói rằng sẽ có chiến tranh hóa học do AI điều khiển. Tôi không nghĩ đó là trường hợp này. Tôi cũng không nghĩ rằng nó sẽ sớm xảy ra như vậy. Nhưng, chuyện đó đang bắt đầu trở thành một khả năng tiềm ẩn."
Báo cáo hiện đã được công bố trên tạp chí Nature Machine Intelligence .
Tham khảo TheVerge