Họ đưa ra 20 nguyên tắc để hướng dẫn việc nghiên cứu AI trong tương lai. Những hướng dẫn này đã được hàng trăm chuyên gia tán thành, bao gồm Stephen Hawking và CEO của SpaceX – Elon Musk.
"Chúng tôi hy vọng rằng, những nguyên tắc này sẽ cung cấp chất liệu cho những thảo luận sôi nổi. Và đây cũng sẽ là những mục tiêu đầy tham vọng để khoa học sử dụng AI một cách hiệu quả để cải thiện cuộc sống con người trong những năm tới", một trong những nhà khoa học nói.
Những chuyên gia tham gia soạn thảo nguyên tắc đang làm nhiều công việc khác nhau, từ viện sĩ, kĩ sư đến những đại diện của các công ty công nghệ, như đồng sáng lập của Google – Larry Page.
Những nguyên tắc này đã được công bố trên Future Of Life Institute.
Dưới đây là 20 nguyên tắc cần tuân thủ khi phát triển AI:
Những vấn đề nghiên cứu
1. Mục tiêu nghiên cứu: Mục tiêu của việc nghiên cứu AI là tạo ra trí thông minh có định hướng, ngoài trí thông minh hữu ích.
2. Nguồn quỹ nghiên cứu: Đầu tư cho AI nên được đảm bảo là để phục vụ cho những ứng dụng hữu ích trong việc phát triển AI, bằng cách trả lời các câu hỏi:
- Làm thế nào để cải thiện hệ thống AI trở nên mạnh mẽ, để chúng có thể làm tất cả những gì chúng ta muốn nhưng không xảy ra trục trặc?
- Làm sao để ngăn ngừa những rủi ro có thể xảy ra với AI?
- Nên đặt ra những giá trị gì để có áp thể áp dụng chung cho các AI?
3. Mối liên kết giữa khoa học và các chính sách: Nên có những sự trao đổi mang tính xây dựng và thẳng thắn giữa những nhà nghiên cứu AI và những người làm chính sách.
4. Văn hóa nghiên cứu: Nên xây dựng văn hóa hợp tác, tin tưởng, trong sạch giữa những nhà nghiên cứu và những người phát triển AI.
5. Tránh những cuộc chạy đua: Những nhóm phát triển AI nên hợp tác với nhau một cách lành mạnh và tránh vi phạm những nguyên tắc về an toàn.
AI có thể trở nên vô cùng nguy hiểm (Ảnh: Columbia Pictures)
Đạo đức và giá trị:
6. An toàn: Hệ thống AI nên được đảm bảo an toàn trong suốt thời gian vận hành. Nó cũng nên được biến đổi một cách linh hoạt khi có bất kì sự thay đổi nào.
7. Minh bạch khi có sai sót: Nếu một hệ thống AI gây nguy hiểm, phải biết chắc chắn nguyên nhân tại sao.
8. Minh bạch trong việc xét xử: Những nhà chức trách có đủ quyền hạn nên cung cấp lời giải thích xác đáng và rõ ràng cho bất kì hoạt động có liên quan đến các hệ thống tự động.
9. Trách nhiệm: Những người thiết kế và phát triển hệ thống AI cao cấp phải chịu trách nhiệm về hệ thống AI họ tạo ra.
10. Giá trị liên kết: Những hệ thống AI nên được thiết kế để mục đích và hành động của chúng liên kết với những giá trị mà con người công nhận.
11. Giá trị con người: Hệ thống AI nên được thiết kế và vận hành một cách tương thích với lý tưởng của con người về chân giá trị, các quyền, về tự do và đa dạng văn hóa.
12. Bảo mật cá nhân: Mọi người nên có quyền truy cập, quản lý và kiểm soát những dữ liệu mà họ vận hành, để có thể phân tích và sử dụng hệ thống AI của họ.
13. Tính tự do và tính cá nhân: Những ứng dụng của AI không được phép cắt bớt tự do của con người một cách quá đáng.
14. Chia sẻ lợi ích: Công nghệ AI nên sinh lợi và được trao quyền cho càng nhiều người càng tốt.
15. Chia sẻ để thịnh vượng: Nền kinh tế thịnh vượng được tạo ra bởi AI nên được chia sẻ ra nước ngoài, làm lợi cho cả nhân loại.
16. Quyền kiểm của soát con người: Con người nên chọn cách thích hợp để giao quyền cho hệ thống AI, để nó có thể hoàn thành những mục tiêu con người đặt ra sẵn.
17. Không phá vỡ: Quyền kiểm soát những hệ thống AI bậc cao nên được tôn trọng và cải thiện, hơn là phá vỡ.
18. Quân đội AI: Nên tránh xây dựng quân đội mà trong đó sử dụng vũ khí tự động gây chết người.
Những vấn đề dài hạn hơn:
19. Rủi ro: Những rủi ro mà hệ thống AI có thể gây ra nên được lên kế hoạch phòng ngừa cẩn thận.
20. Quan trọng: Những hệ thống AI cao cấp có thể đại diện cho những sự thay đổi sâu sắc trong lịch sử tồn tại của Trái đất. Nó nên được lên kế hoạch và quản lý tương xứng với sự quan tâm và nguồn lực mà chúng ta đã bỏ ra.