AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại

Tạ Ban |

AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại
AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại
Liệu ‘killer robot’ có nguy hiểm hơn cả hệ thống ‘AI tốt’? - Ảnh: Shutterstock

Hàng loạt nghiên cứu chỉ ra rằng, AI hoàn toàn không liên quan đến vũ khí hay chiến đấu vẫn có thể gây ra nhiều vấn đề khiến nhân loại phải đau đầu.

Những người đứng đầu hơn 100 công ty trí tuệ hàng đầu thế giới rất lo ngại về sự phát triển của "killer robots" (tạm dịch: robot giết người).

Trong một bức thư ngỏ gửi tới Liên Hợp Quốc, những nhà lãnh đạo doanh nghiệp này - bao gồm cả Elon Musk của Tesla và những người sáng lập Công ty AI DeepMind AI của Google - đã cảnh báo rằng, công nghệ vũ khí tự hành có thể bị lạm dụng bởi bọn khủng bố hay tấn công theo những cách không mong muốn...

Nhưng mối đe dọa đến từ Trí tuệ nhân tạo (A)I thực sự là lớn hơn nhiều, và không chỉ giới hạn ở các hành vi sai trái của con người mà từ chính máy móc.

Nghiên cứu mới đây cho thấy, xã hội loài người có thể cư xử rất khác với những gì người ta mong đợi khi chỉ nhìn vào hành vi cá nhân. Và điều này có thể áp dụng cho công nghệ.

Có nghĩa là ngay cả khi các robot hoạt động riêng lẻ rất tốt thì khi cả hệ thống hoạt động chưa chắc đã hoàn hảo, thậm chí trở nên khó đoán định và nảy sinh nhiều vấn đề. Điều này tương tự như kiểu sau nhiều năm nghiên cứu khí tượng, con người vẫn không thể dự đoán thời tiết chính xác trong dài hạn.

Các nhà khoa học đã nghiên cứu hệ thống AI phức tạp, gồm các chương trình "tốt", được sử dụng để tự động chỉnh sửa bài viết trên Wikipedia.

Những chương trình khác nhau có thiết kế đáng tin cậy và được khai thác bởi các biên tập viên Wikipedia. Hoạt động riêng biệt nhưng tất cả đều nhắm đến mục tiêu chung là cải tiến bách khoa toàn thư mở này.

Tuy nhiên, điều ngạc nhiên là hành vi tập thể của chúng hóa ra không hiệu quả. Những Wikipedia-bots này hoạt động dựa trên các quy tắc đã thiết lập.

Nhưng do trang web không có một hệ thống quản lý tập trung, không có sự phối hợp hiệu quả giữa các chương trình điều hành, kết quả là các chương trình đã hoàn tác chỉnh sửa lẫn nhau trong suốt nhiều năm mà không ai để ý. Và do các chương trình này thiếu "nhận thức" nên chúng cũng không "ngộ ra" điều đó.

AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại - Ảnh 1.

Những hệ thống AI như Wikipedia-bot, các chatbot hay lái xe tự hành đều ẩn chứa những vấn đề và có thể gây nguy hiểm chưa dự đoán được cho con người - Ảnh: Shutterstock

Các chương trình vốn được thiết kế để tăng tốc quá trình chỉnh sửa. Nhưng sự khác biệt nhỏ trong việc thiết kế các chương trình hoặc giữa những người sử dụng chúng có thể dẫn đến sự lãng phí lớn nguồn lực trong một "cuộc chiến biên tập" đang diễn ra.

Mà cuộc chiến này vốn dĩ có thể được giải quyết nhanh hơn nhiều nếu biên tập viên con người ra tay.

Nhóm nghiên cứu cũng phát hiện ra rằng, các chương trình hoạt động khác nhau trong các phiên bản ngôn ngữ khác nhau của Wikipedia.

Các quy tắc giống nhau, các mục tiêu giống hệt nhau, công nghệ tương tự, nhưng sự hợp tác giữa các chương trình của Wikipedia tiếng Đức hiệu quả hơn hẳn khi so với các chương trình Wikipedia khác như tiếng Bồ Đào Nha chẳng hạn.

Một ví dụ khác là về các chương trình nói chuyện với con người tương tác với nhau như Siri của iPhone. Khi để vài loại chatbot hoạt động cùng nhau, chúng hành động rất khác biệt, thậm chí, mâu thuẫn và xúc phạm lẫn nhau.

Theo các nhà khoa học, hệ thống càng lớn càng có nhiều bot tự trị, thì càng phức tạp và do đó không thể dự đoán trước được hành vi tương lai của cả hệ thống. Sự phức tạp tăng lên theo cấp số nhân khi bạn thêm nhiều cá nhân vào hệ thống.

Hay xe ô tô tự hành hứa hẹn những tiến bộ thú vị về hiệu quả và sự an toàn của việc đi lại bằng đường bộ. Nhưng chúng ta vẫn chưa biết điều gì sẽ xảy ra khi có một hệ thống các phương tiện tự hành như thế.

Việc băng qua đường có thể trở nên nguy hiểm bởi vì chúng ta không biết xe sẽ tương tác như chúng ta đã nghĩ hay liệu chúng lại tự phát điều gì đó không thể đoán trước được.

Một cá thể robot giết người có thể rất nguy hiểm trong tay kẻ xấu nhưng một hệ thống AI "tốt" cũng có thể nguy hiểm dù được điều hành bởi bất cứ ai.

theo Khám phá

Đọc tin tức khoa học, công nghệ mới nhất tại Soha.Bạn đọc có thể báo tin, gửi bài viết, clip, ảnh về email khampha@ttvn.vn để nhận nhuận bút cao trong vòng 24h. Đường dây nóng: 0943 113 999

Soha
Trí Thức Trẻ
Cùng chuyên mục
Mạo hiểm đi sâu 12.000m vào lõi băng: Phát hiện một "thế giới" đầy kinh ngạc
Mạo hiểm đi sâu 12.000m vào lõi băng: Phát hiện một "thế giới" đầy kinh ngạc

Mạo hiểm đi sâu 12.000m vào lõi băng: Phát hiện một "thế giới" đầy kinh ngạc

Càng đi sâu vào lõi băng, nhà thám hiểm càng phát hiện nhiều điều bất ngờ thú vị, khiến ai cũng kinh ngạc.

Gấu đen thư hùng với cặp hổ dữ: "Nhị anh chiến Lữ Bố" tại bờ sông!
Gấu đen thư hùng với cặp hổ dữ: "Nhị anh chiến Lữ Bố" tại bờ sông!

Gấu đen thư hùng với cặp hổ dữ: "Nhị anh chiến Lữ Bố" tại bờ sông!

Kịch tính như "tam anh chiến Lữ Bố" nổi tiếng trong Tam Quốc Chí, trận chiến là trận thư hùng của giới động vật mà bạn không nên bỏ lỡ!

    vccorp.vn

    © Copyright 2010 - 2017 – Công ty Cổ phần VCCorp

    Tầng 17,19,20,21 Toà nhà Center Building - Hapulico Complex,
    Số 1 Nguyễn Huy Tưởng, Thanh Xuân, Hà Nội.
    Email: btv@soha.vn
    Giấy phép số 2411/GP-TTĐT do Sở Thông tin và Truyền thông Hà Nội cấp ngày 31 tháng 07 năm 2015.
    Chịu trách nhiệm nội dung: Ông Nguyễn Thế Tân

    Liên hệ quảng cáo:
    Hotline: 0942.86.11.33
    Email: giaitrixahoi@admicro.vn
    Hỗ trợ & CSKH:
    Tầng 20, tòa nhà Center Building, Hapulico Complex,
    số 1 Nguyễn Huy Tưởng, phường Thanh Xuân Trung, quận Thanh Xuân, Hà Nội.
    Tel: (84 24) 7307 7979
    Fax: (84 24) 7307 7980