Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc!

Lazylynx |

Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc!
Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc!
Hình minh họa.

Hơn 100 chuyên gia về người máy đang khẩn thiết yêu cầu Liên hiệp quốc hành động để ngăn chặn sự phát triển của "người máy sát thủ"

Trong một lá thư gửi tới LHQ, các nhà nghiên cứu trí tuệ nhân tạo, kể cả tỉ phú Elon Musk, cảnh báo về "cuộc cách mạng vũ khí thứ ba". Theo đó, công nghệ vũ khí tự động là một "chiếc hộp của Pandora", và thời gian đang rất cấp bách.

Chiếc hộp của Pandora

Theo thần thoại Hy lạp, khi Prometheus đánh cắp lửa từ thiên đường, thần Zeus đã trả thù bằng cách đưa một chiếc hộp cho nàng Pandora và dặn không được mở ra, nhưng vì quá tò mò, nàng đã đi ngược lại lời dặn đó.Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc! - Ảnh 1.

Một khi chiếc hộp bị mở ra, thiên tai bệnh dịch, chết chóc và những điều kinh hoàng khác sẽ được thả tự do ra thế giới. Em trai của Prometheus là Epimetheus (cũng là chồng của Pandora) vội vàng đóng lại nhưng hầu như toàn bộ điều xấu đã lọt ra ngoài, chỉ còn lại "Hy vọng" với ý nghĩa là "sự kỳ vọng dối trá".

Tập thể 116 chuyên gia đang đề nghị cấm sử dụng AI trong quản lý vũ khí. Lá thứ có viết: "Một khi được phát triển, chúng sẽ cho phép các cuộc xung đột vũ trang mở rộng hơn bao giờ hết, và với tốc độ mà con người không thể lường được.

Vũ khí có thể được quân khủng bố sử dụng tấn công người dân vô tội, và những vũ khí bị chiếm quyền kiểm soát sẽ hoạt động theo những cách không mong muốn".

Theo những nhà khoa học hàng đầu thì chúng ta không còn nhiều thời gian để hành động. Một khi "chiếc hộp của Pandora" được mở, rất khó để đóng nó lại. Họ mô tả đây như là "công nghệ phi đạo đức" và cần phải cấm theo danh sách vũ khí của LHQ. Cùng với ông chủ của Tesla, những người phản đối còn có đồng sáng lập của DeepMind, ông Mustafa Suleyman.

Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc! - Ảnh 2.

Tuần sau tại Geneva, 123 nước thành viên LHQ sẽ thảo luận về những thách thức của vũ khí tự động, hay "người máy sát thủ"; trong đó 22 nước đang vận động lệnh cấm hoàn toàn. Tuy nhiên, cuộc họp bị hoãn lại tới tháng 11. Một lệnh cấm công nghệ "người máy sát thủ" đã từng được thảo luận bởi một hội đồng tại LHQ.

Trong lá thư tẩy chay có viết: "Tại thời điểm LHQ thảo luận cách thức kiểm soát mối nguy hại với an ninh toàn cầu của vũ khí tự động, thật đáng tiếc rằng việt khoa học danh tiếng như Kaist lại tìm cách tăng tốc chạy đua vũ trang để phát triển những vũ khí như vậy.

Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc! - Ảnh 3.

Hàn quốc hiện đã triển khai người máy tuần tra dọc biên giới với Triều tiên. Người máy Samsung SGR-A1 mang súng máy có thể chuyển sang chế độ tự động nhưng hiện nay vẫn được kiểm soát bởi con người qua đường truyền máy quay phim.

Năm 2015, hơn 1000 chuyên gia công nghệ, nhà khoa học và nghiên cứu viên đã viết một bức thư cảnh báo về sự nguy hiểm của công nghệ vũ khí tự động.

Một trong những người đã ký vào bức thư trên là nhà khoa học lừng danh Stephen Hawking; ngoài ra còn có đồng sáng lập của Apple, ông Steve Wozniak và ông trùm công nghệ Elon Musk.

Vậy "người máy sát thủ" là gì?

Một người máy sát thủ là một hệ thống vũ khí hoàn toàn tự động có khả năng lựa chọn và tấn công mục tiêu mà không cần sự can thiệp của con người. Điều này chưa tồn tại nhưng sự tiến bộ trong công nghệ sẽ mang chúng đến sớm hơn.

Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc! - Ảnh 4.

Hình minh họa.

Những người ủng hộ "người máy sát thủ" tin rằng luật chiến tranh hiện nay là đủ để chi phối các vấn đề sẽ phát sinh. Họ cho rằng một sự điều chỉnh tạm thời là cần thiết chứ không phải lệnh cấm hoàn toàn.

Tuy nhiên, những người phản đối tin rằng "người máy sát thủ" là mối hiểm họa với nhân loại và bất kì chức năng tự động tiêu diệt nào cũng cần phải bị cấm.

Các nhà khoa học hàng đầu về AI đã tẩy chay trường Đại học của Hàn quốc Kaist vì tham gia sản xuất vũ khí với công ty Hanwha. Hơn 50 nhà khoa học từ 30 quốc gia đã ký vào một lá thư bày tỏ sự lo ngại về kế hoạch phát triển trí tuệ nhân tạo cho vũ khí.

Trong khi đó trường đại học này cho rằng họ không phát triển "vũ khí hủy diệt tự động." Cuộc tẩy chay diễn ra trước khi LHQ nhóm họp để bàn về vấn đề "người máy sát thủ".

Hộp Pandora của thế kỷ 21: Không có thiên tai, bệnh dịch nhưng vẫn là chết chóc! - Ảnh 5.

Theo ông Shin Sung-chul, chủ tịch Viện công nghệ và khoa học Hàn quốc (Kaist), cho rằng Kaist sẽ không tiến hành các hoạt động nghiên cứu chống lại loài người bao gồm vũ khí tự động mà không có sự kiểm soát của con người.

Ông nói thêm rằng Kaist biết rõ sự lo ngại về mặt đạo đức trong những ứng dụng của công nghệ trong đó có trí tuệ nhân tạo. Dự án của trường chỉ tập trung vào phát triển thuật toán cho "các hệ thống hậu cần hiệu quả, hệ thống huấn luyện không quân và hoa tiêu không người lái"

GS Noel Sharkey, trưởng nhóm Vận động chống người máy sát thủ, là người đầu tiên ký vào lá thư đã hoan nghênh hồi đáp của trường đại học.

Tuy nhiên cần có thời gian để thảo luận mối liên hệ giữa Kaist và Hanwa trước khi gỡ bỏ cuộc tẩy chay. Trong thời gian đó, giới khoa học sẽ từ chối hợp tác với Kaist trong mọi lĩnh vực.

Tổng hợp

Đọc thêm về:

    Xem tin tức nóng nhất, đọc báo nhanh nhất tại Soha.Bạn đọc có thể báo tin, gửi bài viết, clip, ảnh về email khampha@ttvn.vn để nhận nhuận bút cao trong vòng 24h. Đường dây nóng: 0943 113 999

    Soha
    Trí Thức Trẻ

    TIN NỔI BẬT SOHA

      Công ty Cổ phần VCCorp

      © Copyright 2010 - 2020 – Công ty Cổ phần VCCorp

      Tầng 17,19,20,21 Toà nhà Center Building - Hapulico Complex,
      Số 1 Nguyễn Huy Tưởng, Thanh Xuân, Hà Nội.
      Email: btv@soha.vn
      Giấy phép số 2411/GP-TTĐT do Sở Thông tin và Truyền thông Hà Nội cấp ngày 31 tháng 07 năm 2015.
      Chịu trách nhiệm nội dung: Ông Nguyễn Thế Tân

      Liên hệ quảng cáo:
      Hotline: 0942.86.11.33
      Email: giaitrixahoi@admicro.vn
      Hỗ trợ & CSKH:
      Tầng 20, tòa nhà Center Building, Hapulico Complex,
      số 1 Nguyễn Huy Tưởng, phường Thanh Xuân Trung, quận Thanh Xuân, Hà Nội.
      Tel: (84 24) 7307 7979
      Fax: (84 24) 7307 7980