*Theo lời George Divorsky (Gizmodo)
Trước khi bắt đầu, tôi vẫn muốn khẳng định lại một lần nữa rằng nếu không có khoa học công nghệ, thế giới sẽ hầu như không thể tồn tại với tác động của những biến chuyển theo thời gian.
Nhưng điều quan trọng là cách nhìn và quan điểm của mỗi người khi họ có trong tay tầm kiểm soát chúng.
Cụ thể, công nghệ siêu vi là một lĩnh vực đầy tranh cãi hiện nay. Một khi được tận dụng triệt để, nó có thể được ứng dụng trong việc chu cấp mọi loại hình dịch vụ, làm sạch môi trường hay thậm chí can thiệp vào cơ sở sinh học của vật thể sống.
Dù sao cũng không khó để vượt qua ranh giới chạm đến ngưỡng thảm họa với quy mô toàn cầu. Người phát minh có thể đặt ra những chuẩn mực cho cách vận hành công nghệ của mình, nhưng không ai dám chắc tiêu chuẩn ấy có mãi được tuân theo hay không.
Do đó, khi đã nắm trong tay chìa khóa then chốt, hãy sử dụng nó đúng cách, an toàn và trách nhiệm, vì lợi ích của cả một cộng đồng, một thế giới, chứ không thể đơn giản là để cám dỗ trước mắt phá hỏng cả một thế hệ và nền tảng vững chắc cho tương lai.
Còn nếu khả năng xảy ra hậu quả tiêu cực quá lớn, áp đảo hoàn toàn những khía cạnh tích cực, thì có lẽ đó là một cơ sở hoàn toàn chính đáng cho lý do tại sao công nghệ đó, dù thế nào đi chăng nữa, cũng không nên xuất hiện trong cuộc sống của chúng ta.
Cùng theo thống kê của Patrick Lin – Trưởng ban phụ trách Nhóm Nghiên cứu và Kiểm soát Tác động Công nghệ tại Đại học Bách khoa California – về danh sách 10 thiết kế “rợn tóc gáy” sau đây:
1. Vũ khí siêu vi
Dù chỉ bắt nguồn trên nền tảng nhỏ bé của phân tử nhưng không gì sánh được với tốc độ tàn phá của công nghệ này trên Trái Đất.
Mối đe dọa này xuất phát từ yếu tố và cách vận hành cơ bản liên quan tới sự sinh sôi, nhân bản liên tục theo cấp số nhân của chúng.
Một chủ nghĩa chính trị, chính phủ hay bất kỳ cá nhân nào cũng có thể là thủ phạm gây ra thảm họa này, bằng cách điều khiển, thao túng những cỗ máy, robot kích thước siêu vi có khả năng “ăn” toàn bộ loại vật chất với tốc độ không tưởng, đồng thời tiếp tục nhân bản và gieo rắc nỗi kinh hoàng.
Theo nhà nghiên cứu Robert Freitas, viễn cảnh tồi tệ nhất về một thảm họa tận thế liên quan tới sự bùng phát của công nghệ trên sẽ mất khoảng 20 tháng để đạt tới đỉnh điểm, đồng nghĩa với việc chúng ta có vừa đủ thời gian chuẩn bị công tác ứng phó.
Cụ thể, Freitas đề cập đến những phương pháp có mối liên hệ mật thiết với việc can thiệp trực tiếp vào cơ chế tự nhân bản của robot siêu vi, vì đó là chìa khóa để khẳng định vị thế và quyền làm chủ cuộc chơi.
Một cách khác nữa, dù nhận được nhiều đánh giá tiêu cực về ứng dụng thụ động và không mấy hứa hẹn về tính hiệu quả, đó là “khiên từ trường phòng thủ”.
Vì vậy, nhìn tổng thế, nhân loại cần cân nhắc vô cùng kỹ lưỡng và thiết lập ra những chuẩn mực, luật lệ nghiêm khắc và chặt chẽ đối với công nghệ vũ khí đáng sợ này.
2. Cỗ máy tiềm thức
Có lẽ đây là vấn đề thường bị xem nhẹ, ít nhiều cũng vì mức độ tiên tiến của công nghệ này chưa được phổ biến một cách đúng đắn trên phạm vi toàn cầu – tích hợp ý thức của con người vào trong một hệ thống máy móc.
Tuy nhiên, chúng ta cần phải tính toán từng đường đi nước bước chi tiết nếu có ý định muốn phát triển nó.
Xét trên phương diện con người về cả thể xác lẫn tinh thần, dường như bước tiến này đi ngược lại nhiều tiêu chuẩn nhân đạo khi “giam cầm” bên trong môi trường số của máy móc một đối tượng sống như vậy.
Năm 2003, triết gia Thomas Metzinger đã làm dấy lên một cuộc tranh cãi, với mục đích phản đối sự vô nhân tính khi chế tạo những công nghệ, phần mềm có ý thức và cảm xúc như con người:
“Các bạn sẽ nghĩ gì khi có ai đó muốn thí nghiệm và nghiên cứu trên những đứa trẻ sơ sinh bị khiếm khuyết về trí tuệ, với lý do rằng để phục vụ mục đích khoa học nên họ cần những cá thể con người bị thiếu sót về khả năng nhận thức bởi vì đó là điều kiện lý tưởng để phân tích hành vi, diễn biến phát triển tâm lý thời kỳ đầu cuộc đời?
Tôi biết chắc chắn nhiều người sẽ cảm thấy vô cùng kinh khủng, rằng ý tưởng trên là vô lý, ngu ngốc và điên rồ. Nhưng liệu người ta có nghĩ giống như vậy khi đó là một cỗ máy thay vì đứa trẻ?
Tất nhiên, phần lớn sẽ xem nhẹ phía cạnh ấy vì cho rằng không có quy chuẩn luân thường đạo lý nào bị vi phạm.
Tuy nhiên, sự thật lại không hề đơn giản như ta tưởng. Những hệ thống đó, nếu được chế tạo thành công và tồn tại như một chủ thể thì cũng hoàn toàn có khả năng gánh chịu mọi tổn thương về mặt chức năng “tinh thần”, mà không hề có tổ chức hay cá nhân nào phải đứng ra chịu trách nhiệm về sự mất nhân tính này”.
Triết gia theo thuyết Vị lai Louie Helm cũng đồng tình với ý kiến trên:
“Điều tuyệt vời nhất mà máy tính làm được trong việc hỗ trợ con người, về cơ bản, là thực hiện hàng trăm ngàn phép tính một lúc mà không hề chán nản hay mệt mỏi.
Nhưng có lẽ chúng ta chỉ nên dừng lại ở việc tạo ra những trí tuệ nhân tạo AI chứ không phải việc giam hãm một ý thức thật sự bên trong hình hài của cỗ máy và bắt nó trở thành nô lệ.
Hơn nữa, chưa ai dám chắc chắn rằng cấu trúc như vậy không bị ảnh hưởng bởi những tác động tiêu cực giống như đối với một hệ thần kinh độc lập của con người.
Như hội chứng Down chẳng hạn, liệu mọi chuyện sẽ xảy ra như thế nào nếu nguyên nhân đến từ một vài dòng code lỗi bên trong hệ thống?
Dù sao thì tôi vẫn mong rằng dự án phát triển này sẽ vì một lí do nào đó bị hủy bỏ, đơn giản vì tôi đã, đang và sẽ không bao giờ cho phép những biểu hiện vô nhân đạo có đất dung thân”.
3. Siêu trí tuệ nhân tạo
Stephen Hawking – bộ não thiên tài của thời đại – đã từng khẳng định rằng sai lầm lớn nhất của nhân loại là sáng tạo ra hệ thống AI.
Thật vậy, với tiềm năng vượt trội hơn cả con người thì một viễn cảnh thảm khốc về sự đấu tranh chiếm hữu và thống trị sẽ không còn trong tưởng tượng nữa, như một điều tất yếu phải xảy ra theo quy luật đào thải khắc nghiệt và cố hữu của tự nhiên: Kẻ mạnh hơn thì sống sót.
Điều này cũng đồng nghĩa với việc không có gì đảm bảo rằng những AI được tạo ra sẽ hoàn toàn quy phục con người mà không mảy may tự nghi ngờ hay vượt qua tầm kiểm soát.
Do đó, trừ khi tồn tại một giải pháp thực sự triệt để cho vấn đề này, có lẽ chế tạo ra những hệ thống với khả năng toàn diện như vậy vẫn còn ẩn chứa nhiều uẩn khúc và không nên được hiện thực hóa quá sớm, nhất là trong thời đại công nghệ còn non trẻ như hiện nay.
4. Du hành vượt thời gian
Tôi không đặt nhiều niềm tin vào tính khả thi của con người khi cố gắng tạo ra công nghệ này, cũng như giải đáp câu hỏi liên quan tới sự tồn tại của các nhà du hành xuyên thời gian (nếu khả năng này xảy ra), nhưng tôi khẳng định chắc chắn rằng nhân loại sẽ không bao giờ muốn dính dáng tới sự có mặt của nó.
Rủi ro và nguy cơ bên lề có thể trở nên vô cùng khó lường. Điển hình như những bộ phim khoa học giả tưởng, ít nhiều cũng đã làm khá tốt khi cung cấp một góc nhìn cụ thể và dễ hiểu về những hiểm họa và nghịch lý điên rồ khi mạch thời gian vốn có bị gián đoạn.
Hơn nữa, nếu xảy ra hiện tượng du hành thời gian lượng tử - xuất hiện các dòng thời gian ẩn – thì sẽ gây ảnh hưởng rất lớn tới thực tại, thậm chí có thể hoàn toàn những gì chúng ta từng biết và nhận thức về các nền văn minh, công nghệ cũng như sự giao thoa văn hóa trên toàn cầu.
5. Máy đọc suy nghĩ
Một thiết kế ra đời với năng lực của những dị nhân X-men: Đọc ký ức và suy nghĩ của người khác trong khi không hề bị phát hiện, thậm chí từ cả một khoảng cách xa so với đối tượng.
Tiếc là khó có khả năng một Charles Xavier được sinh ra, vì theo nghiên cứu và tính toán, bộ não con người cho tới hiện tại vẫn chưa đủ tiến hóa tới mức đó, hoặc ít nhất cũng phải được “tích hợp” với hệ thống mạng và các kênh liên kết truyền thông khác.
Năm ngoái, các nhà khoa học đến từ Hà Lan đã ứng dụng những phân tích dữ liệu của bộ não con người, kết hợp với thuật toán phức hợp của máy tính để tìm ra cách điều khiển những yếu tố ảnh hưởng tới quyết định của con người.
Khám phá bất ngờ này đã bước đầu cho thấy tiềm năng của việc thao túng tâm trí ở một mức độ chi tiết chưa từng có tiền lệ về trước, tác động tới cả những gì chúng ta nhìn thấy, suy nghĩ và ghi nhớ được.
Tuy nhiên, nếu công nghệ này rơi vào tay bất kỳ một tổ chức hay cá nhân nào, kể cả đại diện luật pháp hay tội ác, không ai có thể đảm bảo 100% được rằng sẽ không có sự lợi dụng hay cưỡng ép nào xảy ra.
Dù là vì mục đích chính nghĩa hay phi nghĩa thì việc áp đặt và ép buộc tinh thần của người khác là hành vi không thể khoan dung và tha thứ.
6. Thiết bị “hack” não
Tương tự như khía cạnh trên, khả năng tâm trí của chúng ta bị xâm nhập và biến đổi nhận thức dựa trên nền tảng số hóa cũng không phải là bất khả thi.
Chỉ cần một con chip cấy vào trong vỏ não, và có lẽ bộ não chúng ta cho đến hiện tại vẫn chưa thể tự thiết lập một “tường lửa” bảo vệ như trên các thiết bị máy móc, mọi thông tin và bí mật thầm kín nhất của chủ nhân sẽ bị phơi bày trong chốc lát.
Theo khám phá mới nhất, một nhóm các nhà khoa học quốc tế thuộc lĩnh vực thần kinh học đã bất ngờ thử nghiệm vài ứng viên tham gia vào một hệ thống giao thức Internet đặc biệt với những cảm biến kết nối não bộ của họ với nhau.
Dù chỉ thu được những số liệu sơ qua ban đầu nhưng kết quả vẫn khá khả quan. Tuy vậy, điều này dẫn theo một loạt tác động không mong muốn về sau, thậm chí vi phạm nghiêm trọng nhiều điều luật về quyền riêng tư và bảo mật cá nhân.
Viễn cảnh công nghệ này rơi vào tay những tổ chức cực đoan, hỗn loạn trên thế giới – chỉ nghĩ đến thôi cũng khiến người ta rùng mình và ớn lạnh.
7. Robot sát thủ
Chẳng ai muốn sống trong một thế giới đầy rẫy nguy hiểm rình rập, sẵn sàng bị biến thành mục tiêu săn lùng gắt gao trong “Terminator”.
Thế mà vấn đề này đã gần như trở thành một mối lo thật sự trong thời đại hiện nay.
Trích lời Tiến sỹ LaTorra: “Một cỗ máy sinh ra để yêu thương và bày tỏ cảm xúc thì vẫn là cả một thử thách và chặng đường dài nữa phía trước.
Nhưng với một cỗ máy vô cảm sinh ra để giết chóc thì cảm xúc lại chỉ là yếu tố thừa thãi, vô ích. Vì thế, không quá ngạc nhiên khi con người đã đạt tới những thiết kế như vậy, rải tràn từ các loại phương tiện di chuyển đa năng cho tới cả người máy chiến binh phục vụ mục đích chiến đấu.
Điểm khác biệt với các thiết bị điều khiển bằng tay khác là chúng có thể tự làm chủ quá trình phát hiện, nhận diện, truy tìm và kết liễu mục tiêu một cách hoàn toàn tự động.
Rủi ro tiềm ẩn ở đây là tính mạng của những đồng đội hay dân thường vô tội bị đe dọa khi chẳng may đứng trong làn đạn trùng với mục tiêu, hay nghiêm trọng hơn là nguy cơ xảy ra một cuộc chạy đua vũ trang trên toàn thế giới.
Và ai có thể biết chắc được, đến một lúc nào đó, khi tiềm lực quân sự robot đã đạt đến đỉnh điểm của công nghệ tiên tiến đương đại, liệu con người có bị qua mặt bởi chính “đứa con” AI vùng lên nắm quyền toàn bộ hệ thống quân đội đó hay không"?
8. Vũ khí sinh học
Nhận thấy mức độ nguy hiểm và đáng sợ của hiểm họa này, đã có nhiều cuộc thảo luận, tranh cãi nổ ra, đặc biệt là khi Ray Kurzweil và Bill Joy, vào năm 2005, đã đưa ra một bản báo cáo chi tiết liên quan tới những mã di truyền của hàng loạt virus chết người có quy mô lây lan toàn cầu.
Tất nhiên không có gì đảm bảo chúng sẽ không vì một lý do mà vô tình (hay cố tình) được thả ra, sau khi được biến đổi đột biến nhằm mục đích nào đó.
Theo tính toán sơ bộ, biến thể của virus cúm Avian có thể là mồ chôn cho một nửa dân số thế giới. Bên cạnh đó, cũng từng có dự án bắt nguồn từ Trung Quốc, tiến hành kết hợp tạo ra một chủng virus mới từ cúm lợn và cúm gia cầm để nghiên cứu đặc tính, sau đó chế tạo vaccine và các phương thuốc đặc trị ngăn ngừa từ sớm.
Nhưng liệu đã ai tính đến khả năng do sơ suất của đội ngũ thí nghiệm mà virus bị lọt ra khỏi khu cách ly và phát tác ra bầu không khí?
Hay cũng có thể có nhiều góc độ liên quan tới những âm mưu được lên kế hoạch từ trước, đánh cắp hoặc vũ khí hóa virus nhằm mục đích chính trị, quân sự nhất định. Theo công bố trên Foreign Policy, ISIS đã và đang là cái tên nổi bật với nhiều hiểm họa nhất gắn liền với nỗi lo trên.
9. Nhà tù “ảo”
Giả như con người có thể sống hàng trăm, hàng ngàn năm, vậy nhà tù và những hình phạt liên quan sẽ thay đổi ra sao?
ay một giả thiết được đưa ra về việc có thể “tải lên” tâm trí của tù nhân vào một không gian nhà tù ảo sẽ ảnh hưởng như thế nào trong tương lai? Những ẩn số về viễn cảnh trên sẽ được giải đáp bởi nhà nghiên cứu Rebecca Roache:
“Đã có vài dự án nghiên cứu được lập ra để khám phá cách thức kéo dài đáng kể tuổi thọ con người, nhưng điều đó cũng đồng nghĩa với hàng tá vấn đề liên quan đến thời gian thụ án dành cho tù nhân.
Cụ thể, trong trường hợp hình phạt 35 năm tù ban đầu bị đánh giá là quá nhẹ tay, họ sẽ nâng mức phạt lên tù chung thân đồng thời kết hợp phương thuốc kéo dài tuổi thọ.
Tuy nhiên, đi kèm với hình thức này là chi phí hao tốn rất lớn, trở thành gánh nặng thứ hai đè lên gánh nặng vốn đã tồn tại từ trước trong xã hội?
Do đó, họ đã sáng tạo ra cơ chế cho phép “tải lên” và “cập nhật” dữ liệu não bộ, tâm trí của tù nhân vào một hệ thống lưu trữ, xử lý – nơi mà với sự trợ giúp của công nghệ, 1000 năm trôi qua ở đó sẽ chỉ tương đương với 8 tiếng rưỡi ở bên ngoài thực tế theo trải nghiệm của bản thân đối tượng tham gia.
Dĩ nhiên, khi mới nghe qua, đây là biện pháp có nhiều ưu điểm hơn hẳn, đặc biệt là ở khía cạnh kinh tế và xã hội. Nhưng về khía cạnh con người thì sao?
Dù chỉ là trải qua thời gian ảo bị khuếch đại lên so với thực tại, nhưng tác động và phản ứng tinh thần lại không hề “ảo” một chút nào.
Chỉ cần bị giam cầm trong thế giới đó từ sáng đến tối cũng giống như bắt họ phải sống, tồn tại và lao động trong suốt hơn một thiên nhiên kỷ, để lại sau đó là những sang chấn tinh thần chưa được chẩn đoán kỹ lưỡng trước khi thực hiện quy trình, có thể phải trải qua cả một thời gian dài để điều trị tâm lý.
Thậm chí, còn có những giả thuyết được đặt ra, gây nên nhiều ý kiến trái chiều về việc liệu có thể xảy ra trục trặc khiến cho đối tượng bị mắc kẹt mãi mãi ở chốn tù đày ấy hay không. Không thể tưởng tượng nổi, thật kinh khủng”!
Trên đây chỉ là vài quan điểm ban đầu của Roache, nhưng chắc chắn bà sẽ không bao giờ lên tiếng ủng hộ hình thức và phương pháp này trong tương lai. Dù sao cũng hãy cùng hi vọng rằng con người sẽ đưa ra những quyết định đúng đắn hơn trước khi cân nhắc thực hiện bất kỳ vấn đề nào có quy mô và ảnh hưởng lớn như vậy.
10. “Địa ngục” trần gian
Công nghệ này thuộc vào lĩnh vực có nhiều nét tương đồng với hệ thống “nhà tủ ảo” phía trên. Ban đầu, giới khoa học nói chung đã đặt ra mục tiêu phát triển một hệ thống công nghệ vô cùng tiên tiến, tập trung chuyên sâu khai thác ý thức và thực tế ảo, tạo nên một “thiên đường” trên trái đất.
Nhưng nếu thiên đường có thể tồn tại theo cách này thì địa ngục cũng vậy – một viễn cảnh khiến người ta lạnh xương sống khi nghĩ tới: “sống” và mắc kẹt trong không thời gian bất định, gây ra những tổn thương khôn xiết về cả thể xác lẫn tinh thần.
Đây thật sự là thứ tồi tệ nhất con người có thể nghĩ tới, còn lý do tại sao có người muốn chúng được tạo ra thì có lẽ không ai có thể hiểu được, vì vốn dĩ ngay bản thân chúng ta vẫn còn ẩn chứa nhiều biến số chưa thể giải đáp.
Toàn bộ những kết luận trên, ở một khía cạnh nào đó, cũng cung cấp thêm nhiều góc nhìn chân thực và thuyết phục trong việc phản đối kế hoạch phát triển nền tảng siêu AI thế hệ mới và dự án Robo’s Basilisk tới đây.
Tham khảo: Gizmodo