Vào năm 2021, một kỹ sư có tên Missy Cummings đã khiến Elon Musk phẫn nộ, vị tỷ phú này thậm chí còn trút giận lên mạng xã hội Twitter. Là giáo sư tại Đại học Duke, Cummings đã tiến hành nghiên cứu về sự an toàn của ô tô tự lái và những phát hiện trong quá trình nghiên cứu này khiến bà đưa ra một số cảnh báo rõ ràng về công nghệ hỗ trợ người lái của Tesla.
Bà viết, những chiếc ô tô có "các hành vi khác nhau và thường không an toàn" cần phải thử nghiệm nhiều hơn "trước khi công nghệ như vậy được phép hoạt động mà không cần con người điều khiển trực tiếp". Nhờ sức mạnh nghiên cứu của mình, Cummings đã được bổ nhiệm vào Cục Quản lý An toàn Giao thông Đường cao tốc Quốc gia Mỹ - quản lý ô tô tự lái.
Như thường lệ, những người hâm mộ Tesla đã phản ứng với việc này hết sức bình tĩnh. Việc họ khăng khăng rằng Cummings sẽ cố gắng quản lý một cách không công bằng đối với xe tự lái – vốn là “đứa con tinh thần” của Elon Musk đã sớm khiến chính Musk tham gia vào chủ đề này. “Khách quan mà nói”, Musk tweet, “hồ sơ theo dõi của cô ta cực kỳ phân biệt đối xử với Tesla”. Đáp lại, những người ủng hộ Musk đã trút hết cơn giận dữ lên Cummings – nói xấu mọi mặt kể cả công việc, ngoại hình, động cơ của bà ấy. Họ cáo buộc bà có xung đột lợi ích, ký đơn yêu cầu loại bỏ bà và thậm chí còn gửi email đe dọa.
Nhưng vấn đề là, các “fan cuồng” của Musk đã gây rối… nhầm người. Là một trong những nữ phi công chiến đấu đầu tiên của Hải quân, Cummings từng lái những chiếc F/A-18. Bà ấy không bị đe dọa bởi hành vi hung hăng của một số người trên Twitter. Bà đăng những lời đe dọa tồi tệ nhất lên LinkedIn, thuê một số vệ sĩ cá nhân và tiếp tục chiến đấu. "Tôi thích như vậy, bạn có thực sự định làm điều này không?", bà nhớ lại suy nghĩ của mình. "Tôi sẽ nỗ lực hơn nữa. Máu phi công chiến đấu trong tôi bộc lộ. Tôi thích một trận chiến hay”.
Dẫu vậy, Cummings thực sự không giành được chiến thắng trong cuộc chiến cụ thể đó. Rất nhiều lời phàn nàn từ Tesla đã thúc đẩy NHTSA buộc Cummings phải rút lui khỏi bất kỳ hoạt động nào liên quan đến công ty. Nhưng, Cummings nhận được một hợp đồng mới tại Đại học George Mason và mở rộng nghiên cứu của mình từ Tesla sang thế giới rộng lớn hơn về tất cả các phương tiện tự lái. Với việc các công ty như Cruise và Waymo tung ra những chiếc taxi được robot hóa hoàn toàn trên đường phố San Francisco và các thành phố khác, sự trỗi dậy của máy móc đã bắt đầu - và Cummings đang ở tuyến đầu của cuộc kháng chiến.
Trong một bài báo mới gây tranh cãi, bà kết luận rằng những chiếc taxi robot mới có khả năng gặp tai nạn cao gấp bốn đến tám lần so với một chiếc ô tô do con người điều khiển. Và điều đó không tính đến cách các phương tiện tự lái đang gây ra tình trạng ùn tắc giao thông kỳ lạ, chặn các phương tiện khẩn cấp và thậm chí dừng lại trên đầu một người đã bị xe do con người điều khiển tông vào.
Cummings nói với tôi: “Trong bài báo thực sự khiến tất cả những người chỉ trích Tesla khó chịu, tôi thực sự nói rằng đây không chỉ là vấn đề của Tesla - mà Tesla là công ty đầu tiên gặp phải vấn đề này. Trong nhiều năm, tôi đã nói với mọi người rằng điều này sẽ xảy ra, rằng những vấn đề này sẽ xuất hiện trong xe tự lái. Và thực tế là như vậy. Nếu bất kỳ ai trong cộng đồng xe tự lái cảm thấy ngạc nhiên thì đó là lỗi tại họ”.
Hóa ra việc phục vụ trong Hải quân là một cách rất tốt để huấn luyện trước sự giận dữ từ những người “cuồng Musk”. Trong cuốn hồi ký "Hornet's Nest" xuất bản năm 1999, Cummings nhớ lại bà yêu thích những chiếc máy bay phản lực như thế nào và nói rằng sự phấn khích khi được phóng ra khỏi một tàu sân bay - hoặc hạ cánh - chưa bao giờ cũ. Năm 2011, khi đang thực hiện nghiên cứu về máy bay trực thăng robot cho Hải quân, Cummings đã giác ngộ. Ngay cả khi xung quanh không có gì ngoài không khí, những chiếc trực thăng đó vẫn chưa hoàn hảo - và chúng hoạt động dựa trên cùng các cảm biến mà ô tô tự lái thực hiện khi vận hành ngay cạnh ô tô và con người. Cummings nói: “Khi tôi tìm hiểu sâu về khả năng của những cảm biến đó, đó là lúc tôi thức dậy và nói, ôi, chúng ta gặp phải một vấn đề nghiêm trọng về ô tô”.
Một số mối nguy hiểm là về mặt kỹ thuật. Mọi người bị phân tâm, hệ thống tự lái bị nhầm lẫn trong môi trường phức tạp… Nhưng những mối nguy hiểm khác, Cummings nói, tinh vi hơn – gọi là "kỹ thuật xã hội". Tháng trước, người đứng đầu bộ phận an toàn tại Waymo đã công bố một nghiên cứu mới của công ty ông trên LinkedIn. Nghiên cứu chưa được công bố và chưa trải qua đánh giá ngang hàng. Nhưng Waymo đã sử dụng nghiên cứu này để lập luận rằng những chiếc ô tô robot của họ thực sự ít gặp tai nạn hơn những chiếc ô tô được điều khiển bởi con người.
Cummings cũng lên LinkedIn và nói như vậy.
Kyle Vogt, Giám đốc điều hành của Cruise tham gia bình luận về vấn đề này. “Tôi rất muốn giúp bạn phân tích điều này”, anh viết cho Cummings, đặt câu hỏi về khả năng xử lý số liệu của bà. "Sẽ thật tuyệt nếu được kết nối và thảo luận thêm về vấn đề này".
Cummings đã trả lời bằng hiện vật. Bà viết: “Tôi muốn giúp anh hiểu biết về số liệu thống kê cơ bản, cách sử dụng máy tính và ý nghĩa của việc trở thành một CEO an toàn và có trách nhiệm của một công ty. Hãy gọi cho tôi bất cứ lúc nào".
Câu hỏi đặt ra là: Cummings, hay những người đàn ông của Waymo, Cruise và Tesla đúng? Thật khó để nói vì một lý do đơn giản: Dữ liệu về sự an toàn của ô tô robot rất tệ.
Hãy áp dụng cách tiếp cận của Cummings trong bài báo mới của bà. Đầu tiên, cô phải vật lộn với dữ liệu toàn quốc của NHTSA về các vụ va chạm không gây tử vong do người lái xe gây ra, để có được những con số mà bà có thể so sánh với California, nơi duy nhất mà ô tô robot chạy tự do. Sau đó, bà phải tìm ra những con số va chạm không gây tử vong và số dặm đã di chuyển của Waymo và Cruise, được theo dõi bởi các nguồn khác nhau. Kết luận của bà: Cruise gặp 8 vụ va chạm không gây tử vong đối với mỗi người và Waymo có 4 vụ - tương đương với tỷ lệ va chạm của những tài xế mệt mỏi và làm việc quá sức tại các dịch vụ gọi xe như Uber và Lyft.
Các nhà cung cấp taxi robot cho rằng Cummings sai vì nhiều lý do. Về cơ bản, họ nói, số vụ tai nạn do con người gây ra thực ra là con số thấp. Ngoài ra, số vụ va chạm trên toàn quốc, hoặc thậm chí chỉ ở California, không thể so sánh với số vụ va chạm ở San Francisco, nơi có mật độ dân số cao hơn và nhiều đồi núi hơn so với toàn bang. Nhìn theo cách đó, Cruise lập luận trong một bài đăng trên blog gần đây, taxi của họ đã gặp ít vụ va chạm hơn 54% so với ô tô do con người điều khiển.
Các chuyên gia khác cũng đánh giá thấp những tuyên bố của Cruise. Steven Shladover, kỹ sư nghiên cứu tại Viện Nghiên cứu Vận tải của UC Berkeley,cho biết: “Nếu chúng ta tin vào những con số mà Cruise đưa ra đối với các tài xế gọi xe, thì những tài xế đó sẽ gặp trung bình hai vụ va chạm mỗi năm. Có bao nhiêu tài xế gặp hai vụ va chạm mỗi năm? Điều đó khá nghiêm trọng”.
Nhưng Shladover cũng hoài nghi về những con số mà Cummings đưa ra. Ông nói: “Missy đang cho rằng tỷ lệ va chạm do con người gây ra là quá thấp đối với San Francisco, còn Cruise thì cho thấy tỷ lệ va chạm do con người gây ra quá cao. Thực tế có lẽ ở đâu đó ở giữa".
Vì vậy có lẽ Cummings đã đúng, và xe tự lái là một mối đe dọa. Hoặc có thể nó không tệ đến mức như bài báo mới của bà ấy nói. Cho đến khi ô tô robot đã đi được hàng trăm triệu dặm, không có cách nào để có được một kết luận rõ ràng, có ý nghĩa thống kê. Nhưng điểm mấu chốt là: Khi dữ liệu về độ an toàn của sản phẩm hoặc thiết bị không rõ ràng, các cơ quan quản lý có nhiệm vụ đưa ra và thực thi các quy tắc bảo vệ người tiêu dùng, giống như cách họ làm trong các ngành khác.
Nếu dữ liệu về ô tô robot không rõ ràng hoặc không đầy đủ thì những quy tắc đó sẽ khiến chúng không được phép lưu thông trên đường. Trách nhiệm chứng minh thuộc về Waymo, Cruise và Tesla, không phải Missy Cummings. Và nếu những công ty đó muốn đưa robot nặng 2 tấn ra đường phố công cộng, việc viết về tiêu chuẩn dữ liệu không phải là cách để cho mọi người thấy rằng họ đã sẵn sàng.
Cummings nói: “Một trong những điều quan trọng nhất mà tôi đang quan tâm hiện nay, rút ra từ những năm làm hàng không của tôi, là tất cả các công ty này đều cần một phi công trưởng về AI. Họ cần có ai đó, một người đứng lên và nói: 'Tôi chịu trách nhiệm'”.
Cummings là một nhà nghiên cứu cẩn thận nhưng cũng có phần "khiêu khích". Bà rất vui khi tấn công các công ty như Tesla, Waymo và Cruise, đồng thời lập luận rằng những người đam mê công nghệ cần phải được đưa vào một khuôn khổ quy định chặt chẽ hơn. Ở một khía cạnh nào đó, bà là cơn ác mộng tồi tệ nhất của Elon Musk.
Bà đã nhiều lần và thường xuyên mạo hiểm mạng sống của mình để kiểm tra những khả năng đáng kinh ngạc - và giới hạn gây chết người - của giao diện người-máy. Và bà đã làm điều đó trong một môi trường có mức rủi ro cao hơn nhiều so với chiến trường Twitter và LinkedIn. Đối với bà, sự an toàn của xe tự lái không phải là một câu hỏi trừu tượng. Đó là vấn đề của sự sống và cái chết.
"Tôi là một giáo sư đã được bổ nhiệm. Công việc của tôi tự nó đã nói lên điều đó. Tôi đang cố gắng cứu mạng bạn, phải không?" Cummings nói.