Sự bùng nổ của chatbot AI như ChatGPT (OpenAI) đã và đang làm dấy lên nhiều kỳ vọng về một tương lai nơi công việc được tự động hóa và hiệu suất tăng vọt. Tuy nhiên, kết quả nghiên cứu từ đại học Purdue (Mỹ) mới đây đã gióng lên hồi chuông cảnh tỉnh khi chỉ ra rằng ChatGPT trả lời sai tới 52% số câu hỏi liên quan đến lập trình máy tính.
Nghiên cứu được trình bày tại hội nghị Tương tác Người - Máy tính (Computer-Human Interaction Conference) diễn ra ở Hawaii (Mỹ) vào đầu tháng này dựa trên việc phân tích 517 câu hỏi lập trình trên nền tảng Stack Overflow. Những câu hỏi này sau đó được đưa cho ChatGPT để phân tích và đưa ra câu trả lời.
Kết quả cho thấy, 52% câu trả lời của ChatGPT chứa thông tin sai lệch và 77% trong số đó được diễn đạt một cách dài dòng, rườm rà. Điều đáng nói là, dù đưa ra nhiều thông tin sai nhưng phong cách ngôn ngữ “dễ hiểu” và “trôi chảy” của ChatGPT lại khiến nó nhận được sự ưa chuộng từ 35% người tham gia khảo sát.
Nghiên cứu cũng chỉ ra rằng các lập trình viên tham gia đôi khi không thể phát hiện ra những sai sót trong câu trả lời của ChatGPT. Cụ thể, có tới 39% trường hợp, các lập trình viên đã bỏ qua thông tin sai lệch mà chatbot AI này cung cấp.
Rõ ràng, nghiên cứu từ đại học Purdue đã chỉ ra một thực tế đáng lo ngại về độ tin cậy của ChatGPT - công cụ được kỳ vọng sẽ tạo ra bước đột phá trong lĩnh vực AI. Hiện nay, các ông lớn công nghệ như Meta, Microsoft và Google đang đầu tư hàng tỷ USD vào cuộc đua AI nhằm tạo ra những chatbot “thông minh” và đáng tin cậy nhất.
Google, với công cụ tìm kiếm tích hợp AI mới, cũng đang vấp phải nhiều chỉ trích vì thường xuyên cung cấp thông tin sai lệch từ các nguồn không đáng tin cậy. Thậm chí, đã có trường hợp Google Search lấy thông tin từ trang báo châm biếm The Onion và hiển thị như một nguồn đáng tin cậy. Trước những phản hồi tiêu cực về độ chính xác của công cụ tìm kiếm, phía Google lại cho rằng những lỗi sai này chỉ là “ngoại lệ”.
Đại diện Google cho biết: "Những ví dụ được đề cập đến thường là những truy vấn rất hiếm gặp và không đại diện cho trải nghiệm của hầu hết người dùng. Phần lớn AI Overviews đều cung cấp thông tin chất lượng cao, với các liên kết để người dùng tìm hiểu sâu hơn trên web." Lập luận của Google ngay lập tức vấp phải sự phản đối từ phía người dùng bởi lẽ, với vai trò là công cụ tìm kiếm hàng đầu thế giới, Google phải đảm bảo tính chính xác với tất cả các truy vấn chứ không chỉ với những truy vấn phổ biến.
