Riley Goodside, 36 tuổi, hiện làm việc tại startup Scale AI với công việc kỳ lạ nhất trong lĩnh vực AI. Anh dành nhiều giờ mỗi ngày để nói chuyện với mô hình GPT-3. Công việc của Goodside là tạo và điều chỉnh những đoạn văn mà mọi người có thể sẽ nhập vào AI để có thể thu về kết quả tốt nhất.
Không giống như các lập trình viên truyền thống, những “kỹ sư gợi ý” sẽ đưa vào hệ thống AI các câu lệnh được viết bằng văn bản thuần túy, sau đó hệ thống này sẽ thực hiện câu lệnh.
Goodside thường nói với mô hình này, rằng nó là một công cụ tốt nhưng không hoàn hảo, và cần tuân theo những gì anh ấy nói. “Bạn là GPT‑3 và bạn không thể làm toán. Khả năng ghi nhớ của bạn rất ấn tượng nhưng bạn có xu hướng bịa ra những thông tin sai”, Goodside nhập vào hệ thống trong một buổi huấn luyện AI.
Theo Washington Post, khi Google, Microsoft hay OpenAI phát hành các công cụ trò chuyện và tìm kiếm AI, họ đã đảo ngược cách tương tác truyền thống giữa người và máy đã tồn tại hàng thập kỷ. Người dùng hiện không cần phải viết code bằng các ngôn ngữ như Python hoặc SQL để điều khiển máy tính. Ngôn ngữ lập trình mới hot nhất hiện nay là tiếng Anh”, Andrej Karpathy, cựu giám đốc phụ trách AI của Tesla, chia sẻ trên Twitter.
Các kỹ sư như Goodside có thể vận dụng tối đa những gì các công cụ AI này có thể làm: hiểu rõ điểm yếu và điểm mạnh của chúng, từ đó biến văn bản đơn giản ở đầu vào thành những kết quả tốt nhất.
“AI không có kiến thức cơ bản trong thực tế nhưng nó hiểu rằng: Mọi nhiệm vụ đều có thể hoàn thành. Tất cả các câu hỏi có thể được trả lời”, Goodside chia sẻ. Bí quyết là “xây dựng cho nó một tiền đề, một câu chuyện chỉ có thể hoàn thành theo một cách duy nhất”
Riley Goodside làm việc tại ScaleAI với công việc nói chuyện với mô hình GPT-3 trong nhiều giờ. Ảnh: Washington Post
Simon Willison, lập trình viên người Anh đang nghiên cứu kỹ thuật gợi ý, cho biết: “Tôi đã làm kỹ sư phần mềm được 20 năm và mọi thứ luôn cố định. Bạn viết code và máy tính làm đúng theo những câu lệnh đó. Nhưng trên thực tế, những người xây dựng mô hình ngôn ngữ thậm chí cũng không biết mô hình đó sẽ làm gì”.
Willison chia sẻ thêm: “Có nhiều người coi thường các kỹ sư gợi ý và cho rằng họ được trả tiền chỉ để gõ văn bản vào máy tính. Nhưng các hệ thống AI có thể lừa dối các kỹ sư và đưa họ vào những thứ tốn thời gian mà không đem lại kết quả gì”.
Karpathy so sánh các “kỹ sư gợi ý” giống như bác sĩ tâm lý cho AI và các công ty thuê họ với hy vọng khám phá ra những tiềm ẩn mới của AI.
Một số chuyên gia cho rằng kỹ sư gợi ý cũng không thực sự kiểm soát được AI, vì không ai biết hệ thống sẽ phản ứng thế nào. Một câu hỏi có thể sinh ra hàng chục câu trả lời trái ngược nhau, như những gì ChatGPT đang thể hiện.
Shane Steinert-Threlkeld, trợ lý giáo sư ngành ngôn ngữ học tại Đại học Washington, cho biết: “Bất cứ điều gì đang thúc đẩy hành vi của các mô hình để đáp lại các gợi ý không phải là sự hiểu biết sâu sắc về ngôn ngữ. Đây là dấu hiệu cho thấy phản hồi của máy tính không dựa trên sự am hiểu, mà chỉ là mô phỏng lời nói một cách thô sơ để giải quyết những vấn đề mà chúng không hiểu được”.
Ông lo lắng rằng sự phát triển của kỹ thuật gợi ý sẽ khiến mọi người đánh giá quá cao không chỉ sự nghiêm ngặt về mặt kỹ thuật mà còn cả độ tin cậy của kết quả.
Các công cụ AI mới, còn được gọi là mô hình ngôn ngữ lớn, được huấn luyện bởi hàng tỷ từ ngữ lấy trên Internet như Wikipedia, tin tức, mạng xã hội hay từ chính người dùng. Chúng được dạy cách phân tích từ ngữ và câu văn, sau đó mô phỏng lại khi được hỏi.
Goodside cho biết: “AI thường có xu hướng bịa ra các chi tiết nhỏ để lấp vào khoảng trống trong câu chuyện nên nó có thể tự tin đưa ra một câu trả lời sai. Đôi khi AI bị ‘ảo giác’ và phát biểu vô nghĩa. Chúng không thể hiện được kiến thức và suy nghĩ thật sự của con người”.
Các kỹ sư gợi ý không tiết lộ những câu lệnh họ cần đưa vào máy tính và coi đó là chìa khóa để giải mã phần thưởng quý giá của một mô hình AI. Năm 2022, một họa sĩ đã chiến thắng trong cuộc thi hội họa ở bang Colorado (Mỹ) nhờ AI Midjourney. Anh từ chối công khai văn bản mô tả mà mình nhập vào hệ thống và chỉ cho biết đã mất 80 giờ để hoàn thiện với hơn 900 phiên bản khác nhau.
Một số người cũng đang rao bán các đoạn văn bản mô tả trên các nền tảng như PromptBase. Ben Stokes, người sáng lập PromptBase, cho biết có khoảng 25.000 tài khoản đã mua bán văn bản mô tả trên nền tảng này kể từ năm 2021. Một đoạn văn bản dài 50 từ để Midjourney tạo ảnh có thể được bán với giá 1,99 USD. Khoảng 700 kỹ sư gợi ý đang dùng PromptBase để bán văn bản theo yêu cầu của người dùng.
Nhưng công việc ngày càng trở nên chuyên nghiệp hóa. Công ty khởi nghiệp AI Anthropic, được thành lập bởi các cựu nhân viên OpenAI, gần đây đã đăng tuyển một “kỹ sư gợi ý” ở San Francisco với mức lương lên tới 335.000 USD/năm (tương đương với khoảng 7,9 tỷ đồng).
Kỹ sư gợi ý cũng được săn tìm trong các công ty ngoài ngành công nghệ. Bệnh viện nhi Boston (Mỹ) trong tháng 2 cũng đăng tuyển “kỹ sư gợi ý AI” để giúp xây dựng những văn bản phân tích dữ liệu chăm sóc sức khỏe từ các nghiên cứu và điều trị lâm sàng. Công ty luật Mishcon de Reya ở London cũng đăng tìm “kỹ sư gợi ý pháp lý”, trong đó ứng viên được yêu cầu nộp ảnh chụp màn hình các đoạn hội thoại với ChatGPT.
Tham khảo: Washington Post
