Thêm SOHA trên Google
OpenAI đang bắt đầu tự thiết kế phần cứng cho hệ thống AI của mình. Chip Jalapeño, được phát triển cùng Broadcom, được OpenAI tuyên bố có hiệu suất trên mỗi watt cao hơn tới 1,9 lần so với một số hệ thống chip AI của NVIDIA trong các thử nghiệm do hãng thực hiện.
Jalapeño là chip AI đầu tiên do OpenAI tự thiết kế, với quá trình phát triển từ thiết kế ban đầu tới hoàn thiện bản thiết kế sản xuất chỉ mất khoảng 9 tháng. Công ty dự kiến bắt đầu đưa chip này vào hệ thống của mình từ cuối năm 2026.
Thay vì hướng tới một bộ xử lý đa dụng, Jalapeño tập trung vào khâu suy luận, tức quá trình sử dụng mô hình AI đã được huấn luyện để tạo câu trả lời cho người dùng.
Chip AI mới của OpenAI, Jalapeño. Ảnh nguồn OpenAI
Đây là phần công việc ngày càng quan trọng với OpenAI khi các dịch vụ AI phải xử lý lượng yêu cầu khổng lồ. Việc tối ưu khả năng xử lý và mức tiêu thụ điện cho khâu này có thể giúp công ty phục vụ nhiều người dùng hơn mà không phải tăng mức tiêu thụ điện tương ứng.
Trong các thử nghiệm do OpenAI công bố, Jalapeño đạt hiệu suất trên mỗi watt cao hơn 1,5-1,9 lần so với những hệ thống NVIDIA được sử dụng để so sánh. Chip cũng được cho là giúp giảm độ trễ từ lúc nhận yêu cầu đến khi trả kết quả khoảng 1,7-3,6 lần. Với những tác vụ tương tác cao, OpenAI tuyên bố hiệu suất có thể cao hơn khoảng 2,1-4,1 lần.
Tuy nhiên, những con số này không có nghĩa Jalapeño vượt qua mọi chip AI của NVIDIA. Các phép so sánh tập trung vào những hệ thống như GB200 và GB300, trong những tác vụ cụ thể.
Điểm OpenAI nhấn mạnh là hiệu suất trên mỗi đơn vị điện năng, thay vì chỉ sức mạnh tính toán tuyệt đối. Khi các hệ thống AI ngày càng tiêu thụ nhiều điện, khả năng thực hiện nhiều tác vụ hơn với cùng một lượng điện có thể trở thành yếu tố quan trọng đối với chi phí vận hành trung tâm dữ liệu.
Trong khi có hiệu năng xử lý ma trận FP4 và FP8 gần tương đương với các chip AI của NVIDIA như GB200 và GB300, chip Jalapeño lại chỉ tiêu tốn năng lượng bằng 1/2 so với chip AI GB300 của NVIDIA. Ảnh nguồn SemiAnalysis
Điều này cho thấy hiệu năng trên mỗi Watt của Jalapeño cao gần gấp đôi so với bộ xử lý AI của NVIDIA. Ảnh nguồn OpenAI
OpenAI đang phát triển kiến trúc kết nối cho phép hàng nghìn chip Jalapeño phối hợp với nhau như một hệ thống xử lý AI quy mô lớn.
Điều này cho thấy công ty không chỉ tìm cách tạo ra một con chip nhanh hơn mà đang tối ưu cả chip, hệ thống kết nối và phần mềm. Theo phân tích được bài nguồn dẫn lại, cách tiếp cận này có thể giúp OpenAI giải quyết một trong những giới hạn ngày càng lớn của hạ tầng AI: điện năng.
Một chi tiết đáng chú ý khác là các mô hình AI của chính OpenAI đã được sử dụng để hỗ trợ một số công đoạn thiết kế, kiểm tra và tối ưu Jalapeño. Nói cách khác, AI đang được dùng để thiết kế phần cứng phục vụ chính AI.
Chip thế hệ thứ hai của Jalapeño đã bước vào giai đoạn phát triển nâng cao, trong khi thế hệ thứ ba cũng bắt đầu được triển khai.
Chưa thể thay thế NVIDIA
Dù Jalapeño có những lợi thế được OpenAI công bố trong một số thử nghiệm, công ty vẫn chưa thể thay thế hoàn toàn NVIDIA.
Jalapeño chủ yếu phục vụ khâu suy luận, trong khi OpenAI vẫn cần các hệ thống chip mạnh để huấn luyện những mô hình lớn. Công ty cũng xác nhận Jalapeño chỉ là một phần trong tổng năng lực tính toán, bên cạnh các hệ thống sử dụng chip của NVIDIA, AMD và những nền tảng khác.
OpenAI cũng không có kế hoạch bán Jalapeño ra thị trường. Con chip được thiết kế chủ yếu để phục vụ nhu cầu tính toán nội bộ, cho phép công ty tối ưu phần cứng theo những tác vụ AI của riêng mình.
Vì vậy, Jalapeño chưa phải dấu hiệu cho thấy OpenAI đã thoát khỏi sự phụ thuộc vào NVIDIA. Nhưng nó cho thấy cuộc cạnh tranh AI đang mở rộng từ mô hình và phần mềm sang chip, hệ thống kết nối và điện năng.
Nếu OpenAI có thể tiếp tục phát triển các thế hệ Jalapeño và triển khai chúng ở quy mô hàng nghìn chip, hãng sẽ có thêm một công cụ để kiểm soát chi phí xử lý AI và giảm bớt sự phụ thuộc vào phần cứng thương mại bên ngoài.
