Gã khổng lồ chip NVIDIA đang chuẩn bị công bố một bộ xử lý trí tuệ nhân tạo mạnh mẽ mới được thiết kế để tăng tốc cách chatbot và các công cụ AI khác tạo ra phản hồi, có khả năng khiến các hệ thống hiện nay như ChatGPT trở nên chậm chạp khi so sánh.
Nền tảng mới, dự kiến ra mắt tại hội nghị nhà phát triển GTC thường niên của NVIDIA, được tối ưu hóa cho suy luận AI, giai đoạn khi các mô hình được đào tạo tạo ra câu trả lời cho lời nhắc của người dùng. Không giống như GPU truyền thống được xây dựng để xử lý cả đào tạo và suy luận, bộ xử lý sắp tới tập trung cụ thể vào việc cung cấp phản hồi nhanh hơn và hiệu quả hơn.
Sản phẩm này, nếu được ra mắt, sẽ đánh dấu kết quả hữu hình đầu tiên của thỏa thuận vào tháng 12 đã đưa các nhà sáng lập của Groq vào nhóm, công ty chuyên về phần cứng xử lý AI tốc độ cao.
Cuối năm ngoái, NVIDIA được cho là đã chi khoảng 20 tỷ USD để cấp phép công nghệ từ công ty khởi nghiệp chip Groq và tuyển dụng nhân sự chủ chốt, bao gồm cả CEO của họ. Vào cùng thời điểm đó, CEO NVIDIA Jensen Huang nói với nhân viên: "Chúng tôi có kế hoạch tích hợp bộ xử lý độ trễ thấp của Groq vào kiến trúc nhà máy AI NVIDIA, mở rộng nền tảng để phục vụ phạm vi rộng hơn các khối lượng công việc suy luận AI và thời gian thực."
Hiện tại, chip suy luận mới dự kiến sẽ xử lý các truy vấn AI phức tạp ở tốc độ cao, với OpenAI và các khách hàng hàng đầu khác có khả năng áp dụng nó, theo The Wall Street Journal. Báo cáo của họ cũng cho thấy rằng chip mới có thể xử lý gần 10% khối lượng công việc suy luận của OpenAI.
Chip kiểu Groq sẽ sử dụng SRAM, các nguồn tin cho biết
Trong một cuộc gọi báo cáo thu nhập gần đây, CEO NVIDIA đã ám chỉ rằng một số sản phẩm mới sẽ được công bố tại sự kiện GTC sắp tới, thường được mô tả là "Super Bowl của AI". Ông đã nhận xét: "Tôi có một số ý tưởng tuyệt vời mà tôi muốn chia sẻ với các bạn tại GTC."
Hầu hết các nhà phân tích đồng ý rằng chip kiểu Groq có thể là một phần của dòng sản phẩm. Họ cũng tuyên bố rằng thiết kế của nó có thể làm sáng tỏ cách NVIDIA nhắm đến việc giải quyết các hạn chế bộ nhớ trong điện toán suy luận. Các nền tảng như vậy thường chạy trên bộ nhớ băng thông cao (HBM). Tuy nhiên, HBM gần đây đã khó tìm nguồn cung.
Những người nội bộ đã tuyên bố công ty có kế hoạch sử dụng SRAM trong chip thay vì RAM động liên quan đến HBM. Lý tưởng nhất, SRAM dễ tiếp cận hơn và có thể cải thiện hiệu suất của các khối lượng công việc lý luận AI.
Nếu chip được công bố, nó có thể là một bước tiến lớn cho công ty chip và các mô hình được đào tạo AI. Tuy nhiên, khi nói về khả năng ra mắt của nó, Sid Sheth, nhà sáng lập và CEO của d-Matrix, đã phủ bóng lên sự phát triển của nó. Ông lưu ý rằng trong khi NVIDIA vẫn là nhà lãnh đạo rõ ràng trong đào tạo AI, suy luận đại diện cho một bối cảnh rất khác. Ông chia sẻ: "Nhà phát triển có thể chuyển sang các đối thủ cạnh tranh khác ngoài NVIDIA vì chạy các mô hình AI hoàn thiện không yêu cầu loại lập trình giống như đào tạo chúng."
Tuy nhiên, các gã khổng lồ công nghệ khác cũng đang thúc đẩy điện toán suy luận. Meta tuần này đã công bố bốn bộ xử lý được điều chỉnh cho suy luận, khiến một nhà đầu tư Silicon Valley nói rằng ngành công nghiệp có thể đang bước vào giai đoạn không "thống trị bởi NVIDIA".
Tuy nhiên, gần đây hơn, June Paik, giám đốc điều hành của FuriosaAI, một đối thủ của NVIDIA, khi bình luận về lợi ích của điện toán suy luận dễ triển khai, đã cảnh báo rằng hầu hết các trung tâm dữ liệu không thể chứa các GPU làm mát bằng chất lỏng mới nhất.
Tuy nhiên, bất chấp những lo ngại của ông, các nhà phân tích của Bank of America kỳ vọng khối lượng công việc suy luận sẽ chiếm 75% chi tiêu cho trung tâm dữ liệu AI vào năm 2030, khi thị trường đạt khoảng 1,2 nghìn tỷ USD, tăng từ khoảng 50% năm ngoái. Ben Bajarin, một nhà phân tích công nghệ tại Creative Strategies, cũng khẳng định rằng các trung tâm dữ liệu của tương lai sẽ không tuân theo mô hình một kích cỡ phù hợp với tất cả, dự đoán rằng các công ty sẽ có những cách tiếp cận khác nhau đối với phát triển chip và cơ sở.
NVIDIA dự kiến sẽ phát hành chip Vera Rubin vào cuối năm 2026
NVIDIA cũng gần đây đã tung ra chip AI thế hệ tiếp theo của mình, chip AI Vera Rubin, dự đoán rằng sự gia tăng của các nền tảng AI lý luận như DeepSeek sẽ thúc đẩy nhu cầu điện toán còn lớn hơn. Nó tuyên bố các chip sẽ giúp đào tạo các mô hình AI lớn hơn và cung cấp đầu ra tinh vi hơn cho cơ sở người dùng rộng hơn.
Theo Huang, Rubin cũng sẽ ra mắt thị trường vào nửa cuối năm 2026, với phiên bản cao cấp "ultra" ra mắt vào năm 2027.
Ông cũng giải thích rằng một hệ thống Rubin duy nhất sẽ kết hợp 576 GPU riêng lẻ thành một chip duy nhất. Hiện tại, chip Blackwell của NVIDIA kết nối 72 GPU trong hệ thống NVL72 của nó, có nghĩa là Rubin sẽ có bộ nhớ tiên tiến hơn.
Nguồn: https://www.cryptopolitan.com/nvidias-chip-could-make-chatgpt-look-slow/
