Чиповый гигант NVIDIA готовится представить мощный новый процессор искусственного интеллекта, предназначенный для ускорения генерации ответов чат-ботами и другими ИИ-инструментами, что потенциально может сделать сегодняшние системы, такие как ChatGPT, медленными по сравнению.
Новая платформа, которая должна дебютировать на ежегодной конференции разработчиков GTC от NVIDIA, оптимизирована для вывода ИИ, этапа, когда обученные модели производят ответы на запросы пользователей. В отличие от традиционных GPU, созданных для обработки как обучения, так и вывода, предстоящий процессор специально сосредоточен на предоставлении ответов быстрее и эффективнее.
Продукт, если будет запущен, станет первым ощутимым результатом декабрьской сделки, которая привлекла основателей Groq, компания которых специализируется на высокоскоростном оборудовании для обработки ИИ.
В конце прошлого года NVIDIA, по сообщениям, потратила около 20 миллиардов $ на лицензирование технологии чипового стартапа Groq и привлечение ключевого персонала, включая его генерального директора. Примерно в то же время генеральный директор NVIDIA Дженсен Хуанг сообщил сотрудникам: "Мы планируем интегрировать процессоры Groq с низкой задержкой в архитектуру ИИ-фабрики NVIDIA, расширяя платформу для обслуживания еще более широкого спектра задач вывода ИИ и рабочих нагрузок в реальном времени."
Теперь ожидается, что новый чип для вывода будет обрабатывать сложные ИИ-запросы на высокой скорости, и OpenAI и другие ведущие клиенты, вероятно, примут его, согласно The Wall Street Journal. Его отчет также показал, что новый чип может обрабатывать близко к 10% рабочей нагрузки вывода OpenAI.
Чип в стиле Groq будет использовать SRAM, утверждают источники
Во время недавнего звонка по результатам, генеральный директор NVIDIA намекнул, что несколько новых продуктов будут представлены на предстоящем мероприятии GTC, которое часто называют "Суперкубком ИИ". Он заметил: "У меня есть несколько отличных идей, которыми я хотел бы поделиться с вами на GTC."
Большинство аналитиков согласны, что чип в стиле Groq может быть частью линейки. Они также заявили, что его дизайн может пролить свет на то, как NVIDIA намеревается решить проблемы памяти в вычислениях вывода. Такие платформы обычно работают на памяти с высокой пропускной способностью (HBM). Однако HBM в последнее время было трудно найти.
Инсайдеры утверждали, что фирма планирует использовать SRAM в чипе, а не динамическую RAM, связанную с HBM. Идеально, SRAM более доступна и может улучшить производительность рабочих нагрузок рассуждения ИИ.
Если чип будет представлен, это может стать большим шагом вперед для чиповой компании и моделей, обученных ИИ. Однако, говоря о его возможном запуске, Сид Шет, основатель и генеральный директор d-Matrix, бросил тень на его разработку. Он отметил, что хотя NVIDIA остается явным лидером в обучении ИИ, вывод представляет собой совершенно другой ландшафт. Он поделился: "Разработчики могут обратиться к конкурентам, отличным от NVIDIA, потому что запуск готовых моделей ИИ не требует того же типа программирования, что и их обучение."
Тем не менее, другие технологические гиганты также продвигают вычисления вывода. Meta на этой неделе представила четыре процессора, адаптированных для вывода, побудив инвестора из Кремниевой долины сказать, что индустрия может вступать в фазу, не "доминируемую NVIDIA".
Однако совсем недавно Джун Пэк, генеральный директор FuriosaAI, конкурента NVIDIA, комментируя преимущества легко развертываемых вычислений вывода, предупредил, что большинство дата-центров не могут разместить новейшие GPU с жидкостным охлаждением.
Тем не менее, несмотря на его опасения, аналитики Bank of America ожидают, что рабочие нагрузки вывода будут представлять 75% расходов на дата-центры ИИ к 2030 году, когда рынок достигнет около 1,2 триллиона $, по сравнению с примерно 50% в прошлом году. Бен Баджарин, технический аналитик Creative Strategies, также утверждал, что дата-центры будущего не будут соответствовать универсальной модели, ожидая, что компании будут применять различные подходы к разработке чипов и объектов.
Ожидается, что NVIDIA выпустит чипы Vera Rubin позже в 2026 году
NVIDIA также недавно выпустила свои ИИ-чипы следующего поколения, чипы Vera Rubin AI, предполагая, что рост платформ рассуждающего ИИ, таких как DeepSeek, будет подпитывать еще большую потребность в вычислениях. Она утверждала, что чипы помогут обучать более крупные модели ИИ и обеспечивать более сложные результаты для более широкой пользовательской базы.
Согласно Хуангу, Rubin также выйдет на рынок во второй половине 2026 года, а высококлассная версия "ultra" появится в 2027 году.
Он также объяснил, что одна система Rubin объединит 576 отдельных GPU в один чип. В настоящее время чип Blackwell от NVIDIA объединяет 72 GPU в своей системе NVL72, что означает, что Rubin будет иметь более продвинутую память.
Источник: https://www.cryptopolitan.com/nvidias-chip-could-make-chatgpt-look-slow/
