Компания Nvidia считает, что развитие ИИ-агентов меняет требования к серверным процессорам, и после многих лет гонки за количеством ядер отрасли снова нужна высокая производительность каждого из них. Об этом сообщает IXBT News.

«В интервью Wccftech команда разработчиков рассказала, что процессоры эпохи облачных вычислений оптимизировали прежде всего под пропускную способность и плотность размещения ядер, нередко жертвуя быстродействием в однопоточных задачах», — сообщает IXBT News.

Медленная обработка очередного шага может простаивать дорогостоящий ускоритель, так как ИИ-агенты постоянно переключаются между GPU-вычислениями и последовательными операциями на CPU. Ответ Nvidia на эту проблему — процессор Vera, который компания разрабатывает для инфраструктуры ИИ и агентных вычислений. В отличие от многих конкурирующих решений с компоновкой из нескольких кристаллов, Vera использует один монолитный вычислительный кристалл, чтобы ядра могли обмениваться данными без дополнительных задержек при переходе между чиплетами.

Среди заявленных характеристик — память LPDDR5X с высокой пропускной способностью и 3,4 ТБ/с двунаправленной пропускной способности обмена между половинами кристалла. Последний показатель примерно втрое выше, чем у ведущих x86-процессоров. Компания заявляет, что Vera обеспечивает производительность в 1,5 раза выше, чем предыдущий процессор Nvidia Grace. В агентных задачах, включая выполнение сценариев Python и компиляцию кода, разработчики обещают до двукратного преимущества перед ведущими x86-процессорами, а среднее преимущество по геометрическому среднему в выбранном наборе таких задач составляет 1,6 раза.

Nvidia также использует собственную схему пространственной многопоточности, разделяющую работу потоков на вычислительную и операции ввода-вывода. Тестирование показало, что этот подход способен обеспечить прирост производительности на 20%, а не снижать её из-за дополнительных накладных расходов.

Ещё одно изменение — Vera позиционируется не только как процессор-хост для серверов с GPU, но и как самостоятельное решение для стоек, заполненных CPU. Такие системы могут выполнять вызовы инструментов ИИ-агентов и задачи обучения с подкреплением, не занимая ресурсы графических ускорителей. Nvidia не подтверждает прогноз о соотношении 80 CPU на один GPU, который обсуждают в отрасли, но признаёт, что растущее количество агентных задач увеличивает потребность в процессорных ресурсах. Некоторые поставщики инфраструктуры уже обслуживают сотни тысяч изолированных программных сред для одного клиента.

Разработчики подчёркивают, что монолитная компоновка — не универсальный отказ от чиплетов: архитектуру будут выбирать в зависимости от задач и требований рынка. Главный тезис Nvidia в том, что в инфраструктуре агентного ИИ важны не только число ядер и общая пропускная способность, но и скорость выполнения последовательных операций, доступ к памяти и обмен данными между ядрами. Именно эти характеристики, по мнению компании, должны помочь Vera поддерживать высокую загрузку GPU в системах, где ИИ-агенты выполняют множество небольших взаимосвязанных задач.