Nvidia анонсировала новую инфраструктуру для искусственного интеллекта, основу которой составляют процессор Vera и платформа Vera Rubin. Эти разработки призваны обеспечить работу новых агентных ИИ-систем и крупных центров обработки данных.
Новая процессорная и стоечная архитектура создана для работы с возрастающими вычислительными потребностями искусственного интеллекта, в котором программные агенты все чаще самостоятельно планируют задачи, выполняют код и взаимодействуют с другими системами.
Процессор Vera, разработанный Nvidia для решения новых задач, согласно заявлению компании, демонстрирует в два раза большую производительность и на 50 процентов превосходит традиционные серверные процессоры. Предполагается, что чип будет применяться в центрах обработки данных для обучения моделей, запуска искусственного интеллекта и управления масштабными вычислительными комплексами как в облачных сервисах, так и в корпоративной инфраструктуре.
По мнению представителей Nvidia, процессор Vera представляет собой принципиально новый подход к работе процессоров в современных системах искусственного интеллекта. Теперь процессоры не просто поддерживают работу графических ускорителей, а становятся ключевым элементом для управления и распределения вычислительных задач в масштабных вычислительных комплексах.
По словам Дженсена Хуанга, основателя и генерального директора Nvidia, выход Vera знаменует важный этап в развитии искусственного интеллекта, поскольку интеллект приобретает способность к рассуждению и действиям, становясь агентным. Это подчеркивает значимость систем, которые контролируют подобную работу. Теперь процессор не только обеспечивает работу модели, но и управляет ею, что открывает перспективы для систем ИИ, демонстрирующих более высокую скорость и возможности масштабирования благодаря значительному приросту производительности и энергоэффективности.
Процессор включает в себя 88 пользовательских ядер Olympus и оперативную память высокой скорости, что позволяет ему обрабатывать тысячи одновременных сред искусственного интеллекта. Одна стойка, содержащая 256 процессоров Vera, способна поддерживать более 22 500 одновременных сред ИИ, применяемых для обучения с подкреплением или проверки агентов. Данный процессор будет взаимодействовать с графическими процессорами Nvidia в рамках архитектуры Vera Rubin, где центральный и графический процессоры обмениваются данными посредством высокоскоростных каналов.
Крупнейшие поставщики облачных сервисов и инфраструктуры, такие как Alibaba, Oracle Cloud Infrastructure, Dell Technologies и Lenovo, намерены внедрять системы, основанные на новом процессоре. Процессор Vera является компонентом платформы Nvidia Vera Rubin, которую компания представляет как инфраструктуру искусственного интеллекта нового поколения. Это единый суперкомпьютер, объединяющий несколько серверных стоек.
Платформа состоит из семи чипов, отвечающих за вычисления, сетевое взаимодействие и хранение данных, что позволяет функционировать так называемым «фабрикам ИИ» – крупномасштабным объектам, предназначенным для создания значительных объемов токенов, требуемых современными моделями. Как заявил Дженсен Хуанг, Vera Rubin – это существенное улучшение по сравнению с предыдущими поколениями, поскольку она объединяет семь инновационных чипов в пять стоек, формируя единый, мощный суперкомпьютер, созданный для поддержки всех этапов развития искусственного интеллекта.
Базовая конфигурация Vera Rubin NVL72 включает в себя 72 графических процессора и 36 процессоров Vera, объединенных в единую стоечную систему с использованием технологии NVLink. По заявлению компании, данная система способна увеличить производительность при обучении ИИ вплоть до четырехкратного прироста и повысить эффективность логического вывода на десять раз, если сравнивать с предыдущими платформами, основанными на GPU. Помимо наземных центров обработки данных, Nvidia также распространяет свою платформу ИИ на системы космических вычислений, предназначенные для спутников и орбитальных дата-центров.
По словам руководителя компании, космические вычисления стали новой возможностью, а обработка данных с использованием искусственного интеллекта как в космосе, так и на наземных станциях позволяет осуществлять мониторинг, принимать решения и обеспечивать автономную работу в режиме реального времени. Nvidia информирует о том, что поставки систем, основанных на процессоре Vera и инфраструктуре Vera Rubin, через партнеров-производителей оборудования стартуют во второй половине текущего года.