Компания Intel сделала ряд анонсов на Международной конференции по суперкомпьютерам (ISC) 2023. На конференции в Гамбурге микропроцессорный гигант представил проект Aurora genAI — собственную языковую модель, аналогичную GPT от OpenAI, Llama от Meta* и PaLM от Google.
Инициатива возглавляется Intel в сотрудничестве с Аргоннской национальной лабораторией, одним из крупнейших исследовательских центров в США, и Hewlett Packard Enterprise (HPE). В проекте будут участвовать и другие партнеры, такие как университеты США и Министерство энергетики США.
ИИ для поддержки научных исследований
Языковая модель отличается типом данных, на которых она обучается. Для обучения генеративного ИИ Intel использует корпус научных текстов и данных, охватывающих различные области, такие как биология, химия, материаловедение, физика и медицина. В алгоритм также введен компьютерный код, связанный с наукой. Таким образом, модель создана специально для того, чтобы помочь ученым в их исследованиях.
Среди вариантов использования модели ИИ Intel называет проектирование новых молекул, синтез новых материалов или создание новых экспериментов в области биологии, химии или климатологии. Компания также считает, что Aurora genAI может внести свой вклад в исследования рака или борьбу с глобальным потеплением.
Кроме того, модель выделяется тем, что имеет 1000 миллиардов параметров. Это намного больше, чем у моделей ИИ, уже представленных на рынке, включая Palm (540 миллиардов), LaMDA (137 миллиардов) и GPT-3 (175 миллиардов). К сведению, именно параметры определяют вычислительную мощность модели. Чем больше параметров, тем больше способность модели ИИ генерировать точные ответы на вопросы пользователей.
Суперкомпьютер Aurora
Таким образом, модель Intel не может быть запущена на любой машине. Чтобы воплотить эту языковую модель в жизнь, Intel опирается на собственный суперкомпьютер Aurora. Вооруженный чипами для высокопроизводительных вычислений и искусственного интеллекта, процессором Xeon и GPU, он способен обеспечить мощность до двух экзафлопсов. Теоретически, это будет самый мощный суперкомпьютер в мире, опередивший Frontier, разработанный Национальной лабораторией Ок-Ридж (ORNL), который преодолел порог в один экзафлоп в прошлом году. По словам Рика Стивенса, заместителя директора Аргоннской национальной лаборатории, модель была разработана специально для того, чтобы «использовать весь потенциал суперкомпьютера».
Появление суперкомпьютера, разработанного исключительно для исследовательского центра в Аргонне, в прошлом несколько раз откладывалось. В течение последнего года Intel долго перерабатывала архитектуру машины.
Intel утверждает, что запуск Aurora запланирован на конец этого года. Тем временем лингвистическая модель, основанная на производительности машины, также будет предоставлена в распоряжение ученых Аргонна.
* Компания Meta – Признана экстремистской организацией и запрещена в РФ.