Растущая популярность ChatGPT приводит к огромным расходам для OpenAI. По имеющимся данным, для поддержания инфраструктуры и вычислительной мощности ИИ компания тратит более 700 000 долларов в день. Однако она намерена сократить эту сумму, разработав собственный более доступный и энергоэффективный центр обработки данных GPU.
Обучение языковых моделей такого масштаба, как ChatGPT, требует инвестиций в размере более 4 миллионов долларов, по данным отраслевых аналитиков. Однако операционные расходы и расходы на вычисления при крупномасштабном внедрении значительно превышают первоначальные инвестиции. Затраты на обработку умозаключений ChatGPT значительно превышают сумму, потраченную на его обучение, что обходится OpenAI в сумму до 700 000 долларов в день.
Важно отметить, что компании, использующие языковые модели OpenAI, обычно тратят значительные суммы денег на поддержание бесперебойной работы ИИ.
Стоимость умозаключений ChatGPT отчасти объясняется его популярностью, поскольку он предполагает обработку миллионов точек данных каждую минуту со всего мира. Для этого ИИ имеет в своем распоряжении огромное количество вычислительных мощностей, зависящих от спроса пользователей, и опирается на чрезвычайно дорогую технологическую инфраструктуру. Большая часть расходов ChatGPT приходится на содержание мощных серверов. По словам представителя OpenAI, эксплуатация модели может оказаться еще дороже (при GPT-4), поскольку приведенные выше оценки основаны на GPT-3.
Проблема стоимости выводов существует не только для ChatGPT. Разговорные ИИ также используются в качестве поисковых систем и поэтому значительно дороже в реализации. Они требуют специализированных основных чипов (или графических процессоров) в центрах обработки данных, которые требуют больших инвестиций в обслуживание и модернизацию, не говоря уже о высоком энергопотреблении.
С целью снижения затрат на выполнение своей модели ИИ Microsoft и OpenAI рассматривают возможность замены графических процессоров Nvidia на GPU Athena. Находящийся в разработке с 2019 года, этот GPU также позволит Microsoft догнать Google и Amazon (у которых есть свои собственные чипы для обработки данных). В настоящее время более 300 сотрудников Microsoft работают над разработкой чипа, который будет запущен для внутреннего использования в следующем году. Экономия от использования чипа будет значительной для обоих партнеров (Microsoft и OpenAI).
Однако при тех темпах, которыми развивается отрасль, неясно, всегда ли выполнение ИИ будет обходиться так дорого. Большинство компаний, работающих над устройствами для выполнения ИИ, стремятся снизить затраты и максимизировать эффективность, чтобы оставаться конкурентоспособными на рынке. Со своей стороны, компания Nvidia занимает около 95% рынка графических процессоров и разрабатывает все более мощные версии для машинного обучения.
Кроме того, аналитики считают, что языковые модели, такие как ChatGPT, близки к своему пику и приближаются к критической переломной точке, когда их производительность начнет снижаться. Эта тенденция будет подтверждаться по мере увеличения их размера, вызванного постоянно растущим числом пользователей. Поэтому будущие усовершенствования этих ИИ должны быть направлены не только на размер модели, но и на другие аспекты.