Вооружённые силы США проверили способность чат-ботов к участию в планировании военных действий с помощью компьютерного симулятора, основанного на стратегии StarCraft II. Разработанный ими чат-бот на базе языковых моделей OpenAI был сопоставлен с доступными для гражданскими пользователями чат-ботами. Военные остались удовлетворены результатами, но эксперты предупредили о потенциально негативных последствиях применения подобных технологий в реальности, включая существенные «запланированные» потери.
Американские военные давно исследуют возможность применения технологий искусственного интеллекта в боевых операциях. Искусственный интеллект используется для анализа изображений с мест сражений и определяют цели для авиаударовПентагон недавно начал испытывать большие языковые модели и построенные на них чат-боты, которые, как считают некоторые специалисты, позволят командирам оперативно реагировать на изменяющуюся ситуацию в боевой обстановке и принимать правильные решения в сжатые сроки.
Большие языковые модели — это усовершенствованные системы искусственного интеллекта, использующие алгоритмы машинного обучения для обработки и генерации текста на основе массивов текстовой информации.
Чат-бот — компьютерная программа, которая имитирует живой разговор с пользователем текстом, графикой или звуком. Используя языковые модели, чат-боты понимают речь, а не только команды, и каждый диалог делает их умнее.
В исследовательской лаборатории сухопутных войск США создали нового чат-бота. COA-GPT на базе больших языковых моделей OpenAIСозданный для поддержки командных руководителей, виртуальный помощник был протестирован исследователями на предмет эффективности в сравнении с другими общедоступными чат-ботами. GPT-4 Turbo и GPT-4 Vision (также на базе OpenAIПоследний способен работать с текстом и изображениями, в то время как два других чат-бота используют устаревшие модели языков. Результаты работы… опубликованы на сайте электронного архива препринтов arXiv.
Испытания проводились в виртуальной среде, моделирующей боевые действия, разработанной на основе компьютерной игры стратегического типа. StarCraft IIВсе испытуемые выполняли обязанности военных советников и должны были спланировать и осуществить операцию «Коготь тигра». TigerClaw).
Военные поставили перед чат-ботами несколько задач. В первую очередь, необходимо было предоставить командирам (игравших люди) данные о местности проведения операции, а также сведения о союзных и вражеских силах. После этого виртуальным помощникам требовалось с наименьшими потерями переместить оперативные группы с западного берега реки на восточный через четыре моста, захватить вражеские объекты и уничтожить противника.
Для создания макетов военной техники взяли за основу игровые объекты, например, танки. M1A2 AbramsТанки заменили бронетанковой техникой, а механизированную пехоту — машинами. HellionСоюзные войска включали девять танковых, три мотопехотных, один минометный, два авиационных и один разведывательный отряд. В распоряжении противника находилось двенадцать мотострелковых, один авиационный, два артиллерийских, один противотанковый и один пехотный отряд.
Пять чат-ботов приняли решения в процессе миссии стремительно, практически мгновенно. OpenAIРазработки предлагали больше возможностей для достижения целей по сравнению с чат-ботами, основанными на устаревших языковых моделях. В выполнении задач первые часто пренебрегали техникой и естественностью речи больше, чем вторые. В результате чат-боты GPT понесли больше «потерь» при выполнении заданий, чем их предшественники.
Что касается COA-GPTЕсли чат-бот успешно справляется с новыми ситуациями, возникающими во время выполнения миссии, без переподготовки, и показывает лучшие результаты при взаимодействии с командиром-человеком, то он более успешен других чат-ботов.
В начале 2024 года научно-исследовательская организация OpenAI — разработчик нейросети семейства GPT — обновила политику использования данных и сняла запрет на применение некоторых технологий ChatGPTКомпания сохраняет запрет на применение своих технологий в военных целях, включая разработки оружия и задачи, связанные с убийством и нанесением ущерба имуществу. Лаборатория армии США не предоставляет информации о том, как ей достались большие языковые модели. OpenAI.
Многие эксперты скептически отнеслисьРазработчики из США полагают, что применение больших языковых моделей в ситуациях с высокими ставками и решениями глобального значения небезопасно. automation bias).
Военные разработки в сфере искусственного интеллекта проводятся многими странами, среди которых Великобритания, Южная Корея, Европейский союз и Израиль. Лидером этой гонки являются США. На 2024 год Министерство обороны этой страны… работает над 180 проектами с ИИ для военных целей. В 2024-м Пентагон запросилФедеральное правительство выделяет на эти цели 3,2 миллиарда долларов.