Насколько сложен процесс создания машинного сверхинтеллекта? Способствует ли искусственный интеллект переходу к новому технологическому укладу? И какие методы позволяют обучать искусственный разум, используя ограниченный объем данных? Эти вопросы были обсуждены с директором центра когнитивного моделирования МФТИ, руководителем научной группы «Нейросимвольная интеграция» в Институте искусственного интеллекта AIRI Александром Пановым.
— Александр Игоревич, как один из ведущих экспертов в области искусственного интеллекта, как вы видите его влияние на современное общество?
— Искусственный интеллект представляет собой многогранное явление. С одной стороны, оно связано с фундаментальной наукой, которая демонстрирует бурный рост, предлагая новые методы, создавая алгоритмы и модели. С другой стороны, технологии, основанные на ИИ, находят применение в большом количестве практических задач. По всей видимости, впервые в истории человечества происходит столь стремительное и масштабное внедрение научных разработок в различные системы и устройства для решения повседневных задач. Многие стартапы активно разрабатывают новые сервисы в этой области.
Искусственный интеллект становится все более доступным инструментом для управления техникой и обработки данных. Мы все, даже не подозревая об этом, используем его в той или иной форме – от мобильных приложений до программного обеспечения, используемого на атомных электростанциях. В сложных системах искусственный интеллект применяется для прогнозирования и контроля над процессами. Например, в банковской сфере такие методы используются для оценки кредитного риска – определения вероятности невозврата кредитов.
— Какова ваша оценка положения российской науки в мировой сфере искусственного интеллекта?
— В ряде областей российские ученые занимают передовые позиции. Прежде всего, они добились значительных успехов в создании действенных алгоритмов, позволяющих оптимизировать использование вычислительных ресурсов. Кроме того, в сфере обучения с подкреплением наши специалисты демонстрируют результаты, превосходящие мировые аналоги. Тем не менее, эти направления не всегда получают широкое освещение.
В других областях мы не являемся лидерами, однако прилагаем усилия, чтобы не уступать, и поддерживаем нужный уровень знаний. Зачастую мы воспроизводим уже реализованные решения, разработанные за рубежом. Типичный пример – языковые модели, которые лежат в основе работы востребованных приложений, таких как Chat GPT.
Российская наука обладает рядом отличительных черт. В частности, в области искусственного интеллекта характерно тесное переплетение с другими научными направлениями, такими как психология, нейрофизиология и другие. Это позволяет существенно расширять возможности исследований.
— Как вы определяете свое место: как российского ученого или как участника глобального научного пространства?
— Я ощущаю гордость за то, что являюсь частью советско-российской школы искусственного интеллекта. Моего наставника, Геннадия Осипова, обучал Дмитрий Александрович Поспелов, основатель советской научной школы в области ИИ. Вокруг них сформировался обширный коллектив исследователей. Как и у любой другой школы, у этой есть свои сильные и слабые стороны. Однако это представляет собой оформленную систему научных взглядов, позволяющую глубоко анализировать проблемы и передавать знания и опыт из поколения в поколение.
— Какие у вас сильные и слабые стороны?
— К числу недостатков можно отнести нетерпеливость, что, вероятно, обусловлено молодостью. В некоторых случаях приходится сталкиваться с монотонными задачами, требующими аккуратности и внимания к деталям. Даже если они представляются неинтересными, для других они могут быть значимыми, и это следует учитывать. Тем не менее, иногда терпения не хватает, и это может негативно влиять на мою профессиональную деятельность.
Считаю, что к моим сильным сторонам относятся коммуникативные навыки. Я способен организовывать работу команды, находить общий язык с коллегами, разрабатывать план исследования и создавать условия для возникновения и реализации новых идей.
— Расскажите о вашем пути в науку и о том, как вы пришли к исследованию искусственного интеллекта?
— В детстве, отвечая на вопрос о будущей профессии, я, как и многие, говорил, что стану инженером. Возможно, именно поэтому моя нынешняя деятельность имеет отношение к инженерной сфере, хотя и тяготеет к науке. Школьное образование получил в Новосибирске, в Академгородке, где учился в классе с углублённым изучением физики. Меня привлекали различные области знаний. Среди моих достижений – победы на всероссийских олимпиадах по химии. После этого поступил в Новосибирский государственный университет, на физический факультет, в подразделение, которое было специализировано на автоматизации физических процессов. Это подразумевает научное программирование оборудования. Параллельно с учебой работал в Институте ядерной физики имени Г. И. Будкера, где выполнял анализ данных для ускорителей частиц.
В этот период я увлекся программированием и познакомился с такими понятиями, как «семантика» и «интеграция знаний», а также другими. В процессе изучения этих тем я узнал о методах искусственного интеллекта. Позже, совершенно случайно, я узнал о существовании Российской ассоциации искусственного интеллекта. Ее возглавлял Геннадий Семенович Осипов. Я написал ему перед поступлением в магистратуру МФТИ, и он посоветовал мне обратиться к нему, что я и сделал. В период обучения в магистратуре я познакомился со всеми представителями российской школы искусственного интеллекта и начал активно заниматься этими вопросами. После этого я поступил в аспирантуру и защитил кандидатскую диссертацию. Вкратце так и выстроилась моя профессиональная траектория.
— Какая первая система искусственного интеллекта была разработана нашей командой?
— Ограниченность информации является одним из ключевых недостатков систем искусственного интеллекта, особенно в ситуациях, требующих принятия решений. Изначально я фокусировался на решении подобных задач, а именно на анализе данных и машинном обучении, использующих небольшие объемы информации. Этот подход, который сейчас широко известен как ДСМ-метод, был разработан отечественным ученым Виктором Константиновичем Финном. Название методу он дал, вдохновляясь методом рассуждений философа Джона Стюарда Милля, который стал основой для автоматической генерации гипотез.
Он обладает возможностью генерировать правдоподобные и точные гипотезы в автоматическом режиме, даже при отсутствии специальных знаний в рассматриваемой области, благодаря логическим конструкциям. Этот подход особенно ценен в системах, работающих с ограниченным объемом информации. Применив эти методы, я создал алгоритмы, которые сразу продемонстрировали свою эффективность в психологии. В целом, подобные алгоритмы представляют значительную практическую ценность, поскольку эффективно обрабатывают небольшие объемы данных. Таким образом, они расширяют возможности статистических методов (например, нейронных сетей), которые наиболее эффективны при работе с большими наборами данных.
— Какие шаги необходимо предпринять, чтобы российская наука в данной области смогла достичь уровня передовых позиций?
— Государственная стратегия в области развития искусственного интеллекта представляется верной. В стране уделяется значительное внимание научным исследованиям, регулярно проводятся конференции и оказывается финансирование прикладных работ. Также запускаются новые образовательные программы и предоставляются гранты, поддерживающие как прикладные проекты и стартапы, так и фундаментальные исследования.
Условия для достижения существенных успехов, на мой взгляд, сформированы. Однако научный поиск представляет собой непростой и многоаспектный процесс. Он определяется не только финансовой поддержкой, но и человеческим фактором. Для его эффективного использования необходимо создавать и развивать научные коллективы, в которых будет сосредоточена необходимая концентрация знаний. В результате, качественный скачок станет возможным.
— В каких сферах искусственный интеллект получит наибольшее применение?
— Точный ответ дать сложно, поскольку многое определяется особенностями различных секторов экономики. Безусловно, адаптация происходит в первую очередь в наиболее востребованных устройствах, например, смартфонах и ноутбуках. По мере того, как мы активнее используем подобные гаджеты, возрастает потребность в сервисах, оптимизирующих их функционирование. В результате, быстро увеличивается спрос на интеллектуальные приложения, включая голосовых помощников, переводчиков, инструменты для редактирования фотографий и многие другие.
Внедрение искусственного интеллекта в промышленность и экономику имеет различные проявления в разных государствах. Так, российская компания «Сбер» сообщает, что использование искусственного интеллекта в финансовой сфере привело к увеличению прибыли предприятий, входящих в её структуру, приблизительно на треть. На Тайване же эти технологии активно применяются для автоматизации и роботизации производства и сборочных линий.
— Возможно ли, чтобы искусственный интеллект стал катализатором перехода к новой технологической эпохе?
— Вероятно, это действительно так. Искусственный интеллект играет значимую роль в нашем представлении о прогрессе. Он влияет на все области деятельности и кардинально меняет способы работы, коммуникации, поиска и анализа информации. Кроме того, ИИ способствует зарождению новых предприятий. Безусловно, это важный стимул для развития современного общества. Однако пока неясно, приведет ли он к резкому ускорению развития науки и технологий или же мы продолжим двигаться по пути постепенного и последовательного прогресса.
При обсуждении достижений искусственного интеллекта важно отметить, что в этой области остается немало нерешенных вопросов. Вероятно, некоторые из них принципиально не поддаются решению, подобно, к примеру, полетам со скоростью, превышающей скорость света, или созданию вечного двигателя.
— Какие существуют примеры принципиально неразрешимых проблем?
— К примеру, разработки в сфере Общего искусственного интеллекта (Artificial General Intelligence). В этой области специалисты работают над созданием программного комплекса, который, аналогично человеческому сознанию, способен к самообучению и выполнению задач, для которых он изначально не предназначался. Иными словами, подразумевается создание систем, способных мыслить, логически выстраивать цепочки рассуждений и принимать независимые решения. Подобные машины будут обладать интеллектом, сопоставимым с человеческим, а в будущем — превосходящим его.
Для разработки систем искусственного интеллекта, способных на большее, чем просто создание текстов и изображений или предоставление развлечений на мобильных устройствах, необходимо интегрировать эти модели с реальным миром. Однако, на данный момент, не существует подходящих архитектур для осуществления этой интеграции.
— Над чем сейчас работает ваша команда?
— Разрабатываем приложения ИИ для робототехники. В частности, решаем задачи адаптации беспилотных аппаратов к работе в неизученных условиях. В связи с этим особое внимание уделяем так называемым Базовым поведенческим моделям (Foundation Behavior Models). Они представляют собой нейросетевые алгоритмы, посредством которых машины обучаются на предварительно подготовленных данных и на основе примеров, предоставленных человеком, а затем совершенствуют свои навыки в процессе взаимодействия с окружающей средой. Это перспективный подход к созданию универсальных и удобных для пользователей роботов.
Мы также работаем над развитием методов обучения с подкреплением. Это подход, при котором искусственный интеллект приобретает новые знания и умения, взаимодействуя с окружающей средой. Метод основан на моделировании процесса человеческого обучения, предполагающего эксперименты и анализ результатов. В этом случае, алгоритмы, способствующие достижению цели, укрепляются в системе управления агентом, а отклоняющие от неё – подавляются.
— Не могли бы вы поделиться информацией о результатах вашей работы и наиболее значимых разработках, созданных вашей командой?
— Помимо программного обеспечения, мы работаем над улучшением технических систем, предназначенных для управления роботами. Наша команда является одним из лидеров в области разработки систем навигации в закрытых пространствах.
Мы уделяем особое внимание совершенствованию сенсоров и датчиков, отвечающих за сбор и передачу информации об окружающей среде. Значительный прогресс достигнут в разработке систем компьютерного зрения, использующих стандартные камеры вместо дорогостоящих лидаров. Мы демонстрируем, как можно эффективно решать подобные задачи. Более того, в процессе навигации роботы получают опыт, который затем применяется в других, ранее неизвестных помещениях. Это особенно актуально, когда в памяти робота отсутствует готовая карта, но необходимо быстрое изучение пространства.
Помимо этого, мы ведем разработки совместно с промышленными партнерами, создавая системы управления для роботов-курьеров и роботов-ассистентов, в частности, с использованием голосового управления. Мы объединяем различные системы, отвечающие за управление роботом: локализацию, компьютерное зрение, машинное обучение, планирование поведения и другие. В России немногие компании занимаются подобными разработками, и мы реализуем их на уровне передовых мировых стандартов.
— С развитием искусственного интеллекта в обществе возникают опасения, в частности, касающиеся достоверности информации, создаваемой этими системами. Возникает вопрос, насколько правдивым будет ИИ. Замечаете ли вы эту проблему?
— Любые разработки в сфере критически важных технологий, таких как атомная физика, ракетостроение или искусственный интеллект, потенциально могут быть применены во вред. Однако, предположение о том, что мы намеренно создали технологию для обмана людей, представляется нереалистичным.
Я не верю в обретение искусственным интеллектом личности. Более целесообразно рассматривать его как инструмент. Главная опасность заключается в неправильном использовании. Освоение ИИ предполагает формирование и подготовку общества. В идеале, для этого необходимо пройти курс обучения и сдать экзамен, подобно получению водительского удостоверения.
— Не исключено, что проблема кроется в данных, применяемых для обучения модели машинного обучения?
— Безусловно, доступ к данным и их корректная обработка имеют решающее значение. Если проанализировать последние разработки в области создания языковых моделей, то можно заметить, что их описание и архитектура часто становятся общедоступными. Вместе с тем, разработчики редко раскрывают информацию о наборах данных, использованных для обучения, а также о методиках их подготовки и очистки. Однако именно эта составляющая требует значительных финансовых вложений и предполагает использование уникальных источников, которые все стремятся держать в секрете.
Проблема с информацией была актуальна всегда. Еще в древние времена люди размышляли о том, какую информацию следует демонстрировать, а какую – скрывать, и как правильно ее представлять. Это задача, которая сохраняет свою значимость и в наши дни, став более выраженной благодаря современным технологиям.
— Возможно ли использование искусственного интеллекта в качестве оружия? И если да, то какой уровень опасности это представляет?
— Искусственный интеллект, безусловно, способен быть использован в качестве оружия, однако это справедливо и для любого другого инструмента. Возьмем, к примеру, швею, которая создает шарф – она не предполагает, что изделие может быть применено для удушения.
Любой инструмент, в том числе и искусственный интеллект, можно использовать как в положительных, так и в отрицательных целях. Мы видим тому все больше примеров. К примеру, современные нейросети позволяют легко имитировать голоса или создавать поддельные изображения. Однако, проблема заключается не в самих технологиях, а в людях, а именно в их воспитании и необходимости законодательного регулирования.
— Специалисты также отмечают, что люди склонны делегировать искусственному интеллекту решение задач. Существует опасение, что люди могут стать лишь операторами ИИ, утратив при этом необходимые навыки?
— Подобная трудность имеет место, но ее также возможно преодолеть посредством воспитания и обучения. Рассмотрим аналогию с автомобилем. Действительно, водитель становится своего рода оператором транспортного средства. Но как это повлияло на его самочувствие – положительно или отрицательно? Безусловно, физическая активность снизилась, но взамен человек получил значительный выигрыш времени благодаря увеличению скорости перемещения. Полученные дополнительные часы можно направить на занятия наукой или творчеством. А недостаток физической активности восполняется занятиями спортом.
Искусственный интеллект, подобно автомобилям, помогает автоматизировать повторяющиеся задачи. Благодаря этому появляется возможность сосредоточиться на решении более значимых вопросов. Однако для сохранения когнитивных способностей и поддержания активности мозга необходимо регулярно тренировать его и самостоятельно справляться с рутинными операциями.
— Есть ли у вас дети? Какие методы воспитания вы используете? Ограничиваете ли вы их в использовании электронных устройств и социальных сетей?
— У меня есть сын, Тимофей. Я понимаю ваш вопрос и убежден, что воспитание детей должно происходить в соответствии с современными технологиями. С одной стороны, важно подготовить их морально и психологически к грамотному использованию всех доступных средств: смартфонов, телефонов и компьютерных игр. С другой стороны, необходимо обеспечивать достаточное время для живого общения с родителями, друзьями и окружающими.
В последнее время я наблюдаю растущую потребность у молодежи в подобных занятиях. Так, среди студентов вновь актуальна игра в мафию. Этот формат предполагает словесное и интеллектуальное взаимодействие между участниками, включающее зрительный контакт и попытку понять внутренний мир окружающих. Возросший интерес к подобным играм говорит о том, что молодые люди понимают: избыточная увлеченность информационными технологиями и виртуальная среда могут привести к потере чего-то значимого. В связи с этим они стараются развивать навыки живого общения.
— В настоящее время перед исследователями в области искусственного интеллекта возникают значительные трудности?
— Необходимо разработать методы, позволяющие успешно интегрировать системы искусственного интеллекта в фундаментальные научные исследования. Это значительно увеличит потенциал ученых. Однако, как я отмечал ранее, ключевая задача состоит в обучении пользователей корректному применению этих технологий.
Существуют, безусловно, элементарные, но важные вопросы. Так, например, необходимо определить, как наилучшим образом структурировать исследовательский процесс. Мы применяем одни и те же подходы и настраиваем параметры на протяжении уже десяти лет. Это указывает на необходимость внесения изменений, чтобы обеспечить прогресс.
Работа выполнена при финансовой поддержке Министерства науки и инноваций Российской Федерации в рамках реализации федерального проекта «Популяризация науки и технологий», соглашение № 075-15-2024-571 (и оказываемой поддержке Физтех-Союза).