В беседе с Александром Пановым, директором центра когнитивного моделирования МФТИ и руководителем научной группы «Нейросимвольная интеграция» в Институте искусственного интеллекта AIRI, обсуждались такие вопросы, как сложность создания машинного сверхинтеллекта, возможность ИИ перехода к новому технологическому укладу и методики обучения искусственного разума на ограниченном количестве примеров. Также рассматривались трудности взаимодействия с умными роботами.
Александр Игоревич, как ведущий специалист в области искусственного интеллекта, какова Ваша оценка его роли в современном обществе?
Искусственный интеллект представляет собой комплексное явление, объединяющее фундаментальные научные исследования и широкое внедрение в прикладные сферы. Развитие этого направления характеризуется постоянным появлением новых подходов, алгоритмов и моделей. Впервые за всю историю человечества наблюдается такое быстрое и масштабное распространение научных достижений в практические системы и устройства для повседневного использования. Многие стартапы активно разрабатывают новые услуги в этой области.
Интеллектуальные системы стали общедоступными инструментами для управления машинами и обработки информации. Каждый из нас, даже не осознавая этого, использует их в той или иной форме — от приложений для гаджетов до программного обеспечения для атомных станций. В сложных системах ИИ применяют для прогнозирования и управления процессами. Например, в банковском секторе эти подходы используют в скоринге — оценке риска невозврата кредитов.
Чем Россия отличается от мировой науки в области ИИ?
В некоторых областях наши учёные занимают безусловное лидирующее положение. К примеру, в разработке эффективных алгоритмов, экономящих вычислительные ресурсы. Также в области машинного обучения с подкреплением есть команды, превосходящие всех по результатам. Правда, эти направления не всем знакомы.
В некоторых областях мы не являемся пионерами, но стремимся сохранять уровень компетенций и не отставать от трендов, чаще всего повторяя уже реализованные за рубежом решения. Яркий пример – языковые модели, основанные на которых работают популярные приложения, подобные Chat GPT.
Российская наука обладает специфическими чертами. В области искусственного интеллекта особый интерес представляет то, что данное направление тесно переплетается с другими дисциплинами, такими как психология и нейрофизиология. Такое взаимодействие обогащает исследования.
— Чувствуете ли вы себя представителем российской науки или все-таки частью глобального научного сообщества?
Я горжусь своей принадлежностью к советско-российской школе искусственного интеллекта. Мой учитель Геннадий Осипов был учеником Дмитрия Александровича Поспелова, основателя советской научной школы по ИИ. Вокруг появился большой коллектив учёных. У этой школы, как и у других, есть плюсы и минусы. Тем не менее это оформленная система научных взглядов, которая позволяет глубоко видеть проблемы и передавать знания и опыт через поколения.
— Какие у вас сильные и слабые стороны?
Нетерпеливость — одна из слабостей, возможно, из-за молодости. Надо смириться с нудными задачами и делать их качественно, даже если кажутся скучными, ведь кому-то они важны. Иногда не хватает терпения, что отражается на работе.
Я обладаю хорошими коммуникативными способностями. Умею организовать команду, находить общий язык с коллегами, планировать исследования и создавать среду для генерирования идей.
— Что привело вас к науке и, в частности, к искусственному интеллекту?
В детстве при ответе на вопрос о будущей профессии стандартным вариантом был «инженер». Возможно, поэтому работа связана с инженерными дисциплинами, правда, с научным акцентом. Учился в Новосибирском Академгородке в классе с физическим уклоном и увлекался разными предметами. Из достижений — победы на всероссийских олимпиадах по химии. Затем поступил в НГУ на физический факультет в подразделение, которое специализировалось на автоматизации физических процессов – это научное программирование оборудования. Помимо учебы работал в Институте ядерной физики имени Г. И. Будкера, где занимался анализом данных для ускорителей частиц.
Погрузившись в программирование, столкнулся с терминами «семантика», «интеграция знаний» и другими. Изучая их, узнал о методах искусственного интеллекта. Случайно узнал о Российской ассоциации искусственного интеллекта и ее президенте Геннадии Семеновиче Осипове. Перед поступлением в магистратуру МФТИ написал ему и получил совет идти к нему, что и сделал.
Во время учебы познакомился со всеми представителями российской школы искусственного интеллекта и активно занимался этими проблемами. Затем поступил в аспирантуру и защитил кандидатскую диссертацию. Так сложилась моя траектория как ученого.
— Какую первую систему искусственного интеллекта вы разработали?
— Одним из слабых мест ИИ являются области, где приходится принимать решения с недостаточными данными. Сначала я занимался подобными проблемами: анализом данных и машинным обучением на малых объёмах информации с применением подхода, который сейчас называют ДСМ-методом. Разработчиком этого метода является отечественный учёный Виктор Константинович Финн. Название методу он дал по инициалам философа Джона Стюарда Милля, чьи рассуждения легли в основу автоматического порождения гипотез.
Его ценность заключается в способности генерировать правдоподобные и достоверные гипотезы без специальных знаний о предметной области, основываясь на логических рассуждениях. Такой подход особенно полезен для систем с ограниченным объемом данных. Разработанные по этим принципам алгоритмы продемонстрировали эффективность в области психологии. Обладая высокой практической значимостью, они успешно работают даже с малым количеством информации. Таким образом, такие алгоритмы дополняют статистические методы (например, нейросети), которые эффективны при обработке больших массивов данных.
Как добиться, чтобы российская наука в этой сфере уступала мировым лидерам?
Государственная стратегия в области развития ИИ корректна. В стране много внимания уделяют научным изысканиям, проводят конференции, финансируют практические исследования. Открываются новые образовательные программы, выдаются гранты — как для прикладных проектов и стартапов, так и для фундаментальных работ.
Условия для достижения значительных успехов сложились. Научная работа — процесс сложный, многогранный. От финансирования зависит не только результат. Для эффективного использования человеческого фактора нужно формировать и укреплять научные группы, где накопится «критическая масса» знаний. В результате количество перейдет в качество, что позволит сделать рывок.
В каких сферах искусственному интеллекту будет отведено наибольшее место?
Ответить однозначно сложно. Всё зависит от особенностей конкретных отраслей. Известно, что в самых популярных устройствах, как смартфоны и ноутбуки, адаптации выполняются в первую очередь. Чем чаще мы используем подобные гаджеты, тем больше нуждаемся в сервисах, которые повышают их работоспособность. Поэтому спрос на «умные» приложения — голосовых ассистентов, переводчиков, программ для улучшения фотографий и многих других — растёт стремительно.
Применение искусственного интеллекта в промышленности и экономике варьируется по странам. В России «Сбер» заявляет о росте прибыли компаний экосистемы приблизительно на треть благодаря методам ИИ в сфере финансов. В Тайване эти технологии применяют для автоматизации и роботизации производственных процессов и конвейерных линий.
Может ли искусственный интеллект стать движущей силой нового технологического этапа?
Возможно так. Искусственный интеллект занимает важное место в нашем понимании прогресса. Влияние его ощущается во всех сферах, существенно меняя формат работы, общения, поиска и анализа информации. Также ИИ помогает создавать новые предприятия. Безусловно, это важный двигатель развития современного общества. Сложно сказать, станет ли он катализатором скачкообразного ускорения науки и технологий или же мы останемся в рамках планомерного постепенного развития.
В области успехов искусственного интеллекта нужно отметить, что множество проблем остается открытыми. Некоторые из них могут быть принципиально неразрешимыми, подобно полетам сверхсветовой скорости или созданию вечного двигателя.
Какие примеры неразрешимых базовых проблем вы можете назвать?
Ученые стремятся создать программный комплекс, который, подобно человеческому сознанию, сможет самообучаться выполнять различные задачи. Речь идет о системах, способных думать, рассуждать и принимать самостоятельные решения. Такие машины будут обладать разумом человеческого уровня, а в перспективе — сверхинтеллектом.
Для создания систем, способных не только генерировать текст и изображения для развлечения пользователей на телефонах, но и взаимодействовать с реальным миром, необходимы новые архитектуры.
— Над чем сейчас работает ваша команда?
Работаем над приложениями ИИ для робототехники, решая задачи адаптации беспилотных устройств к действиям в неизвестной среде. Фокусируемся на Базовых поведенческих моделях – нейросетевых алгоритмах, которые обучают машины на собранных данных и примерах людей, а затем дообучают их собственным опытом в окружающей среде. Это перспективный путь к созданию универсальных и удобных роботов для пользователей.
Мы разрабатываем методы обучения с подкреплением. Это метод, при котором искусственный интеллект учится новым знаниям и навыкам, взаимодействуя с окружающей средой. Процесс имитирует человеческое познание через проб и ошибок. В системе управления агентом алгоритмы, направленные на достижение цели, усиливаются, а отвлекающие — игнорируются.
Расскажите о своих успехах и интересных разработках, которые группа создала.
Мы улучшаем не только программы, но и технические системы для управления роботами. Команда нашей компании входит в число лидеров по созданию систем навигации в закрытых пространствах.
Мы направляем усилия на улучшение работы сенсоров и датчиков, которые обрабатывают информацию о среде. Наша команда добилась успехов в создании систем компьютерного зрения с использованием обычных камер вместо дорогих лазерных лидаров. Мы демонстрируем эффективность решения таких задач. В процессе навигации роботы обучаются, применяя полученный опыт в других незнакомых помещениях. Это важно для ситуаций, когда у робота нет готовой карты и ему требуется быстрее освоить пространство.
Мы разрабатываем системы управления для роботов-курьеров и роботов-ассистентов совместно с индустриальными партнерами. Возможность управления языковыми командами тоже рассматривается. Мы интегрируем различные системы управления роботом: локализации, компьютерного зрения, машинного обучения, планирования поведения и другие. В России мало кто занимается подобным на таком высоком мировом уровне.
Развитие ИИ вызывает опасения в обществе. Например, возникает вопрос о том, насколько достоверна информация, которую генерируют такие системы. Будет ли ИИ правдивым? Вы ощущаете эту проблему?
Любые исследования в области критических технологий, такие как атомная физика, ракетостроение или искусственный интеллект, потенциально могут быть использованы во вред людям. Однако полагать, что мы разработали технологию, предназначенную для обмана людей, — наивно.
К появлению личности у искусственного интеллекта отношусь скептически. Его скорее правильно рассматривать как инструмент. Риск кроется в неправильном применении.
Умение пользоваться ИИ требует воспитания и подготовки общества. Хорошо, если для этого нужно будет пройти обучение и сдать экзамен, как на права на вождение автомобиля.
— Может быть, проблема в данных, используемых для обучения машин?
Доступ к данным и их качественная подготовка очень важны. Последние выпуски языковых моделей показывают: разработчики открыто делятся описанием и архитектурой своих моделей, но почти не публикуют данные, на которых модели обучались, а также методики подготовки и очистки данных. Эта часть работы требует больших затрат и уникальных источников, поэтому её стараются держать в секрете.
Проблема информационного выбора всегда существовала. Еще в древности люди размышляли о том, кому и что демонстрировать, а что скрывать, как правильно обрабатывать информацию. Эта классическая задача актуальна и сегодня, но с помощью современных инструментов она стала более заметной.
Можно ли использовать искусственный интеллект как оружие? В таком случае, насколько велика угроза?
Да, искусственный интеллект может служить оружием, подобно любым другим предметам. К примеру, портниха, кроившая шарф, не думает о том, что его можно использовать для удушения.
Любой инструмент, в том числе искусственный интеллект, может быть использован как во благо, так и во зло. Мы наблюдаем это наглядно: нейросети уже умеют подделывать голоса и изображения. Проблема не в системе, а в людях, их воспитании и законодательном регулировании.
Специалисты беспокоятся, что люди начнут полагаться на искусственный интеллект для решения всех проблем. Не станет ли человечество просто операторами ИИ, потеряв при этом ценные умения?
Проблема существует, но ее также возможно разрешить с помощью воспитания и образования. Вспомним пример автомобиля: управляя им, человек становится оператором. Но стало ли ему от этого лучше или хуже? Человек стал меньше двигаться, зато получил больше времени благодаря увеличению скорости передвижения. Освобожденное время можно использовать для науки или творчества. Недостаток физических нагрузок компенсируется спортом.
Системы искусственного интеллекта — как автомобили. Помогают выполнять рутинные задачи, освобождая время для более важных дел. Но чтобы не утратить навыки и поддерживать мозг в работоспособном состоянии, нужно тренировать его, иногда решаю эти рутинные задачи самостоятельно.
Есть ли у вас дети? Как вы воспитываете детей? Есть ли ограничения на использование гаджетов и социальные сети для детей?
— У меня есть сын Тимофей. Понимаю ваш вопрос и считаю, что детей нужно воспитывать в гармонии с современными технологиями. С одной стороны, им следует быть морально и психологически готовыми правильно использовать смартфоны, телефоны и компьютерные игры. Однако для сохранения баланса им также необходимо уделять время живому общению с родителями, друзьями и другими людьми.
В последнее время наблюдаю такую потребность у молодежи. Например, среди студентов снова популярна игра в мафию. Это занятие, где участники вербально и ментально взаимодействуют друг с другом: смотрят в глаза, думают о внутреннем мире товарищей. Популярность таких игр подтверждает, что молодые люди осознают, что чрезмерное увлечение информационными технологиями и погружение в виртуальный мир могут лишить их чего-то важного. Поэтому стремятся развивать живое общение.
— Какие проблемы актуальны для исследователей в области искусственного интеллекта?
Необходимо разрабатывать способы эффективного использования систем ИИ в фундаментальных исследованиях для расширения возможностей учёных. Главное препятствие — обучение конечных пользователей правильной работе с этими технологиями.
В целом существуют тривиальные, но важные проблемы. Например, необходимо правильно организовать процесс научной работы. Десять лет мы используем одни и те же методики и параметры. Это знак того, что нужно внести изменения для дальнейшего продвижения.
Публикация осуществлена при финансовой поддержке Министерства науки и высшего образования Российской Федерации в рамках федерального проекта «Популяризация науки и технологий» под номером 075-15-2024-571.