23 октября в Президиуме Российской академии наук прошел первый день конференции, посвященной теме «Искусственный интеллект и сознание». Специалисты в области философии, психологии и искусственного интеллекта обсудили развитие методов моделирования интеллектуальных процессов, сходства и различия естественных и искусственных систем, а также проблему понимания естественного сознания и вопрос достижения сознания искусственного.
«Глобальная цифровизация охватывает практически все сферы жизни человека и оказывает серьезное влияние на социальные, культурные и многие другие процессы в обществе. Эффективность цифровых сервисов и решений обусловлена успехами в развитии методов машинного обучения, нейронных сетей. Именно поэтому этому научному направлению сегодня уделяется такое пристальное внимание со стороны ученых смежных дисциплин, представителей органов государственной власти, предпринимателей и, конечно, общественности», — зачитал обращение президента РАН академика Геннадия Красникова в адрес собрания академик РАН Владислав Лекторский.
В мире развивающихся искусственных систем усиливается интерес к определению сознания и пониманию того, могут ли им обладать машинные модели, отметил Владислав Лекторский, открывая научную сессию. «В течение столетий казалось, что можно усомниться в чем угодно, но не в сознании. Умение отличать сознательное и бессознательное — само собой разумеющееся. А теперь дело обстоит не совсем так», — сказал философ.
Современные исследователи считают, что цифровизация — новый антропологический вызов, и задаются вопросом, что следует считать сознанием — опции, которые можно воспроизводить и имитировать, или нечто большее? Рассуждая об этом, академик сказал: «Если создать сильный ИИ, то по своим рациональным способностям он сможет превосходить человека и, возможно, даже будет наделен сознанием. Смотря что осознанием считать».
Сегодня на наших глазах впервые происходит попытка регулирования технологий ИИ на глобальном уровне, подчеркнула директор Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, заместитель президента РАН академик Талия Хабриева, говоря о Глобальном цифровом договоре (Global Digital Compact). Это инициатива ООН, призванная установить набор общемировых принципов для управления цифровыми технологиями.
Глобальный цифровой договор не соответствует целям регулирования и обеспечивает право контролировать сферу ИИ в национальных юрисдикциях, подчеркнула академик. «Семантическое наполнение договора утверждает, что это не мягкое, а жесткое регулирование, <…> инструмент конструирования системы глобального управления и нового мирового порядка <…> Нарушаются принципы равенства и справедливости. Развивающимся странам отводится место потребителей технологических продуктов и благ, но не равноправных партнеров в публичном и производственном секторах индустрии ИИ», — отметила Талия Хабриева.
Ангажированность, нацеленность на наиболее сильные объекты глобального взаимодействия, внедрение ценностей одной или нескольких культур, которые продвигаются под видом универсальных — так характеризует новый договор докладчик и заключает, что он является новым витком неоколониализма. Инструменты регулирования должны быть человекоцентричны и учитывать национальные особенности и интересы стран-подписантов, считает она.
Возвращаясь к теме определения сознания, академик Андрей Смирнов рассказал, почему нет целостного человеческого сознания и по какой причине возникает барьер непонимания между «большими культурами» — европейской, арабо-мусульманской, индийской и китайской.
По словам докладчика, нет аргументов в пользу того, что разум и, шире, сознание универсально в том или ином своем варианте. Есть аргумент против такой универсальности. «Чистый разум вариативен, а не инвариантен. Когнитивные привычки, в том числе бессознательные, в больших культурах различаются <…> Мы в принципе не понимаем другую культуру и подставляем свои собственные когнитивные схемы в понимание другой культуры», — считает философ.
Научный руководитель Центрального экономико-математического института РАН академик Валерий Макаров поднял вопрос, может ли быть сознание у цифровых двойников. По словам ученого, цифровой двойник есть не только у человека, но и у всего общества — так называемое «искусственное общество».
Материальный мир состоит из атомов и молекул, а «атомами» в компьютерной модели общества выступают мнения. «В компьютерной модели общества индивидуальные мнения превращаются в коллективные, в результате исходным является некая многомерная матрица, где в ячейке указано несколько показателей, например, как один агент относится к другому агенту», — сказал академик.
Однако ни компьютерный «человек», ни общество не могут обладать сознанием. «Сознание не перенести в компьютер, оно по природе не алгоритмично», — заключил он.
О роли искусственного интеллекта в научном процессе рассказал директор Института психологии РАН академик Дмитрий Ушаков. По словам докладчика, вопросы конференции созвучны обсуждениям, вызванным Нобелевской премией 2024 года.
«Если мы посмотрим на Нобелевские премии по химии, они были вручены за то, что существенные открытия в области химии были сделаны с использованием ИИ. В различные научные дисциплины в качестве мощных орудий вступают технологии ИИ. Но возникает вопрос — а что происходит с самим научным знанием?» — сказал ученый.
Он задается вопросом, что произойдет, когда в качестве существенного элемента научного познания будет включаться машинное обучение. Сможет ли ИИ, например, выдвигать гипотезы? Ведь «это не то, что может быть вычислено из фактов, а то, что мы устанавливаем априори <…> Нейросети отражают закономерности объектов через активационные отношения узлов, моделируя, таким образом, окружающие явления. Эти закономерности индуцируются самой нейросетью, но в границах модели, заданной исследователем», — отметил академик.
Однако ИИ смог зайти «с черного входа», считает психолог. Например, генеративные модели не способны самостоятельно порождать культурный опыт, но могут получить доступ к нему через тексты, «которые раскрывают схемы и алгоритмы человеческой деятельности», — отметил он.
С докладом о сильном и слабом искусственном интеллекте выступил директор Института системного программирования им. В.П. Иванникова РАН, заместитель президента РАН академик Арутюн Аветисян.
Различие между сильным и слабым ИИ, на которое можно опираться и сегодня, сформулировал еще философ Иммануил Кант, считает академик. «„Разум есть способность, дающая нам принципы априорного знания“. Априорное знание — полученное до опыта. Апостериорное знание — эмпирическое знание, возможное только посредством опыта. Никакого сильного ИИ нет и в ближайшее десятилетие не появится», — уверен академик.
Математик также отметил, что без обеспечения необходимого уровня доверия к ИИ внедрение соответствующих технологий невозможно. А без цикла доверенной разработки и регуляторики обеспечить эту безопасность не удастся.
«Нужны модели, обеспечивающие долгосрочное устойчивое развитие и технологическую независимость отрасли ИТ, а значит, и страны в целом. И эти модели должны на порядок повышать производительность труда», — сказал академик.
Сегодня мнения экспертов по вопросу существования сознания у ИИ разделились. Одни убеждены, что ИИ никогда не будет сознательным, другие считают, что это лишь вопрос времени, рассказал директор Института перспективных исследований мозга Московского государственного университета им. М.В. Ломоносова академик РАН Константин Анохин.
Единого мнения нет, во-первых, потому что люди не понимают теорию самого сознания, а во-вторых, не ясно, что происходит внутри больших языковых моделей. «Следует ли его [сознание у ИИ] получать — нет. Область разработок опасна, и, скорее, следует думать об эволюции совершенствования систем ИИ как когнитивного бессознательного», — уверен Константин Анохин.
В ходе своего выступления академик РАО Татьяна Черниговская отметила, что ИИ нельзя считать самостоятельным, а тем более сознательным, поскольку искусственные системы пока не воспроизводятся, у них нет своего «социума» и они не обладают так называемыми «обыденными знаниями» — гигантским объемом информации, непонятно организуемым у человека с «неведомой» логикой.
«Это общие знания, которые как-то берутся у человека и составляют огромную часть нашего психического пространства. ИИ не в состоянии выстроить картину мира», — подчеркнула Татьяна Черниговская.
Способны ли большие языковые модели к генерализации? Понимают ли они в человеческом смысле язык, а, значит, физический или ментальный мир? Как мы об этом узнаем? — еще один ряд вопросов, связанных с «самосознанием» искусственного интеллекта.
Они знают «слова», но, поскольку у них нет тела, не могут соединить их с восприятием и с физическим миром, считает академик РАО. Но предсказуемы ли их ошибки в таком случае? «Похоже, их ошибки „какие-то другие“, „не человеческие“», — сказала Татьяна Черниговская и заметила, что люди мыслят и синтаксически, и семантически, и прагматически.
«Нам не столько важно, как это устроено, а важно, что это значит», — сказала Татьяна Черниговская. А ИИ пока мыслит только синтаксически.
В ходе заседания с докладами также выступили академики РАН Вячеслав Черноиванов, Валерий Макаров, Сергей Гончаров, член-корреспондент РАН Вадим Васильев и другие философы, психологи и специалисты, работающие в области ИИ.
Второй день международной конференции состоится 24 октября. В него войдут 12 секционных заседаний. Подробную программу смотрите на официальном сайте конференции.
Источник фото: Николай Малахин / «Научная Россия»