Нейросети уже учатся рисовать картины и сочинять музыку у людей – это пока забавная демонстрация возможностей машинного обучения. Но это только начало. Настоящий поворот произойдет, когда нейросети научатся рисковать, принимать решения и использовать мораль, как люди. Эти исследования уже ведутся, а данные для обучения мы сами создаем, часто не подозревая об этом. Naked Science пытается объяснить, зачем нужны нейросети, имитирующие наше мышление и поведение, кто от этого выиграет, и что стоит опасаться.
Разработанная учеными из Университета Торонто, Корнеллского университета и Microsoft Research программа анализирует партии шахмат. угадываетОна определяет игрока по ходу партии и способна отличить его среди сотен других шахматистов, постоянно играющих на данном сервере. LichessВ сущности, это формирует манеру принятия решений игроком.
Шахматные энтузиасты хорошо осведомлены: у гроссмейстеров свой индивидуальный стиль игры. Некоторые действуют решительно и не боятся рисков, другие — с осторожностью, ожидая ошибок противника. Кто-то блистает в дебютах, а кто-то особенно опасен в endgame, когда на доске остается мало фигур. Каждый шахматист неповторим, его выбор ходов уникален и выделяет его среди других. Как отпечаток пальцев, это свой «отпечаток» стиля.
Программа способна выявлять каждый ход, независимо от того, кто его совершает — опытный игрок или новичок.
Авторы использовали записи партий игроков с Lichess, сыгравших не менее тысячи раз, и отобрали из них последовательности до 32 ходов. Каждый ход кодировался в виде чисел и передавался в нейронную сеть, которая представляла каждую игру как точку в многомерном пространстве. Для сети все партии шахматиста — скопление точек (кластер). Сеть училась максимизировать плотность кластера каждого игрока и расстояние между кластерами разных игроков.
Нейросеть выявила способность отличать людей по стилю игры — сходство ходов партий игроков образует кластеры, являющиеся уникальным подходом каждого участника. Этот стиль не всегда очевиден для человека, но машина его обнаруживает. Она умеет различать игроков с высоким рейтингом, даже если ее обучили только партиями любителей, и наоборот. Программа действительно улавливает индивидуальность игрока.
Авторы исследования полагают, что аналогично можно поступить и с покером. С правильными данными такая программа могла бы опознавать людей по стилю вождения авто или использованию мобильного телефона — временем и местом.
Вместо шахматных ходов цифровые следы могут служить данными для обучения программ. Любая достаточно длинная история поведения потенциально содержит данные для обучения таких программ. Человек узнается по характерным цепочкам действий, просто потому что мы разные и каждый из нас чем-то отличается от других. Если раньше можно было запутать следы, изменив почерк или голос, то изменить стиль принятия решений труднее – это как подменить свою психику. При этом заранее неизвестно, какие признаки сеть выделяет и что конкретно надо маскировать.
От поиска стиля до предсказания: игры и моделирование поведения человека.
Создатели программы обеспокоены тем, что её применение может распространиться не только на шахматы, но и на другие сферы.
Модель может обучаться на любых имеющихся данных, и это вызывает этические проблемы. Анонимность желают сохранить не только злоумышленники, но и обычные люди, часто без дурных намерений. Машинное обучение может лишить их этого.
Это значит, что скрываться за чужим адресом в сети станет бесполезно — каждого можно будет идентифицировать по индивидуальному стилю, который проявляется во всем.
Пока это реализуемо только теоретически. На практике создание системы для обучения искусственного интеллекта сопряжено с трудностями: необходимо собирать размеченные данные, то есть отслеживать цифровые следы миллионов пользователей интернета в течение многих месяцев, а также постоянно их мониторить. Такой процесс требует больших вычислительных мощностей, которым нужна дополнительная энергия.
К тому же люди пользуются разными сайтами, и объединить их историю возможно лишь при условии активного обмена данными между ними, что маловероятно (за исключением сайтов крупных корпораций, таких как «Инстаграм» и «Фейсбук»).
Крупные площадки с большой аудиторией могут собирать такие данные. В основном это будет происходить на платформах, где пользовательская активность подразумевает формирование цифровых следов. Цель такого сбора — не выявление личности посетителей, а изучение и предсказание их поведения, в том числе для маркетинговых целей. Социальные сети могут служить площадкой для этого, но наилучшим вариантом являются массовые онлайн-игры.
Игра способствует эффективному изучению психических свойств человека. Во время игры люди принимают множество решений и взаимодействуют с другими участниками в динамичной и меняющейся обстановке.
Необходимость в тактических и стратегических рассуждениях, а также постоянное обучение и накопление опыта – характерные черты подобных игр. Некоторые люди играют годами, формируя обширную историю своих действий. Популярность таких игр, охватывающая миллионы пользователей, порождает огромные массивы статистических данных, вполне достаточных для машинного обучения.
Начав играть в подростковом возрасте, некоторые продолжают это делать много лет, развиваясь вместе с игровой вселенной. За это время формируется уникальный стиль принятия решений, который может стать ценным впоследствии. Бывшие подростки иногда занимают руководящие должности в бизнесе, государственном аппарате, политике, военной сфере. Обученная на большом массиве данных машина не только поймет их мысли и действия, но и сможет строить прогнозы.
Точность прогноза также определяется тем, будут ли люди придерживаться своего стиля принятия решений в течение многих лет. показываютОсновные черты личности остаются сравнительно неизменными от юности до зрелости. Молодая девушка, склонная к размышлениям, будет продолжать анализировать себя и в старости. Юноша, отличающийся повышенной впечатлительностью, сохранит эту черту с возрастом.
Некоторые нюансы можно усовершенствовать или подчеркнуть, но изменить основу психики сложно. Можно полагать, что индивидуальные черты мышления и восприятия, а также темперамент останутся неизменными на протяжении жизни. Если программы научатся распознавать эти особенности, это может привести к значительным последствиям.
Сила нейронных сетей состоит не только в способности находить скрытые паттерны в наборах данных, но и в возможности воспроизводить их. программаПрограмма, разработанная в Университете Торонто, умеет играть как человек, предсказывать ходы шахматиста и даже предвидеть типичные его ошибки в партии. Она знает об ошибках, которые допускают игроки разных уровней мастерства, и может определить уровень, на котором люди перестают их совершать.
Иными словами, программа не ищет лучшийХод для данной позиции предлагают ходы, которые бы сделал человек. Процесс принятия решений шахматистами модельюрируется.
От предсказаний к влиянию: машины как психологи
Не стоит рассчитывать на то, что искусственная среда шахмат станет конечной границей. статьюАвторы обучили нейросеть на массиве данных, собранном разными исследователями за долгие годы. Данные содержат результаты психологических экспериментов о принятии рискованных решений людьми, таких как участие в азартных играх. В общей сложности более 10 тысяч ситуаций, в которых испытуемые делали те или иные выборы.
Выяснилось, что нейронные сети, обученные на данных, могут точно копировать человеческие решения и переигрывают предыдущие психологические модели поведения при выборе рискованных вариантов.
Благодаря машинному обучению психологи разработали новую теорию поведения, создание которой прежде было невозможно. Это неудивительно: при попытках объяснить выбор людей специалисты предлагают гипотезы и полагаются на интуицию, но та ограничена экспериментами, которые человеческий разум способен охватить. Ни один психолог не в состоянии проанализировать огромную базу данных, содержащую решения сотен тысяч участников в тысячах ситуаций выбора.
Для искусственного интеллекта это не составит труда.
Как насчет моральных проблем? Проект «Машина моралиОн собрал уже около 40 миллионов решений от людей более чем из 200 стран. Это крупнейший онлайн-эксперимент по моральным дилеммам. Участникам предлагают решить ситуацию в дорожном движении, где беспилотный автомобиль может свернуть в ту или иную сторону. Испытуемому нужно определить, кого спасти и кем пожертвовать. На картинке могут быть разные персонажи (например, мужчина, ребенок, женщина-врач, собака) и разные варианты окружающей среды.
Человеческий разум не способен охватить такое многообразие решений. Нейронная сеть, обученная этими данными, предоставила психологам построитьИнформативная, интерпретируемая психологическая теория, определяющая набор моральных принципов, лежащих в основе суждений людей, передового характера по сравнению с предшествующими концепциями. Авторы отмечают три новых эффекта, выявленные благодаря данной теории.
Благодаря машинному обучению возможно не только изучать стили принятия решений, но и моделировать решения человека. Возможна ли дальнейшая эволюция — воздействие на выбор? Возможно. В прошлом году IBM Research AI представила автономную компьютерную систему… Project DebaterСистема, умеющая спорить с людьми в прямом эфире. Разработчики проекта «Debater» привнесли в голосовую модель искусственного интеллекта механический оттенок, чтобы зрители не принимали её за человека.
Языковые модели всё более точно интерпретируют тексты и сюжеты, умеют различать причины и следствия, а также успешно рассуждают в рамках здравого смысла. Недавно компания Google AI добилась нового прогресса, обучив модель… PaLMНеобходимо предоставлять не только правильные решения задач по логике, но и обоснования их корректности. Возможность проиллюстрировать суть рассуждений. шуткиВпервые увидевшая это устройство будет поражена его возможностями. По скорости развития технологий ожидается появление систем, способных аргументировать любые темы убедительно.
Люди играют — нейросети учатся
Объединив технологии из предыдущего обсуждения, получим машину, определяющую стиль принятия решений каждого человека, строящую вероятные сценарии его будущих действий и, основываясь на его индивидуальном стиле, подбирающую систему аргументов для убеждения его мыслить или действовать в нужном направлении.
Кому может пригодиться подобный автомобиль?
Психологические портреты и целенаправленная политическая реклама в избирательных кампаниях — уже реалии благодаря использованию персональных данных из крупных социальных сетей. Случай с Cambridge Analytica привлек внимание после президентских выборов США в 2016 году. Несмотря на публичную критику таких методов, включая осуждение со стороны Facebook, откуда были получены данные, важно признать эффективность схем, основанных на машинном обучении.
В онлайн-играх проще собирать информацию о принятии решений людьми. Данные эти активно применяются. собираютПоведение игроков фиксируется, а затем анализируются данные телеметрии программных пакетов для выявления паттернов. На этой базе создаются модели игрового действия. изучилиПрограмма проанализировала поведенческие данные 700 000 пользователей в 3300 играх на платформе Steam. Сначала распределила игроков по категориям по манере игры, а затем изучила индивидуальные стили в каждой категории.
Анализ поведения по игровой телеметрии — развивающаяся область исследований. С точки зрения геймдизайна это позволяет сделать игры более увлекательными и повысить их доходность, то есть побудить участников тратить деньги охотнее. Для этого желательно уметь предсказывать поведение и решения игроков в разных ситуациях.
Впечатляет, что такой анализ уже делаютВ режиме реального времени возможно выявить отклонения в поведении игрока непосредственно во время боевых действий в играх типа MOBA. Такого рода отклонения могут свидетельствовать о предполагаемом обмане, что имеет важное значение для индустрии киберспорта, которая уже… оцениваютСумма более двух миллиардов долларов – это весомый аргумент.
В компьютерные игры на разнообразных площадках играют приблизительно… 3 миллиардовЧеловек — это не предел. С течением времени игры станут всё более реалистичными, насыщенными, интерактивными и погружающими. Если сегодня игровую среду программируют полностью, то в будущем нейросети смогут конструировать её во время игры, исходя из поведения игроков.
Игровая вселенная может стать частью глобальной метавселенной, которую создают IT-гиганты. Почти половина населения планеты будет посещать её регулярно. Каждый раз, действуя внутри виртуального мира, делая выбор и принимая решения, люди будут наращивать индивидуальные траектории цифровых следов. Люди могут строить эту траекторию годами — играя, развлекаясь, работая и сотрудничая онлайн. Поэтому цифровые вселенные всё больше будут тяготеть к сбору персональных данных. Благодаря машинному обучению это имеет прямой смысл.
От создания картинок к масштабированию таланта
Наступает era, когда у многих, особенно у часто играющих онлайн, будет собрано множество данных о их действиях, решениих и взаимодействии с людьми и ИИ-агентами.
Sophisticated algorithms позволят глубоко анализировать эту информацию. Программы не только выявят индивидуальный стиль человека, но и создадут его модель — поведенческую и психологическую.
Модель предназначена для прогнозирования.
Её возможности включают построение различных сценариев и распределение их по вероятности. Цель — предсказать выбор конкретного человека в определенной ситуации или ошибку, которую совершит он в какой-то момент. Далее в игру вступает искусственный интеллект, развивающийся от Project Debater и больших языковых моделей, который будет взаимодействовать с человеком индивидуально, учитывая его психику и стиль мышления.
На больших массах людей подобные технологии действовали давно, до появления машинного обучения. Основа этой работы — реклама, политика, пропаганда, но результат всегда был средним. Новое время характеризуется персональным отслеживанием: машина будет знать человека лучше, чем тот сам себя знает.
Все эти рассуждения не для того, чтобы пугать вас, читатель, антиутопией, но чтобы прощупать уязвимости и риски грядущих технологий. Создатели шахматной программы из Университета Торонто сразу же осознали опасность своего детища, вокруг чего у них разгорелся дискуссияС коллегами создавалась программа не для деанонимизации игроков.
Изначальная цель — разработать интеллектуальные системы, с которыми взаимодействие будет проще для людей. Для этого искусственный интеллект должен уметь вести себя подобно людям и предсказывать их поведение. Способность узнать шахматиста по стилю игры — лишь побочный результат этой миссии.
Технология распознавания «стиля принятия решений» может принести пользу, например, в науке, открывая новые пути к решению сложных проблем.
Генеративные нейронные сети смогут стать ключом, порождая новые данные, опираясь на полученное обучение.
Этой способностью прекрасно иллюстрирует систему искусственного интеллекта. DALL·E 2Разработанная OpenAI, DALL·E 2 способна генерировать изображения по текстовым описаниям. Она успешно выполняет задачу рисования, например, «лисы, сидящей в поле на восходе солнца, в стиле Клода Моне», результат выглядит убедительно. DALL·E 2 точно перенимает стилистические особенности изображений, созданных людьми, и воспроизводит их в своих работах. Это позволяет не только быстро получать множество новых картин в стиле Моне или Уорхола, но и комбинировать различные стили.
Это качество принципиально важно, поскольку дает возможность отправиться в неизвестное.
Будущие нейронные сети, подобно DALL·E, смогут находить новые способы мышления, соединяя подходы к решению проблем разных людей. Или же применять стиль мысли конкретного человека к задачам, с которыми ему ранее не приходилось сталкиваться. Такие комбинации могут показаться невероятными, например, попытка решить вопросы квантовой гравитации в стиле Каспарова, но именно в этом и кроется потенциал.
Эйнштейн не мог бы одновременно с теорией относительности глубоко заниматься органической химией, дизайном материалов, реформой банковской системы, проектированием городов и многими другими важными делами. Через столетие такой трюк может стать возможным — нейросеть сможет заимствовать часть интеллекта гениев, обучаясь на их жизненных путях. Она словно арендует их лучшие стратегии и применяет их там, куда гении не добрались.
В будущем может случиться так, что научное открытие, экономическое чудо или военная операция, выполненные в стиле многопользовательской игры, никого не удивят. Любой мощный инструмент имеет две стороны. Главное решение — для чего его применять — останется за людьми.