Быстрый прогресс в области искусственного интеллекта вызвал существенные преобразования в индустрии контента для взрослых. На специализированных платформах, предоставляющих инструменты для создания контента с помощью ИИ, пользователи получили возможность самостоятельно генерировать сексуально откровенные материалы, соответствующие их предпочтениям. Проанализировав свыше 30 таких ресурсов, исследователи из Канады и США выразили обеспокоенность тем, что новые цифровые технологии, несмотря на свои преимущества, сопряжены с дополнительными рисками, которые в настоящее время слабо регулируются.
В статье, вышедшей в журнале Archives of Sexual Behavior, психолог Валери А. Лапуэнт из Университета Квебека в Монреале и ее коллеги из других канадских и американских университетов исследовали возможности онлайн-ресурсов, с помощью которых можно создавать порнографический контент с использованием искусственного интеллекта. Специалисты, используя онлайн-поиск по ключевым словам, выявили 36 веб-сервисов, поддерживающих английский язык и предоставляющих пользователям определенную возможность управления процессом создания контента.
Затем исследователи детально изучили возможности и конфигурации платформ. Около 80% веб-сайтов, предоставляющих функции ИИ-генерации порнографии, позволяют создавать статические изображения. Также, на 42% таких ресурсов доступна работа с видео. Поддержка анимированных GIF-файлов, аудиоматериалов и взаимодействие в виртуальной реальности встречаются значительно реже.
Часто сервисы позволяют пользователям определять характеристики создаваемого персонажа, такие как пол, возраст, этническая принадлежность, физические особенности, одежда или окружение. На некоторых платформах запрос можно представить в текстовой форме: например, «блондинка в облегающем кожаном костюме на фоне гор».
Пользователи обычно могут загружать изображения на сайты, добавлять к ним элементы и вносить изменения по своему желанию. Многие платформы интегрировали возможности, характерные для социальных сетей, — лайки, что позволяет пользователям обмениваться творческими работами и высказывать свои отзывы.
Однако простота использования, широкие возможности настройки и реалистичность генерируемых изображений в подобных сервисах создают значительные этические опасения. В одной трети изученных платформ доступна возможность редактирования чужих фотографий: возможно «раздевание» людей на снимках или замена лиц, что приводит к созданию так называемых дипфейки — достоверно выглядящие фальшивые изображения и видео, которые сложно отличить от подлинных.
На одном из ресурсов исследователи выявили систему, требующую подтверждения согласия: для внесения подобных изменений в чужие фотографии необходимо предоставить подтверждение того, что это делается с разрешения изображенного человека.
В руках преступников эти инструменты могут быть использованы в преступных целях шантажа или кибербуллинга, предостерегли психологи. В исследовании рассмотрели только опции, свободно доступные пользователям, а у платных подписчиков могут быть еще более широкие возможности.
Авторы также отметили некоторые потенциально положительные аспекты использования ИИ в создании порнографического контента. К примеру, такие ресурсы могут оказаться полезными для психологов при разработке материалов для сексуального образования. Сгенерированный контент также может найти применение в терапии пациентов, страдающих от сексуальных расстройств. Тем не менее, в этой сфере проведено крайне мало исследований, равно как и отсутствует законодательная база, регулирующая эту новую сферу.
«Быстрое развитие технологий и возможность для пользователей самостоятельно создавать контент порождают обоснованные опасения относительно распространения нелегальных или опасных материалов, увеличения их доступности для детей и подростков, а также использования изображений без разрешения. Тем не менее, при грамотном регулировании, эти инструменты могут быть полезны, например, в сфере сексуального просвещения или терапии», — подчеркнули психологи. Исследователи пообещали содействовать инициативам, которые будут способствовать ответственному использованию таких ресурсов и предотвращению злоупотреблений.