Эксперты оценили опасность создания порнографического контента с помощью искусственного интеллекта

Новости МирТесен

Быстрый прогресс в области искусственного интеллекта вызвал существенные преобразования в индустрии контента для взрослых. На специализированных платформах, предоставляющих инструменты для создания контента с помощью ИИ, пользователи получили возможность самостоятельно генерировать сексуально откровенные материалы, соответствующие их предпочтениям. Проанализировав свыше 30 таких ресурсов, исследователи из Канады и США выразили обеспокоенность тем, что новые цифровые технологии, несмотря на свои преимущества, сопряжены с дополнительными рисками, которые в настоящее время слабо регулируются.

В статье, вышедшей в журнале Archives of Sexual BehaviorПсихолог Валери А. Лапуэнт из Университета Квебека в Монреале совместно с коллегами из других канадских и американских высших учебных заведений провела исследование доступности интернет-сервисов, позволяющих генерировать порнографический контент с применением инструментов искусственного интеллекта. Специалисты использовали онлайн-поиск по ключевым словам для выявления соответствующих сайтов и отобрали для анализа 36 веб-сервисов, поддерживающих английский язык и предоставляющих пользователям определенную степень контроля над процессом создания контента.

В дальнейшем исследователи детально изучили функциональные возможности платформ и их настройки. Около восьмидесяти процентов сайтов с функциями ИИ-генерации порнографического контента позволяют создавать статические изображения. Кроме того, у сорока двух процентов ресурсов предусмотрена возможность работы с видеоматериалами. Поддержка анимированных GIF-файлов, аудиоконтента и виртуальной реальности встречается значительно реже.

Как правило, на этих ресурсах пользователям предлагается выбрать желаемые параметры для создания персонажа: пол, возраст, этническую принадлежность, особенности телосложения, одежда или окружающая обстановка. На некоторых платформах задачу можно сформулировать в виде текстового запроса, например: «блондинка в облегающем кожаном костюме на фоне гор».

Пользователи обычно могут загружать изображения на сайты, добавлять к ним элементы и вносить изменения по своему желанию. Многие платформы интегрировали возможности, характерные для социальных сетей, — лайки, функцию обмена или обсуждения созданных работ.

Тем не менее, простота использования, широкие возможности настройки и степень реалистичности генерируемых изображений в подобных платформах сопряжены с существенными этическими опасностями. Одна треть изученных сервисов предоставляет возможность редактирования чужих фотографий: «раздевания» людей на снимках или замены лиц, что приводит к созданию дипфейки — правдоподобных фальсификаций изображений и видеороликов, в которых бывает сложно распознать участников от настоящих.

На одном из ресурсов исследователи выявили систему, требующую подтверждения согласия: для внесения подобных изменений в чужие фотографии необходимо предоставить подтверждение того, что это делается с разрешения изображенного человека.

По мнению психологов, подобные инструменты в руках злоумышленников могут быть использованы для травли шантажа или кибербуллинга, предостерегли психологи. В исследовании рассмотрели только опции, свободно доступные пользователям, а у платных подписчиков могут быть еще более широкие возможности.

Авторы также отметили некоторые потенциально положительные аспекты использования ИИ в создании порнографического контента. К примеру, такие ресурсы могут оказаться полезными для психологов при разработке материалов для сексуального образования. Сгенерированный контент также может найти применение в терапии пациентов, страдающих от сексуальных расстройств. Тем не менее, в этой сфере проведено крайне мало исследований, равно как и отсутствует законодательная база, регулирующая эту новую сферу.

«Быстрые темпы технологического прогресса и возможность для пользователей самостоятельно формировать контент порождают значительные опасения относительно потенциального создания и распространения противоправного или опасного материала, увеличения его доступности для детей и подростков, а также использования изображений без получения необходимого разрешения. Тем не менее, при условии грамотного регулирования эти инструменты способны оказывать положительное влияние — например, в сфере сексуального просвещения или психотерапии», — подчеркнули психологи. Исследователи пообещали содействовать инициативам, которые будут способствовать ответственному использованию таких ресурсов и предотвращению злоупотреблений.