И даже если нейросеть рисует очень правдоподобно не существующего человека, какая-то деталь всё равно выдаст его — например, необычная форма зрачков.
В последнее время разработчики освоили использование… генеративно-состязательныеГенеративно-состязательные нейронные сети (GAN) представляют собой объединение двух сетей. Одна из них специализируется на генерации образцов, а другая — на отборе верных и неверных. Со временем их взаимодействие улучшается, позволяя, к примеру, создавать портреты вымышленных людей с поразительной реалистичностью. реалистичностью.
Возможность создания качественных подделок представляет собой серьезную проблему. Разработчики совершенствуют работу GAN, а другие разрабатывают методы идентификации настоящих изображений от синтезированных. Новая статьяПрограммисты из Университета штата Нью-Йорк представили свои разработки в открытой библиотеке препринтов. arXiv.orgВ исследовании Хуэй Го и сотрудники указывают на зрачки как ключевой фактор для идентификации сгенерированных лиц.
Без редких патологий зрачок человека сохраняет почти строго округлую форму. Нейросетям не знакома нормальная анатомия, поэтому на сгенерированных портретах зрачки часто искажены. Авторы статьи отмечают: сравнение с настоящими лицами показывает артефакты и несоответствия в области глаз у лиц, созданных GAN.
Для демонстрации эффективности подхода в разграничении настоящих лиц от искусственных команда разработала алгоритм, определяющий форму зрачка. Тестирование на наборе из двух тысяч фотопортретов (половина реальных лиц, половина сгенерированных GAN) показало почти безошибочное различение по этому признаку. До тех пор, пока другие программисты не исправят небольшой «баг» в работающих нейросетях.