Даже самый правдоподобный портрет вымышленного человека, сгенерированный нейросетью, может быть разоблачен одной деталью: необычная форма зрачков.
В последние годы разработчики освоили новые методы использования генеративно-состязательные нейронные сети (GAN) — комбинации двух нейросетей, одна из которых совершенствуется в генерации образцов, а вторая — в отборе правильных и неправильных. Постепенно результат их работы становится все лучше, позволяя, например, создавать портреты несуществующих людей с поразительной реалистичностью.
Недостаточное качество имитаций способно вызвать значительные трудности, и в то время как одни разработчики совершенствуют работу генеративно-состязательных сетей (GAN), другие стремятся разработать методы, позволяющие различать подлинные изображения и сгенерированные. Именно этой задаче посвящена и новая статья программистов из Университета штата Нью-Йорк, представленная в открытой библиотеке препринтов arXiv.org. В своей работе Хуэй Го и его соавторы подчеркивают, что важную роль в определении лиц, созданных искусственным интеллектом, могут играть зрачки.
В большинстве случаев, при отсутствии специфических, редких заболеваний, форма зрачка остается практически идеально округлой. Однако нейронные сети не обладают знаниями о нормальной анатомии, поэтому на сгенерированных ими портретах зрачки нередко бывают искажены. Авторы исследования отмечают, что при сравнении с фотографиями реальных людей, на лицах, созданных с использованием GAN, заметны различные артефакты и аномалии в области глаз.
Для подтверждения эффективности данного метода в различении реальных и сгенерированных изображений, разработчики создали простой алгоритм, который анализирует форму зрачка. Тестирование, проведенное на выборке из 2000 фотографий (50% – снимки людей, 50% – изображения, созданные GAN), показало, что по этому параметру их можно практически безошибочно разделить. По крайней мере, до момента, когда другие специалисты не устранили незначительную ошибку в работе своих нейронных сетей.