Некоторые системы распознавания лиц демонстрируют сложности в идентификации людей с более темным тоном кожи. Аналогичная проблема возникла и у систем искусственного интеллекта, предназначенных для улучшения ориентации беспилотных автомобилей в дорожных условиях.
Данное обстоятельство способно создать опасность для жизни и безопасности людей с более темной кожей, что является тревожным сигналом о том, как искусственный интеллект может непреднамеренно воспроизводить предрассудки из мира людей.
В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) провели исследование восьми моделей искусственного интеллекта, применяемых в современных системах обнаружения объектов. Каждая из этих моделей была обучена на общепринятом наборе данных. Такие системы позволяют автономным транспортным средствам идентифицировать дорожные знаки, пешеходов и другие объекты. В ходе тестирования специалисты использовали изображения пешеходов, которые были разделены на две группы в зависимости от их оценок по шкале Фитцпатрика. Эта шкала представляет собой числовую систему, которая обычно применяется для классификации оттенков кожи человека и включает шесть фототипов (от I, самого светлого, до VI, самого темного).
Анализ показал, что все модели демонстрировали наихудшие результаты при распознавании пешеходов с тремя самыми темными оттенками кожи. В среднем, точность моделей упала на пять процентов при обработке изображений пешеходов с более темным тоном кожи, даже после того, как исследователи принимали во внимание такие факторы, как время суток или наличие объектов, частично скрывающих пешехода.
Исследования, проведенные командой Georgia Tech, демонстрируют, что при неисполнении необходимых условий, существует вероятность того, что будущее с автономными транспортными средствами может оказаться менее безопасным для людей с более темной кожей. Также алгоритм работает исключительно на основе информации, содержащейся в имеющихся изображениях и фотографиях, и не распознает объекты, отсутствующие в используемой выборке. Ученые констатируют, что в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.
В прошлом году исследователи из MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.