Алгоритм оценки здоровья оказался предвзятым по отношению к определенным группам населения

Новости МирТесен

Программы, призванные быть объективными, невольно воспроизводят негативные человеческие стереотипы.

Сотрудники Калифорнийского университета в Беркли и Чикагского университета провели совместное исследование, которое показало, что компьютерные алгоритмы, разработанные для обеспечения справедливого оказания медицинской помощи, проявляют расовую предвзятость. Результаты работы были опубликованы. опубликовали в Science.

В ходе анализа исследователи изучили принципы отбора пациентов для участия в государственной программе поддержки здравоохранения. Данное программное обеспечение должно было определять лиц с повышенным риском для здоровья, исключая влияние человеческих стереотипов, предубеждений и предрассудков. Целью являлось предотвращение отказа в лечении пациентам по признаку пола, расы, уровня образования, религиозных убеждений или образа жизни.

В последнее время исследования демонстрируют, что алгоритмы всё чаще используют предвзятые критерии отбора, свойственные людям. Что является причиной этого явления? Зачастую причина кроется в методике обучения, особенно если речь идет о нейронных сетях. Однако, согласно информации, представленной в статье, первопричиной стало недостаточное количество параметров, используемых программой.

Анализ данных, включавший информацию о 43 539 белых и 6079 чернокожих пациентов, показал, что алгоритм распределял их по группам, нуждающимся в помощи или не нуждающимся в ней. Программа должна была определить тех пациентов, которым можно оказать наиболее эффективную помощь, учитывая соотношение риска, результата и затрат. Результаты, полученные с помощью алгоритма, были сопоставлены с ручными оценками, основанными на биомаркерах и жизненно важных показателях, и не учитывающими расовую принадлежность пациента. В ходе оценки выяснилось, что алгоритм демонстрирует расовую предвзятость, отдавая предпочтение здоровым белым американцам и игнорируя чернокожих пациентов.

Несоответствие возникло вследствие ошибки в алгоритме отбора. В настоящее время, в США, чернокожее население имеет менее благоприятный доступ к медицинскому обслуживанию и, соответственно, в среднем демонстрирует худшие показатели здоровья. В результате, сопутствующие заболевания и, как правило, более выраженная степень развития основных недугов приводят к тому, что расовый фактор в алгоритмах программы коррелирует с менее благоприятными прогнозами и более высокими затратами на лечение.

«Алгоритмы сами по себе не обладают положительными или отрицательными качествами; их ценность определяется принципами, на которых они основаны. Проблема, описанная в работе, вполне разрешима, и, по крайней мере, один разработчик программного обеспечения уже предпринимает шаги для ее решения. Профессор Сендхил Малленатан призывает и других последовать этому примеру. Учитывая в алгоритмах больше факторов, в частности, снижение будущих затрат на лечение благодаря небольшим профилактическим расходам, исследователям удалось добиться нормального расового распределения пациентов, прошедших отбор.

Согласно заявлению ученых, данный факт подчеркивает необходимость комплексного анализа при выработке решений, чтобы избежать разработки неэффективных подходов к оценке. Регулярные аудиторские проверки способны помочь в выявлении устранять вычислительных ошибок. «В отношении алгоритмов, как и в области здравоохранения, нам было бы предпочтительнее предотвращать возникновение проблем, чем их устранять», — отметил ведущий автор исследования Зиад Обермейер.