Учёные готовят эксперимент для изучения человеческого мнения о нравственных решениях, принимаемых искусственным интеллектом. Проведённый анализ миллионов ответов людей продемонстрировал различие этических норм в различных культурах.
Наступает время, когда машинам предстоит не только уменьшать вред, но и распределять тот ущерб, который устранить невозможно. Рапределение вреда (а также благосостояния, которое создает машина) неизбежно влечет компромиссы, разрешение которых попадает в область морали.
Предположим ситуацию, когда автономный автомобиль рискует столкнуться и лишится возможности рассчитать путь спасения всех пассажиров. В подобных сценариях транспортные средства должны будут справедливо распределить риск получения повреждений между всеми людьми на дороге. Эти этические проблемы не решаемы никакими законами робототехники или человеческими нормами морали.
В 2014 году исследователи Массачусетского технологического института разработали эксперимент «Моральная машина» для изучения мнений людей по поводу моральных решений, принимаемых машинами с искусственным интеллектом, например, автомобилями с автоматическим управлением. Эксперимент собрал более 40 миллионов ответов из разных стран, предоставляя данные о коллективных этических ценностях различных культур.
«Моральная машина» проводит испытания 13 сценариев, где участники принимают решения о том, какое самоходное транспортное средство следует поставить на первый план.
- Больше жизней над меньшее
- Мужчины над женщинами
- люди над домашними животными
- молодые над старыми
- Высший социальный статус располагается выше низшего.
- здоровый над нездоровый
- последователь закона над нарушителем закона
Исследователи изучили все ответы и обнаружили, что человеческая этика меняется в зависимости от места проживания, уровня благосостояния и культуры.
Исследователи обнаружили, что предпочтения различаются в разных странах. Например, жители коллективистских культур, таких как Япония и Китай, чаще будут отдавать предпочтение старому над новым. В странах с более индивидуалистическими культурами вероятность пощадить старое ниже.
Жители индивидуалистических культур, например США и Великобритания, как и люди из стран с сильными институтами, стремятся сохранить больше жизней при всех обстоятельствах. В развивающихся странах с более слабыми институтами относятся к пешеходам, переходящим дорогу в неположенном месте, менее строго, чем к пешеходам, соблюдающим правила дорожного движения.
Приоритет отдается статусным символам в большей степени в южных странах (Центральная и Южная Америка, Франция), а в восточных (Япония, Тайвань, Саудовская Аравия, Индонезия) — гораздо меньше.
В западных и восточных странах люди чаще ставят жизнь человека выше жизни животных, чем в южных.
Ограничения
Несмотря на большой объем выборки, исследование имеет ограничения. Например, исследователи не учитывали неопределенность относительно судьбы персонажей. Все персонажи были определены как дети или взрослые без сомнений, а результаты их жизни и смерти оценивались с абсолютной уверенностью.
Авторы не включали гипотетический фактор отношений (например, супругов или родственников) между участниками и персонажами. Эти допущения, хотя и нереалистичные, были необходимы для проведения эксперимента.
Результаты, возможно, не получат общего одобрения, но их могут использовать компании, занимающиеся разработкой техники, и автомобильные производители для более точного понимания общественного восприятия этики разнообразных дизайнерских и политических решений.
Источник: