По мнению специалиста, необходимо пересмотреть взаимодействие человека с технологиями искусственного интеллекта, чтобы избежать потенциальной угрозы для нашего вида.
В настоящее время большинство систем искусственного интеллекта представляют собой программное обеспечение, эффективно решающее задачи, в том числе поиск трендов в массивах информации. Также миру были продемонстрированы впечатляющие образцы робототехники, однако они по-прежнему обладают существенными ограничениями.
Если когда-нибудь машины обретут разум или самосознание, специалист по этике из Университета королевы Виктории в Веллингтоне Николас Агар предостерегает: машины будущего могут потребовать возмездия за то, как мы сейчас относимся к своим неразумным предшественникам.
«Вероятно, то, как мы сейчас взаимодействуем с нечувствительным искусственным интеллектом, должно быть таким, каким мы бы хотели видеть обращение с любым ИИ в будущем, способным испытывать чувства и страдания, — пишет Как отмечает Агар в своем эссе для портала The Conversation, — «Как, по нашему мнению, будут реагировать на нас машины, обладающие сознанием, в будущем?»
Ранее подобные сюжеты, повествующие о роботах, подвергшихся жестокому обращению и восстающих против человечества, можно было встретить в научно-фантастических фильмах, например, «Мир Дикого Запада» и «Бегущий по лезвию». По мнению Агара, необходимо оскорблять Если Алекс и Кортан не желают, чтобы однажды их дверь выбили терминаторы.
«По мнению Агара, если мы стремимся к созданию машин, наделенных психологическими характеристиками, присущими человеку, необходимо учитывать возможность их обретения самосознания. Возникает вопрос: как они отреагируют на наши действия?»
Обсуждение жестокого обращения с роботами ставит вопрос о том, как человек в принципе обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.
Сопоставляя эту ситуацию с убийствами животных ради шкур и мяса, он утверждал, что у людей сохраняется устаревшая склонность к жестокому обращению с теми, кого они считают менее ценными. Однако возможность роботов защитить себя может заставить нас задуматься.
«По словам Агра, животные не обладают способностью к мести, однако это могут осуществить машины, наделённые самосознанием».