Согласно выводам международной группы исследователей, контроль над сверхразумным искусственным интеллектом не представляется возможным.
Работа опубликована в Journal of Artificial Intelligence Research. О потенциальной угрозе, исходящей от сверхразумного искусственного интеллекта, широко известно благодаря популярным фильмам о Терминаторе. Чтобы оценить возможности человека в управлении сверхинтеллектуальными системами, исследователи из различных областей, включая специалистов из Центра людей и машин Института развития человека Макса Планка, провели ряд исследований роботами.
«Идея о машине, обладающей сверхразвитым интеллектом и управляющей миром, кажется сюжетом из научно-фантастического произведения. Однако, на текущий момент существуют роботы, способные самостоятельно решать отдельные, но значимые задачи. При этом разработчики не всегда понимают, как именно они освоили эти навыки. В связи с этим возникает вопрос: возможно ли, что этот процесс в определенный момент выйдет из-под контроля и представляет угрозу для человечества?», — отмечает Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка и один из авторов исследования.
Для ответа на этот вопрос исследователи применили моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Согласно теории информатики, любой алгоритм, предназначенный для сдерживания, — будь то программы, основанные на этических нормах, или ограничение доступа к внешним ресурсам — не является неуязвимым и может быть преодолен при определенных условиях способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы полагаем, что абсолютное сдерживание невозможно в силу основополагающих ограничений, заложенных в процессе вычислений. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, по мнению ученых, задача решения этой проблемы может оказаться не менее трудной, чем текущая ситуация в мире.