Исследователи из Калифорнийского университета разработали способ удвоить скорость вычислений и уменьшить потребление энергии в обычных компьютерных системах на 50%.
Ранее компьютеры состояли из одного центрального процессора с несколькими ядрами, сейчас же в них интегрированы различные микропроцессоры для повышения общей производительности. К таковым относятся графические процессоры, предназначенные для обработки изображений, а также ускорители для машинного обучения и искусственного интеллекта.
При работе программы эти компоненты функционируют раздельно. Обработка данных чередуется между ними, с постоянным обменом информацией, что приводит к значительным затратам времени и энергии. Передача данных часто сопровождается узкими местами, которые снижают общую эффективность системы.
Группа исследователей из Калифорнийского университета в Риверсайде разработала новый метод обработки данных для решения данной проблемы. В его основе лежит схема «Одновременная и гетерогенная многопоточность» (SHMT), которая позволяет обрабатывать данные параллельно, минуя узкие места. Такой подход ускоряет работу программ и повышает их энергоэффективность. Подробности системы были представлены на международном симпозиуме по микроархитектурам (Micro 2023) и опубликованы в электронной библиотеке ACM.
Концепция, основанная на QAWS
Концепция SHMT действует во время выполнения программы, а точнее — в процессе планирования задач: система определяет порядок и расположение операций на разных типах процессоров. Система SHMT использует политику планирования Quality-Aware Work-Stealing (QAWS), которая оптимизирует систему, делая её «осведомлённой» о релевантности задач. QAWS также применяет стратегию «кражи работы», чтобы равномерно распределить нагрузку между аппаратными ресурсами: в случае недогрузки один процессор может взять задачи у более нагруженного компонента для баланса использования ресурсов.
Для упрощения управления задачами их сначала разделяют на «операции высокого уровня» (HLOP). Система выполнения распределяет HLOP по очереди для различных аппаратных компонентов: процессора, видеокарты или ускорителя алгоритмов искусственного интеллекта, чтобы их обработка происходила параллельно.
Обработка информации происходит в два раза быстрее, потребление энергии сократилось вдвое.
Для проверки своей теории учёные создали компьютерную программу с использованием процессоров, распространенных в современных гаджетах и персональных компьютерах. Внеся некоторые коррективы, исследователи приблизили характеристики системы к типичным показателям производительности и нагрузкам серверного центра.
Тестирование выявило, что применение системы SHMT практически в два раза ускоряет обработку приложений по отношению к традиционной методике. Данный способ также уменьшил энергозатраты на выполнение задач на 51 %.
Реализация концепции SHMT требует много усилий, но в перспективе может существенно снизить эксплуатационные расходы на ИТ-системы. Если ПО сможет выполнять больше задач за меньшее время и с меньшими затратами ресурсов, производители смогут создавать более доступные устройства, сохраняя их эффективность.
Крупномасштабные системы, такие как центры обработки данных, получат ещё большую выгоду: затраты на электроэнергию и охлаждение существенно снизятся.