Физики из Нидерландов и Южной Кореи разработали искусственный синапс, принцип его действия аналогичен естественным. Последние функционируют, используя, по сути, обычную соленую воду для выполнения вычислений.
Естественные синапсы — это точки соприкосновения нейрона (или нескольких нейронов) с клеткой, которая принимает сигнал и выполняет задачу, например мышцей. Искусственные пока только копируют работу этой механики.
Технически устройство, описанное в новой статье в PNASЭто микроканал конической формы. При поступлении электрического импульса ионы в растворе мигрируют через него, изменяя заряд по обе стороны канала. Параметры импульса напрямую влияют на разницу потенциалов. Это достаточно достоверная имитация основного механизма передачи нервных сигналов.
Несмотря на достоверность, данное устройство не является идеальным. Во-первых, скорость передачи сигналов слишком медленная: всего 1,7 в минуту. Во-вторых, по биологическим меркам, устройство очень грубое: конус имеет размеры 150 на 200 микрон. Для сравнения: диаметр естественного синапса составляет 1-2 микрона и меньше. Разница примерно в сотню раз. Впрочем, это первый… транзистор отличался от современных не в 100 раз, а в 200 миллионов раз.
Современные транзисторы по размеру значительно уступают корейско-голландскому устройству, что поднимает вопрос о смысле его исследования. Первым и самым простым объяснением является возможность создания вычислительной техники биологически совместимой практически идеально. Устройство потенциально может обмениваться с нейронами естественными сигналами и работать в обычной среде.
Однако в реальности область применения «биоморфных» технологий гораздо обширнее. Рассмотрим традиционный компьютер — состоящий из кремниевых транзисторов по архитектуре фон Неймана.
Транзистор обладает тремя контактами: по одному для управляющего сигнала и два для передачи ответов соседям (ток либо проходит через транзистор, либо нет). Такая конструкция вызывает проблемы. Для осуществления хоть какой-нибудь деятельности требуется множество транзисторов, что приводит к росту энергопотребления и нагрева в прямой пропорции с их количеством.
Для разрешения данной задачи естественно применялась миниатюризация. Однако современные кремниевые транзисторы близки к физическому пределу уменьшения. Даже замена материала не позволит существенно сдвинуть этот предел.
Во-вторых, задачи в транзисторных цепях выполняются только линейно, что существенно замедляет вычисления. В результате мейнстримовая миниатюризация оказывается малоэффективной.
Классический транзистор не способен сохранять информацию, поэтому для него требуется внешняя память, которую необходимо перезагружать каждый раз.
Классический компьютер будто предназначен исключительно для расхода энергии и выработки тепла с минимальной полезной продуктивностью.
В результате обработки каждого запроса в ChatGPT потребляется около 2,5 киловатт-часа энергии. Общее энергопотребление сравнимо с расходом города численностью 17 тысяч жителей. Ежегодный расход воды на охлаждение составляет две тысячи тонн.
Пока мы наблюдаем лишь начало расширения возможностей нейросетей, их стремления растут. будут растиВ результате среднего прогноза развития системы к 2027 году ожидается триллионы запросов и потребление энергии, сравнимое с показателями Нидерландов или Аргентины.
Традиционные методы исключают возможность создания автономных роботов с интеллектом чата. Объем запросов при работе с визуальной информацией будет слишком велик, не говоря уже о габаритах самих роботов.
У взрослого мужчины количество нейронов примерно вдвое меньше, чем искусственных нейронов у ChatGPT. В стандартном режиме его энергопотребление составляет около 0,03 киловатт-часа в сутки, а на всё остальное — еще около 0,07 киловатт-часа. Таким образом, суточная энергия, расходуемая мозгом, примерно в 83 раза меньше, чем при обработке одного запроса нейросетью.
Важную роль играет принципиально другая конструкция человеческих нейронов: у них в среднем пять тысяч контактов, и они больше похожи на не транзисторы, а… мемристоровЭто означает, что способны не только обрабатывать, но и хранить информацию. Это снижает количество рабочих элементов для решения задачи. В то же время, потребление энергии на один биологический «псевдотранзистор», включая передачу сигнала, — в тысячи раз меньше.
Для создания энергоэффективного «процессора» необходимо смоделировать биологические способы сохранения ресурсов. Медленная, но экономичная передача сигналов при крайне низком расходе энергии может быть оправданным подходом в большинстве ситуаций.