Термодинамические вычисления обещают взрывной скачок энергоэффективности нейросетей
Исследователи из Лаборатории Лоуренса в Беркли представили принципиально новую концепцию вычислений, которая использует тепловой шум не как помеху, а как источник энергии для обработки данных. Вместо того чтобы тратить огромные ресурсы на охлаждение и подавление шума, системы на базе термодинамических вычислений сами преобразуют случайные флуктуации электронов в полезные вычислительные операции.
Такой подход открывает дорогу к созданию новых типов нейронных сетей, работающих при комнатной температуре с невероятно низким энергопотреблением. Впервые удалось создать «термодинамические нейроны» — нелинейные элементы, способные выполнять сложные вычисления без необходимости приводить систему в термодинамическое равновесие перед стартом. Это моментально сокращает время работы и упрощает архитектуру устройств.
Что такое термодинамические вычисления и почему они важны
Классические и квантовые компьютеры вынуждены бороться с тепловым шумом, что требует больших энергетических затрат на поддержание холодных температур и усиление сигналов. Новый метод превращает шум в расходуемый ресурс — энергия флуктуаций тепла запускает вычисления сама по себе. Именно поэтому такие системы могут обходиться без громоздких кулеров и мощных источников питания.
Ранее пример выполнения нелинейных операций, необходимых для нейросетей, на шумовой основе не был реализован. Команда из Беркли решила эту задачу, применив эволюционные алгоритмы для оптимизации работы схем, обрабатывая триллионы вариантов поведения системы на суперкомпьютере Perlmutter.
Преимущества и перспективы применения в нейронных сетях
Главное преимущество — экстремально низкое энергопотребление при инференсе, что обещает многократное превосходство над традиционными чипами машинного обучения. Представьте, что поисковые запросы или распознавание образов обрабатываются устройствами, которые практически не расходуют энергию, а работают «за счёт» естественного теплового шума.
Системы не требуют времени на выравнивание состояний, что важно для скорости обработки информации. Это делает термодинамические нейросети особенно привлекательными для встроенных и энергодефицитных приложений, где экономия энергии решает всё.
Хотя стартовые исследования требовали много ресурсов на моделирование и оптимизацию, будущие устройства смогут работать автономно, используя лишь «простой» процесс охлаждения без внешнего питания. Технология пока на ранней стадии, но реальные прототипы уже существуют, и с учётом исчерпания энергетических ресурсов она может стать основой новой эры энергоэффективных вычислений.
