Учёные МФТИ совместно с коллегами из Института биологии и биомедицины ННГУ разработали механизм саморегуляции для искусственных нейронных сетей. Система в реальном времени отслеживает собственную активность и регулирует силу связей между нейронами, благодаря чему подавляет перевозбуждение и сохраняет стабильность в разных режимах работы.
Принцип работы
В основу разработки положен принцип гомеостаза — способности системы поддерживать равновесие за счёт внутренних ресурсов. В цифровой архитектуре он реализован с помощью механизмов, которые изменяют интенсивность сигналов между нейронами.
Моделирование провели на базе импульсной нейронной сети. В такой системе информация передаётся короткими электрическими импульсами — спайками, а в остальное время нейроны неактивны. Это позволяет экономить вычислительные мощности по сравнению с традиционными нейросетями.
Исследователи установили, что при низких целевых частотах сеть увеличивает число спайков внутри каждого всплеска, а при высоких — повышает частоту самих всплесков. Так система автоматически подстраивается под необходимый уровень активности.
Важную роль в защите от перевозбуждения играет кратковременная синаптическая депрессия. После интенсивной активности синапсы на некоторое время ослабляют передачу сигналов, предотвращая лавинообразный рост возбуждения и появление «супервсплесков», при которых отдельные нейроны могли бы генерировать сотни импульсов подряд.
Устойчивость к шуму и перспективы
Учёные также добавили алгоритм долговременной пластичности. Он изменяет силу связей между нейронами в зависимости от интервалов между импульсами и помогает сети синхронно реагировать на внешние стимулы в широком диапазоне частот.
В результате сеть научилась формировать «сетевые спайки» — короткие разряды с участием почти всех нейронов. При превышении допустимого порога она пропускает лишние стимулы, а при формировании ответа выдаёт мощный синхронный разряд. Такой режим делает передачу сигнала более устойчивой к шуму.
По мнению исследователей, предложенные механизмы могут стать основой для простых нейроморфных процессоров, сопоставимых по энергоэффективности с человеческим мозгом. Благодаря саморегуляции такие системы смогут избегать зависаний и работать в условиях помех, в том числе в автономной робототехнике без постоянной связи с облачными серверами.
В дальнейшем учёные планируют адаптировать подход для более сложных систем, где нейроны смогут самостоятельно формировать новые связи взамен утраченных. Результаты исследования опубликованы в журнале The European Physical Journal Special Topics при поддержке Министерства науки и высшего образования России.
