Найден способ улучшить продуктивность осцилляторных нейросетей

tamindir/Flickr

Исследователи из Петрозаводского государственного университета (ПетрГУ) выяснили, что если в осцилляторных нейронных сетях использовать синхронизацию не на основных частотах колебаний, а на их кратных долях, можно увеличить эффективность этих алгоритмов для классификации информации, хранения изображений и вычислительных операций. Работа ученых опубликована в журнале Neural Computing and Applications.

Естественные нейронные сети — сложная биохимическая система, которая обрабатывает непрерывно поступающий поток информации, передавая импульсы между нейронами. Такой же принцип применяется и при создании искусственных нейронных сетей. Созданные по образу и подобию живых систем алгоритмы способны распознавать объекты на изображениях, классифицировать информацию и выявлять сложные закономерности в наборах данных.

Сегодня все большей популярностью пользуются осцилляторные нейронные сети — это программы, в которых искусственные нейроны представляют собой осцилляторы. Такие элементы способны принимать и передавать колебания определенных частот. Получая различные сигналы от предшественников, осцилляторы могут подстраиваться под их колебания. В такой нейронной сети часть элементов синхронизируется — включаются и выключаются в одно время, — а часть остаются асинхронными.

В результате создается пространственно-временная картина распределения синхронизации. Почти то же самое происходит и в живых нейронных сетях. Синхронизацию можно наблюдать не только на основных частотах колебаний, но и на их кратных долях — субгармониках. Теперь поддержанные грантом Российского научного фонда исследователи из ПетрГУ выяснили, что использование такой синхронизации высокого порядка позволяет значительно улучшить функции нейросетей.

«Мы рассмотрели варианты применения эффекта синхронизации высокого порядка осцилляторных систем для построения нейронных сетей, компьютерной логики и различных вычислений, — говорит руководитель гранта, доцент ПетрГУ Андрей Величко. — Мы предложили методики, которые можно использовать для создания нейронных сетей на основе осцилляторов, в том числе для резервуарных вычислений. Эффект синхронизации может быть полезен для реализации компьютерной логики на базе осциллирующих элементов».

В своей работе исследователи использовали созданные ранее осцилляторы на основе диоксида ванадия. Искусственные нейроны из этого материала позволяют создавать импульсы, форма которых очень напоминает активность реальных нейронов. Ученые вычислили максимальное число состояний, в которых может находиться система, а также создали алгоритм, который позволяет увеличить количество этих состояний с помощью синхронизации высокого порядка без добавления новых осцилляторов.

Также исследователи проанализировали синхронизацию на расстоянии в цепи из нескольких осцилляторов, и увидели, что она возникает даже если промежуточные звенья цепи осцилляторов обладают низкой эффективностью синхронизации. Ученые показали, как с помощью такой системы можно хранить и распознавать векторные изображения, реализовать операции умножения и логику двоичных вычислений. При этом входные параметры ученые задавали с помощью силы тока и напряжения, а выходные — с использованием параметров синхронизации.

Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще.

Пресс-релизы о научных исследованиях, информацию о последних вышедших научных статьях и анонсы конференций, а также данные о выигранных грантах и премиях присылайте на адрес science@indicator.ru.