В нейронную сеть удалось встроить функцию торможения
Ученые встроили в биофизическую модель нейронной сети мемристор — устройство, которое имитирует синапс, то есть контакт между нервными клетками головного мозга. Мемристор позволяет воспроизвести изменения в работе синапса, которые происходят в естественных условиях при обучении и запоминании информации. Благодаря этому устройство поможет приблизить механизмы работы искусственного интеллекта к тому, как работает наш мозг, и позволит в будущем быстрее проводить сложные вычисления, в том числе при реализации подобных моделей в нейроморфных чипах. Результаты исследования, поддержанного грантом РНФ, опубликованы в журнале Chaos, Solitons & Fractals.
В современной науке существует фундаментальный вопрос: как работает мозг и можно ли искусственно воспроизвести происходящие в нем информационные процессы? Чтобы ответить на него, ученые используют математическое моделирование. В частности, эффекты кратковременной памяти удалось воспроизвести в биофизической модели — модели реальной структуры мозга, — а также в сверточной нейронной сети. Чтобы использовать возможности таких систем для компьютерных вычислений, нужно, чтобы электронные компоненты могли имитировать работу разных клеток мозга. К текущему моменту развитие материаловедения и микроэлектроники привело к созданию устройства под названием мемристор, способного изменять свое сопротивление в зависимости от протекающего через него электрического тока. Такой эффект схож с синаптической пластичностью — изменением способности синапса, то есть контакта между нервными клетками, передавать возбуждение от одного нейрона к другому. Синаптическая пластичность отвечает за способность человека учиться и отчасти обеспечивает формирование кратковременной памяти. Поэтому интеграция мемристивных устройств в биофизические модели позволит сделать их работу наиболее похожей на функционирование головного мозга.
Ученые из Московского физико-технического института (Москва), Университета Лобачевского (Нижний Новгород) и Южного федерального университета (Таганрог) встроили математическую модель мемристора в ранее разработанную биофизическую модель нейросети, моделирующей передачу тормозных сигналов между нервными клетками. Такие сигналы необходимы для поддержания баланса процессов возбуждения и торможения в мозге.
Исследователи заменили тормозную синаптическую пластичность в биофизической модели нейросети на мемристивную пластичность. Модель тормозной синаптической пластичности, хотя и имитирует биологический процесс, не может быть физически воплощена в виде устройства. Поэтому авторы на примере математических моделей проверили, можно ли внедрить в нейросеть мемристор и тем самым воспроизвести экспериментально наблюдаемый эффект регуляции процессов возбуждения и торможения живых нейронов. Оказалось, что замещение тормозной синаптической пластичности мемристором не сказывается на динамике модели и позволяет также воспроизводить эффекты, наблюдаемые в экспериментах на мозге, когда проверяется память или отклик нейронов.
Таким образом, на примере созданной модели исследователям удалось показать, что внедрить мемристор в сложные нейронные сети, имитирующие системы человеческого мозга, действительно возможно. Это важно в первую очередь для того, чтобы повысить эффективность нейроморфных вычислительных систем, то есть систем, действующих по аналогии с человеческим мозгом. В дальнейшем эти результаты можно будет использовать при разработке архитектуры реальной нейронной сети, воспроизводящей биологические функции, например, обладающей памятью.
«Мы получили фундаментальный результат, позволяющий оценить функциональную значимость мемристоров для имитации информационных процессов мозга. Наша дальнейшая работа в данном направлении будет связана с интеграцией полученных результатов в архитектуры нейронных сетей и оценкой их эффективности на сложных нейроморфных задачах, например, математических вычислениях и имитации двигательной активности нейроморфного робота. Предполагается, что за счет более точной имитации информационных процессов в мозге расширятся как функциональные характеристики нейронной сети, так и ее энергоэффективность при реализации в нейроморфных чипах», — рассказывает участник проекта, поддержанного грантом РНФ, Сергей Стасенко, кандидат физико-математических наук, старший научный сотрудник Исследовательского центра в сфере искусственного интеллекта Университета Лобачевского.