КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер 21-72-00142

НазваниеФункциональные спайковые нейронные сети: нелинейная динамика и машинное обучение

РуководительМасленников Олег Владимирович, Кандидат физико-математических наук

Организация финансирования, регион Федеральное государственное бюджетное научное учреждение "Федеральный исследовательский центр Институт прикладной физики им. А.В. Гапонова-Грехова Российской академии наук", Нижегородская обл

Период выполнения при поддержке РНФ 07.2021 - 06.2023 

Конкурс№60 - Конкурс 2021 года «Проведение инициативных исследований молодыми учеными» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными.

Область знания, основной код классификатора 02 - Физика и науки о космосе, 02-402 - Нелинейные колебания и волны

Ключевые слованелинейная динамика, сложная сеть, машинное обучение, искусственные нейронные сети

Код ГРНТИ29.35.03


СтатусУспешно завершен


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
В настоящее время наблюдается интенсивное развитие направления, связанного с применением методов теоретической физики и математики, к фундаментальным проблемам нейронауки. С одной стороны, это связано с накоплением огромной базы данных в экспериментальной нейробиологии и в то же время с недостатком теоретического осмысления механизмов многих наблюдаемых явлений. С другой стороны, в области искусственного интеллекта прослеживается запрос на развитие нейроморфных технологий следующего поколения, которые требуют появления новых математических моделей и алгоритмов. Наметилась тенденция сближения двух областей - нейронауки и машинного интеллекта. Для описания фундаментальных явлений, протекающих как нейронных сетях мозга, так и в искусственных нейронных сетях требуется развитие междисциплинарного подхода, основанного на применении методов нелинейной динамики, теории сложных сетей и машинного обучения. В ходе выполнения проекта планируется разработка функциональных сетей спайковых нейронов, их настройка методами машинного обучения выполнять нейроинспирированные целевые функции и анализ нелинейно-динамических характеристик, лежащих в основе выполняемых функций. Научная новизна предлагаемого исследования обусловлена междисциплинарностью и оригинальностью поставленных задач на стыке математической нейронауки и машинного обучения в контексте нелинейно-динамической парадигмы, рассматривающей многоэлементную искусственную нейронную сеть как динамическую систему. В отличие от большинства работ в данном направлении, в проекте делается упор на сетях спайковых нейронов как наиболее биологически релевантных и наиболее перспективных с точки зрения развития искусственных нейронных сетей нового поколения. Полученные в ходе выполнения проекта новые знания о закономерностях динамики спайковых нейронных сетей при выполнении ими биоинспирированных целевых функций будут носить фундаментальный характер в области математической нейронауки, а также могут послужить развитию новых алгоритмов технологии машинного обучения.

Ожидаемые результаты
Будет развит междисциплинарный подход к построению и анализу функциональных спайковых нейронных сетей, основанный на методах нелинейной динамики, теории сложных сетей и машинного обучения. Ожидаемые результаты после выполнения проекта: Функциональные сети спайковых нейронов, построенные с применением методов машинного обучения для моделирования нейроинспирированные целевых функций. Свойства пространственно-временной динамики и особых траекторий фазового пространства, лежащих в основе выполняемых функций. Закономерности изменения ошибки обучения в зависимости от параметров сети (число нейронов, структура связей) и индивидуальной активности нейронов (характерное время, порог генерации, рефрактерность). Модифицированные спайковые нейронные сети, полученные с применением методов глубокого обучения нейросетей с подкреплением. Закономерности влияния локальных методов обучения по сравнению с результатами стандартного метода обратного распространения ошибки во времени. Характеристики структуры спайковых нейронных сетей после обучения. Свойства пространственно-временной динамики сети и выполняемых ею функций при удалении нейронов и связей. Ожидаемые результаты значимы: 1. для развития фундаментальных основ нелинейной динамики, поскольку вносят вклад в разработку новых методов анализа активности сложных сетей активных элементов; 2. для развития научных представлений о динамических механизмах пространственно-временной обработки информации в нейронных структурах; 3. для развития прикладных методов технологии искусственного интеллекта в области машинного обучения. Ожидаемые результаты соответствуют мировому уровню, поскольку развивают как фундаментальные аспекты математический нейронауки и нелинейной динамики сложных сетей, так и прикладные методы технологии машинного обучения, которая является актуальной сферой в широком спектре задач современной экономики и социальной сферы.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2021 году
Развит подход построения функциональных спайковых нейронных сетей, моделирующих выполнение задач когнитивной нейронауки. Спайковые сети отличаются от стандартных нейронных сетей большей биологической правдоподобностью за счет генерации коротких стимулов — спайков. Это позволяет повысить энергоэффективность при их использовании на специализированных нейроморфных чипах, однако имеет ряд особенностей при их настройке или обучении. На примере задачи двухальтернативного выбора, при которой сеть выбирает один из двух входных сигналов, имеющий целевой признак, и на выходе генерирует отклик, формирующий ответ сети, произведено построение и обучение спайковой сети нейронов накопление-сброс. Исследована структура и выявлены динамические механизмы обученной сети, позволяющей ей решать целевую задачу.

 

Публикации

1. Пугавко М.М., Масленников О.В., Некоркин В.И. Динамика рекуррентной спайковой нейронной сети в задаче двухальтернативного выбора Известия вузов. Радиофизика, Том 64, № 10, С. 811-826 (год публикации - 2021)


Аннотация результатов, полученных в 2022 году
Разработана рекуррентная спайковая нейронная сеть, способная решать шесть типов задач, мотивированных базовыми сенсорно-моторными и когнитивными функциями мозга. Проанализировано, насколько полученная нейронная сеть способна к многозадачности. Установлено, что после обучения часть нейронов приобретает специфические функции — они разделяются на группы, отвечающие за решение задач определенного типа. Эти группы активируются в тот момент, когда нейросеть должна решить именно тот вопрос, за который они отвечают, а в остальное время остаются практически неактивны. Другая часть нейронов порявляет свойство смешанной селективности, т.е. участвует в отклике при решении практически всех предложенных типов задач. https://scientificrussia.ru/articles/nejroset-smogla-odnovremenno-resat-sest-raznyh-tipov-zadac-blagodara-raspredeleniu-rolej

 

Публикации

1. Пугавко М.М., Масленников О.В., Некоркин В.И. Динамика рекуррентной спайковой нейронной сети в задаче двухальтернативного выбора Известия вузов. Радиофизика, Т. 64, № 10. С. 817–832. (год публикации - 2021) https://doi.org/10.52452/00213462_2021_64_10_817

2. Пугавко М.М., Масленников О.В., Некоркин В.И. Multitask computation through dynamics in recurrent spiking neural networks Scientific Reports, 13 (1), 3997 (год публикации - 2023) https://doi.org/10.1038/s41598-023-31110-z

3. Масленников О.В., Пугавко М.М., Некоркин В.И. Performing multiple cognitive tasks through dynamics in spiking neural networks IEEE, 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN) (год публикации - 2022) https://doi.org/10.1109/CNN56452.2022.9912546

4. Пугавко М.М., Масленников О.В., Некоркин В.И. Динамика рекуррентной спайковой нейронной сети при решении нескольких задач когнитивной нейронауки XXIV Международная научно-техническая конференция "НЕЙРОИНФОРМАТИКА-2022" : сборник научных трудов. – Москва : МФТИ., С. 433-443 (год публикации - 2022)

5. Пугавко М.М., Масленников О.В., Некоркин В.И. Динамика рекуррентной спайковой сети в задачах вычислительной нейронауки Математическое моделирование и суперкомпьютерные технологии. Труды XXII Международной конференции (Н. Новгород, 14–17 ноября 2022 г.) – Нижний Новгород: Изд-во Нижегородского госуниверситета., С. 100-105 (год публикации - 2022)

6. - Нейросеть смогла одновременно решать шесть разных типов задач благодаря распределению ролей Научная Россия, - (год публикации - )

7. - Нейросеть смогла одновременно решать шесть разных типов задач благодаря распределению ролей Пресс-служба РНФ, - (год публикации - )

8. - Нейросеть смогла одновременно решать шесть разных типов задач благодаря распределению ролей indicator.ru, - (год публикации - )


Возможность практического использования результатов
не указано