КАРТОЧКА ПРОЕКТА,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ
Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.
ОБЩИЕ СВЕДЕНИЯ
Номер 22-29-01054
НазваниеИсследование аспектов и процессов формирования нелинейной функции активации фотонного нейрона
РуководительПанков Михаил Александрович, Кандидат физико-математических наук
Организация финансирования, регионФедеральное государственное учреждение "Федеральный научно-исследовательский центр "Кристаллография и фотоника" Российской академии наук", г Москва
Годы выполнения при поддержке РНФ | 2022 - 2023 |
КонкурсКонкурс 2021 года «Проведение фундаментальных научных исследований и поисковых научных исследований малыми отдельными научными группами»
Область знания, основной код классификатора 09 - Инженерные науки, 09-708 - Лазерно-информационные технологии
Ключевые словаоптический нейрон, фазоизменяемые материалы, лазерное индуцирование, пороговая фильтрация, нелинейная активация, синаптические сигналы, искусственная нейронная сеть, нейроморфная система
Код ГРНТИ28.23.33
ИНФОРМАЦИЯ ИЗ ЗАЯВКИ
Аннотация
Данный проект относится к аппаратной реализации интеллектуальных систем. Типичными объектами таких систем являются искусственные элементы, позволяющие имитировать работу человеческого мозга. Модель Leaky Integrate-and-Fire (LIF) нейрона - одна из наиболее широко используемых моделей биологических нейронов в современной теоретической нейробиологии.
С точки зрения вычислительных процессов и сложности LIF нейроны представляют собой мощные примитивы и для их реализации необходимы новые подходы и методы реализации функции нелинейной активации нейрона при поступлении входных взвешенных аналоговых сигналов. Еще одним важным преимуществом вычислительной модели нейронов с импульсами является ее способность естественным образом включать обучение и адаптацию с помощью механизмов пластичности, зависящей от времени всплеска. В данном проекте будет впервые рассмотрена функция нелинейной пороговой фильтрации аналоговых сигналов в искусственном нейроне и ее влияние на механизмы пластичности в нейроморфных системах.
Развитие нейроморфных процессоров введется в направлении увеличения уровней записи на основе элементов, которые могут физически воспроизводить несколько уровней записи, и использования аналоговых методов вычислений, в том числе за счет перехода к оптическим технологиям вычисления при изменении свойств материалов лазерным индуцированием. В связи с этим задача изготовления и экспериментальной реализации фотонных нейронов, способных обрабатывать аналоговые сигналы в ближнем ИК диапазоне является актуальной. Это позволит заменить цифровые полупроводниковые элементы на оптические и перейти к созданию системы, в которой искусственный нейрон может выступать основным вычислительным элементом в многоуровневых фотонных нейронных сетях, подходящих для масштабируемой реализации нейросинаптических систем.
Ожидаемые результаты
В ходе проекта планируется получить следующие результаты:
1) Выполнено численное моделирование оптических характеристик многослойных структур с просветленными тонкими пленками фазоизменяемых материалов. Получены оптимизированные параметры (толщины и материалы тонких пленок) необходимых для синтеза структур фотонных нейронов.
2) Изготовлена серия образцов фотонных нейронов. Проведена их структурная, оптическая и электрофизическая характеризация.
3) Выполнен комплекс измерений методом накачки зондирования оптических свойств структур фотонных нейронов на основе фазоизменяемых материалов. Измерена зависимость изменения интенсивности прошедшего сигнала от интенсивности инициирующих (синаптических) лазерных импульсов при заданном распределении их по времени (временной задержки одного инициирующего импульса относительно другого). Установлены характерные плотности энергии инициирующих лазерных импульсов для формирования нелинейной функции активации фотонного нейрона.
4) Проведены измерения методом накачки зондирования изменения свойств фотонных нейронов при имитации работы их в нейронных сетях. Установлены характерные времена перестройки фазового состояния слоев из фазоизменяемых материалов, оценена возможность их долговременной перестройки и влияние интенсивности инициирующего лазерного излучения на изменения оптических свойств во времени.
ОТЧЁТНЫЕ МАТЕРИАЛЫ
Аннотация результатов, полученных в 2022 году
В проекте осуществляется поиск аппаратной реализации искусственных интеллектуальных систем, их типичных элементов (синапсов, нейронов) и функций, позволяющих имитировать работу человеческого мозга. Выбранная для анализа и технологической реализации модель Leaky Integrate-and-Fire (LIF) нейрона - одна из наиболее широко используемых моделей биологических нейронов в современной теоретической нейробиологии. Абстрагирование биологических нейронов в небольшой набор основных операций, таких как взвешивание и задержка на входе от синапса, суммирование, временная интеграция и пороговая фильтрация в нейроне, приведет, как планируется, к поведению искусственных сетей с такими элементами как обеспечивающему наибольшее сходство с работой биологических систем.
На первом этапе выполнен анализ научных публикаций по реализации моделей нейроморфных оптических систем на основе синапсов и нейронов, определены их основные функции, которые возможно реализовать на базе фазоизменяемых материалов, подготовлен обзор и анализ современных технологических подходов при создании оптических (фотонных) нейронов и нейроморфных систем. Основное внимание уделялось анализу процесса обработки нейроном спайков, как естественному гибриду аналоговой и цифровой обработки, обеспечивающему решение проблемы накопления шума. Новые варианты аппаратной реализации основных функций нейрона, функции суммирования и временной интеграции рассмотрены довольно подробно и проанализированы различные подходы к их технической реализации. Текущая общепринятая интерпретация пороговой фильтрации в нейроне сводится к обработке цифровых сигналов с помощью программных алгоритмов и специальных архитектур, имитирующих модель LIF нейрона. Оптические (фотонные) синапсы и нейроны технологически реализуются на оптических волокнах или планарных волноводах, где основным принципом устройства является высокоскоростная модуляция пропускной способности. Полностью оптическая нейроморфная система может быть реализована на базе искусственных синапсов и нейронов с опорой на проработанные поддерживающие технологии и примеры архитектур нейроморфных систем с практическими примерами программно-аппаратной реализации. Фазоизменяемые материалы с широкозонным фазовым переходом позволяют сохранять заданное состояние в отдельных элементах нейронной сети, тем самым обеспечить энергонезависимую фотонную память, а резонансная дестабилизация связи используется в качестве порога нелинейной активации, позволяя обеспечить реализацию спайковых нейронных сетей. Эти два разных подхода позволяют программировать нейронные сети с низким энергопотреблением после обучения и наносекундными задержками.
В результате работы разработана концепция и обобщенная структура импульсной нейроморфной оптической системы, которая содержит описание взаимодействия внутренних элементов оптических синапсов и фотонных нейронов в одном вычислительном ядре. Представлены модели и прототипы электрооптических, оптических и гибридных внутренних элементов на основе фазоизменяемых материалов (GeTe, GeSbTe). Внешнее воздействие (управляющее, модулирующее) на синапсы реализуется импульсами лазерного излучения в видимом диапазоне волн, таким образом изменяя интенсивность (амплитуду) информационных импульсов лазерного излучения ближнего инфракрасного диапазона (лазерного излучения O и C-диапазонов) транслируемых через матрицу синапсов. Далее информационные импульсы усиливаются в усилителе-интеграторе и совместно воздействуют на фотонный нейрон, переводя его кратковременно (при достижении порогового значения) в «открытое состояние» и формируя выходной импульс - «спайк». При этом импульс из нейрона далее разделяется в усилителе-разветвителе на одинаковые по интенсивности выходные импульсы ближнего инфракрасного диапазона, которые являются входными сигналами для следующих ядер нейроморфной оптической системы. Длина волны модулируемого излучения в ближнем инфракрасном обусловлена, во-первых, надежными технологическими решениями на основе планарных и твердотельных усилителей, а, во-вторых, высоким контрастом оптических свойств аморфной и кристаллической фазы тонких пленок халькогенидов. Апробация результата выполнена по форме устного доклада в рамках конференции - International Conference Laser Optics, June 20-24, 2022, Saint-Petersburg, Russia.
Публикации
1. Панков М.А., Притоцкий Е.М. The concept of a pulsed neuromorphic optical system based on a 3D model of an optical neuron 2022 International Conference Laser Optics (ICLO), pp.1-1 (год публикации - 2022).