КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер 22-29-01054

НазваниеИсследование аспектов и процессов формирования нелинейной функции активации фотонного нейрона

РуководительПанков Михаил Александрович, Кандидат физико-математических наук

Организация финансирования, регион Федеральное государственное бюджетное учреждение "Национальный исследовательский центр "Курчатовский институт", г Москва

Период выполнения при поддержке РНФ 2022 г. - 2023 г. 

Конкурс№64 - Конкурс 2021 года «Проведение фундаментальных научных исследований и поисковых научных исследований малыми отдельными научными группами».

Область знания, основной код классификатора 09 - Инженерные науки, 09-708 - Лазерно-информационные технологии

Ключевые словаоптический нейрон, фазоизменяемые материалы, лазерное индуцирование, пороговая фильтрация, нелинейная активация, синаптические сигналы, искусственная нейронная сеть, нейроморфная система

Код ГРНТИ28.23.33


СтатусУспешно завершен


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Данный проект относится к аппаратной реализации интеллектуальных систем. Типичными объектами таких систем являются искусственные элементы, позволяющие имитировать работу человеческого мозга. Модель Leaky Integrate-and-Fire (LIF) нейрона - одна из наиболее широко используемых моделей биологических нейронов в современной теоретической нейробиологии. С точки зрения вычислительных процессов и сложности LIF нейроны представляют собой мощные примитивы и для их реализации необходимы новые подходы и методы реализации функции нелинейной активации нейрона при поступлении входных взвешенных аналоговых сигналов. Еще одним важным преимуществом вычислительной модели нейронов с импульсами является ее способность естественным образом включать обучение и адаптацию с помощью механизмов пластичности, зависящей от времени всплеска. В данном проекте будет впервые рассмотрена функция нелинейной пороговой фильтрации аналоговых сигналов в искусственном нейроне и ее влияние на механизмы пластичности в нейроморфных системах. Развитие нейроморфных процессоров введется в направлении увеличения уровней записи на основе элементов, которые могут физически воспроизводить несколько уровней записи, и использования аналоговых методов вычислений, в том числе за счет перехода к оптическим технологиям вычисления при изменении свойств материалов лазерным индуцированием. В связи с этим задача изготовления и экспериментальной реализации фотонных нейронов, способных обрабатывать аналоговые сигналы в ближнем ИК диапазоне является актуальной. Это позволит заменить цифровые полупроводниковые элементы на оптические и перейти к созданию системы, в которой искусственный нейрон может выступать основным вычислительным элементом в многоуровневых фотонных нейронных сетях, подходящих для масштабируемой реализации нейросинаптических систем.

Ожидаемые результаты
В ходе проекта планируется получить следующие результаты: 1) Выполнено численное моделирование оптических характеристик многослойных структур с просветленными тонкими пленками фазоизменяемых материалов. Получены оптимизированные параметры (толщины и материалы тонких пленок) необходимых для синтеза структур фотонных нейронов. 2) Изготовлена серия образцов фотонных нейронов. Проведена их структурная, оптическая и электрофизическая характеризация. 3) Выполнен комплекс измерений методом накачки зондирования оптических свойств структур фотонных нейронов на основе фазоизменяемых материалов. Измерена зависимость изменения интенсивности прошедшего сигнала от интенсивности инициирующих (синаптических) лазерных импульсов при заданном распределении их по времени (временной задержки одного инициирующего импульса относительно другого). Установлены характерные плотности энергии инициирующих лазерных импульсов для формирования нелинейной функции активации фотонного нейрона. 4) Проведены измерения методом накачки зондирования изменения свойств фотонных нейронов при имитации работы их в нейронных сетях. Установлены характерные времена перестройки фазового состояния слоев из фазоизменяемых материалов, оценена возможность их долговременной перестройки и влияние интенсивности инициирующего лазерного излучения на изменения оптических свойств во времени.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2022 году
В проекте осуществляется поиск аппаратной реализации искусственных интеллектуальных систем, их типичных элементов (синапсов, нейронов) и функций, позволяющих имитировать работу человеческого мозга. Выбранная для анализа и технологической реализации модель Leaky Integrate-and-Fire (LIF) нейрона - одна из наиболее широко используемых моделей биологических нейронов в современной теоретической нейробиологии. Абстрагирование биологических нейронов в небольшой набор основных операций, таких как взвешивание и задержка на входе от синапса, суммирование, временная интеграция и пороговая фильтрация в нейроне, приведет, как планируется, к поведению искусственных сетей с такими элементами как обеспечивающему наибольшее сходство с работой биологических систем. На первом этапе выполнен анализ научных публикаций по реализации моделей нейроморфных оптических систем на основе синапсов и нейронов, определены их основные функции, которые возможно реализовать на базе фазоизменяемых материалов, подготовлен обзор и анализ современных технологических подходов при создании оптических (фотонных) нейронов и нейроморфных систем. Основное внимание уделялось анализу процесса обработки нейроном спайков, как естественному гибриду аналоговой и цифровой обработки, обеспечивающему решение проблемы накопления шума. Новые варианты аппаратной реализации основных функций нейрона, функции суммирования и временной интеграции рассмотрены довольно подробно и проанализированы различные подходы к их технической реализации. Текущая общепринятая интерпретация пороговой фильтрации в нейроне сводится к обработке цифровых сигналов с помощью программных алгоритмов и специальных архитектур, имитирующих модель LIF нейрона. Оптические (фотонные) синапсы и нейроны технологически реализуются на оптических волокнах или планарных волноводах, где основным принципом устройства является высокоскоростная модуляция пропускной способности. Полностью оптическая нейроморфная система может быть реализована на базе искусственных синапсов и нейронов с опорой на проработанные поддерживающие технологии и примеры архитектур нейроморфных систем с практическими примерами программно-аппаратной реализации. Фазоизменяемые материалы с широкозонным фазовым переходом позволяют сохранять заданное состояние в отдельных элементах нейронной сети, тем самым обеспечить энергонезависимую фотонную память, а резонансная дестабилизация связи используется в качестве порога нелинейной активации, позволяя обеспечить реализацию спайковых нейронных сетей. Эти два разных подхода позволяют программировать нейронные сети с низким энергопотреблением после обучения и наносекундными задержками. В результате работы разработана концепция и обобщенная структура импульсной нейроморфной оптической системы, которая содержит описание взаимодействия внутренних элементов оптических синапсов и фотонных нейронов в одном вычислительном ядре. Представлены модели и прототипы электрооптических, оптических и гибридных внутренних элементов на основе фазоизменяемых материалов (GeTe, GeSbTe). Внешнее воздействие (управляющее, модулирующее) на синапсы реализуется импульсами лазерного излучения в видимом диапазоне волн, таким образом изменяя интенсивность (амплитуду) информационных импульсов лазерного излучения ближнего инфракрасного диапазона (лазерного излучения O и C-диапазонов) транслируемых через матрицу синапсов. Далее информационные импульсы усиливаются в усилителе-интеграторе и совместно воздействуют на фотонный нейрон, переводя его кратковременно (при достижении порогового значения) в «открытое состояние» и формируя выходной импульс - «спайк». При этом импульс из нейрона далее разделяется в усилителе-разветвителе на одинаковые по интенсивности выходные импульсы ближнего инфракрасного диапазона, которые являются входными сигналами для следующих ядер нейроморфной оптической системы. Длина волны модулируемого излучения в ближнем инфракрасном обусловлена, во-первых, надежными технологическими решениями на основе планарных и твердотельных усилителей, а, во-вторых, высоким контрастом оптических свойств аморфной и кристаллической фазы тонких пленок халькогенидов. Апробация результата выполнена по форме устного доклада в рамках конференции - International Conference Laser Optics, June 20-24, 2022, Saint-Petersburg, Russia.

 

Публикации

1. Панков М.А., Притоцкий Е.М. The concept of a pulsed neuromorphic optical system based on a 3D model of an optical neuron 2022 International Conference Laser Optics (ICLO), pp.1-1 (год публикации - 2022) https://doi.org/10.1109/ICLO54117.2022.9839835


Аннотация результатов, полученных в 2023 году
В проекте осуществляется поиск аппаратной реализации искусственных интеллектуальных систем, их типичных элементов (синапсов, нейронов) и функций, позволяющих имитировать работу человеческого мозга. Выбранная для анализа и технологической реализации модель Leaky Integrate-and-Fire (LIF) нейрона - одна из наиболее широко используемых моделей биологических нейронов в современной теоретической нейробиологии. Абстрагирование биологических нейронов в небольшой набор основных операций, таких как взвешивание и задержка на входе от синапса, суммирование, временная интеграция и пороговая фильтрация в нейроне, приведет, как планируется, к поведению искусственных сетей с такими элементами как обеспечивающему наибольшее сходство с работой биологических систем. На втором этапе выполнен анализ оптических свойств: показателя преломления n(λ) и коэффициента экстинкции k(λ) тонких пленок фазовых материалов, полученных фотометрическими и эллипсометрическими методами, что позволяет оптимизировать оптические характеристики отражения R, пропускания T и поглощения A. Оптимизация оптических характеристик реализуется при использовании дополнительных слоев диэлектрических материалов, которые компенсируют разницу показателей преломления пленки с подложкой и воздухом и минимизируют отражения. Такой подход позволяет повысить контраст уровней передачи модулированного оптического сигнала в ближнем инфракрасном диапазоне. Определены комбинации многослойных структур для реализации контрастных уровней передачи. В результате работы уточнены особенности построения нейроморфных систем и аспекты реализации функций базовых элементов. Описаны аппаратные реализации базовых элементов импульсной нейроморфной оптической системы - синапсов и нейронов - на основе изменения фазового состояния тонкопленочных структур из халькогенидных материалов под воздействием лазерных импульсов. Оптимизированы методы расчета оптических характеристик тонких пленок GeSbTe в многослойных структурах. Выполнен анализ аппаратной реализации основных функций оптических нейронов, который проводился на модели с многослойными покрытиями на основе фазоизменяемых материалов. При анализе работы многослойной структуры оптического нейрона выявлена значительная деградация свойств слоев структуры, что приводит к невозможности использовать переключения между аморфной и кристаллической фазами как принципа работы оптического нейрона. Увеличения циклов переключения между разными фазовыми состояниями возможно при использовании новых материалов, в которых есть две и более кристаллические фазы с высоким оптическим контрастом свойств, при работе следует исключить тепловые процессы, приводящие к появлению аморфной фазы в материале при переключениях и приводящих к деградации структуры.

 

Публикации

1. Панков М.А. Hardware implementation of a neuron for neuromorphic optical system E3S Web of Conferences, - (год публикации - 2023)

2. Панков М.А., Притоцкий Е.М., Сажин А.О., Конникова М.Р. Multilevel transmission contrast in optical structures with thin films of GeTe E3S Web of Conferences, - (год публикации - 2023)


Возможность практического использования результатов
не указано