Аннотация результатов, полученных в 2019 году
В ходе научных исследований за 2019 год нами была проведена работа по развитию теоретических представлений и методов оценки синхронизации высокого порядка импульсных сигналов. Представлены алгоритмы обучения сети и приведены примеры работы сети по классификации изображений. Разработаны способы ввода информации в сеть, варианты реализации генераторов берстовых колебаний и бесконденсаторных схем нейронов, составлена сравнительная таблица энергетической эффективности нейронов различных типов. Результаты опубликованы в рейтинговых журналах, в том числе с открытым доступом, получены права и поданы заявки на регистрацию результатов интеллектуальной деятельности. 1. Разработана новая методика оценки синхронизации двух осцилляторов, основанная на расчете диаграммы паттернов синхронизации с разными значениями SHR (subharmonic ratio, метрика синхронизации высокого порядка). Эффект синхронизации квазипериодических колебаний получил название «химерная синхронизация». Предложен параметр синхронизации - химерный индекс CH, состоящий из первых трех значений величин синхронизации SHR, эффективность же синхронизации η определена как сумма вероятностей их появлений. При превышении η определенного порога, например 90%, два осциллятора считаются синхронизированными. Предложенная методика расчёта величины химерной синхронизации через метрики CH и η позволяет более полно характеризовать эффект синхронизации. Кроме того, подобная метрика позволяет значительно расширить возможности нейроморфных и логических устройств, которые функционируют на эффекте синхронизации. Мы показали, что учет химерной синхронизации приводит к увеличению числа синхронных состояний в системе в десятки раз, что позволяет обучать нейронную сеть более эффективно, при этом увеличивая емкость классификации при том же количестве осцилляторов в сети. 2. Представлены методики оценки синхронизации в режиме пачечной активности нейронов, а также в вынужденном режиме работы осцилляторов. В первом случае количественную характеристику эффекта можно определить исходя из спектрального анализа, оценивая частоты первых гармоник берстовых сигналов по аналогии, например, с последовательностью прямоугольных импульсов. Во втором режиме работы эффект синхронизации выражается во временной когерентности выходных и входных спайков и используется временное кодирование и правило winner-takes-all (победитель забирает все), на основе которого создана модель и программа обучения спайковой сети. 3. Разработана архитектура осцилляторной нейронной сети, состоящая из двух слоев, в которой данные (распознаваемые изображения) поступают на первый входной слой в виде уровней токов питания осцилляторов и преобразуются в набор неповторяющихся состояний синхронизации на выходной слой, состоящий всего лишь из одного осциллятора. Использовались методики оценки с обычным индексом SHR и с индексом химерной синхронизации CH на выходе. Обучение сети производилось методом модельного отжига, основа которого – случайный подбор параметров в некотором интервале значений. Выявлены особенности распределения числа решений в зависимости от режима работы осцилляторов: предпороговый режим или режима автогенераций. Предложено несколько технологических подходов для реализации нейросетевого классификатора информации и показаны примеры его применения для фильтрации изображений. 4. Создана программа для автоматизации процесса обучения импульсной нейронной сети с использованием симулятора электронных схем SNN Learning 1.0 (заявка на РИД). Программа позволяет итерационно обучать двухслойные нейронные сети на основе правила Хебба с использованием метода временного кодирования информации. Результатом обучения нейронной сети является нахождение значений сопротивлений между нейронами входного и выходного слоя, позволяющие решать задачу распознавания образов на основе обучающей выборки. 5. Предложена схема релаксационного осциллятора, где зависимость частоты выходных колебаний от управляющего сопротивления имеет ярко выраженный сигмоидальный вид. Модуль управляющего сопротивления подключается параллельно к одной из двух последовательных емкостей осциллятора. Варьируя сопротивление можно эффективно подавать информацию на вход нейронной сети на основе данных осцилляторов и использовать схему для моделирования рецепторов (температуры, изгиба). Также предложена концепция применения данной схемы в спайковых нейронных сетях на основе частотного кодирования. 6. Представлена численная модель leaky integrate-and-fire нейрона (пороговый интегратор) созданная на базе VO2-переключателя. Аналогом мембранного потенциала в модели служит температура канала переключателя, а потенциал действия от соседних нейронов распространяется по подложке в виде тепловых импульсов. Проведено моделирование работы 3-х нейронов и показано, что суммарное воздействие происходит за счет интерференции тепловых волн в области канала переключения нейрона. Тепловой механизм пороговой функции обусловлен эффектом электрического переключения, а величина (температура) порога может варьироваться внешним напряжением. Схема нейрона не содержит емкостей, позволяя изготавливать сеть с высокой плотностью компонентов, и обладает перспективой 3D-интеграции, благодаря термическому механизму взаимодействия нейронов. 7. Разработаны три варианта схем осцилляторов с берстовым режимом генераций импульсов на примере экспериментальных вольтамперных характеристик NbO2- и VO2-переключателей. Первый вариант является аналогом известной биподобной модели ФитцХью-Ринцеля, где последовательно с переключателем S-типа устанавливаются индуктивность и высокочастотный RC-фильтр. Показано, что данная схема корректно функционирует, только если переключатель S-типа содержит устойчивый участок отрицательного дифференциального сопротивления. Также предложены две упрощенные электрические схемы, позволяющие моделировать берстовый режим осцилляций с эмуляцией импульсных паттернов рецепторов холода млекопитающих с учетом температурных зависимостей пороговых характеристик переключателя. 8. Разработана модель leaky integrate-and-fire нейрона на основе VO2-переключателя, моделирующая различные свойства биологических нейронов. На базе разработанных VO2-нейронов в симуляторе электрических схем была промоделирована работа двухслойной спайковой нейронной сети, состоящей из 9-ти входных и 3-х выходных нейронов. Сеть содержит возбуждающие и тормозящие связи и реализует принцип winner-takes-all при распознавании образов. Используя метод обучения с учителем совместно c правилом Хебба и временной способ кодирования информации, сеть была натренирована распознавать три шаблона с размерами 3x3 пикселя. Данная нейронная сеть позволяет распознавать до 100 тысяч изображений в секунду и обладает перспективой для дальнейшего увеличения скорости распознавания. 9. Проведен сравнительный анализ энергетической эффективности нейронных сетей, изготовленных на основе кремниевой (CMOS) технологии и на основе VO2-переключателей. Основными управляющими параметрами энергоэффективности сетей являются размер активного элемента нейрона и его энергопотребление. Данные, сведенные в таблицу, наглядно показывают преимущество кремниевых нейронов по этим параметрам. Тем не менее, VO2-нейроны имеют в среднем меньшую длительность спайков и, как следствие, больший потенциал быстродействия. Выявлено, что в случае использования временного способа кодирования информации для выполнения одного акта распознавания образов требуется не более одного спайка от каждого нейрона, что существенно повышает энергоэффективность сети по сравнению с сетями, оперирующими метриками синхронизации высокого порядка. Информационные ресурсы в сети Интернет (url-адреса), посвященные проекту: https://minobrnauki.gov.ru/ru/press-center/card/?id_4=1788 https://www.gazeta.ru/science/news/2019/07/23/n_13251001.shtml https://indicator.ru/mathematics/povysheniye-effektivnosti-oscillatornoi-nejroseti-23-07-2019.htm https://indicator.ru/physics/nejronnuyu-set-nauchili-raspoznavat-obrazy-11-02-2019.htm

Аннотация результатов, полученных в 2020 году
В ходе научных исследований за 2020 год нами была проведена работа по развитию новых осцилляторных схем и методик применения их для создания осцилляторных нейронных сетей, в том числе резервуарных вычислений. Проведен анализ влияния шума на функционирование ОНС при решении когнитивных задач. Получены перспективные результаты применения логистического отображения для генерации детерминированного хаоса в резервуарной сети, которая получила название LogNNet. Результаты были представлены на международном семинаре “On-device Artificial Intelligence Workshop”, организованном компанией Huawai, и вызвали интерес у научного сообщества. Методика позволяет создавать цифровые резервуары, мало потребляющие оперативную память, тем самым способствуя развитию актуального направления интеграции искусственного интеллекта и интернета вещей. Исследованы особенности изменения параметров переключательных элементов в осцилляторном контуре, эффекты синхронизации на длинные расстояния, предложена бесконденсаторная модель осциллятора. Разработаны концепции резервуарных вычислений и ассоциативной памяти по принципу сети Хопфилда на осцилляторах. Приведены примеры классификаций изображений из базы рукописных цифр MNIST. Результаты опубликованы в рейтинговых журналах, в том числе с открытым доступом, получены права и поданы заявки на регистрацию результатов интеллектуальной деятельности. 1. Нами создана новая архитектура нейронной сети, которая позволяет экономно использовать небольшие объемы оперативной памяти и открывает перспективы для внедрения маломощных устройств в интернет вещей. Она получила название LogNNet. Работа была также представлена на международном семинаре “On-device Artificial Intelligence Workshop”, организованном компанией Huawai. LogNNet - это нейронная сеть прямого распространения, то есть сигналы в ней направлены исключительно от входа к выходу. Главная ее особенность заключается в том, что используются детерминированные хаотические фильтры для входящих сигналов, то есть система пытается хаотически перемешать входную информацию, но при этом извлекает из информации ценные данные, невидимые изначально. Подобный механизм используют резервуарные нейронные сети. Для генерации хаоса применена простая формула логистического отображения, где последующее значение вычисляется на основе предыдущего. Её обычно применяют в популяционной биологии, а также как пример несложного уравнения для вычисления последовательности хаотических значений. Экономия RAM в представленной архитектуре сети происходит за счет того, что массив весов в хаотическом фильтре не нужно запоминать, каждое значение массива может быть вычислено всего по трем параметрам. LogNNet была испытана на базе MNIST-10 и показала точность распознавания ~96,3%. При этом разработанная архитектура использует не больше 29 kB оперативной памяти. LogNNet также продемонстрировала хорошие результаты при очень малых размерах оперативной памяти порядка 1-2 kB. Примерно таким же объемом памяти обладает миниатюрный контроллер Atmega328, умещающийся на подушке пальца, которым можно оснастить «умные» устройства небольших габаритов. Таким образом, разработанная сеть с цифровым резервуаром, является конкурентоспособной архитектурой сети по сравнению с известными алгоритмами. 2. Обнаружен эффект влияния хаоса на когнитивные способности сети LogNNet. Была найдена зависимость точности классификации сети от параметра логистического отображений r. Форма зависимости коррелирует с зависимостью показателя Ляпунова λ от параметра r и указывает на важную роль хаотической динамики логистического отображения в процессе распознавания нейронной сетью. Показатель Ляпунова λ является эффективным способом оценки «хаотичности» и определяет меру расходимости траектории, т.е. характер изменения траектории в зависимости от изменения начального условия. Можно отметить возрастающую тенденцию изменения величины точности классификации от r с максимальными значениями в диапазоне r=1.4-2. Это коррелирует с положительным наклоном зависимости λ от r, для которой положительные значения λ превалируют при r>1.4. Таким образом, увеличение хаотичности логистического отображения, в целом, приводит к увеличению величины точности классификации, наиболее высокие ее значения наблюдаются при r>1.4. Обнаружена корреляция локальных минимумов и максимумов зависимости точности классификации и Ляпунова от управляющего параметра r. Важная роль хаотической динамики в резервуаре отмечалась при изучении нейронной эхо-сети (echo state networks, ESN), регулируемая спектральным радиусом, и машин неустойчивых состояний (liquid state machines, LSM), где хаос регулируется специальными параметрами. Дальнейшее изучение влияния параметров хаоса логистического отображения на когнитивные способности нейронной сети LogNNet может быть темой будущих, перспективных научных исследований. 3. Исследовано влияние интенсивности шума на число синхронных состояний Ns- системы из двух осцилляторов. Показано, что существует оптимальное значение термической связи Δopt, где наблюдается максимум Ns. Определены условия достижения Ns ~150. Получены зависимости Ns от значений амплитуды шума Un0 при трех значениях уровня связи Δ. Зависимости показывают снижение Ns с увеличением амплитуды шума. Это объясняется физикой эффекта синхронизации, когда синхронизация на высоких гармониках становится невозможна при усилении шума выше критического значения. Самыми вероятными гармониками для синхронизации остаются основные гармоники с синхронизацией (SHR = 1/1). Абсолютное значение |∂Ns / ∂Un0| снижается с увеличением уровня связи Δ, что связано с увеличением сопротивляемости системы к шуму при увеличении Δ. 4. Исследована зависимость динамических пороговых характеристик переключательных элементов на основе диоксида ванадия от частоты осцилляторного контура. На основе численной модели обнаружено, что пороговые характеристики меняются из-за эффекта саморазогрева подложки в области переключателя. Предложены аналитические формулы, которые позволяют вычислить пороговые напряжения включения и выключения на основе геометрических размеров, частоты осцилляций и параметров статической ВАХ. Обнаружен переходный режим осцилляций, возникающий при включении контура или изменении частоты его работы. Представлена аналитическая формула для оценки длительности данного режима. 5. Исследован эффект синхронизации на длинные расстояния звеньев цепочки осцилляторов. Была предложена формула для вычисления синхронизации высокого порядка двух осцилляторов через синхронизацию внутренних осцилляторов. Выявлено, что синхронизация высокого порядка позволяет реализовать синхронизацию на длинные расстояния через попарную синхронизацию внутренних осцилляторов, при этом синхронизация возможна даже в случае низкой эффективности синхронизации отдельных звеньев. Наличие этого эффекта мы связываем с эффектом химерной синхронизации, открытой нами на прошлом этапе проекта. Смысл эффекта заключается в сосуществовании нескольких паттернов синхронизации высокого порядка одновременно. На базе этого эффекта предложены элементы компьютерной логики на основе осцилляторов, где в качестве логических уровней используются значения синхронизации высокого порядка. Изучена синхронизация цепочки из 100 осцилляторов. Было показано, что синхронизацией крайних осцилляторов можно управлять, меняя токи питания у любой пары внутренних осцилляторов, что может быть использовано для создания осцилляторной логики. 6. Разработана схема безконденсаторной модели VO2-осциллятора, содержащая электрический VO2-переключатель, полевой транзистор и VO2 тепловой сенсор. VO2-сенсор повторяет конструкцию переключателя и функционирует только на высокоомной ветви ВАХ при напряжении на нем менее порогового Vth. Переключатель и сенсор располагаются в непосредственной близости друг от друга на расстоянии d, варьируемом в пределах d=100-700 нм. Полевой транзистор в схеме играет роль управляемого нагрузочного сопротивления. Управление осуществляется за счет подачи на затвор транзистора напряжения с VO2-сенсора, которое, в свою очередь, зависит от температуры сенсора. В связи с тем, что температура сенсора изменяется с задержкой относительно температуры переключателя можно добиться эффекта полного разогрева переключателя с последующим его выключением, реализуя эффект осцилляций. Управление периодом осцилляций в данной модели можно осуществлять изменением расстояния d. При увеличении d от 100 до 700 nm происходит увеличение периода осцилляций T от ~100 до ~170 ns. Рост T(d) связан с увеличением задержки распространения тепловой волны T1 с 10 до 60 ns. Было установлено, что период осцилляций практически не зависит от сопротивления Ri, потому что, несмотря на увеличение времени задержки нагрева сенсора T1 c 13 до 34 ns, время его остывания T2 уменьшается с 104 до 88 ns. Уменьшение T2 связано с тем, что при больших Ri канал разогревается до меньшей температуры. 7. Разработана концепция резервуарных вычислений на основе системы связанных осцилляторов с использованием эффекта синхронизации высокого порядка. На основе результатов выполненных экспериментов показано, что подобная система-резервуар даже с небольшим количеством нейронов-осцилляторов имеет широкий набор динамических состояний. Эти состояния управляются токами питания осцилляторов и кодируются с помощью метрик синхронизации: отношения частот гармоник синхронизации и ее эффективность. Предложен и исследован вариант резервуарной сети, которая реализует операцию XOR и состоит из резервуара с двумя термически связанными осцилляторами, построенными на VO2-переключателях, и выходного нейрона с пороговой функцией активации. 8. Разработана концепция ОНС с частотным кодированием, которая состоит из интегро-пороговых нейронов с переключательным элементом S-типа, двух последовательных конденсаторов, включенных параллельно переключателю, и управляющего резистора, шунтирующего один из конденсаторов. Разработаны аналитические методы расчета схем данных нейронов на основе кусочно-линейной аппроксимации ВАХ S-переключателей и законов Кирхгофа. С помощью моделирования на примере осциллятора с экспериментальной ВАХ VO2-преключателя показано, что функция частоты импульсов от переменного сопротивления имеет сильно нелинейный (сигмоидный) вид и аномально высокую чувствительность от соотношения емкостей в схеме осциллятора. Предложены способы сопряжения резистивных датчиков (сопротивлений) с ОНС с помощью преобразователей “частота-сопротивление” на выходе нейронов цифрового, емкостного и термического типов. 9. Разработана новая концепция ассоциативной памяти в виде импульсной сети Хопфилда на основе интегро-пороговых (LIF) нейронов с частотным управлением и гибридным аналого-цифровым кодированием. Разработаны два варианта нейросетевых схем, в которых частоты импульсов нейронов управляются токами питания и переменными сопротивлениями (транзисторами). Проведен анализ динамики распознавания простых двумерных изображений в градациях серого. Предложен метод быстрого цифрового распознавания, использующий пороги перехода через нуль выходных напряжений нейронов. На основе моделирования ассоциативной памяти показано, что время распознавания на основе этого метода сравнимо с временем обработки данных с помощью известного алгоритма ADALINE для периферийных IoT устройств. Предложена гибридная цифро-аналоговая схема модуля ассоциативной памяти, которая включает импульсную сеть Хопфилда из интегро-пороговых нейронов, блок из триггеров, которые срабатывают по порогам пересечения нуля, и выходной блок-классификатор, представляющий собой цифровой дешифратор. 10. Исследована классификация рукописных цифр из базы данных MNIST сетью Хопфилда. Показано, что сильная корреляция обучающих бинарных шаблонов не позволяет использовать стандартный метод обучения Хэбба. Применение метода обучения Сторки позволило увеличить емкость ассоциативной памяти в два раза. Предложен метод снижения корреляции обучающих шаблонов за счет увеличения относительного расстояния Хэмминга между парами шаблонов при подборе значения порога бинаризации и размера шаблонов. Установлено, что порог бинаризации имеет оптимальные значения при размере обучающего шаблона 14x14 пикселей. Использование метода Сторки и оптимальных параметров позволило получить корректную работу сети при записи 10 шаблонов. Точность классификации оптимизированной сети Хопфилда на тестовой выборке изображений составила 61.5%.