КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ

---

Номер 21-71-00128

НазваниеМетоды и алгоритмы автоматического решения дифференциальных уравнений с произвольным оператором на основе методов оптимизации

РуководительХватов Александр Александрович, Кандидат физико-математических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский университет ИТМО", г Санкт-Петербург

Период выполнения при поддержке РНФ

07.2021 - 06.2023

Конкурс№60 - Конкурс 2021 года «Проведение инициативных исследований молодыми учеными» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными.

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах, 01-206 - Вычислительная математика

Ключевые словаобыкновенные дифференциальные уравнения, уравнения в частных производных, компьютерное моделирование, интерпретируемые методы, машинное обучение

Код ГРНТИ27.41.19

СтатусУспешно завершен

---

 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

---

Аннотация
Растущий интерес к получению интерпретируемых моделей машинного обучения породил новые области искусственного интеллекта, в том числе идентификацию моделей на данных в виде дифференциальных уравнений и их систем. Особенность методов идентификации дифференциальных уравнений в том, что уравнения представляют собой широкий класс дифференциальных операторов, тип которых неизвестен заранее. Перспективность и актуальность данного направления состоит в потенциальном объединении возможностей моделей машинного обучения и физически обоснованных моделей (в т.ч. в форме дифференциальных уравнений) и получение моделей т.н. композитного искусственного интеллекта (ИИ). В частности, это может быть реализовано через ансамблевые модели с композитной структурой. Для встраивания дифференциальных уравнений в ансамбли моделей с композитной структурой, которые подразумевают последовательное выполнение моделей машинного обучения требуется решение полученных дифференциальных уравнений. Численное решение таких задач является основным направлением данного проекта. Существующие численные методы решения дифференциальных уравнений предполагают, что тип уравнения и форма граничных условий известна заранее. Таким образом, для формулировки задачи и решения с помощью существующих методов требуются значительные затраты экспертного времени. Для автоматизации процесса существуют два возможных направления решения поставленной задачи: - определение типа уравнения по обобщённому представлению, выбор подходящего метода, перевод обобщённого представления в частное для данного метода и максимально возможное точное решение узконаправленным методом; - решение, пусть и с более низкой точностью, методом, предназначенным для решения широкого класса задач, который использует лишь обобщённое представление. На данном этапе возможна лишь частичная реализация первого направления. В рамках данного проекта предполагается развитие второго направления с целью более органичного соответствия существующим методам машинного обучения. Планируется на основе методов оптимизации построить модульную систему автоматического решения дифференциальных уравнений как обыкновенных (ОДУ), так и уравнений в частных производных (ДУЧП). Предполагаемая система будет обладать заменяемыми модулями, которые позволят управлять соотношением качество-скорость решения. Из основных модулей можно выделить - модуль численного дифференцирования, модуль оптимизации и модуль увеличения разрешения. Полученный метод решения дифференциальных уравнений позволит существенно расширить класс задач, которые могут быть решены численно, а также встраивать классические модели математической физики в ансамбли и в композитные модели в том числе и для интерпретации моделей машинного обучения.

Ожидаемые результаты
Основным результатом проекта является автоматический метод решения дифференциальных уравнений, основанный на методах оптимизации, который позволяет решить граничную задачу для обыкновенных дифференциальных уравнений и уравнений в частных производных с заранее неизвестными свойствами. Подобные идеи в настоящее время развиваются мировым сообществом, тем не менее, в большинстве случаев используются методы с использованием нейронных сетей. Нейронные сети не позволяют направленно вмешиваться в процесс решения - всё управление ограничивается настройкой структуры нейронной сети, которая напрямую не может быть связана со структурой решения. Создание более интерпретируемого модульного метода автоматического решения дифференциальных уравнений позволит использовать установившиеся методы классического анализа в области численного дифференцирования для управляемого решения дифференциальных уравнений. Подобный метод позволит объединить методы классического анализа и методы машинного обучения для получения дополнительной возможности интерпретации результатов. Интерпретация достигается в том числе за счёт создания модульной структуры. Среди основных модулей можно обозначить: модуль численного дифференцирования, модуль оптимизации, модуль повышения разрешения. Модуль численного дифференцирования применяет дифференциальный оператор к заданному полю (или ряду в случае ОДУ), то есть по заданному кандидату на решение дифференциального уравнения определяет, насколько близко он удовлетворяет оператору и граничным условиям. Модуль оптимизации итеративно выбирает более точное решение, а модуль повышения разрешения служит для подбора более удачного начального приближения для алгоритма оптимизации. Наличие подобной системы не имеет аналогов в литературе, а его развитие позволит применять его и в других областях интерпретируемого машинного обучения, а именно для улучшения интерпретируемости алгоритмов идентификации структуры данных в виде дифференциального уравнения и алгоритмов автоматического построения ансаблевых моделей с композитной структурой. В процессе реализации проекта планируется оценить прирост качества и повышение интерпретируемости ранее полученного под руководством автора метода идентификации структуры данных в виде дифференциальных уравнений и их систем, а также планируется встроить данный метод в фреймворк для генеративного дизайна ансамблевых моделей с композитной структурой FEDOT. Встраивание классических моделей в методы машинного обучения затруднено из-за отсутствия методов автоматического решения дифференциальных уравнений. В результате встраивания реализации метода решения в алгоритмы идентификации структуры данных в виде дифференциальных уравнений впервые в мире станет возможным получить ансамблевые модели, сочетающие в себе классические модели в виде дифференциальных уравнений и модели машинного обучения лишь на основе данных наблюдений без привлечения эксперта. В качестве отдельного теоретического результата планируется исследование оптимизации функции матричного аргумента. В частности, планируется исследовать эффективность матричных операторов скрещивания и мутации для эволюционных алгоритмов. Значимость запланированных результатов состоит в том, что с их применением: - увеличится интерпретируемость моделей машинного обучения, так как в случае одновременного использования классических моделей и моделей МО будет возможно построение объясняющей классической модели для данной модели МО; - будет возможно построение моделей структурной динамики с использованием в том числе классических моделей в рамках методов создания композитных моделей МО; - будут улучшены существующие методы идентификации моделей в виде дифференциальных уравнений, так как появится дополнительная возможность контролировать процесс благодаря возможности решения получаемых промежуточных уравнений. Наличие подобных методов позволит получить композитные модели, сочетающие в себе как классические модели в форме дифференциальных уравнений, так и модели машинного обучения в областях, где подобные модели отсутствуют. Так же будет возможно определение уточняющих моделей, воспроизводящих частные явления в областях, где существуют установившиеся модели. Подобные задачи затрагивают все области науки, где возможно применение математических моделей.

---

 

ОТЧЁТНЫЕ МАТЕРИАЛЫ

---