Методы извлечения свойств моделей статистической механики из результатов глубокого машинного обучения

КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

ОБЩИЕ СВЕДЕНИЯ

Номер проекта 22-11-00259

НазваниеМетоды извлечения свойств моделей статистической механики из результатов глубокого машинного обучения

Руководитель Щур Лев Николаевич, Доктор физико-математических наук

Организация финансирования, регион Федеральное государственное бюджетное учреждение науки Институт теоретической физики им. Л.Д. Ландау Российской академии наук , Московская обл

Конкурс №68 - Конкурс 2022 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами»

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-202 - Интеллектуальный анализ данных и распознавание образов

Ключевые слова интеллектуальный анализ данных, глубокое машинное обучение, критические явления, фазовые переходы, суперкомпьютерное моделирование

Код ГРНТИ27.41.23

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

Аннотация
Методы глубокого машинного обучения, получившие значительное развитие в последние шесть лет, становятся ядром зарождающегося четвертого направления получения нового знания в дополнение к триаде эксперимент-теория-моделирование. Важность развития этого направления, которое можно назвать «извлечение нового знания из данных большого объема» трудно переоценить. Представляется актуальным проведение исследований по применению новых методов глубокого машинного обучения к естественно-научным задачам с целью проверки точности извлекаемых результатов и поиска возможности получения нового знания. Также важно проведение сравнительного анализа компьютерных затрат при применении уже устоявшихся методов и алгоритмов и при применении методов, основанных на глубоком машинном обучении. Научная новизна проекта состоит: а) в применении методов глубокого машинного обучения к большому объему данных, полученных путем суперкомпьютерного моделирования классических и квантовых систем в статистической физике; б) в поиске адекватного представления результатов моделирования для последующего обучения; в) в разработке методов оценки точности получаемых методами глубокого машинного обучения результатов; г) в разработке методов учета конечности поля, применяемого для обучения, для извлечения информации о термодинамическом пределе бесконечного объема. Проект междисциплинарный, он требует применения и развития современных методов моделирования классических и квантовых систем, он требует применения и развития современных методов глубокого машинного обучения, он требует применения суперкомпьютерных мощностей, он требует разработки методов анализа данных с целью повышения достоверности извлекаемых данных.

ОТЧЁТНЫЕ МАТЕРИАЛЫ

Публикации

1. В. Чертенков, Е. Буровский, Л. Щур Deep Machine Learning Investigation of Phase Transitions Lecture Notes in Computer Science, 13708, 29, 1-12 (год публикации - 2022)
10.1007/978-3-031-22941-1_29

Публикации

1. Суховерхова Д.Д., Чертенков В.И., Буровский Е.А., Щур Л.Н. Validity and limitations of supervised learning for phase transition research Lecture Notes in Computer Science, Supercomputing, 9th Russian Supercomputing Days, RuSCDays 2023, Moscow, Russia, September 25–26, 2023, Revised Selected Papers, Part II, Lecture Notes in Computer Science, vol. 14389, pp. 314-329 (2024) (год публикации - 2023)
10.1007/978-3-031-49435-2_22

2. Чертенков В.И., Буровский Е.А., Щур Л.Н. Finite-size analysis in neural network classification of critical phenomena Physical Review E, Vol. 108. No. 3. Article L032102 (год публикации - 2023)
10.1103/PhysRevE.108.L032102

3. Суховерхова Д.Д., Буровский Е.А., Щур Л.Н. On the validity of transfer learning for temperature and critical exponent extraction Springer Proceedings in Physics (год публикации - 2024)

Аннотация результатов, полученных в 2024 году
В 2024 году были продолжены исследования применимости методов машинного обучения для исследования фазовых переходов в задачах статистической физики. Ранее нами была разработана методика оценки критической температуры и критического индекса корреляционной длины. Методика основана на конечно-мерном анализе вариации вероятности принадлежности к ферромагнитной или антиферромагнитной фазе. Эта вероятность рассчитывается на основе предсказаний нейронной сети, обученной для бинарной классификации. Мы продолжили исследования с применением этой методики. Исследования посвящена ответам на два вопроса: об универсальности методики и о переносимости предсказаний обученной модели нейронной сети на другие систем статистической физики. Эти вопросы весьма актуальны, поскольку обучение нейронной сети — это затратный процесс, в то время как получение предсказаний нейронная сеть делает быстрее любых других известных на сегодня численных методов. Для ответа на первый вопрос мы анализировали применимость предсказательных свойств нейронной сети, обученной на изотропной модели Изинга, для исследования анизотропных моделей Изинга. Мы рассмотрели два варианта анизотропии, ортогональную анизотропию и диагональную анизотропию. В обоих случаях было выяснено, что при умеренном параметре анизотропии, выражаемом отношением двух констант связи, обученная модель нейронной сети корректно решает задачу бинарной классификации. Это дает возможность оценки критической температуры и критического индекса корреляционной длины с удовлетворительной точностью. Большие значения параметра анизотропии приводят к заметному отклонению предсказаний. Это объясняется особенностями поведения корреляционных функций исследуемых систем в этом режиме. Для ответа на второй вопрос разработанный ранее протокол анализа конфигураций спинов не является надежным и рабочим в случае переноса предсказаний между системами в разных классах универсальности. Причина состоит в том, что конфигурации спинов несут информацию о вырожденности основного состояния, которая как раз и отличает классы универсальности. В результате, обученная модель нейронной сети делает некорректные предсказания. Мы нашли способ решения этой проблемы, использовав взамен конфигураций спинов конфигурации энергий связей. В этих конфигурациях отсутствует информацию о вырожденности основного состояния, но по-прежнему присутствует информация о корреляциях. Применимость такого протокола продемонстрирована с успехом на перекрестном обучении между моделями Изинга и Бакстера-Ву. Также нами разработана методика тернарной классификации для исследования фазовых переходов первого рода. Обучение модели нейронной сети производилось на конфигурациях спинов для двух вариантов моделей Поттса, с 10 компонентами спина (PM-10) и 20 компонентами спина (PM-20). Численные данные конфигураций спинов сохранялись с известной энергией. Тернарная классификация производилась относительно энергии упорядоченной фазы и энергии неупорядоченной фазы. Таким образом оценивалась вероятность упорядоченной фазы, неупорядоченной фазы и смешанной фазы. Для генерации данных при заданной температуре был разработан метод отжига популяции в микроканоническом представлении. Заметим, что это единственный метод, который позволяет генерировать конфигурации системы с заданной энергией, причем эти конфигурации по построению алгоритма независимы. Метод генерации был проверен на трех моделях статистической физики – моделях Поттса с 10 и 20 компонентами, испытывающих фазовый переход первого рода и на модели Блюме-Капеля, имеющей сложную фазовую диаграмму с линией фазовых переходов первого рода, линией фазовых переходов второго рода и разделяющей их трикритической точкой. Применение тернарной классификации к моделям Поттса PM-10 и PM-20 позволило впервые с помощью метода машинного обучения оценить скрытую теплоту фазовых переходов. Более того, впервые получены вероятности каждой из трех фаз, как функции энергии. Результаты исследований доложены на российских и международных конференциях. Они опубликованы в рецензируемых журналах. Защищена диссертация на степень кандидата наук по прикладной математике.

Публикации

1. Щур Л.Н. Phase classification and finite-size analysis with supervised machine learning Bulletin of the American Physical Society, https://meetings.aps.org/Meeting/MAR24/Session/EE01.4 (год публикации - 2024)

2. Чертенков В.И., Щур Л.Н. Machine Learning Domain Adaptation in Spin Models with Continuous Phase Transitions arXiv, Series arXiv "cond-mat". 2024. No. 2411.13027 (год публикации - 2024)
10.48550/arXiv.2411.13027

3. Мозоленко В.К., Фадеева М.А. и Щур Л.Н. Comparison of the microcanonical population annealing algorithm with the Wang-Landau algorithm Physical Review E, Physical Review E 110, 045301, 2024 (год публикации - 2024)
10.1103/PhysRevE.110.045301

4. Суховерхова Д.Д. и Щур Л.Н. Влияние анизотропии на исследование критического поведения спиновых моделей методами машинного обучения Письма в журнал экспериментальной и теоретической физиики, Письма в журнал экспериментальной и теоретической физики, 120(8), 644-649, 2024 (год публикации - 2024)
10.31857/S0370274X24100239

5. Чертенков В.И., Щур Л.Н. Supervised and Transfer Learning for Phase Transition Research Lecture Notes in Computer Science, Lecture Notes in Computer Science (год публикации - 2024)
10.1007/978-3-031-78459-0_31

6. Мозоленко В.К. и Щур Л.Н. Blume-Capel model analysis with a microcanonical population annealing method Physical Review E, Phys. Rev. E 109, 045306, 2024 (год публикации - 2024)
10.1103/PhysRevE.109.045306

7. Суховерхова Д.Д. и Щур Л.Н. Transfer Machine Learning of an Anisotropic Model Lobachevskii Journal of Mathematics, Lobachevskii Journal of Mathematics, том 46, номер выпуска 1, 2025 (год публикации - 2025)

8. Суховерхова Д.Д., Мозоленко В.К. и Щур Л.Н. Latent heat estimation with machine learning arXiv.org, cond-mat, arxiv:2411.00733 (год публикации - 2024)
10.48550/arXiv.2411.00733

9. Щур Л.Н. Суперкомпьютерное моделирование и машинное обучение в физике фазовых переходов СУПЕРВЫЧИСЛЕНИЯ И МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ Тезисы XIX Международной конференции. Саров, 2024, Супервычисления и математическое моделирование. Тезисы XIX Международной конференции. Саров, 2024. С. 232. (год публикации - 2024)

Возможность практического использования результатов
Сформирован научный задел по применению методов машинного обучения с учителем для исследования фазовых переходов первого и фазовых переходов второго рода.