Разработка новых моделей машинного обучения на основе композиций глубоких лесов и нейронных сетей для решения задач медицинской диагностики

КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

ОБЩИЕ СВЕДЕНИЯ

Номер проекта 18-11-00078

НазваниеРазработка новых моделей машинного обучения на основе композиций глубоких лесов и нейронных сетей для решения задач медицинской диагностики

Руководитель Уткин Лев Владимирович, Доктор технических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Санкт-Петербургский политехнический университет Петра Великого" , г Санкт-Петербург

Конкурс №28 - Конкурс 2018 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами»

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-202 - Интеллектуальный анализ данных и распознавание образов

Ключевые слова машинное обучение, классификация, стратегия принятия решений, нейронные сети, глубокие леса, распознавание образов, онкология

Код ГРНТИ28.23.25

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

Аннотация
Проект направлен на создание новых классов моделей и алгоритмов машинного обучения на основе глубоких лесов, которые можно рассматривать как альтернативу глубоким нейронным сетям и как дополнение к ним в прикладных задачах, размер обучающей выборки в которых не позволяет использовать нейронные сети. К таким задачам относятся задачи диагностики онкологических заболевания по результатам анализа рентгеновского сканирования, ультразвукового исследования, компьютерной томографии и других форм диагностического исследования пациентов. Новыми классами моделей являются управляемые глубокие леса и их композиций с нейронными сетями. Глубокие леса – это каскадная структура, каждый слой которой содержит множество случайных лесов, объединенных на основе алгоритма стекинга. Основной идеей, лежащей в основе управляемых глубоких лесов, является введение весов деревьев в качестве параметров обучения и оптимизация целевой функции потерь, соответствующей решаемой задаче машинного обучения. Идея оптимальной настройки управляемых глубоких лесов заключается в уменьшении количества и пространства весов, приписывая их не каждому дереву, а подмножествам распределений вероятностей классов деревьев решений, близких друг к другу в рамках определенной сетки, разделяющей единичный симплекс вероятностей на множество малых симплексов, размер которых может являться настраиваемым параметром. Сокращение пространства весов осуществляется на основе интервальных статистических моделей (модели засорения, модели распределений Дирихле, границ Колмогорова-Смирнова и т.д.). В проекте предлагаются модификации глубоких лесов для решения задач адаптации областей данных (domain adaptation) или передачи знаний, когда имеются области исходных (больших) данных и область целевых данных, которые необходимо классифицировать. В проекте предлагаются новые алгоритмы для реализации робастных метрических моделей расстояний (distance metric learning) на основе глубокого леса для различных вариантов обучающих выборок (с известными метками классов, при наличии только сравнительной информации). В качестве обобщения управляемого глубокого леса предлагается глубокий нейролес, в котором обработка распределений вероятностей на выходе деревьев при помощи обучаемых весов полностью заменяется на малые нейронные сети. Разработка нейролеса создает совершенно новый тип моделей машинного обучения и позволяет использовать как преимущества глубоких лесов, так и нейронных сетей. В проекте рассматриваются вопросы обнаружения аномального поведения объектов на основе глубокого леса, основная идея решения которых заключается в использовании сиамского глубокого леса вместо сиамской нейронной сети. Сочетание глубокого леса и сканирующих малых нейронных сетей является основой для реализации совершенно нового типа автокодеров, включая “шумоподавляющий” (denoising) автокодер, сжимающий (contractive) автокодер и др., которые необходимы для первично обработки различных форм диагностического исследования пациентов для удаления естественных “загрязнений”. Итогом применения разрабатываемых моделей и алгоритмов является разработка интеллектуальной системы обработки диагностической медицинской информации, которая представляет собой композицию глубоких нейронных сетей и глубокого нейролеса. Одна из идей, лежащих в основе такой композиции, заключается в замене промежуточных слоев в сети типа ResNet, основанной также на идеях стекинга, каскадами глубокого леса. Актуальность результатов проекта определяется тем, что эффективные методы машинного обучения сегодня становятся одним из основных элементов интеллектуализации таких областей как медицинская диагностика. Проект выполняется в Санкт-Петербургском политехническом университете Петра Великого совместно с Санкт-Петербургским клиническим научно-практическим центром специализированных видов медицинской помощи (онкологический).

ОТЧЁТНЫЕ МАТЕРИАЛЫ

Публикации

1. Мелдо А.А., Уткин Л.В., Моисеенко В.М. Алгоритмы диагностики XXl века. Искусственный интеллект в распознавании рака лёгкого Практическая онкология, Т.19. - №3. - С. 292 - 298 (год публикации - 2018)
10.31917/1903292

2. Мелдо А.А., Уткин Л.В. Обзор методов машинного обучения в диагностике рака легкого Искусственный интеллект и принятие решений, №3. – С. 28-38. (год публикации - 2018)
10.14357/20718594180313

3. Уткин Л.В., Рябинин М.А., Мелдо А.А. Интеллектуальная система выбора лечения на основе каскада случайных лесов в рамках анализа выживаемости Труды Международной научной конференции «IEEE Northwest Russia Conference On Mathematical Methods In Engineering And Technology: ММEТ NW 2018», СПб.: СПбГЭТУ «ЛЭТИ», C. 534-537 (год публикации - 2018)

4. Уткин Л.В., Рябинин М.А., Мелдо А.А. Случайные леса и метод хорд для интеллектуальной диагностики рака легких XXI Международная конференция по мягким вычислениям и измерениям (SCM-2018), Т.2, - СПб.: СПбГЭТУ «ЛЭТИ», С. 11-14. (год публикации - 2018)

5. Уткин Л.В., Рябинин М.А., Жук К.Д., Жук Ю.А. Классификация на основе композиции случайных лесов и параллельных нейронных сетей XXI Международная конференция по мягким вычислениям и измерениям (SCM-2018), Т.1, - СПб.: СПбГЭТУ «ЛЭТИ», С. 662-665. (год публикации - 2018)

6. Уткин Л.В., Ипатов О.С., Мелдо А.А. Медицинские системы искусственного интеллекта на примере диагностики рака легкого Материалы 5-й Всероссийской научно-технической конференции "Суперкомпьютерные технологии (СКТ-2018)", Дивноморское, Геленджик, Издательство Южного федерального университета, - Т.2, - С. 127-131 (год публикации - 2018)

7. Ипатов О.С., Уткин Л.В., Мелдо А.А. Интеллектуальные системы диагностики и выбора лечения онкологических заболеваний Труды VII Международной научно-технической конференции «Информационные технологии в науке, образовании и производстве» (ИТНОП-2018), Белгород: Издательство ООО «ГиК», С. 245-247 (год публикации - 2018)

8. Уткин Л.В., Мелдо А.А. A weighted random survival forest for constructing controllable models Intelligent Data Processing: Theory and Applications. Book of abstracts of the 12th International Conference (Moscow, Russia – Gaeta, Italy, 2018), Moscow: TORUS PRESS, 2018. – p. 33. (год публикации - 2018)
10.30826/IDP201811

9. Мелдо А.А., Уткин Л.В. A computer-aided system for differential diagnosis of lung diseases Intelligent Data Processing: Theory and Applications. Book of abstracts of the 12th International Conference (Moscow, Russia – Gaeta, Italy, 2018), Moscow: TORUS PRESS, 2018. – p. 35 (год публикации - 2018)
10.30826/IDP201812

10. Прохоров И.Ю., Рябинин М.А., Мелдо А.А., Уткин Л.В. Формирование баз данных с целью машинного обучения в диагностике рака легкого Конгресс Российского общества рентгенологов и радиологов. Сборник тезисов, СПб. c. 124-125 (год публикации - 2018)

11. Мелдо А.А., Уткин Л.В., Прохоров И.Ю., Рябинин М.А., Богданов А.А., Лукашин А.А., Моисеенко В.М., Жук К.Д. Эволюция искусственного интеллекта в диагностике рака легкого Конгресс Российского общества рентгенологов и радиологов. Сборник тезисов, СПб. c. 102-103 (год публикации - 2018)

12. Моисеенко В.М., Мелдо А.А., Уткин Л.В., Прохоров И.Ю., Рябинин М.А., Богданов А.А. Автоматизированная система обнаружения объемных образований в легких как этап развития искусственного интеллекта в диагностике рака легкого Лучевая диагностика и терапия, №3 –С. 62-68 (год публикации - 2018)
10.22328/2079-5343-2018-9-3-62-68

13. Уткин Л.В., Мелдо А.А., Константинов А.В. Deep Forest as a framework for a new class of machine learning models National Science Review (год публикации - 2018)
10.1093/nsr/nwy151

14. Уткин Л.В. An Imprecise Deep Forest for Classification Expert Systems with Applications, Vol. 141, Article 112978, – Pp. 1-11 (год публикации - 2019)
10.1016/j.eswa.2019.112978

15. Уткин Л.В., Ковалев М.С., Мелдо А.А. A deep forest classifier with weights of class probability distribution subsets Knowledge-Based Systems, Vol. 173, Pp. 15-27 (год публикации - 2019)
10.1016/j.knosys.2019.02.022

16. Уткин Л.В., Рябинин М.А. Discriminative Metric Learning with Deep Forest Journal on Artificial Intelligence Tools, Vol. 28(2), - Pp. 1950007-1 – 1950007-19 (год публикации - 2019)
10.1142/S0218213019500076

17. Уткин Л.В., Константинов А.В., Чуканов В.С., Коц М.В., Рябинин М.А., Мелдо А.А. A weighted random survival forest Knowledge-Based Systems, Vol. 177, Pp. 136-144 (год публикации - 2019)
10.1016/j.knosys.2019.04.015

18. Уткин Л.В., Константинов А.В., Мелдо А.А., Рябинин М.А., Чуканов В.С. A Deep Forest Improvement by Using Weighted Schemes Proceedings of the 24th Conference of Open Innovations Association FRUCT, pp.451-456 (год публикации - 2019)
10.23919/FRUCT.2019.8711886

19. Мелдо А.А., Уткин Л.В. Radiomics as a basis for transformation of radiologists skills and partnership IOP Conf. Series: Journal of Physics: Conference Series, 1236 (2019) 012063 (год публикации - 2019)
10.1088/1742-6596/1236/1/012063

20. Мелдо А.А., Уткин Л.В. A new approach to differential lung diagnosis with CT scans based on the Siamese neural network IOP Conf. Series: Journal of Physics: Conference Series, 1236 (2019) 012058 (год публикации - 2019)
10.1088/1742-6596/1236/1/012058

21. Мелдо A.A., Уткин Л.В., Трофимова T.Н., Рябинин М.A., Моисеенко В.M., Шелехова К.В. Новые подходы к разработке алгоритмов искусственного интеллекта в диагностике рака легкого Лучевая диагностика и терапия, 1 (10), с.8-18 (год публикации - 2019)
10.22328/2079-5343-2019-10-1-8-18

22. Мелдо A.A., Уткин Л.В., Рябинин М.A. Комбинированная автоматизированная система сегментации и обнаружения новообразований для диагностики рака легкого Робототехника и техническая кибернетика, 7(2), С. 145-153 (год публикации - 2019)
10.31776/RTCJ.7209

23. Уткин Л.В., Мелдо А.А., Крыштапович В.С., Тюльпин В.А., Касимов Э.М., Ковалев М.С. Трехканальная интеллектуальная система классификации новообразований для диагностики рака легкого Робототехника и техническая кибернетика, 7(3), С. 196-207. (год публикации - 2019)
10.31776/RTCJ.7304

24. Уткин Л.В., Мелдо А.А., Ипатов О.С., Рябинин М.А. Медицинские интеллектуальные системы на примере диагностики рака легкого Известия ЮФУ. Технические науки, 8, С. 241-249 (год публикации - 2018)
10.23683/2311-3103-2018-8-241-249

25. Мелдо А.А., Уткин Л.В., Трофимова Т.Н., Лукашин А.А., Рябинин М.А. Реализация системы искусственного интеллекта в диагностике рака легкого Международный конгресс и школа для врачей “Кардиоторакальная радиология”, СПб. c. 127-129 (год публикации - 2019)

26. Уткин Л.В., Ковалев М.С., Коолен Ф. Робастные регрессионные случайные леса при малых и зашумленных обучающих данных XXII Международная конференция по мягким вычислениям и измерениям (SCM-2019), СПб.: СПбГЭТУ «ЛЭТИ» c.200-204 (год публикации - 2019)

27. Уткин Л.В., Ковалев М.С., Мелдо А.А., Коолен Ф. Imprecise extensions of random forests and random survival forests Proceedings of Machine Learning Research, vol. 103, pp. 404-413 (год публикации - 2019)

28. Мелдо А.А., Уткин Л.В. Инновационная стратегия развития отделения лучевой диагностики Медицина: целевые проекты, 34, c. 52-53. (год публикации - 2019)

29. Мелдо А.А., Уткин Л.В. Radiomics and the multidisciplinary approach in the development of CAD system in lung cancer diagnostics Extreme Robotics, 1(1), pp. 504-510. (год публикации - 2019)

30. Уткин Л.В., Жук К.Д. Improvement of the Deep Forest Classifier by a Set of Neural Networks Informatica, 44, 1-13 (год публикации - 2020)
10.31449/inf.v44i1.2740

31. Мелдо А.А., Уткин Л.В., Трофимова Т.Н. Искусственный интеллект в медицине: современное состояние и основные направления развития интеллектуальной диагностики Лучевая диагностика и терапия, 1(11), c. 9-17 (год публикации - 2020)
10.22328/2079-5343-2020-11-1-9-17

32. Уткин Л.В., Ковалев М.С., Коолен Ф. Imprecise weighted extensions of random forests for classification and regression Applied Soft Computing Journal, vol. 92, Article 106324, 2020, pp. 1-14 (год публикации - 2020)
10.1016/j.asoc.2020.106324

33. Уткин Л.В., Константинов А.В., Чуканов В.С., Мелдо А.А. A new adaptive weighted deep forest and its modifications International Journal of Information Technology & Decision Making, Vol. 19, No. 04, pp. 963-986 (год публикации - 2020)
10.1142/S0219622020500236

34. Уткин Л.В., Ковалев М.С., Касимов Э.М. An explanation method for black-box machine learning survival models using the Chebyshev distance Artificial Intelligence and Natural Language. AINL 2020, Communications in Computer and Information Science, Springer, Cham, vol. 1292, 2020 (год публикации - 2020)
10.1007/978-3-030-59082-6_5

35. Уткин Л.В., Коц М.В., Чуканов В.С., Константинов А.В., Мелдо А.А. Estimation of personalized heterogeneous treatment effects using concatenation and augmentation of feature vectors International Journal on Artificial Intelligence Tools, Vol. 29, No. 05, Article 2050005, pp. 1-23 (год публикации - 2020)
10.1142/S0218213020500050

36. Уткин Л.В., Мелдо А.А., Ковалев М.С., Касимов Э.М. A simple general algorithm for the diagnosis explanation of computer-aided diagnosis systems in terms of natural language primitives 2020 XXIII International Conference on Soft Computing and Measurements (SCM), IEEE, pp. 202-205 (год публикации - 2020)
10.1109/SCM50615.2020.9198764

37. Уткин Л.В., Мелдо А.А., Ковалев М.С., Касимов Э.М. Простой общий алгоритм объяснения диагноза на выходе интеллектуальной системы диагностики в терминах примитивов естественного языка XXIII Международная конференция по мягким вычислениям и измерениям (SCM-2020). Сборник докладов. СПб.: СПбГЭТУ «ЛЭТИ», с. 242-245 (год публикации - 2020)

Публикации

30. Уткин Л.В., Жук К.Д. Improvement of the Deep Forest Classifier by a Set of Neural Networks Informatica, 44, 1-13 (год публикации - 2020)
10.31449/inf.v44i1.2740

Публикации

30. Уткин Л.В., Жук К.Д. Improvement of the Deep Forest Classifier by a Set of Neural Networks Informatica, 44, 1-13 (год публикации - 2020)
10.31449/inf.v44i1.2740