Аннотация результатов, полученных в 2018 году
Разработаны концепция построения и архитектура системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей. Проведен анализ существующих исследований и разработок в области защиты пользователя от информации в социальных сетях, который выявил следующее противоречие: с одной стороны, повышение безопасности пользователя осуществляется путем ограничения доступа к потенциально опасной информации администрацией социальной сети на основе анализа ее содержания, с другой стороны, накладываемые ограничения на конкретные информационные объекты и «вбросы» не могут в значительной степени повлиять на безопасность пользователя в силу высокой скорости их тиражирования со стороны нарушителя. Для разрешения данного противоречия была разработана общая концепция построения системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей определяющая основные модели, методики, методы, а также, необходимые исходные данные и ожидаемые результаты для этих методов и методик. Также была разработана архитектура системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей, определяющая основные компоненты и их взаимодействие для последующей реализации. Разработаны модели и выявлены основные признаки информационных объектов, имеющих отношение к вредоносному влиянию в информационном пространстве социальных сетей. В рамках проекта разработаны модели информационных объектов, распространяемых в социальных сетях. На основе проведенного анализа законодательства Российской Федерации и практик ведомств, отвечающих за защиту пользователей от запрещенной законом информации, сформированы признаки информационных объектов, имеющих отношение к вредоносному влиянию в информационном пространстве социальных сетей. Представленные модели и признаки позволили сформировать модели данных для хранения объектов социальной сети а дальнейшем, а также определить основные возможные источники и потенциальную целевую аудиторию информационных объектов, имеющих отношение к вредоносному влиянию в информационном пространстве социальных сетей. Это позволило в свою очередь разработать методы, модели и методики выявления источников атаки и целевой аудитории воздействия в социальных сетях, а также методы, модели и методики семантического анализа вредоносных информационных объектов. Разработаны методы, модели и методики сбора, предварительной обработки и хранения информационных объектов на основе применения распределенных интеллектуальных сканеров в социальных сетях. На основе моделей информационных объектов, разработанных в рамках исполнения проекта, предложена методика сбора исходных данных из социальных сетей. Данная методика позволяет на основе данных получаемых через API социальной сети ВКонтакте извлечь информационные объекты, имеющие отношение к вредоносному влиянию в информационном пространстве социальных сетей, а также связанные с ними объекты и субъекты. За счет применения интеллектуальных сканнеров уже на этапе сбора происходит предобработка и фильтрация полученных данных, что позволяет снизить объем собираемых данных и повысить скорость их последующего анализа. Для хранения иерархически организованных разнородных данных социальных сетей в проекте разработаны специализированные модели данных одновременно для 3-х типов хранения – реляционного, NoSQL и графового. Применение комбинации данных способов представления данных позволяет объединить их достоинства и нивелировать недостатки. Так, для хранения небольших объемов структурированной информации (например, карточек пользователей) в проекте разработана модель данных для реляционной базы, большие объемы данных (например, стены пользователей и групп) представлены в виде модели данных для NoSQL базы, связанные объекты (например, отношения "друзья", "подписчики") формируют графовую модель данных. Данные модели хранения используются в следующих результатах. Так, для выявления источников атаки и целевой аудитории воздействия в социальных сетях преимущественно используется реляционное представление. Для семантического анализа вредоносных информационных объектов на основе методов интеллектуального анализа данных используется NoSQL представление. Для анализа каналов распространения вредоносных информационных объектов в социальных сетях используется графовая модель данных. Разработаны методы, модели и методики семантического анализа вредоносных информационных объектов на основе методов интеллектуального анализа данных. В проекте разработаны детализированные и интегральные модели информационных объектов, учитывающие как малые объекты (например, комментарии, описания изображений, изображения), так и объекты объединяющие другие объекты (например, профили пользователей, стены групп, альбомы). В качестве исходных данных здесь используются графовая модель собираемых из социальной сети данных. Выделены методики определения языка текстовых объектов, определения эмоциональной окраски, классификации объектов (в том числе, медиаобъектов) по тематическим категориям, определяющим вредоносность информационных объектов. На основе моделей и методик, был разработан метод семантического анализа вредоносных информационных объектов на основе методов интеллектуального анализа данных, включающий в себя последовательность методик, реализующих отдельные аспекты анализа. Необходимо отметить, что результаты работы данного метода используется в рамках оценки каналов распространения информации, так как возможными каналами распространения вредоносных информационных объектов являются группы и профили пользователей. Представленные методы позволяют оценить соответствие информационного объекта предварительно заданным критериям вредоносности. Так как в данных методах присутствует человеческий фактор (итоговое решение принимается экспертом), они более эффективны совместно с системами классификации информации и визуализации данных. Представленные методы, методики и модели используются как часть комплекса поддержки и принятия решений в рамках анализа распространения вредоносных информационных объектов в социальных сетях. Данные результаты использованы как часть разработанных методов, моделей и методики комплексного распознавания элементов воздействия, включающих анализ вредоносных информационных объектов, каналов распространения, источников атаки и целевой аудитории воздействия. Разработаны методы, модели и методики выявления источников атаки и целевой аудитории воздействия в социальных сетях. В качестве исходных данных используются реляционная модель собираемых из социальной сети данных, описывающая множества профилей пользователей являющихся источниками и/или получателями вредоносных информационных объектов. Разработаны методики сегментации сообществ пользователей социальной сети. Данные методики позволяют разделить аудиторию на профили, распространяющие информацию и профили воспринимающие информацию. Подобная сегментация позволяет эффективно выделить лидеров мнений по статистическим признакам (например, количеству постов, комментариев и лайков). Выделение лидеров мнений позволяет расширить область анализируемых данных за счет анализа их профилей и, за счет этого, определения уровня их вовлеченности в процессы распространения вредоносной информации. Кроме того, сведения о связях между лидерами мнений, вовлеченными в распространение вредоносной информации, и сообществами пользователей позволяет расширить анализ каналов распространения вредоносных информационных объектов в социальных сетях. Данная методика перспективна при исследовании целевой аудитории, на которую направлен информационный поток. Например, методика дает возможность изучать поведенческие факторы в течение заданного периода в информационном пространстве объекта, динамика которых позволит оценить прирост аудитории и вовлеченность объектов информационного воздействия. Результаты также использованы как часть разработанных методов, моделей и методики комплексного распознавания элементов воздействия, включающих анализ вредоносных информационных объектов, каналов распространения, источников атаки и целевой аудитории воздействия. Разработаны методы, модели и методики анализа каналов распространения вредоносных информационных объектов в социальных сетях. Модели каналов на основе графов: иерархическая модель субъектов и объектов (представляет вершины графа), иерархическая модель отношений субъекта и объектов (представляет ребра графа) и общая модель, объединяющая две предыдущие. В качестве исходных данных здесь используются графовая модель собираемых из социальной сети данных. Выделены методики анализа каналов, которые можно разделить на 5 категорий: методики центральности, методики кластеризации, методики схожести, методики нахождения топологической структуры, методики нахождения лидеров. На основе моделей и методик, разработаны методы анализа каналов, включающих в себя методы поиски канала и методы оценки канала. Последовательная структура применения методов анализа каналов включает в себя нахождение канала, оценка канала и интерпретация канала экспертом. Представленные в данном разделе методы позволяют как найти канал, так и получить его оценку на основе различных параметров. Так как в данных методах присутствует человеческий фактор (итоговое решение принимается экспертом), они более эффективны совместно с системами классификации информации и визуализации данных. Представленные методы, методики и модели будут использоваться как часть комплекса поддержки и принятия решений в рамках анализа распространения вредоносных информационных объектов в социальных сетях. Разработаны методы, модели и методики комплексного распознавания элементов воздействия, включающих анализ вредоносных информационных объектов, каналов распространения, источников атаки и целевой аудитории воздействия. В проекте разработаны интегральные модели предметной области (социальной сети), включающие в себя источники вредоносных информационных объектов, целевую аудиторию, каналы распространения, субъектов, осуществляющих вредоносное воздействие и пр. Методы и методики комплексного распознавания элементов вредоносного воздействия в социальных сетях используют признаки того, что представляет собой вредоносное воздействие, определенные законодательством Российской Федерации, и позволяют осуществлять непрерывный сбор данных из социальной сети. Для подтверждения факта проводимой атаки с целью оказания соответствующего противодействия методики и методы позволяют повести анализ и последующую оценку характера передаваемой информации, источника атаки, целевой аудитории и каналов распространения. Для интеграции вышеперечисленных результатов в рамках общей системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей были разработана общая архитектура системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей. Входными данными для методик являются информационные объекты (посты, комментарии, изображения и т.д.), определенные оператором системы как вредоносные. Также в качестве входных данных могут выступать источники вредоносной информации (профили пользователей, группы, события и т.д.). Разработаны методики, позволяющие выполнить и обратный анализ, когда на основе целевой аудитории (множества профилей пользователей) выявляются источники, которые потенциально могут оказывать на эти профили вредоносное влияние. Далее методика на основе анализа информационных объектов, их источников и целевой аудитории формирует графы, связывающие все эти элементы. В результате анализа вредоносных информационных объектов, каналов распространения, источников атаки и целевой аудитории воздействия обнаруживается и анализируется дополнительная информация, позволяющая оценить общий процесс распространения вредоносной информации. Для предварительной проверки полученных результатов был реализован набор программных прототипов, который обеспечивает сбор, предобработку и приведение данных к заданной модели данных в реляционной базе PostgresQL, NoSQL базе MongoDB и графовой базе OrientDB, а также анализ данных и визуализацию результатов. Данные полученные из API VKontakte переносятся в графовую базу данных OrientDB. С использованием OrientDB была реализована модель связанных данных. Таким образом, данные после загрузки уже можно использовать для анализа с использованием графовых алгоритмов. Анализ данных производится непосредственно в OrientDB с помощью запросов к базе. Для того, чтобы не выгружать большое количество данных из базы данных и не загружать их обратно, используется встроенный в OrientDB сервер с поддержкой JavaScript функций. Функции, реализующие алгоритмы посылают запросы к базе данных и в зависимости от ответа принимают решения какой запрос сделать следующим. Проведенные эксперименты (более подробно представленные в прилагаемых статьях) показали, что разрабатываемые в проекте методы, методики и модели могут быть использованы для распознавания элементов воздействия, включающих анализ вредоносных информационных объектов, каналов распространения, источников атаки и целевой аудитории воздействия. Также в рамках проекта исполнители представили результаты более чем на 10 конференциях в России и за рубежом. Опубликованы 4 публикации, входящие в индексы цитирования Scopus и/или Web of Science. Зарегистрировано 2 программы для ЭВМ. В СПбГУТ им проф. М.А. Бонч-Бруевича проведен курс практик для магистров 1-го семестра 2018/2019, в котором использовались результаты, полученные в рамках проекта.

Аннотация результатов, полученных в 2019 году
Развитие информационных технологий и появление глобальной сети Интернет, социальных сетей, средств массовых коммуникаций подводит научное сообщество к кардинальному пересмотру имевшихся представлений о способах ведения войны и мире. Не только в научных кругах, но и в средствах массовой информации обсуждается аспект, касающийся национальной безопасности, а именно информационно-психологическая безопасность и информационные войны. В стратегиях ведущих стран мира в число сфер ведения боевых действий помимо земли, моря, воздуха и космоса вошло информационное пространство. Наибольшая острота этой проблемы проявляется при попытках распознавания целевых информационных воздействий (атак) на субъектов (индивидуальных или коллективных, например, на человека, семью, группу или организацию) и оказания противодействия таким атакам. Данный проект "Мониторинг и противодействие вредоносному влиянию в информационном пространстве социальных сетей" может быть разделен на 2 основные взаимосвязанные части – мониторинг и противодействие. В рамках мониторинга осуществляется сбор, предварительная обработка и семантический анализ информационных объектов, а также выявление источников, каналов распространения и целевой аудитории вредоносного информационного воздействия. Для успешного противодействия такому влиянию необходимо учитывать возможные меры противодействия, способы выявления цели противодействия, оценку её результативности и осуществлять поддержку принятия решений при выборе наиболее перспективной меры противодействия из доступных. Первый этап анализа социальной сети – это сбор данных. В ходе работы над проектом разработан программный прототип с графическим интерфейсом пользователя, осуществляющий сбор и предварительную обработку разнородных объектов социальной сети. Для анализа собираемых данных были разработаны несколько прототипов: прототип для семантического анализа (анализирует текст методами машинного обучения), прототип для анализа атак (анализ источника атаки и на кого она направлена) и прототип для анализа каналов распространения (анализ того как именно атака распространяется). Для анализа текстового содержимого социальных сетей был разработан прототип компонента семантического анализа вредоносных информационных объектов в социальных сетях, использующий методы интеллектуального анализа данных. В рамках компонента выполняется классификация текстов, которые содержатся в потенциально вредоносных постах в социальных сетях с помощью методов обучения на основе положительных и неразмеченных данных (англ. Positive-Unlabeled learning) и многоклассовой классификации. Разработанный прототип был экспериментально исследован на наборе данных, который содержит посты на шесть потенциально вредоносных тем и текстовую информацию из постов социальной сети на случайную тему. Сравнение результатов экспериментального исследования позволяет сделать выводы о достаточно высоком качестве и стабильной работе предложенного подхода к выявлению вредоносных информационных объектов. Для анализа атак также были разработаны соответствующие методики и программный прототип. Информационная атака в качестве своих составляющих всегда содержит источник атаки и целевую аудиторию. Разница между ними заключается во времени возникновения вредоносных информационных объектов – объекты, размещаемые источником атаки, попадают в заданный экспертом временной интервал [t0, t0+e], остальные объекты, получившие доступ к вредоносным объектам или участвовавшие в их распространи после времени t0+e, относятся к целевой аудитории. Алгоритм анализа источника атаки, имеющей стихийную природу, сегментирует ее аудиторию по степени активности, позволяя тем самым приблизиться к аккаунтам-зачинщикам информационного воздействия. Алгоритм анализа целевой аудитории дает представление о половозрастном характере аудитории воздействия и о ее локации. Предложенные алгоритмы реализованы в программном прототипе, результат их работы в виде графиков и круговых диаграмм доступен в графическом интерфейсе пользователя. Для анализа каналов распространения информации был разработан прототип их анализа. Каналом распространения является аудитория, которая хоть и не является инициатором атаки, но способствует ее распространению. Эту аудиторию можно представить в виде сети, где пользователи и группы, распространяющие информацию, связаны друг с другом. Для анализа были разработаны два модуля: параллельной обработки и визуализации. Модуль параллельной обработки используя GPU анализирует структуру сети и позволяет вычислить: ключевые узлы сети (лидеров мнений), ширину канала, каркас канала, социальные круги канала и оценить затухание информации в канале. Модуль визуализации позволяет визуализировать канал в виде 3D изображения, и оператор может визуально оценить его. Эти модули были реализованы как программные прототипы, а также протестированы на примере анализа 5ти различных каналов распространения. Сбор данных, текстовый анализ, анализ атак и каналов распространения представляют собой звенья одной цепи, называемой мониторингом информационного пространства социальных сетей. Для него был разработан прототип, объединяющий вышеперечисленные прототипы в единую систему. Этап мониторинга состоит из фазы отслеживания, на которой происходит контроль социальных связей и поиск потенциально вредоносных информационных объектов, и фазы выявления опасного влияния, на которой происходит построение графа распространения информации и вычисление мер центральности, отделение источника атаки от целевой аудитории, сегментация и статистический анализ. Разработанный программный прототип реализует все этапы мониторинга и позволяет оператору контролировать весь процесс от обнаружения информационной атаки на этапе сбора данных до визуализации и выгрузки результатов их анализа. Для того, чтобы противодействовать атакам в социальных сетях было необходимо определить: 1) как можно противодействовать атаке? 2) как определить цели противодействия? 3) как определить к какой цели какую меру нужно применять? 4) как оценить эффективность противодействия? Для этого были разработаны соответствующие методы, модели и методики. Способы противодействия многообразны и могут быть классифицированы по различным признакам. Поэтому мы разработали классификацию, которая позволяет разделить способы противодействия на основе объекта, типа, метода, широты и исполнителя воздействия, а также группы, к которой данный способ принадлежит. Разбиение способов противодействия на отдельные группы основано на ожидаемом результате, а именно: переключении внимания, размытии внимания, дискредитации, снижении интенсивности или блокировки объекта воздействия. На основе предложенной классификации, разработана модель способа противодействия. Сформированный список способов противодействия представляет собой единую таблицу, где строки отображают примеры способов противодействия для каждой из выделенных групп, а столбцы - их место в предложенной классификации. Данный список позволит в дальнейшем для каждого из способов определить цели, на которые он должен быть направлен, а также предложить оператору системы наиболее эффективные из них. Для того чтобы выбирать цели противодействия был разработан соответствующий метод. В рамках проекта исследованы структуры социальных сетей и взаимодействия между элементами, способы распространения информации и меры, направленные на противодействия им. На основе исследованных данных построена модель выбора цели для реализации мер противодействия вредоносной информации в социальных сетях. Предложена пошаговая методика оценки сложности для реализации мер противодействия, которая позволяет ранжировать меры по степени сложности их выполнения. При этом настройка системы достаточно гибкая, оператором может быть, как исполнительный орган власти, так и родитель, защищающий ребенка от воздействия вредоносной информации. В зависимости от того, кто является оператором системы, он настраивает ее изначально по методике выбора коэффициентов сложности на основе экспертных оценок. Также в проекте для оптимального применения выбранных мер, предложена методика оценки приоритетов объектов, на которые будет оказываться воздействие в процессе противодействия вредоносной информации. Совокупность разрозненных методик объединена в единый метод, определяющий последовательность выполнения методик и формирование итоговой общей оценки противодействия. После формирования списка мер противодействия и списка целей, оператору системы необходимо принять решение о том, какие меры противодействия и к кому их стоит применять. Для это был разработан метод, который позволяет предоставить меры противодействия и цели воздействия в виде изображения – матрицы. Метод включает в себя три методики: 1) Методика формирования модели визуализации – формирование модели данных необходимых для визуализации. 2) Методика отрисовки модели визуализации в виде матрицы. В данной матрице строки являются объектами, столбцы мерами, а ячейки показателями эффективности. 3) Методика визуального выбора мер противодействия оператором. С помощью данной методики оператор фильтрует и сортирует элементы матрицы, а потом выбирает к кому какие меры стоит применять. Таким образом был разработан метод, который формирует изображение, с помощью которого можно выбрать какие именно меры противодействия следует применять. Для того чтобы оценить эффективность работы противодействия были разработаны методы, модели и методики оценки результативности и эффективности применения мер противодействия вредоносному влиянию в социальных сетях. Под эффективностью, в контексте данного исследования понимается соотношение между достигнутым результатом и использованными ресурсами. Первая разработанная методика оценки эффективности применения мер противодействия основана на использовании различных характеристик информационных объектов и пользователей, например, прироста количества просмотров в единицу времени, прирост количества лайков в единицу времени, прироста количества комментариев в единицу времени, прироста количества репостов. Вторая разработанная методика оценки эффективности применения мер противодействия основана на оценке состояния пользователя в некоторый момент времени, так как конечная цель противодействия вредоносному влиянию в социальных сетях состоит в минимизации заинтересованности пользователя во вредоносном контенте. Предложенные метрики и методики предлагается использовать в рамках интегрированного метода оценки эффективности мер противодействия вредоносному влиянию в социальных сетях. На первом шаге метрики оценки эффективности мер противодействия для каждого класса целей (отдельный информационный объект, пользователь, группа пользователей), могут быть применены для оценки ожидаемого эффекта от принятой меры. Для оценки состояния пользователя по отношению к вредоносному контенту и формирования окончательных выводов относительно эффективности применённой меры противодействия вредоносному влиянию предлагается использовать вторую методику и показатель состояния пользователя социальной сети. Также в рамках выполнения проекта исполнители представили результаты на 5 конференциях в России и за рубежом. Опубликованы 4 публикации, входящие в индексы цитирования Scopus и/или Web of Science и 8 публикаций входящий в систему РИНЦ. Зарегистрировано 4 программы для ЭВМ. На следующий этап проекта (2020-2021 годы) запланированы две защиты диссертаций на соискание степени кандидата технических наук с использованием результатов данного проекта. В Санкт-Петербургском государственном университете телекоммуникаций им проф. М.А. Бонч-Бруевича проведен курс практик для магистров 1-го семестра 2019/2020, в котором использовались результаты, полученные в рамках проекта. URL: http://comsec.spb.ru/ru/projects/ URL: http://comsec.spb.ru/en/projects/83/getfile

Аннотация результатов, полученных в 2020 году
На третьем этапе выполнения проекта были разработаны научно-технические решения в виде алгоритмов, архитектур и программных прототипов следующих компонентов: (1) выявления цели для реализации мер противодействия вредоносному влиянию в социальных сетях; (2) поддержки принятия решений при выборе мер противодействия вредоносному влиянию в социальных сетях; (3) оценки результативности применения выбранных мер противодействия вредоносному влиянию в социальных сетях; (4) комплексного противодействия вредоносному влиянию. Было проведено экспериментальное, экспертное и маркетинговое оценивание разработанных решений. Разработанные по итогам выполнения проекта решения были объединены в информационную технологию мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей. Также даны научно-технические предложения по применению разработанных методов, моделей, методик, алгоритмов, архитектур, программных приложений и технологии. В рамках разработки компонента выявления цели для реализации мер противодействия вредоносному влиянию в социальных сетях разработаны следующие алгоритмы: (1) Алгоритм ранжирования объектов по потенциалу (2) Алгоритм расчета метрик обратной связи от аудитории сообщения, канала распространения, источника или другого возможного объекта воздействия в системе противодействия. (3) Алгоритм сортировки объектов воздействия на основе сведений о потенциале и количественной характеристики об обратной связи от аудитории вредоносной информации в социальных сетях. Также для поддержки принятия решения были предложены алгоритмы ранжирования контрмер и расчета и адаптации метрик сложности реализации мер противодействия, которые обеспечивают учет возможностей и ресурсов организации, эксплуатирующей разрабатываемую систему мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей. Все вместе алгоритмы представляют из себя комплекс алгоритмов выявления цели для реализации мер противодействия вредоносному влиянию в социальных сетях, который отличается от существующих аналогов учетом таких атрибутов как потенциал объекта воздействия, активность аудитории, ранг контрмеры в системе. Одновременно с этим предложена архитектура компонента выявления цели для реализации мер противодействия вредоносному влиянию в социальных сетях, описаны функциональные характеристики входящих к в нее модулей и компонентов. Отдельно описан программный прототип компонента экспертной оценки и ранжирования мер противодействия вредоносной информации в социальных сетях, разработанный в рамках проекта. Компонент поддержки принятия решений при выборе мер противодействия вредоносному влиянию в социальных сетях представляет собой три последовательно выполняющихся модуля: модуль формирования модели визуализации => модуль отрисовки модели визуализации => модуль человеко-машинного взаимодействия. Компонент формирует интерактивную матрицу, которая позволяет выбирать меры противодействия по отношению с объектом воздействия с использованием средств визуальной аналитики. Пары объект-контрмера могут быть использованы как входные данные для системы реализации контрмер. Компонент оценки результативности применения выбранных мер противодействия вредоносному влиянию в социальных сетях представляет собой два модуля: 1) модуль оценки успешности выбранных мер противодействия, осуществляющий контроль динамики изменения степени вовлечения пользователей в потенциально опасную информационную среду и 2) модуль оценки эффективности предпринятых мер противодействия с учетом затраченных на них ресурсов. Каждый модуль архитектурно опирается на представленные ранее подсистемы сбора, хранения, противодействия и отображения результатов. Работа модулей построена на базе разработанных алгоритмов, опрашивающих указанные компоненты и формирующих численные оценки успешности и эффективности выбранных контрмер, которые отображаются в интерфейсе оператора. В рамках разработки компонента комплексного противодействия вредоносному влиянию был представлен алгоритм комплексного противодействия вредоносному влиянию в социальных сетях, состоящий из 3х этапов: (1) запрос на сбор данных; (2) выявление цели для реализации меры противодействия; (3) противодействие вредоносной информации. На первом этапе в алгоритме происходит сбор информации, взаимодействие с системой мониторинга, на втором – выбираются цели, оцениваются объекты воздействия. На третьем этапе в алгоритме оцениваются последствия применения контрмеры, и вычисляются необходимые для реализации этой контрмеры ресурсы, ранжируются контрмеры. Решающее слово останется за оператором системы, оператор выбирает конкретную меру противодействия из списка ранжированных контрмер, с учетом необходимых ресурсов и эффективности выбранной меры для каждой цели. Также предложена архитектура системы противодействия вредоносному влиянию в информационном пространстве социальных сетей и описан программный компонент выявления цели для комплексного противодействия вредоносному влиянию. Были получены оценки методов, моделей, методик, алгоритмов, архитектур и программных прототипов компонентов системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей, которые можно разделить на 2 категории: (1) экспериментальные; (2) маркетинговые и экспертные. Экспериментальные оценки включали: (1) оценку скорости обработки данных и возможности визуализации больших каналов распространения; (2) оценку эффективности сбора, предварительной обработки и хранения информационных объектов на основе применения распределенных интеллектуальных сканеров; (3) оценку программного компонента выявления цели для комплексного противодействия вредоносному влиянию в социальных сетях; (4) оценку программного компонента экспертной оценки и ранжирования мер противодействия вредоносной информации в социальных сетях. Экспертные и маркетинговые оценки включали: (1) маркетинговое сравнение системы мониторинга вредоносной информации в социальных сетях с аналогами; (2) маркетинговое сравнение системы противодействия вредоносной информации в социальных сетях с аналогами; (3) экспертную оценку методом сравнения разработанных в проекте моделей, алгоритмов, методик, методов, архитектур и программных прототипов с аналогами; (4) SWOT-анализ прототипов компонентов системы мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей. В рамках разработки информационный технологии мониторинга нежелательной информации в социальных сетях, были сформированы проблемы обработки информации на разных этапах мониторинга социальных сетей. Разработана архитектура системы мониторинга социальных сетей, позволяющая объединить различные методики, методы, алгоритмы в общую технологию для мониторинга нежелательной информации в социальных сетях. К преимуществам разработанной архитектуры можно отнести возможность изменения структуры внешней системы, без изменения интерфейса взаимодействия. То есть любые доработки внешних систем не затронут функционал системы управления. Другим преимуществом является гибкость системы, что позволяет системе интегрировать другие системы и использовать их функционал в рамках обобщенных интерфейсов взаимодействия. Возможность разбиения общей структуры на подмодули позволяет устанавливать модули (подсистемы) на различные устройства, распределяя нагрузку между оборудованием. Выделение общих интерфейсов позволяет повысить отказоустойчивость и распределять нагрузку не только между оборудованием, но и между подсистемами. В том числе заменять модули со схожим функционал при возникновении поломок, критических ошибок без серьезного влияния на работу системы. В разработанной архитектуре для взаимодействия между системами используется протокол REST, так как он не имеет жесткой структуры передаваемых сообщений, что увеличивает скорость взаимодействия между подсистемами и уменьшает время, необходимое на разработку компонентов (контроллеров). Также проведен анализ проблем подключаемых систем и архитектурные решения для реализации компонентов на этапах сбора, предобработки, хранения и анализа информации. Выделены потоки данных информации между подсистемами и предложены варианты решения. Также были разработаны научно-технические предложения по применению разработанных методов, моделей, методик, алгоритмов, архитектур, программных приложений и технологии мониторинга и противодействия вредоносному влиянию в информационном пространстве социальных сетей, которые подчеркивают и отражают практическую значимость полученных результатов. Показано, каким образом разработанные подходы к анализу социальных сетей могут использоваться на различных государственных уровнях, или в сфере бизнеса. Результаты проекта могут быть использованы для повышения информационной безопасности государства, общества и личности в социальных сетях за счет обоснованного выбора объектов воздействия для мер противодействия. В экстренных ситуациях, связанных с противодействием экстремизму и терроризму, система мониторинга и противодействия может быть настроена таким образом, чтобы противодействие запускалось в автоматическом, а не автоматизированном режиме.