Руководитель Центра мониторинга, Angara SOC Технологии машинного обучения все стремительней входят в нашу жизнь и находят применение в различных сферах деятельности. В медицине развивается диагностика различных заболеваний и методов лечения. В автомобильной промышленности машинное обучение успешно применяется в сервисах для помощи водителю и готовится полноценно забрать управление автомобилем на себя. В финансовой сфере ML используется для прогнозирования рынка и определения рисков. А что происходит в сфере информационной безопасности? В ИБ технологии машинного обучения успешно применяются в системах защиты информации, таких как IDS/IPS, WAF, Antivirus, Anti-phishing и т.д. Все эти СЗИ обрабатывают огромные объемы данных, и выявление атак сопряжено с большой вариативностью техник злоумышленника. Конечно же сигнатурный анализ не готов уйти в историю и является основой для выявления угроз, но есть ряд существенных ограничений. В основном, правила направлены на выявление известных техник и не всегда способны учесть все возможные вариации, т.е. направлены на выявление ряда частных случаев. Соответственно, выявление неизвестных атак достаточно проблематично. К тому же количество правил/сигнатур стремительно растет, что затрудняет их сопровождение и приводит к высокому потреблению вычислительных мощностей. Модели машинного обучения позволяют решить эти проблемы, так как способны обучаться на больших данных и выявлять аномальные паттерны, которые невозможно учесть при сигнатурном анализе. В современных СЗИ данные технологии применяются совместно и дополняют друг друга. Аналогичные проблемы существуют и в SOC относительно методик выявления инцидентов ИБ. Основой являются правила корреляции SIEM, которые в отдельных кейсах стремятся покрыть выявление всех возможных атак, но не могут этого сделать в виду различных ограничений. В отличие от СЗИ машинное обучение в инструментах SOC развито достаточно слабо. Мы тестировали ряд систем, таких как Anomaly Detection и UEBA, но широкого применения в SOC они не нашли из-за большого количества ложных срабатываний. Других инструментов, направленных на выявление инцидентов ИБ, нам, к сожалению, найти не удалось. Как говорится, хочешь сделать хорошо - сделай сам! Вооружившись этой идеей, мы решили выделить некоторые точечные кейсы, с проблематикой описанной выше, и автоматизировать выявление с применением машинного обучения. В данной статье мы поделимся нашим опытом на примере выявления вредоносного кода PowerShell, соберем нейронную сеть и рассмотрим варианты ее использования совместно с SIEM. Итак, что мы знаем о PowerShell? Это командный интерпретатор, встроенный в ОС Windows, который широко используется злоумышленниками при проведении различных атак, более подробно описан в T1059.001 MITRE. Существует большое количество инструментов на языке PowerShell, которые могут применяться как в составе ВПО, так и непосредственно злоумышленником при компрометации системы. PowerSploit, Empire, Nishang – это лишь малая часть общеизвестных коллекций подобных утилит для автоматизации действий злоумышленника, направленных на сбор информации, эксплуатацию уязвимостей, повышение привилегий и т.д. Но в каждой организации IT-служба использует и легитимные скрипты для автоматизации администрирования. Отличить легитимное от вредоносного иногда довольно сложно, а проанализировать миллионы скриптов для написания правил скорее невозможно.  Идея заключается в том, чтобы подготовить большой набор скриптов, классифицировать их и обучить на этом наборе модель нейронной сети. В результате обучения модель самостоятельно проанализирует образцы кода и выделит паттерны, свойственные как для легитимных, так и для вредоносных скриптов. Т.е. передать модели ту работу, которую лень проблематично сделать человеку. Хитрый план 😊, не правда ли?  Для начала нам необходимо сформировать датасет из отсортированных образцов кода PowerShell. Для экономии времени мы будем использовать уже готовый, доступный по этой ссылке. К данному датасету прилагается ресерч, в котором авторы объясняют принципы, по которым им удалось классифицировать образцы с применением классических моделей машинного обучения, таких как Random Forest. Мы же будем нарабатывать свой опыт с использованием алгоритмов глубокого обучения, т.е. искусственных нейронных сетей.  Нейронные сети обучаются на основе большого количества данных, они адаптируют свои веса, чтобы оптимизировать способность к распознаванию и классификации паттернов в данных. Сама сеть состоит из множества слоев с заданным количеством нейронов, каждый из которых выполняет вычисления над данными. Нейроны связанных между собой слоев имеют взаимосвязи в виде веса, т.е. величину связи. Обучение нейронных сетей обычно происходит с использованием алгоритмов обратного распространения ошибки, которые корректируют веса нейронов на основе разницы между предсказанными и фактическими значениями. Таким образом в ходе обучения проводится своего рода «работа над ошибками», в результате которой улучшается качество работы сети. Скачаем и распакуем датасет. Из описания следует: malicious_pure: содержит образцы вредоносного кода; powershell_benign_dataset: содержит легитимные образцы кода; mixed_malicious: в легитимный код встроены вредоносные элементы. Файлы из mixed_malicious мы не будем использовать, чтобы не внести дисбаланс в текущий датасет, и оставим их для самостоятельных экспериментов. Итого имеем две части датасета для бинарной классификации: вредоносный/легитимный. Создадим еще две директории для тестирования модели и переместим в них файлы: test_ds_bad: 100 вредоносных образцов из malicious_pure; test_ds_valid: 100 легитимных образцов из powershell_benign_dataset. Проектировать модель нейронной сети мы будем на языке Python с использованием библиотеки TensorFlow. При построении модели будем придерживаться концепции классификации текстовой информации, в нашем случае в виде текста будет выступать код PowerShell. Импортируем необходимые модули: Напишем функцию, которая считает все файлы из директории, удалит ненужные знаки форматирования и поместит данные в массив. Загрузим датасет из директорий и создадим массивы с метками:  0: для легитимного кода; 1: для вредоносного; Т.е. для решения нашей задачи мы будем использовать 2 категории: 0 и 1. На текущий момент у нас есть два массива с данными и два с метками. train_ds мы будем использовать для обучения, а test_ds  - для оценки модели.  Далее необходимо преобразовать данные таким образом, чтобы модель могла оперировать определенными значениями – токенами. Для нас это будут элементы кода, такие как название переменных, функций, командлеты PowerShell и даже слова из комментариев. Для модели токены будут преобразованы в числовые значения.  Реализуем следующие идеи: 1) Заменим громоздкие массивы Base64, которые встречаются в коде на наш единый токен base64_string. Для модели подобные массивы будут бесполезны, т.к. будет много уникальных значений. Модель будет анализировать информацию в виде чисел и не сможет отличить Base64, скажем, от другого слова. Введение подобного токена поможет акцентировать на этом внимание. 2) Заменим IP адреса на два вида токенов: external_ip для внешних адресов и internal_ip для внутренних. IP адреса встречаются как в легитимном коде, так и во вредоносном, при этом нам совершенно не важно, что это за адрес. Достаточно понимать, внутренний он или внешний. 3) Часть спецсимволов будем использовать как разделитель. Скобки, кавычки и прочие элементы кода не несут особой смысловой нагрузки для решения нашей задачи, при этом мы будем использовать их в качестве разделителя и заменим на пробел. 4) Удалим лишние пробелы и мусор для того, чтобы уменьшить объем кода. 5) Приведем все символы к нижнему регистру, чтобы стандартизировать токены. Посмотрим, что из этого получилось. Отлично, вроде бы все планируемые преобразования работают, как задумано. Выведем статистику по тренировочному датасету: Эта статистика поможет нам определится с несколькими значениями, которые будут влиять как на потребление вычислительных мощностей при обучении, так и на точность. Это максимальная длина одного образца в токенах и размер словаря (количество уникальных токенов).  Самый большой образец в нашем датасете состоит из 29572, при этом 97% образцов не превышают 1589. Нам необходимо стандартизировать максимальное значение токенов в образцах, прежде чем мы будем переводить их в числовые значения для обучения модели. Все образцы с меньшим количеством токенов будут заполнены нулями до максимального значения. Слишком большие значения могут существенно повлиять на производительность.  В нашем примере возьмем небольшой запас и обрежем все строки, превышающие 2000 токенов. Тренировочный датасет необходимо разделить на 2 части: для тренировки и валидации. Валидационная часть будет состоять из 20% случайно взятых образцов и использоваться для оценки эффективности обучения модели на каждой отдельной эпохе (итерации обучения). Преобразуем метки, объединим их с данными и окончательно сформируем датасеты: train_dataset: для тренировки; val_dataset: для валидации; test_dataset: для тестирования. Кодирование меток при помощи OneHotEncoder позволит создать по отдельному столбцу, содержащему бинарные значения (true\false) для каждой категории (0 и 1).  Слой TextVectorization используется для векторизации текстовых данных. Векторизация текста подразумевает преобразование текстовых строк в числовой формат, который может быть использован алгоритмами машинного обучения. После применения слоя TextVectorization, каждая текстовая строка будет представлена в виде числового вектора, где каждая компонента вектора соответствует определенному токену из текста.  Настроим слой и создадим словарь токенов на основе тренировочных данных. В качестве значения для максимального размера словаря возьмем 90000 самых часто встречающихся токенов по информации из статистики. Слой Embedding используется для преобразования целочисленных индексов в плотные векторные представления (эмбеддинги), которые представляют семантическую схожесть и отношения между токенами. Создание эмбеддингов позволяет представить токены в непрерывном пространстве, где близкие по смыслу токены имеют близкие векторные представления.  Модель должна состоять из входного слоя, скрытых слоев и выходного слоя. Входной слой принимает данные и передает их в нижестоящий слой. Скрытые слои представляют из себя серию слоев с нейронами, которые обрабатывают данные. Выходной слой возвращает результат работы сети. Мы будем использовать следующую модель: Входной слой inputs принимает входные данные и передает их слою text_vectors для векторизации. Векторы преобразуются в эмбеддинги при помощи слоя token_embeddings. Слой Convolution1D применяет операцию свертки на входные векторные данные с использованием 32 фильтров и размером ядра 32. Данный слой позволяет автоматически извлекать локальные признаки из одномерных данных. MaxPooling1D уменьшает размерность фильтрованных признаков путем выбора наибольшего значения в каждом окне заданного размера, это позволит уменьшить количество вычислений в модели. Bidirectional LSTM использует двунаправленную LSTM. LSTM позволяет модели учитывать контекст и последовательность данных при прогнозировании результатов. На выходном слое данные будут классифицироваться двумя нейронами. Мы получим вероятностную величину для каждого класса, т.е. на сколько образец относится к вредоносному коду (1) и к легитимному (0). Таким образом в текущей модели будет использоваться комбинация слоев, свойственных как сверточным сетям (Convolutional Neural Networks), так и рекуррентным (Recurrent Neural Networks). Скомпилируем и выведем информацию по нашей модели: Создадим callback для сохранения модели с лучшими показателями val_accuracy на диск: Запустим обучение модели на 15 эпохах. Эпоха — это одна итерация обучения, на которой модель обучится на 100% образцов. Во время эпохи модель обновляет веса на основе ошибок, вычисленных на каждом шаге.  На шаге модель делает предсказания, руководствуясь значениями текущих весов по небольшому количеству образцов. Это количество в нашем случае равно 16 образцов, мы задали его при формировании датасета: train_dataset.batch(16). Одной эпохи, как правило, недостаточно для достижения хорошего результата, поэтому модель обучают на нескольких. В конце каждой эпохи модель сделает предсказание по валидационным данным и рассчитает результаты в виде метрик val_loss и val_accuracy. Это своего рода «экзамен» на неизвестных данных, результаты которого покажут динамику прогресса обучения. Построим графики статистики обучения: По результатам обучения видно, что после 10-й эпохи показатель потерь на валидационных данных val_loss стал расти и точность val_accuracy уже не показала лучших результатов. Это связано с переобучением модели. Потери модели – это метрика, которая измеряет, насколько предсказанные значения отличаются от правильных на определенном наборе данных (тренировочном или валидационном). Чем меньше эта метрика, тем лучше. Переобучение – это явление, при котором модель показывает хорошие результаты на тренировочных данных, но на валидационных показатель потерь растет и точность падает. Т.е. модель уже не ищет закономерности для предсказания результата на неизвестных ей данных, а просто «заучивает» тренировочные. Именно для этого мы и сделали callback, чтобы сохранить модель с максимальной способностью для предсказания. Тем не менее на тренировочных данных модель на лучшей 10-й эпохе смогла правильно классифицировать 99.73% образцов, а на валидационных - 99.16%. Так как показатели потерь достаточно низкие и разница между accuracy и val_accuracy небольшая, можно сделать вывод, что модель хорошо справляется с нашей задачей. Попробуем загрузить обученную модель из сохраненных файлов и классифицировать на ней наш тестовый и валидационный датасеты, т.к. они не участвовали в процессе обучения. Это позволит нам оценить результаты обучения модели. Accuracy, Precision, Recall и F1-мера являются популярными метриками, используемыми для оценки результатов обучения. Более подробно о метриках можно почитать тут или тут. Accuracy — это общая доля правильно классифицированных образцов (как 1, так и 0) от общего числа образцов в наборе данных. Accuracy измеряет общую способность модели правильно предсказывать результаты. Precision (точность) — это доля верно предсказанных положительных классов от всех прогнозируемых положительных классов. Высокое значение precision означает, что модель имеет низкую вероятность предсказывать ложно положительные результаты. Recall (полнота) — это доля верно предсказанных положительных классов от всех объектов положительных классов. Высокое значение recall означает, что модель имеет низкую вероятность пропустить реальные положительные результаты. F1-мера является гармоническим средним между precision и recall. F1-мера является показателем баланса между точностью и полнотой. В нашем случае значения точности, полноты и F1-меры очень близки друг другу и могут подтвердить хорошие результаты обучения. По тестовым данным 100% образцов классифицированы правильно. Это говорит скорее о том, что 200 образцов, которые мы изъяли из общего датасета, содержали очень знакомые паттерны, по которым модель без особого труда смогла верно предсказать результат. Конечно же подобная оценка модели далеко не идеальна, т.к. на других данных могли быть существенные отличия в результатах. Да и в целом все этапы построения модели являются всего лишь Proof of concept (POC), нежели Best practice. Абсолютно все можно сделать лучше и оптимизировать под конкретную задачу.  Обратите внимание, что разделение датасета на тестовый и валидационный осуществлялось путем случайного отбора. В таком случае, например, часть «сложных» образцов может попасть только в валидационные данные, и модель просто не сможет по ним корректно обучиться. Каждый цикл обучения будет уникальным, и на выходе могут быть разные результаты. Это можно компенсировать введением статичного разделения и руками перебирать тысячи образцов, что слишком трудозатратно, на мой взгляд. К тому же размер текущего датасета слишком мал для глубокого обучения и не подходит для боевой модели. Необходимо собрать как минимум десятки тысяч образцов, содержащих как реальные примеры скриптов, используемых в целевой инфраструктуре, так и образцы актуальных инструментов, используемых при проведении атак. Усложнение датасета приведет к тому, что придется пройти все шаги заново и оптимизировать модель, именно тогда она сможет показать очень достойные результаты. В ходе оптимизации можно будет экспериментировать с составом и объемом слоев, скоростью обучения и другими параметрами. Хочу посоветовать материалы от Microsoft с описанием модели, используемой в Windows Defender. В них описана аналогичная модель по архитектуре, но она обрабатывает два входных потока данных, что приводит к хорошей прибавке в точности на сложных датасетах.  Итак, у нас есть обученная модель, но что же с ней делать, если в вашей SIEM нет такого функционала? Придется сделать его самому! Практически все SIEM поддерживают запросы к БД через API, соответственно, мы можем запросить любое событие и обрабатывать его за пределами системы. Источником данных для решения нашей задачи будут являться журналы ОС Windows, которые подключены и анализируются любым SOC. Нас интересует журнал «PowerShell Operational», а конкретно событие ID 4104. В поле «ScriptBlockText» содержатся фрагменты кода PowerShell, который запускается в ОС. Большие скрипты разбиваются на несколько фрагментов, что для нас является больше плюсом при стандартизации максимальной длинны образца. Обфускация кода злоумышленником также становится меньшей проблемой, т.к. сам PowerShell (v5.1+) проведет деобфускацию перед запуском и запишет отдельное событие с исходным кодом.  Необходимо написать скрипт (ML client), который запросит события из SIEM, обработает данные таким же образом, как мы их готовили выше, и передаст в обученную модель. Модель вернет вердикт, который можно записать в исходное событие в виде тега или отдельного поля.  Далее при помощи правил корреляции можно обрабатывать события с тегом, вносить исключения и передавать алерты в IRP-систему для анализа. На практике подобная модель генерирует единичные ложные срабатывания при обработке нескольких сотен тысяч образцов, что, на мой взгляд, является хорошим показателем для использования в SOC.  Использование моделей машинного обучения совместно с классическим сигнатурным анализом имеет большой потенциал для развития методов выявления инцидентов ИБ. При помощи данного подхода выявление неизвестных угроз уже не звучит так футуристично. На рассмотренном нами примере модель самостоятельно выделила паттерны для классификации кода, которые невозможно учесть в правилах корреляции. Только представьте, сколько кейсов обладают подобной проблематикой и могут быть автоматизированы. Помимо новых методов выявления инцидентов, машинное обучение сможет помочь и в повышении точности работы самих правил корреляции, фильтрации ложных срабатываний, автоматизации алгоритмов расследования и многих других задачах SOC.