Обзор исследований по применению методов машинного обучения для повышения эффективности фаззинг-тестирования

Данная статья представляет собой детальный обзор существующих исследований на тему применения методов машинного обучения, с целью повышения эффективности проводимого фаззинг-тестирования. Технологии фаззинг-тестирования появилась еще в 1988 году, но со временем о ней забыли. Две важные тенденции развития современной индустрии производства программного обеспечения позволяют по-новому взглянуть на эту технологию. С одной стороны, при постоянном увеличении объема и сложности ПО любые автоматические средства обнаружения ошибок и контроля качества могут оказаться полезными и востребованными. С другой — непрерывный рост производительности современных вычислительных систем позволяет эффективно решать все более сложные вычислительные задачи. Повышение эффективности фаззинг-тестирования является актуальной проблемой в области информационной безопасности, что подтверждается руководящими документами Федеральной службы по техническому и экспортному контролю России по безопасной разработке программного обеспечения. Интеграция фаззинг-тестирования в процесс разработки программного кода позволяет выявлять ошибки и уязвимости на ранних стадиях разработки. В статье представлена наиболее полная классификация современных фаззеров. Рассмотрены ключевые проблемы, характерные различным типам существующих фаззеров, а также представлены существующие варианты их преодоления и недостатки существующих решений. Также в статье рассмотрены текущие подходы к применению методов машинного обучения на различных этапах фаззинг-тестирования с реальными примерами работ зарубежных ученых. Был произведен сравнительный анализ существующих работ по данной тематике и сделаны выводы, наглядно демонстрирующие повышение эффективности фаззинга при применении методов машинного обучения. Оценка эффективности фаззинга проводилась по двум направлениям: по эффективности применения машинного обучения для фаззинга, а также по улучшению возможности обнаружения уязвимостей. Наглядно представлено улучшение результатов фаззинг-тестирования при применении методов машинного обучения. В статье также предложены актуальные направления для внедрения методов машинного обучения с целью повышения эффективности фаззинг-тестирования.

Исследование некоторых трудноразрешимых задач на классе предфрактальных графов с изменяемым траекторным порождением

Трудноразрешимые задачи на графах, такие как перечисления, выделение подграфов с заданными характеристиками, становятся особо актуальными на больших графах и сетях. При этом изменчивость и динамичность сетевых структур приводит к «дополнительному» усложнению поиска решения задач дискретной оптимизации. Для решения таких задач предлагаются частные постановки с ограничениями, и выделяются подклассы графов, для которых можно найти решения при определенных условиях. В работе предлагается класс предфрактальных графов и исследуются частные постановки NP-полных задач: изоморфизм подграфу, остов ограниченной степени, остов с максимальным числом висячих вершин, сбалансированный полный двудольный подграф, двудольный подграф, планарный подграф. Выделены условия, при которых для некоторых подзадач возможно получить ответ о существовании и построить полиномиальные алгоритмы поиска решений. Для примера предложены алгоритмы поиска остовных деревьев и упаковки двудольных графов. Разработанные алгоритмы являются полиномиальными и основаны на известных алгоритмах, которые используются в виде процедур. В работе фактически предлагается использовать класс предфрактальных графов в качестве инструмента исследования NP-полных задач и выделения условий их разрешимости. Разработка полиномиальных алгоритмов для динамических графов позволит решать с улучшенными характеристиками такие известные прикладные задачи как выделение подграфов в больших динамических сетях — выделение сообществ в социальных сетях; решение многокритериальных задач в транспортно-логистических системах большой размерности; поиск и выделение ddos-атак в криптовалютных системах и многие другие задачи.

Алгоритмические способы построения сверхразрешения видеоданных в условиях аппликативных помех с использованием глубоких нейронных сетей

Рассмотрена задача построения алгоритмов сверхразрешения для видеопоследовательностей, решение которой обеспечивает повышение разрешения формируемых кадров после обработки нескольких кадров исходной последовательности низкого разрешения. Особенностью решаемой задачи является наличие искажений, обусловленных воздействием аппликативных помех. Последние проявляются в виде распределённых участков аномальных наблюдений или областей закрытия на исходных кадрах и могут рассматриваться как дополнительный фактор снижения разрешения входных изображений. Проанализированы существующие подходы и алгоритмы построения сверхразрешения изображений и видеоданных, в том числе в условиях воздействия аппликативных помех. Рассмотрены два подхода к синтезу алгоритмов сверхразрешения видеоданных на основе использования глубоких свёрточных нейронных сетей, обрабатывающих данные в скользящем во времени окне, захватывающем нескольких кадров, лежащих до и после текущего кадра, и формирующих для него изображение более высокого качества. Первый алгоритм основывается на использовании двухвходовой нейронной сети в виде направленного ациклического графа и реализует итеративный подход для формирования очередного кадра видеопоследовательности. Второй алгоритм основан на модификации данной нейронной сети с учётом особенностей обработки видеоданных, позволяющей повысить быстродействие за счет обеспечения поступления на вход сразу всех кадров в пределах скользящего окна. Проведено экспериментальное исследование синтезированных алгоритмов, результаты которого показали, что первый алгоритм имеет большее качество формирования изображений высокого разрешения по сравнению со вторым, но существенно уступает ему в быстродействии. Рассмотрена задача устранения нежелательных движущихся объектов на видеопоследовательностях, закрывающих области с полезной информацией, которую также можно рассматривать как задачу устранения аппликативных помех. Предложен относительно простой алгоритм сегментации областей аномальных наблюдений на кадрах видеопоследовательности, основанный на сравнении очередного кадра с эталонным изображением и проведении последовательности морфологических операций.

Нейронные сети lstm и gru в приложении к задаче многоклассовой классификации текстовых постов пользователей социальных сетей

В данной статье рассмотрены две архитектуры нейронных сетей глубинного обучения — long short-term memory (LSTM) и gated recurrent units (GRU). Данные модели предлагается применить к задаче многоклассовой классификации постов пользователей социальных сетей, при этом результаты классификации используются для построения эмпирического распределения постов пользователя между классами, которое, в свою очередь, применяется в частичной автоматизации процесса оценки степени выраженности психологических особенностей пользователей. Целью исследования является повышение точности многоклассовой классификации постов пользователей посредством разработки и внедрения новых моделей второго уровня иерархического классификатора. Теоретическая значимость исследования заключается в построении новых более точных моделей классификации, которые лягут в основу моделей оценки выраженности личностных особенностей пользователей. Практическая значимость заключается в улучшении автоматизированной системы классификации постов, которая дополнит существующий прототип программы для анализа защищенности пользователей от социоинженерных атак. Новизна результата заключается в создании нового способа решения актуальной задачи автоматизированной классификации постов, позволяющего достигать большей точности классификации по отношению к существующим ранее способам. Лучший результат классификации показала модель на основе архитектуры LSTM (F1-micro 0.766, F1-macro 0.734, Accuracy 0.793).

Построение гибридной рекомендательной системы

В статье рассматривается решение задачи об информировании пользователя об услуге, наиболее интересной для него в данный момент времени. Для этого проведен анализ современных подходов построения рекомендательных систем, выявлены их преимущества и недостатки. Основные из них — это проблема холодного старта, плохие предсказания для нетипичных пользователей, ресурсоемкость вычислений, тривиальные предсказания. Далее рассмотрены метрики оценки качества таких систем. Разработано несколько рекомендательным систем со следующими подходами: система, использующая коллаборативную фильтрацию по пользователям, система, использующая коллаборативную фильтрацию по предметам, система категориальных интересов, Slope one подход. Для поиска похожих пользователей или предметов в системе, использующей коллаборативную фильтрацию, использовался метод k-ближайших соседей. На основе полученных данных предложено построение гибридной рекомендательной системы, которая компенсирует недостатки каждого из рассмотренных подходов. Персонализированный подход основан на байесовском рейтинге. Не персонализированный подход основан на алгоритмах Slope One и коллаборативной фильтрации по предметам. В случае, когда пользователь не оценивал какие-либо услуги, рекомендации строятся с помощью подхода коллаборативной фильтрации по пользователю, на основе его просмотров и покупок. Проводится обучение и тестирование алгоритмов для организации построенных рекомендательных систем. Таким образом, реализована рекомендательная система для услуг, способная формировать рекомендации как для зарегистрированных, так и для незарегистрированных пользователей. Анализ эффективности рекомендательных систем был проведен с помощью датасета Amazon review data. На основе полученной информации разработанная гибридная рекомендательная система приводит к лучшему решению.

Универсальная рекуррентная модель управления транспортными потоками в классе микроскопических моделей

Работа посвящена исследованию универсальной рекуррентной модели управления транспортными потоками и ее применению для моделирования и управления транспортом в сети городских дорог. Показано, что данная модель, построенная на основе теории управляемых сетей, является дискретной графовой моделью, учитывает неопределенности и позволяет решать задачи оптимального управления задержками рабочих фаз светофоров в классической постановке. Модель эффективно описывает подсети дорог при наличии данных о возможных маневрах, их вместимости, данных об ограничениях на количество машин на участках, о распределении потоков между различными направлениями и т.д. В случае наличия участков с частично неизвестными параметрами предложено аппроксимировать такие участки с помощью искусственных нейронных сетей и использовать гибридную модель, состоящую из универсальной рекуррентной модели и нейронных сетей. Описана структура гибридной модели. Гибридная модель позволяет получать детальное моделирование для наиболее важных участков сети, существенно уменьшить объем собираемых данных для моделирования и одновременно справиться с неполнотой информации о параметрах некоторых подсетей. Для подтверждения работоспособности всей гибридной модели, а также с целью поиска других видов гибридизации, в статье приводится методический пример расчета для нескольких тактов управления по универсальной рекуррентной модели. Универсальная рекуррентная модель сравнивается с другими наиболее популярными микроскопическими моделями транспортных потоков, моделями на основе клеточных автоматов, следования за лидером и предикатов. Представлен сравнительный анализ рассмотренных моделей по виду представления сетей, пространства, времени и пр.

Автоколебания в системе с гистерезисом: метод малого параметра

В работе исследуется модифицированное уравнение Ван-дер-Поля с гистерезисной нелинейностью, формализованной в рамках операторного подхода, а именно посредством оператора Прейзаха — континуального аналога преобразователя, состоящего из семейства неидеальных реле соединенных параллельно. Рассматриваемая в работе система является математической моделью электрической системы аналогичной классическому оператору Ван-дер-Поля, в которой характеристика нелинейного звена обладает гистерезисными свойствами. Основной метод исследования указанной системы — классический метод малого параметра. С помощью этого метода получено аналитическое решение изучаемой системы, для модифицированного осциллятора в условиях наличия и отсутствия внешнего гармонического воздействия. Приведены результаты численного моделирование поведения осциллятора, а также проведен сравнительный анализ динамики рассматриваемой системы с динамикой классического осциллятора Ван-дер-Поля. Исследованы динамические режимы модифицированного осциллятора в зависимости от параметров системы. Приведены спектральные характеристики в сравнении с соответствующими характеристиками классического осциллятора Ван-дер-Поля. Построены бифуркационные диаграммы, иллюстрирующие переход от регулярной динамики к хаотической через каскад бифуркаций и удвоение периода. Построена зависимость амплитуды вынужденных колебаний от амплитуды внешней гармонической силы, при различных параметрах системы.

Построение нелинейной свертки частных критериев эффективности в задаче векторной оптимизации

В работе рассмотрены способы построения линейной и нелинейной сверток частных критериев (показателей) эффективности функционирования исследуемых объектов. Во втором случае решена задача выбора для каждого такого критерия лучшего преобразования, выбранного из набора таких преобразований, представляющих собой, в том числе, элементарные функции. Разработанные алгоритмы основаны на использовании как информации о значениях критериев для каждого объекта, так и специальным образом сформированной экспертной информации. Последняя имеет «мягкий» характер и касается лишь фиксации факта либо равной, либо более высокой эффективности функционирования одного объекта по отношению к другому, без какой-либо количественной оценки степени такого превышения. И лишь в дальнейшем, в рамках предложенного алгоритма, эта, по существу, качественная информация, приобретает отчасти количественный характер. Как для линейной, так и для нелинейной сверток рассмотрены случаи непротиворечивой и противоречивой экспертной информации. Для первого из них целевая функция сформированной задачи линейного программирования представляет собой максимизацию разрешающей способности системы линейных неравенств, во втором — минимизацию суммарных искажений, внесенных в систему ограничений для обеспечения ее совместности. Такой прием используется в теории решения некорректных задач и основан на определении их так называемых квазирешений. При выборе лучшего преобразования для каждого частного критерия предложено решать задачи линейно-булевого программирования.

Прогностическая метеорологическая модель на основе графических фигур фиксированной длины

Представлено решение задачи повышения успешности прогнозирования метеорологических величин при ограниченном объеме исходной информации. В качестве инструмента для предсказания погодных условий предлагается использовать прогностические метеорологические модели на основе графического анализа временного ряда метеорологических величин. Построение данных моделей проводится с использованием методов технического анализа, теории вероятности, теории больших чисел, логического исчисления и комбинаторики. В качестве основного инструмента используются графические фигуры, определяемые на основе анализа хронологических рядов значений атмосферных параметров и отражающие закономерности их изменчивости. В процессе практического использования предложенной модели оцениваются условные вероятности возможных путей развития атмосферных процессов, и выбирается наиболее вероятный в сложившейся ситуации исход. Полученная метеорологическая модель успешно апробирована при прогнозировании высоты нижней границы облачности и дальности видимости в Арктической зоне Российской Федерации, специфической особенностью которой является разреженная сеть метеорологических станций. Характеристики успешности разрабатываемых на ее основе прогнозов существенно превышают аналогичные показатели существующих методов.

Отбор значимых по критерию Стьюдента информативных регрессоров в оцениваемых с помощью МНК регрессионных моделях как задача частично-булевого линейного программирования

Настоящая статья посвящена проблеме отбора фиксированного числа информативных регрессоров в оцениваемых с помощью метода наименьших квадратов линейных регрессионных моделях. В современных научных работах для решения этой задачи применяется хорошо развитый за последние годы аппарат целочисленного математического программирования. В большинстве этих работ задача отбора регрессоров формализована в виде задач частично-квадратичного линейного программирования. Относительно недавно начали появляться статьи, в которых авторы стремятся сформулировать единую задачу математического программирования, которая параллельно с отбором факторов гарантирует построение регрессии, удовлетворяющей различным статистических тестам. Данная работа является логическим продолжением предыдущих статей автора, в которых задача отбора информативных регрессоров формализована в виде задачи частично-булевого линейного, а не квадратичного, программирования. Ранее уже были рассмотрены способы контроля в этой задаче степени мультиколлинеарности. В данной статье с помощью известного подхода к определению наблюдаемых значений t-критерия Стьюдента, основанного на вычислении частных F-критериев, в упомянутую задачу частично-булевого линейного программирования были интегрированы линейные ограничения на степень значимости коэффициентов регрессии. Сформулирована двухкритериальная задача, позволяющая строить модель с позиции соотношения «качество — значимость», и трехкритериальная задача, осуществляющая построение регрессии с позиции соотношения «качество — мультиколлинеарность — значимость». Успешно проведены вычислительные эксперименты, подтверждающие корректность предложенного математического аппарата.