Применение генетических алгоритмов при генерации тестов для программ, содержащих обработку исключений

УДК 004.415.532.3

ПРИМЕНЕНИЕ ГЕНЕТИЧЕСКИХ АЛГОРИТМОВ ПРИ ГЕНЕРАЦИИ ТЕСТОВ ДЛЯ ПРОГРАММ, СОДЕРЖАЩИХ ОБРАБОТКУ ИСКЛЮЧЕНИЙ

А.М. Кармушинский, Т.А. Павловская

Рассмотрены проблемы автоматической генерации тестовых данных для программ, написанных на объектно-ориентированном языке и содержащих конструкции обработки исключений. Описаны преимущества применения генетических алгоритмов на этапе поиска тестовых данных. Предложен алгоритм поиска тестов для интеграционного тестирования объектно-ориентированного кода, описана его реализация и апробация. Ключевые слова: генерация тестовых данных, обработка исключений, генетические алгоритмы.

Введение

При тестировании программного обеспечения часто требуется найти тестовые наборы, покрывающие специфичные особенности программы. Отыскивать такие тесты вручную - процесс чрезвычайно долгий и трудоемкий, особенно когда программа сложная, поэтому в последнее время прилагаются усилия к созданию средств, автоматизирующих этот процесс, т.е. разработке методов автоматизированной генерации тестовых данных (АГТД). Большинство существующих методов поиска тестовых данных ориентированы на структурные языки программирования, в то время как объектно-ориентированные языки программирования (ООЯП) гораздо более сложны в тестировании. Наследование, полиморфизм, обработка исключений, события и прочие механизмы ООЯП привносят неявный поток управления.

Все ООЯП являются событийно-управляемыми, т.е. передача управления внутри программы выполняется как прямо (непосредственный вызов одних функций из других), так и косвенно (посредством генерации сообщений одним объектом и передачи их другим объектам для обработки). Механизм обмена сообщениями характеризуется тем, что при выполнении программы после обработки сообщения контроль всегда возвращается вызывающему объекту. Основными источниками сообщений в ООЯП являются события (например, event в С#), асинхронные вызовы (которые, по сути, являются комбинацией событий) и исключения (exceptions). Механизм обработки исключений представляет собой последовательность выброса исключения и его обработки либо в том же методе, в котором оно было выброшено, либо в одном из вызывающих (объемлющих) методов, находящихся ниже в стеке вызовов [1]. Сообщение генерируется в том случае, если при выбросе исключения управление передается в один из вызывающих методов.

Учитывая вышеизложенное, тестирование программы, написанной на ООЯП, можно разбить на два уровня: модульное тестирование, при котором каждый класс тестируется отдельно (при этом используются методы структурного тестирования, применимые для процедурных языков), и интеграционный (необходима адаптация существующих методов АГТД к механизму обмена сообщениями в ООЯП).

На уровне модуля тестирование каждого класса начинается с построения управляющего графа каждого класса программы, затем выбирается критерий покрытия структурных элементов программы (покрытие операндов, дуг или путей) и разрабатывается алгоритм нахождения входных тестовых данных, удовлетворяющих выбранному критерию. На интеграционном уровне каждая функция в классе является «черным ящиком», а механизм обмена сообщениями отражается диаграммой последовательностей, которая является формальной спецификацией программы. При этом осуществляется переход от структурной модели программы к ее поведенческой модели.

Целью данной работы является разработка и апробация нового метода АГТД, использующего метод глобальной оптимизации на основе генетического алгоритма. Предлагаемый метод адаптирован для решения проблемы тестирования объектно-ориентированного кода, содержащего, в частности, обработку исключений как один из аспектов событийно-управляемой модели.

Существующие методы АГТД

Перечислим существующие техники АГТД, применяемые при тестировании процедурного программного обеспечения:

- символьное выполнение;

- тестирование на основе ограничений;

- случайное тестирование;

- локальный и глобальный поиск (моделирование отжига, метод Миллера-Спунера, метод вариации переменной Корела, цель-ориентированный метод, генетические алгоритмы, алгоритмы роевого интеллекта, меметические алгоритмы - гибрид эволюционных алгоримов и алгоритмов локального поиска).

Статические методы генерации (такие как метод символьного выполнения и метод ограничений) достаточно хорошо описаны и используются при тестировании процедурного кода. Они основаны на анализе внутренней структуры тестируемой программы и не требуют ее выполнения. В рамках статического метода производится обход заданного пути в управляющем графе и построение символьного представления значений внутренних переменных как выражений, содержащих только входные переменные.

Остальные перечисленные методы относятся к классу динамических. Они используют реальное выполнение программы, что позволяет избежать недостатков статических методов, а именно: неэффективности при наличии циклов, указателей и массивов (статический анализ зависимостей между входными данными и внутренними переменными затруднен), а в рамках ООЯП - при наличии неявного потока управления. К динамическим относятся методы случайного поиска, локального поиска, поиска с использованием методов глобальной оптимизации (симуляции отжига, генетических алгоритмов, алгоритмов роевого интеллекта).

Ниже представлено описание общего генетического алгоритма и рассмотрена его адаптация для использования при АГТД для тестирования объектно-ориентированных программ.

Генетические алгоритмы

Генетический алгоритм (ГА) в общем случае является алгоритмом глобальной оптимизации некоторой целевой функции многих переменных. Он основан на процессах, подобных процессу эволюции в природе. Возможные решения задачи оптимизации именуются особями (хромосомами). Множество возможных решений образует популяцию. Каждая особь оценивается степенью приспособленности (целевой функцией, показывающей, насколько «хорошим» является решение в контексте данной задачи) [2, 3]. С помощью функции приспособленности среди всех особей популяции выделяют:

- наиболее приспособленные (более подходящие решения), которые получают возможность скрещиваться и давать потомство;

- наихудшие (плохие решения), которые удаляются из популяции и не дают потомства.

Таким образом, приспособленность нового поколения в среднем выше предыдущего. Возможные решения обычно кодируются (чаще всего, преобразуются в битовые строки) для применения к ним генетических операций. К этим операциям относятся скрещивание (кроссовер) и мутация. В классическом ГА:

- начальная популяция формируется случайным образом;

- размер популяции (число особей Л) фиксируется и не изменяется в течение работы всего алгоритма;

- каждая особь генерируется как случайная ¿-битная строка, где Ь - длина кодировки особи;

- длина кодировки для всех особей одинакова.

На рис. 1 изображена общая схема работы генетического алгоритма. Шаг алгоритма состоит из трех стадий:

1. генерация промежуточной популяции путем отбора текущего поколения;

2. скрещивание особей промежуточной популяции путем кроссовера, что приводит к формированию нового поколения;

3. мутация нового поколения.

Промежуточная популяция - это набор особей, получивших право размножаться. Наиболее приспособленные особи могут быть записаны туда несколько раз, наименее приспособленные с большой вероятностью туда вообще не попадут. В классическом ГА вероятность каждой особи попасть в промежуточную популяцию пропорциональна ее приспособленности, т.е. работает пропорциональный отбор. Особи промежуточной популяции случайным образом разбиваются на пары, потом с некоторой вероятностью скрещиваются, в результате чего получаются два потомка, которые записываются в новое поколение, или не скрещиваются, тогда в новое поколение записывается сама пара. В классическом ГА применяется одноточечный оператор кроссовера: для родительских строк случайным образом выбирается точка раздела, потомки получаются путем обмена отсеченными частями. К полученному в результате отбора и скрещивания новому поколению применяется оператор мутации, необходимый для «выбивания» популяции из локального экстремума и способствующий защите от преждевременной сходимости.

Рис. 1. Общая схема работы генетического алгоритма

Такой процесс эволюции может продолжаться до бесконечности. Критерием останова может служить заданное количество поколений или схождение популяции. Схождением называется состояние популяции, когда все строки популяции находятся в области некоторого экстремума и почти одинаковы [3, 4]. Иначе говоря, кроссовер практически никак не изменяет популяции, а мутирующие особи склонны вымирать, так как менее приспособлены. Таким образом, схождение популяции означает, что достигнуто решение, близкое к оптимальному. Итоговым решением задачи может служить наиболее приспособленная особь последнего поколения.

Адаптация генетического алгоритма для нахождения тестовых наборов

Рассмотрим ГА, адаптированный для решения проблемы интеграционного тестирования ООЯП. Положим, что каждый метод в отдельности протестирован и представляет собой «черный ящик», а передача управления между методами осуществляется посылками сообщений (будь то явный вызов или возврат, обработка события или исключения). Таким образом, программа представляется в виде совокупности классов, экземпляры которых «общаются» посредством посылки сообщений друг другу. Описание таких взаимодействий может быть отражено диаграммой последовательностей (рис. 2), и эта диаграмма может служить формальной спецификацией для разрабатываемой программы.

В любой момент времени класс может находиться в одном из своих состояний. Каждое состояние характеризуется совокупностью значений полей и наличием одного из полученных сообщений. Необходимо учитывать, что различные экземпляры одного и того же класса могут иметь отличное друг от друга поведение, т.е. посылать различные сообщения и иметь, таким образом, разные множества состояний, которые могут пересекаться. В первую очередь это обусловлено возможностью определить для класса несколько конструкторов, в каждом из которых варьируются начальные значения полей.

Пусть дан класс С, и пусть £С - множество состояний этого класса, а Фс - множество операций класса С, т. е. множество возможных последовательностей передачи управления, доступных классу С. Тогда для каждой пары состояний и s2 можно найти некоторое количество последовательностей операций ФС, которые обуславливают переход из ^ в 52 и, потенциально, могут выявить ошибку в классе С. Последовательность операций феФС есть функция отображения БС на £С. Таким образом, для различных начальных состояний данная последовательность может выявить ошибки в реализации.

Исходя из вышесказанного, тестовый набор при тестировании класса должен состоять из набора тщательно выбранных последовательностей переходов, а также набора состояний класса.

При интеграционном тестировании программы, состоящей из нескольких классов, формальной спецификацией может быть диаграмма последовательностей. При этом критерием тестирования является покрытие всех дуг (т. е. всех возможных передач управления между методами всех классов). Иными словами, для диаграммы последовательностей £ и тестируемой программы Р тестовый набор Т удовлетворяет критерию покрытия дуг, если каждая дуга в £, представляющая передачу сообщения, пройдет хотя бы один раз при выполнении Р на данном тестовом наборе Т. В общем виде необходимо, чтобы каждое сообщение в диаграмме было послано хотя бы один раз. На рис. 3 представлена общая схема предлагаемого генетического алгоритма.

Вызов метода methodl

Возврат с исключением Нормальный возврат

Вызов метода method4

Нормальный возврат Вызов метода method5

Нормальный возврат

Вызов метода method3

Рис. 2. Диаграмма последовательностей

Рис. 3. Алгоритм генерации тестовых данных

Пусть искомые тестовые наборы полагаются особями в рамках алгоритма. Хромосомой особи будем считать последовательность конструктора, одного или нескольких вызовов других методов (включая значения параметров) и посылки сообщений, а также номера состояния, в которое переходит класс в результате выполнения этой последовательности. Первым шагом алгоритма является выделение списка всех дуг, которые нужно покрыть тестовыми наборами. Функцию приспособленности определим как отношение числа дуг, приведших к дуге E (рис. 3) на текущем тестовом наборе, к общему числу дуг, которые могут привести к этой дуге. Мутации особей можно проводить одним из следующих способов:

- изменение входных значений;

- изменение конструктора;

- добавление в последовательность вызова метода;

- удаление вызова метода из последовательности.

Скрещивание двух выбранных с определенной вероятностью особей происходит оператором одноточечного кроссовера: случайным образом выбирается точка раздела, потомки получаются путем обмена отсеченными частями. Критерием останова является схождение популяции либо установленное число поколений.

Реализация

Предложенный алгоритм является частью разработанной системы АГТД, применяемой для тестирования программ, написанных с использованием ООЯП Java и содержащих обработку исключений. Экспериментальная разработка построена на языке C# .NET (.NET Framework v4.0) и включает следующие компоненты:

1. Разработанный синтаксический анализатор исходного кода на языке Java на базе свободно распространяемого инструмента antlr (www.antlr.org);

2. Разработанный построитель управляющего графа, использущий синтаксическое дерево исходной Java-программы и генерирующий внутреннее, а также текстовое представление управляющего графа;

3. Визуализатор управляющего графа;

4. Разработанный инструментатор. Используется для внесения в текст исходной программы вызовов служебных процедур, фиксирующих ход выполнения программы;

5. Разработанные модули алгоритмов генерации тестовых данных, реализующие предложенный генетический алгоритм, а также уже существующие алгоритмы поиска тестовых данных, включенных с целью оценки эффективности разработанного алгоритма;

6. Среда компиляции, включающая компилятор java (java.exe), и среда многократного выполнения инструментированной программы на разных входных данных, функционирующая на основе командных файлов.

Работа системы на программах небольшой величины (до 10 методов и 200 строк) показала результаты, приемлемые по производительности. Эффективность поиска сравнима с работой систем, основанных на уже существующих динамических методах, таких как метод локального поиска Б. Корела и метод последовательной релаксации (без учета конструкций обработки исключений). В ходе апробации системы получаемые тестовые наборы почти всегда удовлетворяли критерию покрытия путей (в зависимости от количества сложных передач управления внутри методов). Таким образом, в результате тестирования разработанной системы АГТД выявились ограничения для программ, подлежащих тестированию: циклы с переменным числом итераций, приведение типов, наследование, сложные структуры данных (переменные-объекты со множеством вложений).

Заключение

В рамках работы были изучены существующие методы АГТД, рассмотрены проблемы тестирования ООЯП, предложен способ АГТД объектно-ориентированных программ, содержащих обработку исключений, разработан и апробирован метод генерации тестовых наборов, основанный на генетическом алгоритме.

Литература

1. Shujuan Jiang, Yuanpeng Jiang. An analysis approach for testing exception handling programs // SIGPLAN Notices. ACM. - NY: ACM. - 2007. - V. 42. - P. 3-8.

2. Sandhu P.S., Dhiman S.K., Goyal A.A genetic algorithm based classification approach for finding fault prone classes // World Academy of Science, Engineering and Technology. - 2009. - V. 60. - P. 485-488.

3. Буздалов М.В. Генерация тестов для олимпиадных задач по программированию с использованием генетических алгоритмов // Научно-технический вестник СПбГУ ИТМО. - 2011. - № 2(72). - С. 72-76.

4. Новосельский В.Б., Павловская Т.А. Выбор и обоснование критерия эффективности при проектировании распределенных баз данных // Научно-технический вестник СПбГУ ИТМО. - 2009. - № 2(60). -С. 76-82.

Карпушинский Антон Михайлович - Санкт-Петербургский государственный университет информационных

технологий, механики и оптики, аспирант, nochnik@inbox.ru Павловская Татьяна Александровна - Санкт-Петербургский государственный университет информационных

технологий, механики и оптики, кандидат технических наук, профессор, pta-ipm@yandex.ru