Фрактально-корреляционный функционал, используемый при поиске пар слабо зависимых биометрических данных в малых выборках

УДК 519.7; 519.66; 57.087.1, 612.087.1 DOI 10.21685/2072-3059-2016-4-3

В. И. Волчихин, Б. Б. Ахметов, А. И. Иванов, Ю. И. Серикова

ФРАКТАЛЬНО-КОРРЕЛЯЦИОННЫЙ ФУНКЦИОНАЛ, ИСПОЛЬЗУЕМЫЙ ПРИ ПОИСКЕ ПАР СЛАБО ЗАВИСИМЫХ БИОМЕТРИЧЕСКИХ ДАННЫХ В МАЛЫХ ВЫБОРКАХ

Аннотация.

Актуальность и цели. Поставлена цель частичной компенсации случайных методических ошибок вычисления почти нулевых значений коэффициентов корреляции. Причиной возникновения случайной составляющей методической ошибки является недостаточный объем биометрических данных. Решается задача повышения точности вычислений (регуляризации) для коэффициентов парной корреляции, вычисленных по классической формуле в диапазоне от -0,1 до +0,1.

Материалы и методы. Предложено использовать один из вариантов фрактальных корреляционных функционалов, построенный на определении соотношения длины ступенчатых линий, полученных упорядочиванием данных по каждой из исследуемых переменных. Использованный корреляционный функционал является аналогом процедур измерения длины береговых линий на картах разного масштаба, описанных в классических первоисточниках по фрактальным вычислениям. Дается таблица масштабирующих коэффициентов новой вычислительной формулы для слабо коррелированных данных при разных объемах тестовой выборки.

Результаты и выводы. Показано, что предложенный фрактально-корреляционный функционал в совокупности с классическим корреляционным функционалом на выборках из 16 примеров позволяет снизить случайную составляющую методической погрешности примерно на 20 %, что эквивалентно росту объема выборки до 24 опытов. Приведена таблица весовых коэффициентов линейной комбинации пары предложенного и классического корреляционных функционалов.

Ключевые слова: биометрическая идентификация личности, коэффициенты парной корреляции, функционалы парной корреляции, объем тестовой выборки, фрактальные вычисления.

V. I. Volchikhin, B. B. Akhmetov, A. I. Ivanov, Yu. I. Serikova

THE FRACTAL-CORRELATION FUNCTIONAL USED WHEN SEARCHING FOR PAIRS OF WEAKLY DEPENDENT BIOMETRIC DATA IN SMALL SAMPLES

Abstract.

Background. The aim of the work is to partially compensate random methodological errors in calculation of almost zero values of correlation coefficients. The cause of the random component of methodological errors is insufficient biometric data. The article solves the problem of increasing the accuracy of calculations (regu-larization) for pair correlation coefficients calculated by the classical formula in the range of -0.1 to +0.1.

Materials and methods. The authors have proposed to use a variant of the fractal correlation functional, built on the determination of the ratio of the length of step

lines derived by ordering the data for each of the studied variables. The used correlation functional is an analog of measurement of coastlines' length on maps of different scales, described in the classical sources on fractal calculations. The article presents a table of scaling factors of the new computational formula for weakly correlated data at different volumes of the test sample.

Results and conclusions. It is shown that the proposed fractal-correlation functional in combination with the classical correlation functional on a sample of 16 examples reduces the random component of methodological errors by about 20 %, which is equivalent to an increase of the sample size to 24 experiments. The work describes the table of weight coefficients of the linear combination of a pair of proposed and classical correlation functionals.

Key words: biometric identification, simple correlation coefficients of pair correlation, functionals of pair correlation, test sample volumes, fractal calculations.

Введение

В настоящее время активно развиваются средства биометрической аутентификации личности. В США и странах Евросоюза развивается технология так называемых «нечетких экстракторов» [1-3]. В России и Казахстане ведутся исследования по использованию нейросетевых преобразователей биометрия-код [4, 5], обучаемых по стандартному алгоритму [6].

Алгоритм обучения искусственных нейронных сетей, рекомендуемый ГОСТ Р 52633.5 [6], является абсолютно устойчивым и имеет линейную вычислительную сложность. Тем не менее принятый как стандарт алгоритм обучения рано или поздно доложен быть усовершенствован. Предположительно совершенствование будет идти по пути повышения вычислительной сложности при обязательном сохранении абсолютной устойчивости вычислений.

На данный момент прорабатывается путь совершенствования технологии распознавания биометрических образов, сводящийся к дополнению искусственных нейронных сетей сетями квадратичных форм [7] и сетями функционалов Байеса [8, 9]. При этом все перспективные алгоритмы обучения отличаются от стандартного [6] тем, что учитывают значения коэффициентов парной корреляции. Квадратичные формы нуждаются в надежном обнаружении слабо коррелированных пар биометрических параметров, а сети Байеса, наоборот, наиболее выгодно строить, используя сильно коррелированные данные. В связи с этим возникает задача оценки коэффициентов парной корреляции на малой обучающей выборке биометрических данных.

На данный момент известно несколько способов оценки корреляционных связей, наиболее часто используемые способы сведены в табл. 1.

Необходимость исследования разных способов оценки корреляционных свойств обусловлена тем, что все они имеют разную чувствительность к объему обучающей выборки. Хорошей иллюстрацией этого положения является рис. 1, где приведены распределения значений коэффициента корреляции, вычисленного по классической формуле (строка 1, табл. 1). Из рис. 1 видно, что при выборке из семи примеров вместо нулевого коэффициента корреляции могут получиться предельные значения r = ±1, что недопустимо. Когда при вычислениях используется выборка из 16 примеров и задан допустимый интервал значений коэффициента корреляции от -0,1 до + 0,1, классическая формула даст верное решение с вероятностью P0 = 0,3. При этом с вероятностью 0,7 коэффициенты нулевой корреляции будут отброшены, что отражено

заливкой площади распределения значений для выборки из 16 примеров (рис. 1).

Таблица 1

Наиболее часто используемые при обработке биометрических данных корреляционные функционалы

Корреляционный функционал Формула вычисления

1. Классический коэффициент корреляции, вычисленный на п примерах пар случайных величин г( ху) _ 1 ^ (Е(х) - X) • (Е(у) - я) ' х) -а( у) ' где Е( . ) - математическое ожидание; ст( . ) - стандартное отклонение

2. Корреляционно-энтропийный функционал второго порядка [10] ИX,у)| _ {1 - Щх,Н 1, 1 ' [ Н(х) + Н(у)/' где Н (х, у) - двухмерная энтропия

3/ Функционал отношения большой (Б) и малой (й) осей эллипса плотности распределения данных |г< ху >1 _ в+й

4. Разностный корреляционный функционал Байеса [9] к " >1 - £ £ i-1 E (х) - Xi - E (У >- yi

ст( X > У >

5. Корреляционный функционал Херста [11] г(х, у) _ 22Х 1 -1, где X - значение показателя Херста

6. Распределенная фрактально-корреляционная размерность [12, 13] 1п {к (е)/ п2 ] С (х, у) _ 11т 1 ] , е^0 1п(е) где к(е) - число точек, попарное расстояние между которыми меньше е; п - число точек в выборке

7. Центрированная фрактально-энтропийная размерность [12, 13] Я

Очевидно, что вероятность ошибочного пропуска нулевых коэффициентов корреляции для выборок, содержащих от 7 до 21 примеров, оказывается недопустимо велика. Необходимо принимать меры по ее уменьшению.

Для этой цели вполне могут быть использованы иные формулы вычисления показателей корреляционных связей, приведенные в строках табл. 1. К сожалению, численная проверка корреляционно-энтропийных функционалов [10] и других известных фрактально-корреляционных функционалов [11-13] показала, что они не могут заменить классический корреляционный функционал (строка 1 табл. 1) на малых выборках.

Следует подчеркнуть, что классическая формула вычисления коэффициента корреляции имеет наибольшую нестабильность при оценке коэффициентов корреляции, близких к нулю. Это видно из распределений данных,

приведенных на рис. 1. При росте значения модуля оцениваемого коэффициента корреляции происходит уменьшение стандартного распределения ошибок оценки, что приводит к росту высоты моды (максимума) плотности распределения значений. Так, при определении значения коэффициента корреляции г = 0,5 (группа асимметричных распределений в правой части рис. 1) максимумы плотности вероятности будут выше распределений примерно в 1,4 раза по сравнению с распределениями, расположенными в центре рисунка.

Рис. 1. Распределения значений коэффициентов корреляции для выборок из 7, 9, 16, 21 примеров при двух заданных значениях коэффициентов корреляции г = 0 и г = 0,5

Таким образом, наименее устойчивой классическая процедура вычисления коэффициентов парной корреляции оказывается в точке г = 0. В рамках данной статьи мы попытаемся построить новые фрактально-корреляционные функционалы, которые будут решать задачу поиска слабо коррелированных биометрических образов лучше, чем коэффициенты корреляции, вычисленные по классической формуле.

Синтез фрактально-корреляционного функционала «длины береговых линий»

Из литературы по фрактальным вычислениям [11-13] известно, что оценить коррелированность данных можно, измеряя «длину береговой линии» на картах разного масштаба. При этом мы будем получать дробную (фрактальную) размерность, связанную с коррелированностью данных (строки 5-7 в табл. 1).

Для расчетов осуществим нормирование исходных данных х, у по их размаху:

х - шт

x =

max

max

Далее следует упорядочить данные по одной из переменных. В итоге мы получим по две кусочно-ступенчатые линии для каждой из использованных процедур упорядочивания. Примеры пар таких ступенчатых функций приведены на рис. 2 для одной и той же выборки, состоящей из 16 опытов.

Упорядочивание по x

Упорядочивание по y

D.S

OL б

о.:

_ri

г

' x

"An)

7

о : 10 :5

Рис. 2. Соотношение длин случайной и неслучайной (упорядоченной) составляющих

Очевидно, что упорядоченная последовательность всегда будет давать монотонно возрастающую ступенчатую функцию меньшей длины в сравнении с длинной второй - неупорядоченной (случайной) компоненты.

Для ситуации, когда произведено упорядочивание данных по переменной у, длину случайной компоненты х определим как сумму модулей разности соседних данных:

n—1

Dx = ZIxi — xi+l| при Ai - Ai+1 •

i=0

Для ситуации, когда произведено упорядочивание данных по переменной х, длину случайной компоненты у определим аналогично:

п-1

°У = Уi - Уг+1 пРи ^ - X+1.

I=0

Фрактально-корреляционный функционал для оценки слабо коррелированных данных будем вычислять следующим образом:

Dx + Dy

Fr

d

где d (п) - масштабирующий коэффициент, зависящий от размеров тестовой выборки п.

Для математического ожидания Е(г) = 0 и разных размеров тестовых выборок значения масштабирующих длины коэффициентов приведены

n

n

в табл. 2. В этой же таблице даны стандартные отклонения распределения ошибок, получаемых при вычислениях по формуле (4) и вычислениях по стандартной формуле.

Таблица 2

Значения нормирующих коэффициентов и стандартных отклонений для фрактально-корреляционных функционалов при разных объемах тестовой выборки и нулевой коррелированности проверяемых пар данных

n d

7 5,05 0,510 0,365 20 11,57 0,446 0,214

8 5,62 0,491 0,361 21 11,70 0,444 0,221

9 6,14 0,503 0,347 22 12,65 0,438 0,207

10 6,73 0,458 0,347 23 12,82 0,454 0,213

11 7,18 0,473 0,319 24 13,42 0,447 0,204

12 7,54 0,486 0,314 25 13,91 0,434 0,208

13 8,43 0,469 0,297 26 14,35 0,427 0,209

14 8,44 0,455 0,269 27 14,95 0,449 0,194

15 9,27 0,452 0,271 32 17,43 0,423 0,191

16 9,51 0,434 0,257 36 18,56 0,420 0,176

17 10,31 0,457 0,246 49 24,78 0,416 0,162

18 10,53 0,423 0,254 64 30,71 0,380 0,135

19 10,88 0,475 0,223 128 55,57 0,377 0,096

Из табл. 2 видно, что стандартное отклонение фрактально-корреляционного функционала на малых выборках примерно в полтора раза больше чем стандартное отклонение классического коэффициента корреляции. Кажется, что описанная выше работа напрасно выполнена. Мы получили еще один вариант вычисления коэффициента корреляции, который ведет себя много хуже, чем общепринятая классическая формула Пирсона.

Корректировка методической ошибки путем парного использования двух разных формул вычисления коэффициентов корреляции

Принципиально важным является то, что рассматриваемые в данной статье формулы вычисления коэффициентов корреляции различны. Разные формулы вычисления дают разные ошибки, что приводит к слабой корреляции погрешностей. То есть можно взять пару разных формул и попытаться скомпенсировать независимую случайную составляющую погрешности. Например, объединение обычного коэффициента корреляции г(х, у) и его фрактального аналога может быть осуществлено по следующей формуле:

Я

[ Ъ

Коэффициенты Ъ(п) заранее вычисляются так, чтобы минимизировать стандартное отклонение выражения (5). Значения минимизированных стандартных отклонений и значения коэффициентов минимизации приведены в табл. 3.

Таблица 3

Значения коэффициентов в корректирующей формуле (5) стандартного отклонения о(Я) и процент снижения ошибки вычислений А %, который дает совместное использование двух разных формул вычисления коэффициентов корреляции

n b(n) o(R) Д% n b(n) ct(R) Д%

7 2,98 0,285 28,1 % 20 5,16 0,183 16,9 %

8 2,76 0,313 15,3 % 21 5,18 0,194 15,6 %

9 2,84 0,272 27,6 % 22 5,16 0,179 15,6 %

10 3,24 0,299 16,1 % 23 5,06 0,182 17,0 %

11 3,16 0,258 23,6 % 24 6,04 0,180 13,3 %

12 3,96 0,267 17,6 % 25 5,88 0,182 14,3 %

13 3,24 0,232 27,4 % 26 7,48 0,180 16,1 %

14 3,80 0,234 19,0 % 27 6,36 0,172 12,8 %

15 3,46 0,220 22,6 % 32 7,24 0,172 11,0 %

16 3,40 0,221 20,4 % 36 8,24 0,155 12,9 %

17 3,64 0,216 22,2 % 49 10,52 0,145 11,7 %

18 4,44 0,227 11,9 % 64 8,62 0,123 9,8 %

19 4,12 0,185 20,5 % 128 18,1 0,091 5,2 %

Сравнивая данные табл. 2 и 3, нетрудно заметить, что стандартное отклонение <з(Я) уменьшается примерно на 20 % по сравнению со стандартным отклонением а(г) классической формулы для выборок из 16 примеров. Мы наблюдаем ощутимое повышение точности вычислений без увеличения размеров тестовой выборки. Все это является подтверждением того, что ошибки функционалов Аг и АР слабо коррелированны. Именно по этой причине их сборка (5) позволяет поднять точность вычислений.

Заключение

Таким образом, усложнив в два раза алгоритм вычисления, можно примерно на 20 % снизить ошибки вычисления коэффициентов корреляции на наиболее часто встречающихся в биометрии выборках из 16 опытов. Это эквивалентно тому, что тестовая выборка выросла с 16 примеров до 24 (на 50 %). Столь значительный рост размеров тестовой выборки крайне важен для биометрических приложений. Пользователи воспринимают биометрическую защиту как дружественную, если она не требует от них значительных затрат ресурсов на ее обучение и тестирование.

Следует подчеркнуть, что в рамках данной работы исследован только один из множества фрактально-корреляционных функционалов. Любое сочетание пар корреляционных функционалов, приведенных в табл. 1, может дать сопоставимые по качеству результаты. Более того, могут быть синтезированы и другие корреляционные функционалы под решение задач биометрической аутентификации личности. Появляется необходимость в становлении нового направления исследований, повышающего точность вычислений коэффициентов парной корреляции на малых выборках за счет совместного использования пар (троек, четверок...) уже известных корреляционных функционалов и их перспективных модификаций.

Список литературы

1. Dodis, Y. Fuzzy Extractors: How to Generate Strong Keys from Biometrics and Other Noisy / Y. Dodis, L. Reyzin, A. Smith // Proc. EUROCRYPT, 2004. - April 13. -P. 523-540.

2. Rami'rez-Ruiz, J. Cryptographic Keys Generation Using FingerCodes / J. Ramirez-Ruiz, C. Pfeiffer, J. Nolazco-Flores // Advances in Artificial Intelligence - IBERAMIA-SBIA 2006 (LNCS 4140), 2006. - P. 178-187.

3. Hao, F. Crypto with Biometrics Effectively / F. Hao, R. Anderson, J. Daugman // IEEE TRANSACTIONS ON COMPUTERS. - 2006. - Vol. 55, № 9. - P. 1073-1074.

4. Нейросетевая защита персональных биометрических данных / Ю. К. Язов,

B. И. Волчихин, А. И. Иванов, В. А. Фунтиков, И. Г. Назаров. - М. : Радиотехника, 2012. - 157 с.

5. Технология использования больших нейронных сетей для преобразования нечетких биометрических данных в код ключа доступа : моногр. / Б. С. Ахметов, А. И. Иванов, В. А. Фунтиков, А. В. Безяев, Е. А. Малыгина. - Казахстан, Алматы : Изд-во LEM, 2014. - 144 c. - URL: http://portal.kazntu.kz/files/publicate/2014-06-27-11940.pdf

6. ГОСТ Р 52633.5-2011. Защита информации. Техника защиты информации. Автоматическое обучение нейросетевых преобразователей биометрия-код доступа. -М., 2011.

7. Качайкин, Е. И. Идентификация авторства рукописных образов с использованием нейросетевого эмулятора квадратичных форм высокой размерности / Е. И. Качайкин, А. И. Иванов // Вопросы кибербезопасности. - 2015. - № 4 (12). -

C. 42-47.

8. Иванов, А. И. Идентификация подлинности рукописных автографов сетями Байеса-Хэмминга и сетями квадратичных форм / А. И. Иванов, П. С. Ложников, Е. И. Качайкин // Вопросы защиты информации. - 2015. - № 2. - С. 48-54.

9. Иванов, А. И. Биометрическая идентификация рукописных образов с использованием корреляционного аналога правила Байеса / А. И. Иванов, П. С. Ложни-ков, Е. И. Качайкин, А. Е. Сулавко // Вопросы защиты информации. - 2015. - № 3. -С. 48-54.

10. Ахметов, Б. С. Алгоритмы тестирования биометрико-нейросетевых механизмов защиты информации / Б. С. Ахметов, В. И. Волчихин, А. И. Иванов, А. Ю. Малыгин. - Казахстан, Алматы : КазНТУ им. Сатпаева, 2013. - 152 с. -URL: http://portal.kazntu.kz/files/publicate/2014-01-04-11940.pdf

11. Петерс, Э. Хаос и порядок на рынках капитала. Новый аналитический взгляд на циклы, цены и изменчивость рынка / Э. Петерс. - М. : Мир, 2000. - 333 с.

12. Гильмутдинов, А. Х. Фракталы и дробные операторы / А. Х. Гильмутдинов. -Казань : Из-во Фэн Академии наук РТ, 2010. - 488 с.

13. Шредер, М. Фракталы, хаос, степенные законы. Миниатюры из бесконечного рая / М. Шредер. - Ижевск : Регулярная и хаотическая динамика, 2005. -528 с.

References

1. Dodis Y., Reyzin L., Smith A. Proc. EUROCRYPT. 2004, April 13, pp. 523-540.

2. Ramirez-Ruiz J., Pfeiffer C., Nolazco-Flores J. Advances in Artificial Intelligence -IBERAMIA-SBIA 2006 (LNCS 4140). 2006, pp. 178-187.

3. Hao F., Anderson R., Daugman J. IEEE TRANSACTIONS ON COMPUTERS. 2006, vol. 55, no. 9, pp. 1073-1074.

4. Yazov Yu. K., Volchikhin V. I., Ivanov A. I., Funtikov V. A., Nazarov I. G. Ney-rosetevaya zashchita personal'nykh biometricheskikh dannykh [Neural network protection of personal biometric data]. Moscow: Radiotekhnika, 2012, 157 p.

5. Akhmetov B. S., Ivanov A. I., Funtikov V. A., Bezyaev A. V., Malygina E. A. Tekhnologiya ispol'zovaniya bol'shikh neyronnykh setey dlya preobrazovaniya nechet-kikh biometricheskikh dannykh v kod klyucha dostupa: monogr. [A technology of large neural network application for fuzzy biometric data transformation into access key code: monograph]. Kazakhstan, Almaty: Izd-vo LEM, 2014, 144 p. Available at: http://portal.kazntu.kz/files/publicate/2014-06-27-11940.pdf

6. GOST R 52633.5-2011. Zashchita informatsii. Tekhnika zashchity informatsii. Avto-maticheskoe obuchenie neyrosetevykh preobrazovateley biometriya-kod dostupa [Information protection. Data protection technology. Automatic learning of "biometrics-access code" converters]. Moscow, 2011.

7. Kachaykin E. I., Ivanov A. I. Voprosy kiberbezopasnosti [Cybersafety problems]. 2015, no. 4 (12), pp. 42-47.

8. Ivanov A. I., Lozhnikov P. S., Kachaykin E. I. Voprosy zashchity informatsii [Data protection problems]. 2015, no. 2, pp. 48-54.

9. Ivanov A. I., Lozhnikov P. S., Kachaykin E. I., Sulavko A. E. Voprosy zashchity informatsii [Data protection problems]. 2015, no. 3, p. 48-54.

10. Akhmetov B. S., Volchikhin V. I., Ivanov A. I., Malygin A. Yu. Algoritmy testirovani-ya biometriko-neyrosetevykh mekhanizmov zashchity informatsii [Testing algorithms for biometric neural network mechanisms of data protection]. Kazakhstan, Almaty: KazNTU im. Satpaeva, 2013, 152 p. Available at: http://portal.kazntu.kz/ files/publicate/2014-01-04-11940.pdf

11. Peters E. Khaos i poryadok na rynkakh kapitala. Novyy analiticheskiy vzglyad na tsikly, tseny i izmenchivost' rynka [Chaos and order in capital markets. New analytical views of cycles, prices and market changeability]. Moscow: Mir, 2000, 333 p.

12. Gil'mutdinov A. Kh. Fraktaly i drobnye operatory [Fractals and fractional operators]. Kazan: Izd-vo Fen Akademii nauk RT, 2010, 488 p.

13. Shreder M. Fraktaly, khaos, stepennye zakony. Miniatyury iz beskonechnogo raya [Fractals, chaos, power laws. Miniatures from endless heaven]. Izhevsk: Regulyarnaya i khaoticheskaya dinamika, 2005, 528 p.

Волчихин Владимир Иванович

доктор технических наук, профессор, президент Пензенского государственного университета

E-mail: president@pnzgu.ru

Volchikhin Vladimir Ivanovich Doctor of engineering sciences, professor, President of Penza State University

Ахметов Берик Бахытжанович

доктор технических наук, профессор, вице-президент, Международный Казахско-Турецкий университет имени А. Ясави

E-mail: berik.akhmetov@ayu.edu.kz

Akhmetov Berik Bakhytzhanovich Doctor of engineering sciences, professor, vice-president, Hodja Ahmet Yassawi International Kazakh-Turkish University

Иванов Александр Иванович доктор технических наук, доцент, начальник лаборатории биометрических и нейросетевых технологий, Пензенский научно -исследовательский электротехнический институт

E-mail: ivan@pniei.penza.ru

Серикова Юлия Игоревна студент, Пензенский государственный университет

E-mail: ivan@pniei.penza.ru

Ivanov Aleksandr Ivanovich Doctor of engineering sciences, associate professor, head of the laboratory of biometric and neural network technologies, Penza Research Institute of Electrical Engineering

Serikova Yuliya Igorevna Student, Penza State University

УДК 519.7; 519.66; 57.087.1, 612.087.1 Волчихин, В. И.

Фрактально-корреляционный функционал, используемый при поиске пар слабо зависимых биометрических данных в малых выборках /

В. И. Волчихин, Б. Б. Ахметов, А. И. Иванов, Ю. И. Серикова // Известия высших учебных заведений. Поволжский регион. Технические науки. - 2016. -№ 4 (40). - С. 27-36. БОТ 10.21685/2072-3059-2016-4-3