밀러-라빈 소수판별법

밀러-라빈 소수판별법(Miller-Rabin primality test)은 입력으로 주어진 수가 소수인지 아닌지 판별하는 알고리즘이다. 라빈-밀러 소수판별법(Rabin-Miller primality test)이라고도 한다. 개리 L. 밀러의 원래 알고리즘은 일반 리만 가설에 기반한 결정론적 알고리즘이었는데, 미하엘 라빈이 확률적 알고리즘으로 변경했다.

이론적 배경 
페르마 판별법이나 솔로바이-스트라센 소수판별법과 마찬가지로, 밀러-라빈 소수판별법은 소수가 가지는 특별한 성질을 이용한다. 이 홀수인 소수라고 할 때, 은  라고 할 수 있다.
이때, 는 정수이고 는 홀수이다. 이것은 을 계속해서 2로 나눈 형태이다. 이제 어떤 에 대해, 다음 식 중 한 가지가 성립한다.
 
 

위 두 가지 식 중에서 한 가지가 성립한다는 것은 다음과 같은 페르마 소정리에서 유도할 수 있다

즉 의 제곱근을 계속 구해나가면, 1 이거나 -1을 얻게 된다. 만약 -1이 나오면 두 번째 식이 성립하는 것이고, 더 이상 검사하지 않아도 된다.

제곱근을 계속 구해나가도 두 번째 식이 성립하지 않으면, 마찬가지로 1이나 -1의 값을 가질 첫 번째 식을 검사해야 한다. 그런데, 두 번째 식이 성립하지 않는다면, 일 때 성립할 수 없고 결과적으로 다음 식이 성립한다.

그러므로 두 번째 경우가 성립하지 않으면, 첫 번째는 반드시 성립한다.

밀러-라빈 소수판별법은 위와 같은 관계를 이용한다. 이 소수인지 아닌지 검사하려고 할 때, 다음 두 식이 성립하면 는 이 합성수라는 것에 대한 강한 증거(strong witness)가 된다.
 
 

만약 위 식이 성립하지 않으면 는 강한 거짓증거(strong liar)라 하고, 은 아마 소수일 것 같다(probable prime)고 한다.

알고리즘 및 시간복잡도 
알고리즘은 다음과 같다.
입력: : 소수인지 검사할 숫자 , : 소수판별법을 몇회 실행할지 결정하는 인자.
출력: 이 합성수이면 합성수이다, 아니면 아마 소수일 것 같다는 것을 반환한다.
을  형태로 바꾼다.
다음을 k 번 반복한다.
에서 임의의 를 선택한다.
의 모든 에 대해 이고 이면 합성수이다.
위 조건을 만족하지 않으면 소수일 것 같다.

제곱을 반복하는 방법으로 모듈로 지수승을 계산하면 이 알고리즘의 시간복잡도는 이다.(는 의 개수이다.) 이때 FFT를 이용하여 곱셈의 횟수를 줄이면 시간복잡도를 로 줄일 수 있다.

작은 수에 대한 판별 
판별할 수 의 크기가 작을 경우, 작은 수의 에 대해서만 검사해보면 결정론적으로 소수를 판별할 수 있다는 것이 알려져 있다. Pomerance, Selfridge, Wagstaff, 그리고 Jaeschke에 의하면

 일 경우 에 대해서만 검사해보면 충분하다
 일 경우 에 대해서만 검사해보면 충분하다
 일 경우 에 대해서만 검사해보면 충분하다
 일 경우 에 대해서만 검사해보면 충분하다
 일 경우 에 대해서만 검사해보면 충분하다
 일 경우 에 대해서만 검사해보면 충분하다

참고 
다른 확률적 소수판별 알고리즘과 마찬가지로, 이 소수가 아닌데도 알고리즘 실행결과 언제나 거짓증거가 나와서 이 소수라고 잘못 판별할 수 있다. 이런 을 강한 의사소수라고 한다.

소수판별에 필요한 검사를 여러 번 하면 할수록 정확도는 높아진다. 모든 홀수 소수 에 대하여 의 최소한 3/4은 이 합성수라는 것에 대한 강한 증거가 된다.
밀러-라빈 소수판별법의 강력한 거짓증거 집합은 솔로바이-스트라센 소수판별법의 강력한 거짓증거 집합의 부분집합이다. 그러므로, 밀러-라빈 소수판별법이 솔로바이-스트라센 소수판별법보다 더 강력한 소수판별법이다.
이 합성수일 때, 밀러-라빈 소수판별법에서 이 아마도 소수일 것이라고 판별할 확률은 최대 이다. 반면에, 솔로바이-스트라센 소수판별법에서 합성수 이 아마도 소수일 것이라고 판별할 확률은 최대 이다.

평균적으로 어떤 합성수가 아마도 소수일 것이라고 판별될 확률은 보다 현저히 낮다. 확률의 한계값을 Damgard, Landrock , Pomerance등이 명확하게 계산한 결과가 있는데, 이것은 소수를 생성하는데만 사용할 수 있고 소수를 판별하는데는 사용할 수 없다. 암호학에서 공격자가 소수 대신 의사소수를 사용하여 암호시스템을 공격하려 할 수도 있다. 이런 공격에 안전하려면 의사난수인지 더 엄밀하게 검사해야 하므로, 이라는 확률을 사용하는 것이 안전하다.

일반화 리만 가설이 맞다면, 개의 로 검사했을 때 '아마 소수일 것'이라고 판별되었으면 이 수는 실제로 소수이다. 이때, 이 알고리즘은 의 시간복잡도를 가지는 '결정론적' 소수판별법이 된다.

각주

참고 문헌 
 I. Damgard, P. Landrock and C. Pomerance (1993), Average case error estimates for the strong probable prime test, Math. Comp. 61(203) p.177–194.
 Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest, and Clifford Stein. Introduction to Algorithms, Second Edition. MIT Press and McGraw-Hill, 2001. . Pages 890–896 of section 31.8, Primality testing.

외부 링크 
 Online demo of Miller-Rabin
 MathWorld - Rabin-Miller Strong Pseudoprime Test

소수 판별법
유한체