연분수 소인수분해 알고리즘

연분수 소인수분해 알고리즘은 어떤 자연수의 제곱근의 연분수 전개를 이용하여 자연수를 소인수분해하는 알고리즘이다.

알고리즘 
연분수 소인수분해 알고리즘은 다음과 같다.

1. 소인수분해하고 싶은 합성수를 n이라고 하자. 이때, 이 n에 대하여 이라고 표현될 수 있다.

2. 점화식들의 초깃값을 다음과 같이 준다.

3. 다음으로, 다음과 같이 점화식을 계산해 나간다.

 

 

단, 여기서 모든 계산은 n으로 나눈 나머지만을 생각한다는 것에 주의한다. 즉, 모든 계산에는 (mod n)이 들어간다는 것에 주의한다. 

4. 3번 과정에서 k가 짝수이면서 tk가 완전제곱수가 될 때까지 3번 과정을 반복한다. 이때, 라 하면 가 되므로 1 < gcd(pk-1-y, n) < n이면 gcd(pk-1-y, n)가 n의 비자명한 약수가 되고, 1 < gcd(pk-1+y, n) < n이라면 gcd(pk-1+y, n)가 n의 비자명한 약수가 된다 (둘 다 비자명한 약수가 될 수도 있지만 이런 경우 두 수가 같은 경우도 있을 수 있다). 만약 두 개의 값 모두 1이거나 n이라면 tk가 제곱수가 되는 다른 k를 찾아서 계산하거나, 타원곡선 알고리즘이나 폴라드 로 알고리즘, 이차 체 등의 다른 소인수분해 알고리즘을 실행해도 된다.

원리 
으로 표현될 수 있을 때, 의 k번째 근사분수 Ck는 다음과 같이 정의된다. 

여기서 qk는 다음과 같이 점화식의 형태로 정의되는 양이다.

이때, 다음의 관계식이 성립한다.

, 

여기서 k>0이면서 k가 짝수이고 tk가 제곱수이면, 의 형태가 되어 n을 소인수분해할 수 있게 된다.

확장 
연분수 소인수분해 알고리즘에서 tk가 완전제곱수로 딱 떨어지지 않는 경우가 계속 나올 수도 있는데, 그런 경우 이차 체처럼 tk들을 소인수분해해 보아 곱했을 때 완전제곱수가 되는 tk들을 찾은 뒤 관계식을 곱하여 소인수분해하는 방식으로 적용해도 된다. 또한 n의 제곱근의 연분수 전개를 구하지 않고 n에다가 소수 또는 작은 여러 개의 소수들의 곱인 m을 곱한 수의 연분수 전개를 이용하여 알고리즘을 적용할 수도 있다.

예시 
n = 3427이라 하고, 점화식의 각 항들을 토대로 표로 정리하면 다음과 같다.

여기서 k가 짝수이면서 tk가 완전제곱수가 되는 첫 번째 k는 8이다. 즉, 다음의 관계식이 성립한다.

17912 ≡ 32 (mod 3427)이 성립하므로 17912 - 32 ≡ 0 (mod 3427), (1791 + 3) ⋅ (1791 - 3) ≡ 0 (mod 3427)이 된다. gcd(1791 + 3, 3427) = 23, gcd(1791 - 3, 3427) = 149이므로 23과 149가 n = 3427의 약수가 되며, 23과 149는 둘 다 소수이므로 n = 3427 = 23 ⋅ 149가 된다.

활용 
마이클 모리슨 (Michael Morrison)과 존 브릴하트 (John Brillhart)는 페르마 수 F7 = 340282366920938463463374607431768211457을 소인수분해할 때 257 ⋅ F7의 연분수 전개와 그 과정에서 나오는 1,300,000개 가량의 tk를 이용하여 제곱수가 되는 곱을 구하고 이 수를 소인수분해하였다.

같이 보기 
 연분수
 소인수분해
 타원곡선 소인수분해 알고리즘
 이차 체
 수체 체
 소수와 합성수

소인수 분해 알고리즘