Kiểm tra Miller-Rabin

Kiểm tra Miller-Rabin là một thuật toán xác suất để kiểm tra tính nguyên tố cũng như các thuật toán kiểm tra tính nguyên tố: Kiểm tra Fermat và Kiểm tra Solovay-Strassen. Nó được đề xuất đầu tiên bởi Gary L. Miller như một thuật toán tất định, dựa trên giả thiết Riemann tổng quát; Michael O. Rabin đã sửa chữa nó thành một thuật toán xác suất.
Khi sử dụng kiểm tra Miller-Rabin chúng ta căn cứ vào một mệnh đề Q(p, a) đúng với các số nguyên tố p và mọi số tự nhiên formula_1 và kiểm tra xem chúng có đúng với số n muốn kiểm tra và một số formula_2 được chọn ngẫu nhiên hay không. Nếu mệnh đề Q(n, a) không đúng, tất yếu n không phải là số nguyên tố, còn nếu Q(n, a) đúng, số n có thể là số nguyên tố với một xác suất nào đó. Khi tăng số lần thử, xác suất để n là số nguyên tố tăng lên.
Tiêu chuẩn kiểm tra Q(n, a).
Căn bậc hai của 1 trong formula_3.
Trước hết là một bổ đề về căn bậc hai của đơn vị trong trường hữu hạn formula_3, trong đó "p" là số nguyên tố. Chắc chắn rằng 1 và -1 luôn là các căn bậc hai của 1 theo module "p". Chúng là hai căn bậc hai duy nhất của 1. Thật vậy, giả sử rằng "x" là một căn bậc hai của 1 theo module "p". Khi đó:
Từ đó, formula_8 hoặc formula_9 là chia hết cho "p". 
Tiêu chuẩn Miller-Rabin.
Bây giờ giả sử "p" là một số nguyên tố lẻ, khi đó "p" - 1 là số chẵn và ta có thể viết "p" − 1 dưới dạng formula_10, trong đó "s" là một số tự nhiên &gt;=1 và "m" là số lẻ - Điều này nghĩa là ta rút hết các thừa số 2 khỏi "p" − 1. Lấy số "a" bất kỳ trong tập formula_11.
Xét dãy số formula_12 với k=0,1,2...,s. Khi đó formula_13, với k=1,2...,s và formula_14
Từ định lý Fermat nhỏ:
hay
hay
Do đó,hoặc formula_18 hoặc formula_19.
Nếu formula_20 ta dừng lại, còn nếu ngược lại ta tiếp tục với formula_21.
Sau một số hữu hạn bước
Ta có mệnh đề Q(p, a) như sau:
Giải thuật kiểm tra Miller-Rabin.
Xác suất trả lời sai.
"Định lý": nếu n là hợp số dương lẻ thì trong các số formula_34 tồn tại không quá formula_35 cơ sở a để n là số giả nguyên tố mạnh Fermat.
Gọi A là biến cố ""Số n là hợp số", B là biến cố "Kiểm tra Miller-Rabin trả lời n là số nguyên tố"". Khi đó xác suất sai của kiểm tra này là xác suất để số n là hợp số trong khi thuật toán cho câu trả lời TRUE, nghĩa là xác suất điều kiện P(A|B).
Theo định lý trên nếu n là hợp số thì khả năng kiểm tra này trả lời TRUE xảy ra với xác suất không vượt quá formula_36, nghĩa là formula_37. Tuy nhiên để tính xác suất sai của kiểm tra Miller-Rabin cần tính xác suất diều kiện P(A|B). Dựa trên định lý về ước lượng số các số nguyên tố ta đưa ra ước lượng
Theo định lý Bayes trong lý thuyết xác suất ta có công thức để tính xác suất sai của kiểm tra Miller-Rabin là:
Trong công thức này P(A) đã biết ở trên, formula_37, còn formula_42 vì khi n là số nguyên tố thì chắc chắn mệnh đề Q(n, a) là đúng và formula_43.
Từ đó
Kiểm tra Miller-Rabin lặp.
Theo công thức tính xác suất sai trên đây, với n lớn (cỡ 130 chữ số thập phân), nếu thực hiện phép thử Miller-Rabin chỉ một lần, xác suất sai là khá lớn, tới trên 90%. Để giảm xác suất sai, ta lặp lại phép thử k lần với k số ngẫu nhiên a khác nhau, nếu n vượt qua 50 lần thử thì formula_46, khi thay vào công thức với 50 lần thử nếu cả 50 lần, phép thử đều "dương tính" thì xác suất sai giảm xuống chỉ còn là một số rất nhỏ không vượt quá formula_47.