Bất đẳng thức Hoeffding

Trong lý thuyết xác suất, bất đẳng thức Hoeffding cho một chặn trên của xác suất một tổng các biến ngẫu nhiên sai lệch với giá trị kỳ vọng. Bất đẳng thức Hoeffding được chứng minh bởi Wassily Hoeffding.

Giả sử

là các biến ngẫu nhiên độc lập. Giả sử  gần như chắc chắn bị chặn; nghĩa là, với mọi  ta có

Giá trị trung bình thực nghiệm của các biến đó là

Ta có các bất đẳng thức sau (Hoeffding 1963, định lý 2 Wassily Hoeffding, Probability inequalities for sums of bounded random variables, Journal of the American Statistical Association 58 (301): 13–30, tháng 3 năm 1963. (JSTOR)):

cho mọi giá trị t dương. Ở đây  là giá trị kỳ vọng của .

Các bất đẳng thức này là trường hợp đặc biệt của bất đẳng thức Azuma–Hoeffding và của một bất đẳng thức tổng quát hơn nữa là bất đẳng thức Bernstein trong lý thuyết xác suất, chứng minh bởi Sergei Bernstein năm 1923. Chúng cũng là trường hợp đặc biệt của bất đẳng thức McDiarmid.

Các bất đẳng thức này cũng đúng khi  được chọn không thay thế; trong trường hợp này chúng không còn độc lập. Bài báo của Hoeffding cũng chứa một chứng minh của mệnh đề này. Bài báo của Serfling R. J. Serfling, Probability Inequalities for the Sum in Sampling without Replacement, The Annals of Statistics Volume 2, Number 1 (1974), 39–48. (Project Euclid) chứa một chặn trên chặt hơn một chút trong trường hợp lấy mẫu không thay thế.

Xem thêm
Bất đẳng thức Bennett
Bất đẳng thức Chebyshev
Bất đẳng thức Markov
Bất đẳng thức Chernoff
Bổ đề Hoeffding

Tham khảo

Thể loại:Bất đẳng thức xác suất