Pertidaksamaan Jensen itu apa sih?

Pertidaksamaan Jensen adalah sebuah temuan matematika awal abad 19 yang masih dipakai sampai sekarang, termasuk di algoritma EM. Algoritma EM itu sendiri banyak dipakai untuk memecahkan persoalan di model rumit yang melibatkan variabel laten (tersembunyi) seperti LDA, atau Gaussian Mixture Model yang lainnya. Intinya, pertidaksamaan Jensen menyatakan bahwa garis sekan dari sebuah fungsi konveks senantiasa terletak di atas grafik fungsi tersebut. Dengan jabaran lebih presisinya (dalam setting probabilistik) adalah sebagai berikut:

Secara analitis, dapat juga dimodelkan sebagai berikut:

Dalam gambar, garis sekan (tali busur) merah yang dimodelkan dengan persamaan:

Senantiasa  dari garis tersebut berada di atas  dari kurva: