假如家吓有兩個隨機變數x同y，而收訊息嗰個人知道x同y唔係獨立，而係有相關嘅－即係y嘅數值係乜能夠一定程度上預測x嘅數值係乜。喺呢種情況下，假設而家嗰個人經已知道咗y嘅數值，但要預測x嘅未知數值，呢種情況下嘅訊息熵就係所謂嘅條件熵，而喺知道y嘅數值之下預測x嘅訊息熵就係「x喺y上嘅條件熵」。