Pereira）与于1999年提出。对于一随机变量formula_1，假设已知其与观察变量formula_2之间的联合概率分布formula_3。此时，当需要概括（聚类）formula_1时，可以通过信息瓶颈方法来分析如何最优化地平衡准确度与复杂度（数据压缩）。该方法的应用还包括分布聚类（distributional clustering）与降维等。此外，信息瓶颈也被用于分析深度学习的过程。信息瓶项方法中运用了互信息的概念。假设压缩后的随机变量为formula_5，我们试图用formula_5代替fo