HM3の性能は、統合するモデルの初期性能やその組み合わせによって大きく変化します。具体的には、元のモデルの性能が高い場合、統合後のモデルも高い性能を維持する傾向がありますが、異なるラベル空間を持つモデルを統合する際には、性能の低下が見られることもあります。例えば、HM3を用いた実験では、元のモデルのF1スコアが統合後のモデルでも維持されるか、場合によっては向上することが示されています。しかし、統合するモデルの組み合わせが不適切である場合、特に異なるタスクに特化したモデル同士を統合すると、性能が低下する可能性があります。このため、HM3の性能は、統合するモデルの選択とその初期性能に依存することが明らかです。