同期学習方法と比較して非同期学習方法はどんな利点や欠点がありますか？
利点:
柔軟性: 非同期学習では各デバイスが自身のペースで更新を行うため、リソースや通信帯域幅に制約されずにトレーニングを進めることが可能。
高効率: システム全体の待ち時間を最小限に抑えられるため、収束速度が向上し、リソースも効率的に活用できる。
プライバシー保護: データ共有時に個々のデバイスから直接アップロードする必要がなくなり、プライバシー保護面でも優れている。
欠点:
局所最適解: 同じモデルを使用して訓練する際に局所的最適解へ収束しやすく、グローバル最適解まで到達しづらい場合がある。
計算資源不均衡: 一部のデバイスが頻繁に更新する一方で他のデバイスは滞ってしまう場合、計算資源不均衡問題が発生する可能性もある。