🤗 Transformersは、次のような目的で構築された意見を持つライブラリです:
このライブラリは、2つの強力な目標を持って設計されました:
できるだけ簡単かつ高速に使用できるようにすること:
from_pretrained()
メソッドを使用して、事前トレーニング済みのインスタンスから簡単かつ統一された方法で初期化できます。このメソッドは、事前トレーニング済みのチェックポイントから関連するクラスのインスタンスと関連データ(構成のハイパーパラメータ、トークナイザの語彙、モデルの重み)をダウンロード(必要な場合はキャッシュ)して読み込みます。これらの基本クラスの上に、ライブラリは2つのAPIを提供しています:[パイプライン]は、特定のタスクでモデルをすばやく推論に使用するためのものであり、Trainer
はPyTorchモデルを迅速にトレーニングまたは微調整するためのものです(すべてのTensorFlowモデルはKeras.fit
と互換性があります)。オリジナルのモデルにできるだけ近い性能を持つ最新のモデルを提供すること:
その他のいくつかの目標:
モデルの内部をできるだけ一貫して公開すること:
これらのモデルの微調整と調査のための有望なツールを主観的に選定すること:
PyTorch、TensorFlow 2.0、およびFlaxの間を簡単に切り替えて、1つのフレームワークでトレーニングし、別のフレームワークで推論を行うことを可能にすること。
このライブラリは、各モデルについて次の3つのタイプのクラスを中心に構築されています:
これらのすべてのクラスは、事前トレーニング済みのインスタンスからインスタンス化し、ローカルに保存し、Hubで共有することができる3つのメソッドを使用しています:
from_pretrained()
は、ライブラリ自体によって提供される(モデルハブでサポートされているモデルがあります)か、ユーザーによってローカルに保存された(またはサーバーに保存された)事前トレーニング済みバージョンからモデル、構成、前処理クラスをインスタンス化するためのメソッドです。save_pretrained()
は、モデル、構成、前処理クラスをローカルに保存し、from_pretrained()
を使用して再読み込みできるようにします。push_to_hub()
は、モデル、構成、前処理クラスをHubに共有し、誰でも簡単にアクセスできるようにします。