コンテキストウィンドウ内のトークンは、1 文字から 1 単語までの長さになることがあります。たとえば、「ChatGPT は素晴らしい」という文では、「ChatGPT」、「は」、「素晴らしい」という3つのトークンがあります。コンテキストウィンドウのサイズは、トークンで測定され、モデルが応答を生成する際に過去の会話のどれだけの部分を考慮できるかを決定します。