Les modèles d'IA sont développés en utilisant des jeux de données soigneusement élaborés pendant la phase d'entraînement. Ce processus fait appel à plusieurs dizaines, centaines ou même milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Une fois le traitement terminé, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L'entraînement se déroule généralement hors ligne, à l'inverse de l'inférence.