# Anthropic

Anthropic est une entreprise américaine d'intelligence artificielle (IA) fondée en 2021 par d'anciens membres d'OpenAI$^,$. Elle développe Claude, une famille de grands modèles de langage, et est aussi connue pour ses recherches en sécurité de l'IA, particulièrement en interprétabilité. En 2023, Amazon et Google ont investi plusieurs milliards de dollars dans Anthropic.

## Historique

Anthropic a été fondée en 2021 par d'anciens membres seniors d'OpenAI dont Daniela Amodei et Dario Amodei, ce dernier ayant été vice-président de la recherche d'OpenAI$^,$$^,$. Cette décision de quitter OpenAI aurait notamment été motivée par des désaccords sur la vision stratégique de OpenAI et son partenariat avec Microsoft en 2019.
En mai 2024, Mike Krieger, cofondateur d'Instagram et d'Artifact, rejoint la start-up. À la même période, l'ancien responsable de la sécurité d'OpenAI, Jan Leike, rejoint aussi Anthropic, suivi par un autre cofondateur d'OpenAI, John Schulman, en août. En octobre 2024, Durk Kingma, encore un autre cofondateur d'OpenAI, rejoint Anthropic.

## Projets
### Claude

Anthropic a développé son propre chatbot, nommé Claude notamment en honneur au mathématicien Claude Shannon$^,$. La version initiale, ainsi qu'une version allégée nommée « Claude Instant », sont sorties en mars 2023. Ces versions sont initialement restées disponible en version bêta fermée via une intégration Slack, puis rendues accessibles via l'application Poe de Quora. Anthropic a par la suite créé un site dédié, claude.ai.
En mars 2024, Anthropic a lancé Claude 3, qui inclut trois modèles de différente taille: Haiku, Sonnet et Opus. En octobre 2024, avec la sortie d'une version améliorée de Claude 3.5 Sonnet, Anthropic a lancé une fonctionnalité permettant à Claude de contrôler un ordinateur en utilisant des captures d'écran, des clics et un clavier virtuel, lui permettant ainsi d'effectuer des tâches nécessitant plus d'autonomie.
En janvier 2025, en réaction à la publication de l'IA DeepSeek R1, médiatisée pour ses performances et son faible coût, Dario Amodei avance que Claude 3.5 Sonnet n'a coûté que quelques dizaines de millions de dollars à entraîner. Un chiffre qui contraste également avec les 500 milliards annoncés pour The Stargate Project quelques jours plus tôt.

### IA constitutionnelle

L'IA constitutionnelle est une approche développée par Anthropic pour entraîner les systèmes d'IA (et en particulier les grands modèles de langage comme Claude) à être utiles, sincères et inoffensifs sans nécessiter de feedback humain.
Dans une phase d'apprentissage supervisé, le modèle génère des réponses, s'auto-critique sur la base d'un ensemble de principes (une « constitution »), puis ajuste ses réponses. Ces réponses davantage conformes à la constitution sont ensuite utilisées pour entraîner le modèle.
Puis, dans une phase d'apprentissage par renforcement, le modèle génère des réponses et les compare, favorisant celles qui satisfont le plus un principe aléatoire de la constitution. Ces données permettent d'entraîner un modèle de préférences, qui juge des réponses en fonction de leur degré de conformité à la constitution. Claude est ensuite ajusté à satisfaire ce modèle de préférences. Cette technique est similaire à l'apprentissage par renforcement à partir de rétroaction humaine, qui entraîne cependant le modèle de préférences avec des comparaisons humaines, là où avec l'IA constitutionnelle les comparaisons sont faites automatiquement avec l'IA se font sur la base de la constitution$^,$.

### Recherche en interprétabilité

Anthropic publie également des recherches en interprétabilité des systèmes d'IA (une discipline visant à en comprendre le fonctionnement interne), en se concentrant sur les transformeurs, qui sont des modèles d'IA très utilisés dans le traitement du langage.