Fondée par d’anciens responsables de OpenAI, fortement soutenue par Amazon, Anthropic a créé l’IA du nom de Claude. Celle-ci entend marquer sa différence avec ChatGPT ou Gemini sur des points où on ne l’attendait pas forcément.
À partir de 2015, maintes figures de la technologie dont Elon Musk et Bill Gates ont commencé à formuler leurs appréhensions vis-à-vis de l’intelligence artificielle. Dès lors qu’elle s’immisce dans des secteurs comme la santé, le militaire ou la surveillance, une erreur pourrait avoir des conséquences fâcheuses.
Les Amodei
Durant l’année 2019, trois ans avant la sortie de ChatGPT, cette préoccupation touche deux vice-présidents de OpenAI : Dario et Daniela Amodei (frères et sœurs).
Dès 2016, Dario Amodei a exprimé ses inquiétudes dans un article publié en collaboration avec des chercheurs de Google : « Concrete Problems in AI Safety », s’alarmant de l’imprévisibilité propre aux modèles d’IA opérant à grande échelle.
OpenAI avait originellement été fondée comme une organisation à but non lucratif avec pour mission de « construire une IA générale sécurisée et de partager les bénéfices avec le monde. ». Or, durant l’année 2019, elle reçoit un investissement de taille, de 1 milliard de dollars, de Microsoft. Dès lors, OpenAI prend goût à la perspective de générer des bénéfices pour ses investisseurs. Les dangers potentiels de l’IA n’apparaissent plus comme une préoccupation majeure des dirigeants. La situation génère diverses tensions internes. Comme en a témoigné Dario Amodei :
« Nous étions tout un groupe au sein d’OpenAI qui, après avoir créé GPT-2 et GPT-3, croyait fermement en certaines idées. La première était que si l’on consacrait plus de puissance de calcul à ces modèles, il n’y aurait quasiment pas de limite. La seconde était que, au-delà de perfectionner les modèles, il fallait envisager leur alignement éthique et les questions de sécurité ».
Fondation d'Anthropic
Ces questions liées au rôle civilisationnel de l’IA amènent Dario Amodei à quitter OpenAI en décembre 2020. Dans les semaines qui suivent, 14 autres chercheurs lui emboîtent le pas, parmi lesquels sa sœur Daniela.
La fondation Anthropic est lancée dans la foulée, en janvier 2021. Elle clame son ambition ainsi : « élaborer un IA surpuissante mais sans danger pour le futur de l’humanité ».
IA constitutionnelle
La tentative de Anthropic d’intégrer des principes éthiques dans l’IA, et de réduire les éléments imprévisibles, non fiables et opaques, est synthétisée par un nom : IA constitutionnelle. Elle intègre 10 principes directeurs garantissant que ses réponses soient précises, éthiques et bénéfiques pour les usagers, et doit s’améliorer au fil du temps, en respectant divers principes établis par les humains.
Des financements précoces
Pour développer un modèle d’IA, il faut des fonds. Or, Anthropic fait rapidement l’objet de financements. Le premier – 124 millions de dollars – est apporté par le milliardaire estonien Jaan Tallinn, cofondateur de Skype. En octobre 2021, c’est au tour de Sam Bankman-Fried, fondateur de la plateforme de cryptomonnaies FTX d’apporter 500 millions de dollars dans Anthropic – on le sait, FTX va mordre la poussière un an plus tard. Vers la fin de l’année, PitchBook, une plateforme qui traque les données d’investissement privé, lève 704 millions de dollars.
Naissance de Claude
Il faut attendre l’été 2022 pour que Anthropic dévoile la première version de son IA générative : Claude. Les Amodei choisissent de ne pas la publier, invoquant la nécessité de tests de sécurité supplémentaires. C’est donc ChatGPT de OpenAI qui va révéler au monde les potentiels de l’intelligence artificielle.
À la fin 2022, 300 millions de dollars sont investis par Google qui obtient ainsi une participation de 10% dans la startup. Cet investissement favorise l’accès à des ressources informatiques de taille.
Il faut attendre mars 2023 pour que Anthropic introduise la première version de Claude. Pour marquer la différence avec ChatGPT, les Amodei clament que leur chatbot refuse de générer du contenu préjudiciable ou biaisé et fournit des sources pour étayer ses réponses.
En juillet 2023, une nouvelle version, Claude 2, surprend par sa créativité et sa capacité à l’humour. Durant ce même mois, Dario Amodei intervient devant le Sénat américain, pour expliquer que des IA débridées pourraient aider à créer des armes de destruction massive.
L’événement majeur intervient en septembre lorsque Amazon investit 1,25 milliards de dollars dans Anthropic et s’engage à monter la mise jusqu’à 4 milliards de dollars.
Le travail des Amodei est salué par le Time 100, qui les nomme parmi les personnes les plus influentes au monde en 2023.
Une forte valorisation
L’année 2024 a démarré sur des chapeaux de roue. En février, la firme de capital-risque Menlo Ventures convient d’investir 750 millions de dollars dans Anthropic, portant sa valorisation à 18,4 milliards de dollars. Puis, en juin de la même année, Anthropic lance la famille Claude 3 – Opus, Sonnet et Haiku. Cette fois, ce modèle est salué comme l’un des meilleurs du marché.
Fait nouveau, Anthropic mais aussi OpenAI, ont accepté de soumettre leurs nouveaux modèles au gouvernement américain afin de répondre aux préoccupations croissantes sur la sécurité et l’éthique de l’IA. De fait, l’Institut National des Normes et de la Technologie (NIST), a fait savoir qu’il aurait désormais « accès aux nouveaux modèles majeurs de chaque entreprise avant et après leur mise à disposition publique. »
En plaçant ainsi l’accent sur la sécurité et l’éthique de l’IA, Anthropic a amorcé un mouvement majeur dans l’histoire de cette technologie.
