Depuis plusieurs mois, l’intelligence artificielle a fait un bon en matière de progrès et de potentiel. Tout porte à croire que le futur se joue chez Google ou OpenAI et pourtant il n’en est rien. Un récent témoignage d’un employé de Google montre que les dernières innovations en matière d’IA se font chez les communautés open source.
Que dit l’article sur ces communautés ?
D’après le texte, même si Google et OpenAi se concurrencent continuellement pour créer des modèles d’IA plus puissants, la communauté open source reste dominante. Malgré la qualité des modèles propriétaires, l’écart avec les modèles open source se réduit considérablement. En outre, les modèles open source sont plus rapides, plus personnalisables, plus sécurisés et plus performants que les modèles propriétaires. Les groupes communautaires arrivent à égaler la puissance de projet avec 540 milliards de paramètres et un budget de plusieurs millions de dollars, avec seulement 100 dollars et 13 milliards de paramètres. La durée de production n’est également pas la même, on compte plusieurs mois de production pour les entreprises et seulement quelques semaines pour les groupes indépendants.
Quelles sont les solutions open source mentionnées ?
L’article de Google, mentionne plusieurs solutions open source :
- Alpaca : un modèle de langage qui se concentre sur la génération de texte, la traduction et la synthèse vocale. Il est basé sur le modèle OpenAI GPT-3, mais est open source.
- LlaMA : un modèle de langage deep learning open source utilisé comme base pour de nombreux autres modèles. LLaMA se concentre sur la capacité de traiter et de générer un texte cohérent et bien structuré.
Chacune de ces solutions montre l’efficacité et la flexibilité des communautés open source. Ces solutions permettent aux chercheurs et aux développeurs de travailler ensemble pour créer des modèles de langage toujours plus sophistiqués.
Alors que les grandes entreprises cherchent à conserver leurs outils de développement et d’entraînement, elles se font devancer par des communautés ouvertes au partage et dans l’unique but de faire progresser l’innovation. Les géants de la Tech devraient-ils s’ouvrir au monde plutôt qu’à cacher leurs petits secrets ? C’est pourquoi, si cet article vous a plu et si vous envisagez une carrière dans la Data Science, n’hésitez pas à découvrir nos articles ou nos offres de formations sur DataScientest.
Source : semianalysis.com