Meta vient d’annoncer son nouveau LLM, Llama 2, cette fois-ci en open source et disponible sur tous les fournisseurs cloud.
Un nouveau LLM ?
Annoncé le 18 juillet dans un billet de blog, Meta dévoile Llama 2, un LLM composé de 7 à 70 milliards de paramètres, successeur de Llama. Contrairement à son prédécesseur, Llama 2 est mis à disposition de tous en open source. Il servira au développement de l’IA générative dans les domaines commerciaux et scientifiques.
En termes de puissance, Llama 2 a été entraîné avec 40 % de données en plus que pour Llama. Néanmoins, il n’atteint toujours pas les performances de GPT-4 d’OpenAI ou de PaLM-2-L de Google.
Les entreprises qui souhaitent y avoir accès peuvent le retrouver sur les différents fournisseurs cloud : AWS, Azure, GCP, Hugging Face, etc. Cette version inclut les poids du modèle, le code source et les versions fine-tunées.
Avec cette annonce, Meta a également voulu montrer son rapprochement avec Microsoft, Azure devenant le partenaire privilégié pour Llama 2.
Meta y donne accès si facilement ?
Il semblerait que la volonté de Meta soit de développer l’IA générative dans tous les domaines et par toutes les entreprises : «En donnant aux entreprises, aux startups et aux entrepreneurs et aux chercheurs l’accès à des outils développés à une échelle qu’il leur serait difficile de construire eux-mêmes, avec l’appui d’une puissance de calcul à laquelle ils n’auraient pas accès autrement, nous leur ouvrons un monde d’opportunités pour expérimenter, innover […] et en tirer des avantages économiques et sociaux ».
Pour autant, Meta ne respecte pas la définition d’open source donnée par l’Open Source Initiative : «Le programme doit inclure le code source, et doit permettre une distribution sous forme de code source aussi bien que sous forme compilée. Si une certaine forme de produit n’est pas distribuée avec un code source, il doit y avoir des moyens publiquement accessibles permettant d’obtenir le code source moyennant un coût raisonnable, ou de le télécharger par Internet sans frais supplémentaires».
En effet, pour accéder à Llama 2 il faut demander une autorisation particulière à Meta. Cette demande est immédiatement refusée si le commanditaire à plus de 700 millions d’utilisateurs quotidiens actifs. De cette façon, Meta empêche les groupes concurrents comme Google ou Amazon d’utiliser cette technologie gratuitement.
D’autant plus que l’accès libre à un logiciel aussi puissant inquiète largement les groupes de chercheurs. L’utilisation potentielle de Llama 2 pourrait être détournée pour en faire un outil de cyberattaque ou de désinformation massive. Autre problème, en open source, il est difficile, voire impossible, de révoquer leur droit d’utilisation ou d’accès.
La mise en ligne de Llama 2 sera un renouveau pour le développement de l’IA selon Yann Le Cun, père du deep learning. Grâce à son accès libre, Llama 2 offrira aux experts en data d’avoir accès à un outil de développement dernier cri. C’est pourquoi, si cet article vous a plu et si vous envisagez une carrière dans la Data Science, n’hésitez pas à découvrir nos articles ou nos offres de formations sur DataScientest.
Source : ai.meta.com
