Alors qu’Open AI dévoile GPT-4 et que la concurrence entre Microsoft et Google fait rage, peut-être est-il temps de faire une pause ? C’est en tout cas ce que suggèrent des spécialistes de la tech, jugeant les avancées technologiques en IA trop poussées. C’est pourquoi ce mercredi 29 une pétition a été déposée demandant un délai de 6 mois pour évaluer les risques de ces avancées.
Que dit la pétition ?
La lettre cherche à avertir des dangers d’une intelligence artificielle pouvant causer des risques à la société et à l’humanité. A titre d’exemples elle cite la désinformation de masse, le chômage de masse, la disparition d’emplois ou des scénarios catastrophe. La lettre accuse également les instituts de recherche de s’être lancés dans une course à l’innovation. Selon le récit, ces chercheurs sont maintenant dépassés par leur création et ne sont plus capables de les contrôler.
Un certain nombre de mesures de sécurité a aussi été demandé, notamment l’arrêt immédiat des activités de développement d’intelligences artificielles plus puissante que GPT-4. En plus de cet arrêt temporaire, elle devrait être publique et vérifiable, la lettre encourage également les gouvernements à prendre les choses en main.
Du côté des signataires,on retrouve Elon Musk, le pionnier de l’IA Yoshua Bengio ou encore Steve Wozniak, Co-fondateur d’Apple. On retrouve aussi de nombreux chercheurs en IT et dans le domaine scientifique craignant la création d’une IA surpassant l’Homme.
UNE CARRIÈRE DANS LA DATA VOUS TEND LES BRAS !
Une reconversion dans le big data vous intéresse, mais vous ne savez pas par où commencer ? Découvrez nos formations en Data Science.
Participer à votre première formation data gratuitement !
Assistez aux cours dispensés en live par nos formateurs pour démarrer sur Python, SQL, Power BI…
UNE CARRIÈRE DANS LA DATA VOUS TEND LES BRAS !
Une reconversion dans le big data vous intéresse, mais vous ne savez pas par où commencer ?
Participer à votre première formation data gratuitement !
Quelle est la réponse ?
Actuellement, aucune réponse n’a été communiquée depuis OpenAI, Microsoft ou Google. Pour James Grimmelmann, professeur du droit numérique « Une pause est une bonne idée, mais la lettre est vague et ne prend pas en compte les problèmes économiques. »
Gary Marcus, professeur émérite à l’université de New York, a quant à lui signé la pétition pour une autre raison. Selon lui, il ne faut pas avoir peur d’une IA qui rivalise avec l’Homme mais craindre “l’IA médiocre”. Une intelligence artificielle médiocre est un système largement déployé, y compris par des criminels ou des terroristes pour tromper les gens ou diffuser des informations erronées dangereuses.
Cette pétition ouvre un large débat sur l’innovation. Allons-nous trop vite, avons-nous conscience des risques futurs engendrés par les modèles créés aujourd’hui ? Pour rester informé, n’hésitez pas à vous renseigner en lisant nos articles sur notre blog. Et si cet article vous a plu, et que la data science vous intéresse, venez découvrir nos offres de formations sur Datascientest.
Source : npr.org
