Afin de garantir le respect des droits fondamentaux et la sécurité des populations, le parlement européen a approuvé une législation pour se protéger des méfaits de l’intelligence artificielle, sans renoncer à l’innovation.
Une législation qui protège les populations
Ce mercredi 13 mars, à 523 votes pour, 46 contre et 49 abstentions, les députés ont approuvé la législation convenue par les États membres en décembre 2023. Elle vise à garantir la sécurité et le respect des droits fondamentaux des populations européennes.
Pour ce faire, le règlement impose des obligations selon les risques potentiels et le niveau d’impacts des intelligences artificielles.
Des cas d’IA interdites :
Certaines utilisations de l’IA seront interdites, notamment les systèmes de catégorisation biométrique sensibles, l’extraction non ciblée d’images pour des bases de données de reconnaissance faciale, la reconnaissance des émotions au travail et en éducation, la notation sociale, la police prédictive basée uniquement sur le profilage, et l’IA manipulant le comportement humain.
L’objectif est d’empêcher l’intelligence artificielle de décider de questions sociales ou démographiques.
Un règlement strict pour les IA à hauts-risques :
Des règles strictes s’appliqueront aux systèmes d’IA considérés à haut risque, comme les systèmes basés sur les transports, l’éducation, l’application de la loi ou le recrutement. Ces systèmes nécessiteront une évaluation des risques sur les populations, une transparence du fonctionnement de leurs modèles, une précision de leurs méthodes de réflexion, une supervision humaine pour chaque décision majeure, et permettre aux citoyens de déposer des plaintes concernant les systèmes d’IA ne reconnaissant pas leurs droits.
Une lutte contre la désinformation :
Les systèmes d’IA à usage génératif comme ChatGPT, Midjourney ou Sora devront respecter des exigences de transparence, incluant la publication de résumés détaillés sur leur entraînement et l’identification des contenus manipulés, comme les « deep fakes ».
Exemptions autorisées :
L’utilisation de systèmes d’identification biométrique par les services de police sera très restreinte, autorisée seulement à des fins précises, avec des garanties strictes, et nécessiteront, pour la plupart des cas, une autorisation judiciaire ou administrative.
Réglementer sans contraindre l’innovation
Pour s’assurer de ne pas décourager ou contraindre les entreprises et startups européennes, la loi prévoit de mettre en place des aides à la création. Présenté comme des “bacs à sable réglementaires”, les startups et les PME pourront développer et tester en conditions réelles leurs nouveaux modèles d’IA.
Si cet article vous a plu, et si vous envisagez une carrière dans la Data Science ou tout simplement une montée en compétences dans votre domaine, n’hésitez pas à découvrir nos offres de formations ou nos articles de blog sur DataScientest.
Source : europarl.europa.eu
