Connaissez vous Spot ? Un robot déployé dans les espaces verts de Singapour pour faire respecter la distanciation sociale. La nouvelle a donné du grain à moudre aux alarmistes de l’usage de l’IA sans limite . Il est vrai que l’image de ce robot se promenant entre les habitants pour les rappeler à l’ordre pourrait sortir d’un épisode de Black Mirror.
Et si DataScientest revenait sur les limites de l’intelligence artificielle en comparaison avec l’intelligence humaine pour vous aider à y voir plus clair.
Pourquoi l'intelligence artificielle inquiète ?
Après avoir progressivement envahi notre quotidien avec des voitures autonomes, des objets connectés et des assistants intelligents tels que Siri, Alexa ou « Ok Google » l’intelligence artificielle rend les machines capables de nous transporter d’un point A à un point B et même d’aider à la prise de décision dans le domaine médical.
Alors en pleine période de pandémie, certains craignent que les machines aient un poids trop important en ce qui concerne la vie humaine. L’une des grandes interrogations est donc de se demander où s’arrêtera ce progrès et si les machines vont nous renverser comme dans les pires scénarios hollywoodiens. On peut vous rassurer, on en est très loin… !
Beaucoup de personnes utilisent l’autonomie mécanique acquise par les machines ces dernières années pour démontrer le glissement vers une autonomie morale, ce que l’on appelle l’IA forte. Or, si nous-même sommes incapable d’expliquer les sentiments propres à l’humain, comme l’amour, la compassion ou la tristesse, alors il est peu probable qu’une machine y parvienne.
Le cerveau humain est doté de milliards de combinaisons nerveuses le rendant apte à s’adapter, à utiliser son environnement, son expérience et celle des gens qui l’entourent.
La plasticité cérébrale en est un parfait exemple. Un sourd sera capable de recycler son cortex auditif pour une nouvelle tâche là où une machine, asservit à sa fonction, serait désemparée et inutile.
Les limites technologiques et cognitives empêchent les machines d’atteindre un raisonnement complexe, en dehors des tâches pour lesquelles elles sont prévues. Elles ne parviennent pour le moment ni à acquérir une expérience subjective ni à réellement communiquer avec le monde qui les entoure.
Actuellement, toutes les machines intelligentes ont échoué au test de Turing, expérience ayant pour but de prouver qu’une machine peut se faire passer pour un humain.
Le point clé: l'absence de prise d'initiative
L’intelligence artificielle excelle dans des domaines très spécifiques, dans des tâches répétitives et encadrées.
Aucune intelligence artificielle ne sera proactive et ne dépassera les limites de son programme.
Si vous croisez un robot domestique dans la rue allant chercher du lait, le piège serait de se dire qu’il est humain car ce dernier sera incapable de comprendre une agression s’il en voyait une. Et quand bien même il aurait été entraîné pour reconnaître de telles situations, si jamais son programme ne lui dit pas d’intervenir, il continuera sa route, incapable d’estimer la gravité de la situation, la détresse de la victime et le danger. On est loin de Skynet qui envoie des Terminator nous menacer et il y a peu de risque que votre smartphone se rebelle autrement qu’en refusant d’envoyer un sms.
Toute décision est le fruit d’un entraînement pour accomplir la tâche prévue et non d’une prise d’initiative.
L’un des meilleurs exemples est celui des voitures autonomes qui, en cas de danger, vont devoir faire des choix cruciaux, voire sacrifier des personnes pour préserver le plus de vie possible. Encore une fois, on peut constater les limites d’une telle technologie car le programme prendra plus en compte le nombre de vies sauvées plutôt que leur âge, là où ce dernier paramètre peut rentrer d’instinct en jeu pour l’Homme.
Actuellement, les machines n’interagissent pas entre elles et sont donc incapables de faire des choix défiant leurs fonctions de base limitées. Qui plus est, ces fonctions peuvent être contraires aux règles morales et sociales qui définissent notre société, résultat d’échanges, d’organisations et d’évolutions qui sont des domaines incompréhensibles pour les machines. Il est donc impossible d’imaginer laisser à une intelligence artificielle la charge de décider qui va être soigné ou non en cas de crise, si une personne menaçante doit être exécutée, quelle personne privilégier dans un incendie…
En effet les choix de la machine reposeraient sur de l’optimisation et ne prendraient pas en compte la complexité de telles situations.
Néanmoins, selon un sondage ifop, la majorité des français ne savent pas définir l’intelligence artificielle, ce qui est normale car c’est un domaine nouveau et spécialisé. Or, les enjeux sont énormes !
Il faut à la fois orienter cette technologie dans le bon sens pour servir l’intérêt commun et réduire les craintes et la méconnaissance quant à son utilisation et ses capacités.
C’est d’ailleurs pour cela que DataScientest a crée une formation de sensibilisation à destination des managers dans ce domaine avec des modules de respect de la vie privée, de la gestion des données…
