cybercriminels ia

Comment les cybercriminels utilisent l’intelligence artificielle ?

3 min

Les cybercriminels et les hackers utilisent de plus en plus l’intelligence artificielle et le Machine Learning. Découvrez trois méthodes de cyberattaques basées sur l’IA..

L’intelligence artificielle offre de formidables possibilités, mais elle peut aussi être utilisée par les cybercriminels. Durant un sommet de cybersécurité organisé par la NCSA et le Nasdaq, trois experts ont tiré la sonnette d’alarme.

Ces trois experts sont Kevin Coleman, directeur exécutif de la National Cyber Security Alliance, Elham Tabassi du National Institute of Standards and Technology, et Tim Bandos, Chief Information Security Officer chez Digital Guardian.

Selon eux, les criminels peuvent désormais utiliser le Machine Learning pour découvrir des mots de passe plus rapidement et créer des malwares capables de se dissimuler. Ces maliciels d’un genre nouveau sont même capables de s’adapter automatiquement aux mesures de sécurité.

Le Data Poisoning ou empoisonnement des données

Par ailleurs, les trois spécialistes ont énuméré trois façons dont l’IA et le ML peuvent être exploités par les hackers. La première méthode est celle du ” Data Poisoning “, ou empoisonnement des données en Français.

Cette technique a pour but de s’attaquer aux données utilisées pour entraîner les modèles de Machine Learning. Elle consiste à manipuler un ensemble de données d’entraînement, afin de contrôler le comportement prédictif du modèle entrainé avec ces données.

De cette manière, il est possible de corrompre le modèle et ses prédictions. Par exemple, l’intelligence artificielle pourra alors échouer à détecter les emails de spam ou autres contenus malveillants.

Les chercheurs estiment qu’un ensemble de données empoisonné à 3% mène à une perte de 11% de précision pour le modèle de Machine Learning.

Par le biais d’une attaque de type backdoor (porte dérobée), il est même possible pour un hacker d’ajouter une entrée à un algorithme sans même que le créateur du modèle ne s’en rendre compte. Cette entrée servira par exemple à ce qu’un système de Machine Learning ne détecte pas les lignes de code malveillantes.

Comme l’explique Elham Tabassi, il est essentiel que l’industrie adopte des standards pour assurer la qualité et la sécurité des données d’entraînement de Machine Learning. L’intégrité de ces données est d’une importance primordiale.

Les GAN ou Réseaux Antagonistes Génératifs

Les GAN (Generative Adversarial Networks) ou Réseaux Antagonistes Génératifs en Français sont une catégorie de systèmes d’intelligence artificielle. Un premier réseau de neurones simule du contenu, et le second tente d’identifier ses failles. Par cette opposition, les deux réseaux entraînent le système IA à créer des faux plus vrais que nature.

Les GAN sont utilisés pour apprendre à l’IA à recréer des styles artistiques, des jeux vidéo ou même des photos. Néanmoins, ils peuvent aussi être exploités par les hackers pour mimer des patterns de trafic normales et ainsi mener leurs attaques de vol de données en toute discrétion.

En outre, ces réseaux de neurones peuvent aussi être utilisés pour découvrir des mots de passe, pour échapper aux logiciels de détection de malwares, ou même pour tromper les systèmes de reconnaissance faciale.

La manipulation de robots

La troisième façon dont les hackers peuvent exploiter l’IA consiste à manipuler les algorithmes pour les inciter à prendre de mauvaises décisions. Une pratique qui représente un danger extrême.

Récemment, une attaque a été menée par des robots corrompus sur un système de trading de cryptomonnaies. Les criminels ont tenté de comprendre comment les robots effectuaient le trading, puis les ont utilisés pour tromper l’algorithme.

Cette technique n’est pas nouvelle, mais les algorithmes ont aujourd’hui des responsabilités plus importantes. Ceci accroît l’impact de leurs décisions, y compris les mauvaises.

En conclusion, l’intelligence artificielle est une épée à double tranchant. Elle peut être bénéfique dans de nombreux domaines, y compris celui de la cybersécurité. Toutefois, elle peut aussi représenter une menace. Les experts en sécurité doivent donc sans cesse développer de nouvelles défenses à la pointe de la technologie pour contrecarrer les innovations des hackers…

Pour plus d’informations sur le sujet, découvrez pourquoi les données sont devenues la cible des hackers. Pour lutter contre la cybercriminalité, découvrez quelles sont les compétences requises pour travailler dans le domaine de l’IA.

Actualité data

DataScientist : Recrutement VS Formation

Pour la 5ème année consécutive, le métier de Data Scientist a été désigné comme le meilleur emploi aux USA par Glassdoor c’est aussi le métier qui connaît la croissance la plus rapide.

Lire plus »
Intelligence Artificielle et Société

Ethique ou Big Data

Comment faire prévaloir une question d’éthique en matière de données alors que la concurrence se veut mondiale ? Les européens doivent-ils se soumettre à une concurrence américaine et asiatique déloyale pour une question d’éthique ?

Lire plus »