{"id":78297,"date":"2021-07-26T14:58:02","date_gmt":"2021-07-26T13:58:02","guid":{"rendered":"https:\/\/datascientest.com\/?p=78297"},"modified":"2023-11-09T14:06:49","modified_gmt":"2023-11-09T14:06:49","slug":"adversarial-examples","status":"publish","type":"post","link":"https:\/\/datascientest.com\/adversarial-examples","title":{"rendered":"Adversarial Examples : D\u00e9finition et importance en machine learning"},"content":{"rendered":"\t\t<div data-elementor-type=\"wp-post\" data-elementor-id=\"78297\" class=\"elementor elementor-78297\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-4e03f66 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"4e03f66\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-121d223\" data-id=\"121d223\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-b7511ec elementor-widget elementor-widget-text-editor\" data-id=\"b7511ec\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-text-editor.elementor-drop-cap-view-stacked .elementor-drop-cap{background-color:#69727d;color:#fff}.elementor-widget-text-editor.elementor-drop-cap-view-framed .elementor-drop-cap{color:#69727d;border:3px solid;background-color:transparent}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap{margin-top:8px}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap-letter{width:1em;height:1em}.elementor-widget-text-editor .elementor-drop-cap{float:left;text-align:center;line-height:1;font-size:50px}.elementor-widget-text-editor .elementor-drop-cap-letter{display:inline-block}<\/style>\t\t\t\t<h2><strong><span style=\"color: #000000;\">De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont tr\u00e8s puissants et infa<\/span><span style=\"color: #000000;\">illibles. <\/span>Cet article vise \u00e0 comprendre les enjeux et impacts que peuvent induire les adversarial examples.\u00a0<\/strong><\/h2>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-10154c9 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"10154c9\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-ec3ceea\" data-id=\"ec3ceea\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-70f155c elementor-widget elementor-widget-text-editor\" data-id=\"70f155c\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Cependant, <\/span><span style=\"font-weight: 400;\">avec les d\u00e9veloppements rapides des techniques d&rsquo;intelligence artificielle (IA) et de deep learning (DL), il est essentiel d&rsquo;<\/span><b>assurer la s\u00e9curit\u00e9 et la robustesse des algorithmes d\u00e9ploy\u00e9s<\/b><span style=\"font-weight: 400;\">. <\/span><\/span><span style=\"font-weight: 400;\"><span style=\"color: #000000;\">Il serait l\u00e9gitime de s\u2019interroger et de s&rsquo;int\u00e9resser quant aux \u00e9ventuelles limites et \u00e0 la performance li\u00e9es \u00e0 leurs utilisations.\u00a0<\/span><\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-8734417 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"8734417\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-c47d91d\" data-id=\"c47d91d\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-efeb17a elementor-widget elementor-widget-heading\" data-id=\"efeb17a\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-heading-title{padding:0;margin:0;line-height:1}.elementor-widget-heading .elementor-heading-title[class*=elementor-size-]>a{color:inherit;font-size:inherit;line-height:inherit}.elementor-widget-heading .elementor-heading-title.elementor-size-small{font-size:15px}.elementor-widget-heading .elementor-heading-title.elementor-size-medium{font-size:19px}.elementor-widget-heading .elementor-heading-title.elementor-size-large{font-size:29px}.elementor-widget-heading .elementor-heading-title.elementor-size-xl{font-size:39px}.elementor-widget-heading .elementor-heading-title.elementor-size-xxl{font-size:59px}<\/style><h2 class=\"elementor-heading-title elementor-size-default\">Qu\u2019est ce qu\u2019un \u201cadversarial example\u201d  ?\n<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-486dc71 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"486dc71\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-d6f7e1f\" data-id=\"d6f7e1f\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-d634a3d elementor-widget elementor-widget-text-editor\" data-id=\"d634a3d\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Un <\/span><b>\u201cadversarial example\u201d<\/b><span style=\"font-weight: 400;\"> ou <\/span><b>exemple contradictoire<\/b><span style=\"font-weight: 400;\"> est un exemple d\u2019objet capable de tromper et <\/span><b>d\u00e9jouer un algorithme <\/b><span style=\"font-weight: 400;\">d\u2019un <strong><a href=\"https:\/\/datascientest.com\/fonctionnement-des-reseaux-neurones\">r\u00e9seau de neurones<\/a><\/strong> en lui faisant croire qu\u2019il doit \u00eatre classifi\u00e9 en tant que tel objet alors que ce n\u2019est pas le cas.\u00a0<\/span><\/span><\/p><blockquote><p><span style=\"color: #000000;\">Un \u201cavdersarial example\u201d est un ensemble de donn\u00e9es correctement initialis\u00e9es auxquelles on aurait ajout\u00e9 une <b>perturbation imperceptible <\/b>par le r\u00e9seau de neurones afin d\u2019<b>entra\u00eener une mauvaise classification<\/b>.<\/span><\/p><\/blockquote>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-f75fb05 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"f75fb05\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-data-scientist\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Je veux ma\u00eetriser les techniques de Machine Learning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-42a4baa elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"42a4baa\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-8da5229\" data-id=\"8da5229\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-4762b50 elementor-widget elementor-widget-heading\" data-id=\"4762b50\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\">Quels sont les risques ?<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-d89b77e elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"d89b77e\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-c055d7e\" data-id=\"c055d7e\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-680dd90 elementor-widget elementor-widget-text-editor\" data-id=\"680dd90\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400; color: #000000;\">Lorsque vous demandez \u00e0 un humain de d\u00e9crire comment il d\u00e9tecte un panda dans une image, il peut rechercher des <\/span><span style=\"color: #000000;\"><b>caract\u00e9ristiques physiques <\/b><\/span><span style=\"font-weight: 400; color: #000000;\">telles que des oreilles rondes, des t\u00e2ches noires autour des yeux, le museau, la peau poilue. Il peut \u00e9galement <\/span><span style=\"color: #000000;\"><b>fournir d&rsquo;autres informations<\/b><\/span><span style=\"font-weight: 400; color: #000000;\">, comme le type d&rsquo;habitat dans lequel il s&rsquo;attend \u00e0 voir le panda et le type de poses qu&rsquo;il adopte.<\/span><\/p><blockquote><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Pour un r\u00e9seau neuronal artificiel, tant que l&rsquo;application des <\/span><b>valeurs des pixels<\/b><span style=\"font-weight: 400;\"> \u00e0 l&rsquo;\u00e9quation donne la bonne r\u00e9ponse, il est convaincu que ce qu&rsquo;il voit est bien un panda. <\/span><span style=\"font-weight: 400;\">En d&rsquo;autres termes, en modifiant les valeurs des pixels de l&rsquo;image de la bonne mani\u00e8re, vous pouvez <\/span><b>tromper l&rsquo;IA<\/b><span style=\"font-weight: 400;\"> en lui faisant croire qu&rsquo;elle ne voit pas un panda.<\/span><\/span><\/blockquote><p><span style=\"font-weight: 400; color: #000000;\">Dans le cas de l&rsquo;adversarial example que nous allons voir dans la suite de l&rsquo;article, <\/span><span style=\"color: #000000;\"><b>les chercheurs en IA ont ajout\u00e9 une couche de bruit \u00e0 l&rsquo;image<\/b><\/span><span style=\"font-weight: 400; color: #000000;\">. Ce bruit est \u00e0 peine perceptible par l&rsquo;\u0153il humain. Mais lorsque les nouveaux num\u00e9ros de pixels passent par le r\u00e9seau neuronal, ils produisent le r\u00e9sultat d&rsquo;un gibbon alors qu\u2019il s\u2019agit d\u2019un panda.<\/span><\/p><p><span style=\"font-weight: 400; color: #000000;\">Les exemples contradictoires rendent les mod\u00e8les d&rsquo;apprentissage automatique vuln\u00e9rables aux attaques, comme dans les sc\u00e9narios suivants :<\/span><\/p><ul><li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Une <\/span><b>voiture autonome<\/b><span style=\"font-weight: 400;\"> percute une autre voiture parce qu&rsquo;elle ignore un panneau stop.\u00a0<\/span><\/span><\/li><li aria-level=\"1\"><span style=\"font-weight: 400; color: #000000;\">Quelqu&rsquo;un avait plac\u00e9 une image sur le panneau, qui ressemble \u00e0 un<\/span><span style=\"color: #000000;\"><b> panneau de stop<\/b><\/span><span style=\"font-weight: 400; color: #000000;\"> pour les humains, mais qui a \u00e9t\u00e9 con\u00e7ue pour ressembler \u00e0 un panneau d&rsquo;interdiction de stationnement pour le logiciel de reconnaissance des panneaux de la voiture.<\/span><\/li><li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Un <\/span><b>d\u00e9tecteur de spam <\/b><span style=\"font-weight: 400;\">ne parvient pas \u00e0 classer un courriel comme spam. Le courrier ind\u00e9sirable a \u00e9t\u00e9 con\u00e7u pour ressembler \u00e0 un courriel normal, mais avec l&rsquo;intention de tromper le destinataire.<\/span><\/span><\/li><li aria-level=\"1\"><span style=\"font-weight: 400; color: #000000;\">Un <\/span><span style=\"color: #000000;\"><b>scanner<\/b><\/span><span style=\"font-weight: 400; color: #000000;\"> aliment\u00e9 par l&rsquo;apprentissage automatique scanne les valises \u00e0 la recherche d&rsquo;armes \u00e0 l&rsquo;a\u00e9roport. Un couteau a \u00e9t\u00e9 mis au point pour \u00e9viter la d\u00e9tection en faisant croire au syst\u00e8me qu&rsquo;il s&rsquo;agit d&rsquo;un parapluie.<\/span><\/li><li aria-level=\"1\"><span style=\"font-weight: 400; color: #000000;\">Une <\/span><span style=\"color: #000000;\"><b>IA automatis\u00e9e<\/b><\/span><span style=\"font-weight: 400; color: #000000;\"> qui ne d\u00e9tecte pas de maladie (une radiologie par exemple) alors que celle-ci correspond en r\u00e9alit\u00e9 \u00e0 une maladie grave.<\/span><\/li><\/ul><p><span style=\"font-weight: 400; color: #000000;\">Prenons maintenant quelques exemples concrets qui ont pu tromper des r\u00e9seaux de neurones.\u00a0<\/span><\/p><blockquote><span style=\"font-weight: 400; color: #000000;\">Dans l\u2019exemple ci-dessous, nous voyons qu\u2019avec une l\u00e9g\u00e8re perturbation invisible \u00e0 l&rsquo;\u0153il nu, il a \u00e9t\u00e9 possible de tromper le r\u00e9seaux de neurones et qui a classifi\u00e9 une photo de chien en autruche.<\/span><\/blockquote>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-7868c38 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"7868c38\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-eb38987\" data-id=\"eb38987\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-7d89f65 elementor-widget elementor-widget-image\" data-id=\"7d89f65\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-image{text-align:center}.elementor-widget-image a{display:inline-block}.elementor-widget-image a img[src$=\".svg\"]{width:48px}.elementor-widget-image img{vertical-align:middle;display:inline-block}<\/style>\t\t\t\t\t\t\t\t\t<figure class=\"wp-caption\">\n\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"700\" height=\"280\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/dog.jpeg\" class=\"attachment-large size-large wp-image-78362\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/dog.jpeg 700w, https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/dog-300x120.jpeg 300w\" sizes=\"(max-width: 700px) 100vw, 700px\" \/>\t\t\t\t\t\t\t\t\t\t\t<figcaption class=\"widget-image-caption wp-caption-text\">Source: ICHI.PRO<\/figcaption>\n\t\t\t\t\t\t\t\t\t\t<\/figure>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-2ccbcd6 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"2ccbcd6\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-a26ae2e\" data-id=\"a26ae2e\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-67cb5e7 elementor-widget elementor-widget-text-editor\" data-id=\"67cb5e7\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400; color: #000000;\">Prenons un autre exemple de classification d\u2019images sur les pandas qu\u2019un r\u00e9seau de neurones reconna\u00eet correctement comme un panda avec un <\/span><span style=\"color: #000000;\"><b>taux de confiance de 57,7 %<\/b><\/span><span style=\"font-weight: 400; color: #000000;\">.\u00a0<\/span><\/p><blockquote><span style=\"font-weight: 400; color: #000000;\">Si on ajoute un peu de perturbation soigneusement construite,\u00a0 le m\u00eame r\u00e9seau de neurones classe maintenant l&rsquo;image comme \u00e9tant un gibbon avec une confiance de 99,3 % !\u00a0<\/span><\/blockquote><p><span style=\"font-weight: 400; color: #000000;\">Il s&rsquo;agit clairement d&rsquo;une illusion d&rsquo;optique, mais seulement pour le r\u00e9seau de neurones. Nous pouvons clairement affirmer que ces deux images correspondent bien \u00e0 des pandas. En fait, nous ne pouvons m\u00eame pas percevoir qu&rsquo;un peu de perturbation a \u00e9t\u00e9 ajout\u00e9e \u00e0 l&rsquo;image originale de gauche pour construire l&rsquo;adversarial example \u00e0 droite !<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-4286f72 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"4286f72\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-0a46481\" data-id=\"0a46481\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-efbc039 elementor-widget elementor-widget-image\" data-id=\"efbc039\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t<figure class=\"wp-caption\">\n\t\t\t\t\t\t\t\t\t\t\t<a href=\"https:\/\/arxiv.org\/abs\/1412.6572\">\n\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"317\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/pandas.png\" class=\"attachment-large size-large wp-image-78373\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/pandas.png 875w, https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/pandas-300x119.png 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/pandas-768x305.png 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t\t<figcaption class=\"widget-image-caption wp-caption-text\">Source: arxiv<\/figcaption>\n\t\t\t\t\t\t\t\t\t\t<\/figure>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-80a56ae elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"80a56ae\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-d82d35e\" data-id=\"d82d35e\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-4cc03c4 elementor-widget elementor-widget-text-editor\" data-id=\"4cc03c4\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"color: #000000;\">Dans l\u2019exemple suivant, on peut voir l\u2019<b>impact<\/b> que cela peut avoir dans la <b>vie quotidienne<\/b> sur des voitures autonomes qui d\u00e9tectent mal un panneau de signalisation.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-ff3bf77 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"ff3bf77\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-8a4642f\" data-id=\"8a4642f\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-e63b1c5 elementor-widget elementor-widget-image\" data-id=\"e63b1c5\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t<figure class=\"wp-caption\">\n\t\t\t\t\t\t\t\t\t\t\t<a href=\"https:\/\/arxiv.org\/pdf\/1707.08945.pdf\">\n\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"439\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/speed-limit.png\" class=\"attachment-large size-large wp-image-78374\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/speed-limit.png 875w, https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/speed-limit-300x165.png 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2021\/06\/speed-limit-768x421.png 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t\t<figcaption class=\"widget-image-caption wp-caption-text\">Source: arxiv<\/figcaption>\n\t\t\t\t\t\t\t\t\t\t<\/figure>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-f8f8800 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"f8f8800\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-45dd401\" data-id=\"45dd401\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-e2441b6 elementor-widget elementor-widget-text-editor\" data-id=\"e2441b6\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><br \/><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Dans le cas ci-dessus, la perturbation perceptible par l&rsquo;\u0153il humain n\u2019a pas \u00e9t\u00e9 d\u00e9tect\u00e9e par le r\u00e9seau de neurones.<\/span><span style=\"font-weight: 400;\"> Le panneau stop de droite ci-dessus a \u00e9t\u00e9 classifi\u00e9 comme \u00e9tant une limitation de vitesse \u00e0 45 km\/h.<\/span><span style=\"font-weight: 400;\"> Nous pouvons donc encore voir les enjeux et les limites que peuvent avoir les r\u00e9seaux de neurones dans la classification d\u2019images<\/span><\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-e9bc921 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"e9bc921\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-data-scientist\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Suivre une formation en Machine Learning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-bfc983d elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"bfc983d\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-a1ecce7\" data-id=\"a1ecce7\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-6f742a9 elementor-widget elementor-widget-heading\" data-id=\"6f742a9\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\">Comment sont cr\u00e9\u00e9s les \u201cadversarial examples\u201d ?\n<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-1b56360 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"1b56360\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-23b06e5\" data-id=\"23b06e5\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-2f772e1 elementor-widget elementor-widget-text-editor\" data-id=\"2f772e1\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Tout d&rsquo;abord, il est n\u00e9cessaire de distinguer les attaques cibl\u00e9es et non cibl\u00e9es.\u00a0<\/span><\/span><\/p><p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Une attaque non cibl\u00e9e est tout simplement une attaque qui a pour but d\u2019<\/span><b>induire une mauvaise classification peu importe le r\u00e9sultat de cette classification<\/b><span style=\"font-weight: 400;\">. Ce qui importe est seulement la mauvaise classification de l\u2019objet par le r\u00e9seau de neurones.<\/span><\/span><\/p><p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Une attaque cibl\u00e9e est, au contraire, une attaque qui a pour but d\u2019<\/span><b>induire une mauvaise classification dans une cat\u00e9gorie pr\u00e9cise<\/b><span style=\"font-weight: 400;\">.<\/span><\/span><\/p><p><span style=\"font-weight: 400; color: #000000;\">Par exemple, une attaque non cibl\u00e9e sur une image d\u2019un chien serait d\u2019avoir une classification autre que celle d\u2019un chien par notre r\u00e9seau de neurones. Par contre, une attaque cibl\u00e9e sur une image de chien serait d\u2019induire notre r\u00e9seau de neurones \u00e0 classifier le chien en autruche par exemple mais pas en chat.<\/span><\/p><p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Il existe plusieurs m\u00e9thodes pour construire les adversarial examples. Parmi celles-ci, il y a celles utilis\u00e9es par les cyberattaques notamment le <\/span><b>data poisoning<\/b><span style=\"font-weight: 400;\"> (ou empoisonnement de donn\u00e9es), les <\/span><b><a href=\"https:\/\/datascientest.com\/gan-machine-learning\">GANs<\/a><a href=\"https:\/\/datascientest.com\/gan-machine-learning\"> (r\u00e9seaux antagonistes g\u00e9n\u00e9ratifs)<\/a><\/b> ou encore la manipulation des robots.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-4173d61 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"4173d61\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-ead64e2\" data-id=\"ead64e2\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-10cb793 elementor-widget elementor-widget-heading\" data-id=\"10cb793\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\">Comment se prot\u00e9ger des adversarial examples ?\n<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-30b84fa elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"30b84fa\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-059ae5d\" data-id=\"059ae5d\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-f3b8c68 elementor-widget elementor-widget-text-editor\" data-id=\"f3b8c68\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Il existe plusieurs moyens de se d\u00e9fendre comme par exemple en utilisant l\u2019<strong>adversarial training<\/strong> (ou entra\u00eenement contradictoire).<\/span><span style=\"font-weight: 400;\"><br \/><\/span><span style=\"font-weight: 400;\">C\u2019est la fa\u00e7on la plus simple et la plus naturelle de se d\u00e9fendre.\u00a0<\/span><\/span><\/p><blockquote><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Cette d\u00e9fense consiste \u00e0 se faire passer pour un attaquant en g\u00e9n\u00e9rant un certain nombre d\u2019adversarial examples contre notre r\u00e9seau de neurones puis \u00e0 entra\u00eener notre r\u00e9seau de neurones sur ces donn\u00e9es g\u00e9n\u00e9r\u00e9es.\u00a0<\/span><\/span><\/blockquote><p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Cette m\u00e9thode aide \u00e0 g\u00e9n\u00e9raliser notre mod\u00e8le mais n\u2019est pas encore en mesure d\u2019obtenir un niveau de robustesse cons\u00e9quent. En effet, les attaquants pourraient toujours<\/span><b> trouver une perturbation plus petite<\/b><span style=\"font-weight: 400;\"> pour tromper le r\u00e9seau de neurones. Cela se r\u00e9sumerait donc \u00e0 une partie de jeu o\u00f9 les attaquants et les d\u00e9fenseurs essaient de se surpasser les uns les autres.<\/span><\/span><\/p><p><span style=\"color: #000000;\"><span style=\"font-weight: 400;\">Il existe \u00e9galement un autre type de d\u00e9fense nomm\u00e9e la <\/span><b>distillation d\u00e9fensive<\/b><span style=\"font-weight: 400;\">. Cette d\u00e9fense consiste \u00e0 cr\u00e9er un second mod\u00e8le dont la surface sera liss\u00e9e dans les directions que l\u2019attaque souhaitera attaquer (c\u2019est-\u00e0-dire<\/span><span style=\"font-weight: 400;\"> que ce mod\u00e8le agira comme un filtre suppl\u00e9mentaire pour d\u00e9tecter des anomalies<\/span><span style=\"font-weight: 400;\">), ce qui rendra difficile pour l\u2019attaquant de d\u00e9tecter les modifications d\u2019entr\u00e9es adverses qui conduiraient \u00e0 une mauvaise classification. <\/span><span style=\"font-weight: 400;\">Le second mod\u00e8le serait une sorte de barrage aux attaques et capable de <\/span><b>d\u00e9tecter des modifications li\u00e9es \u00e0 des attaques adverses<\/b><span style=\"font-weight: 400;\">.<\/span><\/span><\/p><p><span style=\"font-weight: 400; color: #000000;\">Cependant, c\u2019est un domaine de recherche encore r\u00e9cent. Nous n\u2019avons pas compl\u00e8tement r\u00e9ussi \u00e0 aboutir \u00e0 une solution fiable et optimale. De nouvelles attaques sont souvent cr\u00e9\u00e9es pour contourner les nouvelles d\u00e9fenses, ce qui explique ce travail de recherche continu.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-ed36f5d elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"ed36f5d\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-2d43c99\" data-id=\"2d43c99\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-b369887 elementor-widget elementor-widget-heading\" data-id=\"b369887\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\">Conclusion\n<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-8113f98 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"8113f98\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-d0d8391\" data-id=\"d0d8391\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-29396e5 elementor-widget elementor-widget-text-editor\" data-id=\"29396e5\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400; color: #000000;\">Les adversarial examples montrent que de nombreux algorithmes modernes d&rsquo;apprentissage automatique peuvent \u00eatre bris\u00e9s de mani\u00e8re surprenante. Ces \u00e9checs de l&rsquo;apprentissage automatique montrent que m\u00eame des algorithmes simples peuvent se comporter tr\u00e8s diff\u00e9remment de ce que leurs concepteurs ont pr\u00e9vu. Les Data Scientist sont donc encourag\u00e9s \u00e0 s&rsquo;impliquer et \u00e0 concevoir des m\u00e9thodes pour pr\u00e9venir les exemples contradictoires, afin de combler le foss\u00e9 entre les intentions des concepteurs et le comportement des algorithmes.<\/span><\/p><p><span style=\"color: #000000;\">Envie de ma\u00eetriser les techniques de Deep Learning \u00e9voqu\u00e9es dans cet article ? Renseignez-vous sur notre <a href=\"https:\/\/datascientest.com\/formation-data-scientist\"><b>formation de Data Scientist<\/b><\/a>.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-7b97145 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"7b97145\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-data-scientist\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">D\u00e9couvrir le parcours Data Scientist<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-ccd3fed elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"ccd3fed\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-8728ec4\" data-id=\"8728ec4\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-4d8cb67 elementor-widget elementor-widget-html\" data-id=\"4d8cb67\" data-element_type=\"widget\" data-widget_type=\"html.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<script type=\"application\/ld+json\">\n{\n  \"@context\": \"https:\/\/schema.org\",\n  \"@type\": \"FAQPage\",\n  \"mainEntity\": [{\n    \"@type\": \"Question\",\n    \"name\": \"Qu\u2019est ce qu\u2019un \u201cadversarial example\u201d  ?\",\n    \"acceptedAnswer\": {\n      \"@type\": \"Answer\",\n      \"text\": \"Un \u201cadversarial example\u201d ou exemple contradictoire est un exemple d\u2019objet capable de tromper et d\u00e9jouer un algorithme d\u2019un r\u00e9seau de neurones en lui faisant croire qu\u2019il doit \u00eatre classifi\u00e9 en tant que tel objet alors que ce n\u2019est pas le cas.\"\n    }\n  },{\n    \"@type\": \"Question\",\n    \"name\": \"Quels sont les risques ?\",\n    \"acceptedAnswer\": {\n      \"@type\": \"Answer\",\n      \"text\": \"Lorsque vous demandez \u00e0 un humain de d\u00e9crire comment il d\u00e9tecte un panda dans une image, il peut rechercher des caract\u00e9ristiques physiques telles que des oreilles rondes, des t\u00e2ches noires autour des yeux, le museau, la peau poilue. Il peut \u00e9galement fournir d'autres informations, comme le type d'habitat dans lequel elle s'attend \u00e0 voir le panda et le type de poses qu'il adopte.\"\n    }\n  },{\n    \"@type\": \"Question\",\n    \"name\": \"Comment se prot\u00e9ger des adversarial examples ?\",\n    \"acceptedAnswer\": {\n      \"@type\": \"Answer\",\n      \"text\": \"Il existe plusieurs moyens de se d\u00e9fendre comme par exemple en utilisant l\u2019adversarial training (ou entra\u00eenement contradictoire).\"\n    }\n  }]\n}\n<\/script>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"<p>De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont [&hellip;]<\/p>\n","protected":false},"author":77,"featured_media":176525,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"content-type":"","inline_featured_image":false},"categories":[2497],"tags":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v21.7 (Yoast SEO v21.7) - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Adversarial Examples : D\u00e9finition et importance en machine learning<\/title>\n<meta name=\"description\" content=\"De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont tr\u00e8s puissants et infaillibles. Cet article vise \u00e0 comprendre les enjeux et impacts que peuvent induire les adversarial examples.\u00a0\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/datascientest.com\/adversarial-examples\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Adversarial Examples : D\u00e9finition et importance en machine learning\" \/>\n<meta property=\"og:url\" content=\"https:\/\/datascientest.com\/adversarial-examples\" \/>\n<meta property=\"og:site_name\" content=\"Formation Data Science | DataScientest.com\" \/>\n<meta property=\"article:published_time\" content=\"2021-07-26T13:58:02+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-11-09T14:06:49+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/07\/illu_adversarial_training-71.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"768\" \/>\n\t<meta property=\"og:image:height\" content=\"422\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Raphael Kassel\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"Raphael Kassel\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/datascientest.com\/adversarial-examples\",\"url\":\"https:\/\/datascientest.com\/adversarial-examples\",\"name\":\"Adversarial Examples : D\u00e9finition et importance en machine learning\",\"isPartOf\":{\"@id\":\"https:\/\/datascientest.com\/#website\"},\"datePublished\":\"2021-07-26T13:58:02+00:00\",\"dateModified\":\"2023-11-09T14:06:49+00:00\",\"author\":{\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/6eca16f63daaafcbc96e15549b9d4ee1\"},\"description\":\"De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont tr\u00e8s puissants et infaillibles. Cet article vise \u00e0 comprendre les enjeux et impacts que peuvent induire les adversarial examples.\u00a0\",\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/datascientest.com\/adversarial-examples\"]}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/datascientest.com\/#website\",\"url\":\"https:\/\/datascientest.com\/\",\"name\":\"Formation Data Science | DataScientest.com\",\"description\":\"Leader de la formation en Data Science\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/datascientest.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/6eca16f63daaafcbc96e15549b9d4ee1\",\"name\":\"Raphael Kassel\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/raph.jpeg\",\"contentUrl\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/raph.jpeg\",\"caption\":\"Raphael Kassel\"},\"description\":\"Raphael Kassel est le Head of Data Programs chez DataScientest. Il supervise une \u00e9quipe Data, impl\u00e9mente de nouveaux parcours comme \\\"Chef de projet IA\\\" et \\\"Data Product Manager\\\", et contribue \u00e0 la modernisation des op\u00e9rations du groupe. En collaboration \u00e9troite avec l'\u00e9quipe de d\u00e9veloppement, il adapte l'accompagnement acad\u00e9mique aux \u00e9volutions de l'\u00e9quipe data et \u00e0 l'internationalisation.\",\"sameAs\":[\"https:\/\/www.linkedin.com\/in\/raphaelkassel\/\",\"Data Science\"],\"url\":\"https:\/\/datascientest.com\/author\/raphaelkassel\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Adversarial Examples : D\u00e9finition et importance en machine learning","description":"De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont tr\u00e8s puissants et infaillibles. Cet article vise \u00e0 comprendre les enjeux et impacts que peuvent induire les adversarial examples.\u00a0","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/datascientest.com\/adversarial-examples","og_locale":"fr_FR","og_type":"article","og_title":"Adversarial Examples : D\u00e9finition et importance en machine learning","og_url":"https:\/\/datascientest.com\/adversarial-examples","og_site_name":"Formation Data Science | DataScientest.com","article_published_time":"2021-07-26T13:58:02+00:00","article_modified_time":"2023-11-09T14:06:49+00:00","og_image":[{"width":768,"height":422,"url":"https:\/\/datascientest.com\/wp-content\/uploads\/2021\/07\/illu_adversarial_training-71.webp","type":"image\/webp"}],"author":"Raphael Kassel","twitter_card":"summary_large_image","twitter_misc":{"\u00c9crit par":"Raphael Kassel","Dur\u00e9e de lecture estim\u00e9e":"7 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/datascientest.com\/adversarial-examples","url":"https:\/\/datascientest.com\/adversarial-examples","name":"Adversarial Examples : D\u00e9finition et importance en machine learning","isPartOf":{"@id":"https:\/\/datascientest.com\/#website"},"datePublished":"2021-07-26T13:58:02+00:00","dateModified":"2023-11-09T14:06:49+00:00","author":{"@id":"https:\/\/datascientest.com\/#\/schema\/person\/6eca16f63daaafcbc96e15549b9d4ee1"},"description":"De nos jours, nous remarquons une recrudescence d\u2019int\u00e9r\u00eat et de progr\u00e8s dans les nouvelles technologies li\u00e9es \u00e0 l\u2019intelligence artificielle et notamment \u00e0 l\u2019utilisation des r\u00e9seaux de neurones. Nous pouvons remarquer la puissance de ceux-ci dans la classification d\u2019images et dans la classification d\u2019objets. \u00c0 premi\u00e8re vue, nous pouvons penser que ces r\u00e9seaux de neurones sont tr\u00e8s puissants et infaillibles. Cet article vise \u00e0 comprendre les enjeux et impacts que peuvent induire les adversarial examples.\u00a0","inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/datascientest.com\/adversarial-examples"]}]},{"@type":"WebSite","@id":"https:\/\/datascientest.com\/#website","url":"https:\/\/datascientest.com\/","name":"Formation Data Science | DataScientest.com","description":"Leader de la formation en Data Science","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/datascientest.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/datascientest.com\/#\/schema\/person\/6eca16f63daaafcbc96e15549b9d4ee1","name":"Raphael Kassel","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/datascientest.com\/#\/schema\/person\/image\/","url":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/raph.jpeg","contentUrl":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/raph.jpeg","caption":"Raphael Kassel"},"description":"Raphael Kassel est le Head of Data Programs chez DataScientest. Il supervise une \u00e9quipe Data, impl\u00e9mente de nouveaux parcours comme \"Chef de projet IA\" et \"Data Product Manager\", et contribue \u00e0 la modernisation des op\u00e9rations du groupe. En collaboration \u00e9troite avec l'\u00e9quipe de d\u00e9veloppement, il adapte l'accompagnement acad\u00e9mique aux \u00e9volutions de l'\u00e9quipe data et \u00e0 l'internationalisation.","sameAs":["https:\/\/www.linkedin.com\/in\/raphaelkassel\/","Data Science"],"url":"https:\/\/datascientest.com\/author\/raphaelkassel"}]}},"_links":{"self":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/78297"}],"collection":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/users\/77"}],"replies":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/comments?post=78297"}],"version-history":[{"count":0,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/78297\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media\/176525"}],"wp:attachment":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media?parent=78297"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/categories?post=78297"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/tags?post=78297"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}