{"id":203999,"date":"2023-08-23T07:30:00","date_gmt":"2023-08-23T07:30:00","guid":{"rendered":"https:\/\/datascientest.com\/?p=203999"},"modified":"2023-11-09T13:43:47","modified_gmt":"2023-11-09T13:43:47","slug":"divergence-de-jensen-shannon","status":"publish","type":"post","link":"https:\/\/datascientest.com\/divergence-de-jensen-shannon","title":{"rendered":"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML"},"content":{"rendered":"\t\t<div data-elementor-type=\"wp-post\" data-elementor-id=\"203999\" class=\"elementor elementor-203999\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-c179b9d e-flex e-con-boxed e-con\" data-id=\"c179b9d\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-cecd250 elementor-widget elementor-widget-heading\" data-id=\"cecd250\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-heading-title{padding:0;margin:0;line-height:1}.elementor-widget-heading .elementor-heading-title[class*=elementor-size-]>a{color:inherit;font-size:inherit;line-height:inherit}.elementor-widget-heading .elementor-heading-title.elementor-size-small{font-size:15px}.elementor-widget-heading .elementor-heading-title.elementor-size-medium{font-size:19px}.elementor-widget-heading .elementor-heading-title.elementor-size-large{font-size:29px}.elementor-widget-heading .elementor-heading-title.elementor-size-xl{font-size:39px}.elementor-widget-heading .elementor-heading-title.elementor-size-xxl{font-size:59px}<\/style><h2 class=\"elementor-heading-title elementor-size-default\">La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes !<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-41d3f3d e-flex e-con-boxed e-con\" data-id=\"41d3f3d\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-5a49d23 elementor-widget elementor-widget-text-editor\" data-id=\"5a49d23\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-text-editor.elementor-drop-cap-view-stacked .elementor-drop-cap{background-color:#69727d;color:#fff}.elementor-widget-text-editor.elementor-drop-cap-view-framed .elementor-drop-cap{color:#69727d;border:3px solid;background-color:transparent}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap{margin-top:8px}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap-letter{width:1em;height:1em}.elementor-widget-text-editor .elementor-drop-cap{float:left;text-align:center;line-height:1;font-size:50px}.elementor-widget-text-editor .elementor-drop-cap-letter{display:inline-block}<\/style>\t\t\t\t<p><span style=\"font-weight: 400;\">Au cours du XXe si\u00e8cle, le math\u00e9maticien danois Johan Jensen et le statisticien am\u00e9ricain Peter Shannon ont apport\u00e9 des <strong>contributions majeures \u00e0 la th\u00e9orie de l&rsquo;information et \u00e0 la statistique<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">N\u00e9 en 1859, Johan Jensen a consacr\u00e9 une grande partie de sa carri\u00e8re \u00e0 l\u2019\u00e9tude des fonctions convexes et des in\u00e9galit\u00e9s. C\u2019est en 1906 qu\u2019il publie un article intitul\u00e9 \u00ab Sur les fonctions convexes et les in\u00e9galit\u00e9s entre les valeurs moyennes \u00bb.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Il y introduit la <strong>notion de convexit\u00e9<\/strong>, et a \u00e9tabli plusieurs r\u00e9sultats sur les in\u00e9galit\u00e9s de Jensen qui portent son nom. Il s\u2019agit de r\u00e9sultats math\u00e9matiques d\u00e9crivant les <strong>propri\u00e9t\u00e9s des fonctions convexes<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">De son c\u00f4t\u00e9, Peter Shannon est n\u00e9 en 1917 et a longtemps \u00e9tudi\u00e9 les mesures de divergence entre distributions de probabilit\u00e9. Il a notamment travaill\u00e9 sur des probl\u00e8mes li\u00e9s \u00e0 <strong>l\u2019estimation de la densit\u00e9<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Dans les ann\u00e9es 1940, plusieurs d\u00e9cennies apr\u00e8s les travaux de Jensen, l\u2019Am\u00e9ricain d\u00e9veloppe des m\u00e9thodes pour <strong>estimer la divergence entre distributions de probabilit\u00e9<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Il se base sur la divergence de Kullback-Leibler : une mesure invent\u00e9e dans les ann\u00e9es 1950 par Solomon Kulback et Richard Leibler, largement utilis\u00e9e pour quantifier la diff\u00e9rence entre deux distributions.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Cette derni\u00e8re mesure la dissimilarit\u00e9 entre deux distributions de probabilit\u00e9 en se basant sur les logarithmes des rapports de probabilit\u00e9.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Plus tard, dans les ann\u00e9es 1990, des chercheurs commenc\u00e8rent \u00e0 <strong>explorer les possibilit\u00e9s d\u2019extensions et de variations de la divergence<\/strong> de Kullback-Leibler.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Leur but \u00e9tait de mieux prendre en compte <strong>la sym\u00e9trie et la dissimilarit\u00e9 entre distributions<\/strong>. C\u2019est ainsi qu\u2019ils s\u2019inspir\u00e8rent des travaux pr\u00e9curseurs de Johan Jensen et Peter Shannon pour cr\u00e9er la divergence de Jensen-Shannon.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-d7f8912 e-flex e-con-boxed e-con\" data-id=\"d7f8912\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-de3b1e1 elementor-widget elementor-widget-heading\" data-id=\"de3b1e1\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Qu\u2019est-ce que la divergence de Jensen-Shannon ?<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-c46fc77 elementor-widget elementor-widget-text-editor\" data-id=\"c46fc77\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">La divergence de Jensen-Shannon est introduite pour la premi\u00e8re fois dans un article de Barry E. .S. Lindgren en 1991, intitul\u00e9 \u00ab Some Properties of Jensen-Shannon Divergence and Mutual Information\u00bb.<\/span><\/p><p><span style=\"font-weight: 400;\">Il a d\u00e9velopp\u00e9 cette m\u00e9trique comme <strong>une mesure de divergence sym\u00e9trique entre deux distributions de probabilit\u00e9<\/strong>. Sa principale diff\u00e9rence avec la divergence de Kullback-Leibler qui lui sert de fondation est la sym\u00e9trie.<\/span><\/p><p><span style=\"font-weight: 400;\">Ainsi, elle prend la moyenne pond\u00e9r\u00e9e de deux divergences KL. L\u2019une est calcul\u00e9e \u00e0 partir de la premi\u00e8re distribution et l\u2019autre \u00e0 partir de la deuxi\u00e8me.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">On peut donc d\u00e9finir la divergence de Jensen-Shannon est d\u00e9finie comme <strong>la moyenne pond\u00e9r\u00e9e des divergences de Kullback-Leibler entre chaque distribution et une distribution moyenne<\/strong>.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-507f65e elementor-widget elementor-widget-image\" data-id=\"507f65e\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-image{text-align:center}.elementor-widget-image a{display:inline-block}.elementor-widget-image a img[src$=\".svg\"]{width:48px}.elementor-widget-image img{vertical-align:middle;display:inline-block}<\/style>\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"450\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-1.png\" class=\"attachment-full size-full wp-image-204039\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-1.png 800w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-1-300x169.png 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-1-768x432.png 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-6134a6c elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"6134a6c\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-machine-learning-engineer\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">En apprendre plus sur la divergence JS<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-d691c1c e-flex e-con-boxed e-con\" data-id=\"d691c1c\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-73cfec2 elementor-widget elementor-widget-heading\" data-id=\"73cfec2\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Comment calculer la divergence de Jensen-Shannon ?<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-53b0080 elementor-widget elementor-widget-text-editor\" data-id=\"53b0080\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">La premi\u00e8re \u00e9tape pour calculer la divergence de Jensen-Shannon est de <strong>pr\u00e9-traiter les donn\u00e9es<\/strong> pour obtenir les distributions de probabilit\u00e9 P et Q.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Par la suite, l<strong>es distributions de probabilit\u00e9 peuvent \u00eatre estim\u00e9es \u00e0 partir des donn\u00e9es<\/strong>. Il est par exemple possible de compter les occurrences de chaque \u00e9l\u00e9ment dans l\u2019\u00e9chantillon.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Lorsque les distributions sont disponibles, on peut calculer la divergence en utilisant la formule :<\/span><\/p><p style=\"padding-left: 40px;\"><strong>JS(P || Q) = (KL(P || M) + KL(Q || M)) \/ 2<br \/><span style=\"font-weight: 400;\"><br \/>o\u00f9 M = (P + Q) \/ 2 et || repr\u00e9sente l&rsquo;op\u00e9rateur de concat\u00e9nation<\/span><br \/><\/strong><\/p><p><span style=\"font-weight: 400;\">Une valeur plus \u00e9lev\u00e9e de la divergence de JS indique <strong>une plus grande dissimilarit\u00e9 entre les distributions<\/strong>, tandis qu&rsquo;une valeur plus proche de z\u00e9ro indique une plus grande similarit\u00e9.<\/span><\/p><p><span style=\"font-weight: 400;\">Pour illustrer par un exemple concret, supposons que nous ayons deux textes et que nous voulions mesurer leur similarit\u00e9.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Chaque texte peut \u00eatre repr\u00e9sent\u00e9 par une distribution de mots, o\u00f9 chaque mot est un \u00e9l\u00e9ment de l\u2019alphabet.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">En comptant les occurrences des mots dans chaque texte et en normalisant ces occurrences par la fr\u00e9quence des totale des mots, nous obtenons les <strong>distributions de probabilit\u00e9 P et Q<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">On utilise ensuite la formule de la divergence de Jensen-Shannon pour calculer une valeur qui indique \u00e0 quel point les deux textes sont similaires !<\/span><\/p><p><span style=\"font-weight: 400;\">Plusieurs propri\u00e9t\u00e9s importantes sont \u00e0 souligner sur cette mesure. Tout d\u2019abord, elle est toujours positive et atteint z\u00e9ro si et seulement si les distributions P et Q sont identiques.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">En outre, elle est born\u00e9e sup\u00e9rieurement par log2(n), o\u00f9 n est la taille de l\u2019alphabet de la distribution. Elle est statistiquement significative et peut \u00eatre utilis\u00e9e dans des tests d&rsquo;hypoth\u00e8ses et des intervalles de confiance.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-d2862c5 e-flex e-con-boxed e-con\" data-id=\"d2862c5\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-cce41c5 elementor-widget elementor-widget-heading\" data-id=\"cce41c5\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Avantages et inconv\u00e9nients<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-25a4e65 elementor-widget elementor-widget-text-editor\" data-id=\"25a4e65\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Le point fort de la divergence de Jensen-Shannon est la <strong>prise en compte de la structure globale des distributions<\/strong>. Elle est donc plus r\u00e9sistante aux variations locales que d\u2019autres mesures de divergence.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Son calcul est relativement efficace, ce qui la rend par ailleurs <strong>applicable \u00e0 de grandes quantit\u00e9s de donn\u00e9es<\/strong>. Il s\u2019agit de ses principaux avantages.<\/span><\/p><p><span style=\"font-weight: 400;\">En revanche, elle peut \u00eatre sensible \u00e0 la taille des \u00e9chantillons. Les estimations des distributions de probabilit\u00e9 peuvent \u00eatre <strong>peu fiables en cas de petite taille<\/strong>, et ceci peut affecter la mesure de similarit\u00e9.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Elle peut aussi \u00eatre <strong>moins adapt\u00e9e lorsque les distributions sont tr\u00e8s diff\u00e9rentes<\/strong>. Pour cause, elle ne capture pas les d\u00e9tails fins des diff\u00e9rences locales.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-1d9efa2 e-flex e-con-boxed e-con\" data-id=\"1d9efa2\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-04c05eb elementor-widget elementor-widget-heading\" data-id=\"04c05eb\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Divergence de Jensen-Shannon et Machine Learning<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-397170b elementor-widget elementor-widget-text-editor\" data-id=\"397170b\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Dans le domaine du <a href=\"https:\/\/datascientest.com\/machine-learning-tout-savoir\">Machine Learning<\/a>, la divergence JS occupe un r\u00f4le crucial. Elle permet de mesurer la similitude entre les distributions de probabilit\u00e9 associ\u00e9es \u00e0 diff\u00e9rents \u00e9chantillons ou clusters.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">On peut l\u2019utiliser <strong>pour regrouper des donn\u00e9es similaires ensemble ou pour classifier de nouveaux \u00e9chantillons<\/strong> en les comparant \u00e0 des distributions de r\u00e9f\u00e9rence.<\/span><\/p><p><span style=\"font-weight: 400;\">Dans le traitement du langage naturel, il est possible de l\u2019utiliser pour comparer les distributions de mots dans diff\u00e9rents textes. Ceci permet d\u2019identifier des documents similaires, de d\u00e9tecter du contenu dupliqu\u00e9 ou de trouver des relations s\u00e9mantiques entre des textes.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Il s\u2019agit aussi d\u2019un outil d\u2019<strong>\u00e9valuation des mod\u00e8les de langage<\/strong>. On peut notamment s\u2019en servir pour \u00e9valuer la diversit\u00e9 et la qualit\u00e9 des textes g\u00e9n\u00e9r\u00e9s.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">En comparant les distributions de probabilit\u00e9 des textes g\u00e9n\u00e9r\u00e9s avec celles des textes de r\u00e9f\u00e9rence, il est possible de <strong>mesurer \u00e0 quel point les g\u00e9n\u00e9rations sont similaires ou diff\u00e9rentes du corpus de r\u00e9f\u00e9rence<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Dans les cas o\u00f9 les donn\u00e9es d&rsquo;apprentissage et les donn\u00e9es de test proviennent de distributions diff\u00e9rentes, la divergence de Jensen-Shannon peut \u00eatre utilis\u00e9e pour guider les strat\u00e9gies d&rsquo;adaptation de domaine.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Cela peut aider \u00e0 ajuster un mod\u00e8le entra\u00een\u00e9 sur une distribution source pour <strong>mieux s&rsquo;adapter aux nouvelles donn\u00e9es d&rsquo;une distribution cible<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Enfin, pour l\u2019analyse de sentiment, la divergence JS peut \u00eatre utilis\u00e9e pour <strong>comparer les profils<\/strong> entre diff\u00e9rents documents ou classes d&rsquo;\u00e9chantillons.<\/span><\/p><p><span style=\"font-weight: 400;\">Cela permet d\u2019identifier les similitudes et les diff\u00e9rences dans l\u2019expression, par exemple pour la d\u00e9tection de l\u2019opinion ou la classification des \u00e9motions.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-65dd75f elementor-widget elementor-widget-image\" data-id=\"65dd75f\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"450\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-2.png\" class=\"attachment-full size-full wp-image-204040\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-2.png 800w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-2-300x169.png 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-2-768x432.png 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-3a2840d elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"3a2840d\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-machine-learning-engineer\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Ma\u00eetriser la divergence JS et la ML<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-ee40a20 e-flex e-con-boxed e-con\" data-id=\"ee40a20\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-3d1b602 elementor-widget elementor-widget-heading\" data-id=\"3d1b602\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Divergence de Jensen-Shannon et Data Science<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-60d7078 elementor-widget elementor-widget-text-editor\" data-id=\"60d7078\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Pour la <a href=\"https:\/\/datascientest.com\/science-des-donnees\">science des donn\u00e9es<\/a>, la divergence JS permet de comparer la similarit\u00e9 entre les distributions de variables ou de caract\u00e9ristiques dans un ensemble de donn\u00e9es.<\/span><\/p><p><span style=\"font-weight: 400;\">Elle peut \u00eatre utilis\u00e9e pour <strong>mesurer la diff\u00e9rence entre les distributions de donn\u00e9es observ\u00e9es et les distributions attendues ou de r\u00e9f\u00e9rence<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Cela permet d&rsquo;identifier les variations et les divergences entre les diff\u00e9rentes distributions, ce qui peut \u00eatre pr\u00e9cieux pour la d\u00e9tection d&rsquo;anomalies ou la validation des hypoth\u00e8ses.<\/span><\/p><p><span style=\"font-weight: 400;\">Pour l\u2019analyse de donn\u00e9es textuelles, cette mesure permet d\u2019<strong>estimer la similitude<\/strong> entre les distributions de mots, de phrases ou de th\u00e8mes dans des documents.<\/span><\/p><p><span style=\"font-weight: 400;\">Cela peut aider<strong> \u00e0 regrouper des documents similaires, \u00e0 extraire des sujets communs ou \u00e0 d\u00e9tecter des diff\u00e9rences significatives<\/strong> entre les ensembles de documents.<\/span><\/p><p><span style=\"font-weight: 400;\">Par exemple, elle peut \u00eatre utilis\u00e9e pour la classification de documents bas\u00e9e sur leur contenu ou pour l&rsquo;analyse de sentiment en comparant les distributions de sentiments entre diff\u00e9rents textes.<\/span><\/p><p><span style=\"font-weight: 400;\">Lorsqu&rsquo;il y a une grande dimensionnalit\u00e9 dans les donn\u00e9es, la divergence de Jensen-Shannon peut \u00eatre utilis\u00e9e pour s\u00e9lectionner les caract\u00e9ristiques les plus discriminantes ou pour r\u00e9duire la dimensionnalit\u00e9 des donn\u00e9es.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">En calculant la divergence entre les distributions de diff\u00e9rentes caract\u00e9ristiques, il est possible d&rsquo;identifier celles qui contribuent le plus \u00e0 la diff\u00e9renciation entre les classes ou les groupes de donn\u00e9es.<\/span><\/p><p><span style=\"font-weight: 400;\"><strong>\u00c9valuation de mod\u00e8les<\/strong> : Dans le processus de d\u00e9veloppement et d&rsquo;\u00e9valuation des mod\u00e8les pr\u00e9dictifs, <strong>la divergence JS peut \u00eatre utilis\u00e9e comme m\u00e9trique<\/strong> pour comparer les distributions de probabilit\u00e9 des pr\u00e9dictions et des valeurs r\u00e9elles.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Cela permet d&rsquo;\u00e9valuer la qualit\u00e9 du mod\u00e8le en mesurant \u00e0 quel point les<strong> pr\u00e9dictions<\/strong> s&rsquo;alignent sur les observations r\u00e9elles. Par exemple, elle peut \u00eatre utilis\u00e9e dans l&rsquo;\u00e9valuation des mod\u00e8les de classification, de r\u00e9gression ou de recommandation.<\/span><\/p><p><span style=\"font-weight: 400;\">Enfin, on peut l\u2019utiliser pour <strong>mesurer la similitude entre les observations ou les instances<\/strong> dans un ensemble de donn\u00e9es.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">En comparant les distributions de caract\u00e9ristiques entre les diff\u00e9rentes instances, il est possible de <strong>d\u00e9terminer la proximit\u00e9 ou la distance<\/strong> entre elles. Cela peut \u00eatre utilis\u00e9 dans des t\u00e2ches de clustering pour regrouper des observations similaires ou pour effectuer des recherches de similarit\u00e9 dans de grandes bases de donn\u00e9es.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-f8a587e e-flex e-con-boxed e-con\" data-id=\"f8a587e\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-8ec6585 elementor-widget elementor-widget-heading\" data-id=\"8ec6585\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Conclusion : la divergence de Jensen-Shannon, un outil cl\u00e9 de l\u2019analyse de donn\u00e9es et de l\u2019apprentissage automatique<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-fafc85d elementor-widget elementor-widget-text-editor\" data-id=\"fafc85d\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Depuis sa cr\u00e9ation, la divergence de Jensen-Shannon a \u00e9t\u00e9 largement utilis\u00e9e dans de nombreux domaines dont l\u2019informatique, la statistique, le <a href=\"https:\/\/datascientest.com\/formation-nlp\">traitement du langage naturel<\/a>, la bioinformatique ou le machine learning.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Il s\u2019agit encore aujourd\u2019hui d\u2019<strong>un outil essentiel<\/strong> pour mesurer la similarit\u00e9 entre distributions de probabilit\u00e9, qui a ouvert de nouvelles perspectives dans l\u2019<a href=\"https:\/\/datascientest.com\/data-analysis-tout-savoir\">analyse de donn\u00e9es<\/a> et la <strong>mod\u00e9lisation statistique<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Les chercheurs du monde entier l\u2019utilisent pour <strong>r\u00e9soudre des probl\u00e8mes de classification ou de clustering<\/strong>. C\u2019est un \u00e9l\u00e9ment cl\u00e9 de la bo\u00eete \u00e0 outil des scientifiques et praticiens de nombreux domaines, \u00e0 commencer par la Data Science.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Afin d\u2019apprendre \u00e0 ma\u00eetriser toutes les techniques d\u2019analyse et de Machine Learning, vous pouvez <strong>choisir DataScientest<\/strong>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Nos formations vous permettront d\u2019acqu\u00e9rir toutes les comp\u00e9tences requises pour devenir<a href=\"https:\/\/datascientest.com\/data-engineer-une-carriere-en-forte-demande\"> ing\u00e9nieur des donn\u00e9es<\/a>, <a href=\"https:\/\/datascientest.com\/comment-devenir-data-analyst\">analyste<\/a>, <a href=\"https:\/\/datascientest.com\/les-outils-dans-le-quotidien-dun-data-scientist\">Data Scientist<\/a>, <a href=\"https:\/\/datascientest.com\/data-product-manager\">Data Product Manager<\/a> ou encore <a href=\"https:\/\/datascientest.com\/salaire-machine-learning-engineer\">ing\u00e9nieur ML<\/a>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Vous d\u00e9couvrirez le langage Python et ses biblioth\u00e8ques, les <a href=\"https:\/\/datascientest.com\/formation-datavisualisation\">outils de DataViz<\/a>, les <a href=\"https:\/\/datascientest.com\/power-bi-vs-tableau-vs-qlik\">solutions de Business Intelligence<\/a> ou encore les <a href=\"https:\/\/datascientest.com\/bien-choisir-sa-base-de-donnees-typologie\">bases de donn\u00e9es<\/a>.\u00a0<\/span><\/p><p><span style=\"font-weight: 400;\">Toutes nos formations s\u2019effectuent enti\u00e8rement \u00e0 distance, permettent d\u2019obtenir une certification professionnelle et sont \u00e9ligibles au <a href=\"https:\/\/datascientest.com\/cpf-definition-utlisation\">CPF<\/a> pour le financement. <strong>D\u00e9couvrez DataScientest !<\/strong><\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-c33bb7d elementor-widget__width-initial elementor-widget elementor-widget-video\" data-id=\"c33bb7d\" data-element_type=\"widget\" data-settings=\"{&quot;youtube_url&quot;:&quot;https:\\\/\\\/youtu.be\\\/pVNzVvHV1No&quot;,&quot;video_type&quot;:&quot;youtube&quot;,&quot;controls&quot;:&quot;yes&quot;}\" data-widget_type=\"video.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-video .elementor-widget-container{overflow:hidden;transform:translateZ(0)}.elementor-widget-video .elementor-wrapper{aspect-ratio:var(--video-aspect-ratio)}.elementor-widget-video .elementor-wrapper iframe,.elementor-widget-video .elementor-wrapper video{height:100%;width:100%;display:flex;border:none;background-color:#000}@supports not (aspect-ratio:1\/1){.elementor-widget-video .elementor-wrapper{position:relative;overflow:hidden;height:0;padding-bottom:calc(100% \/ var(--video-aspect-ratio))}.elementor-widget-video .elementor-wrapper iframe,.elementor-widget-video .elementor-wrapper video{position:absolute;top:0;right:0;bottom:0;left:0}}.elementor-widget-video .elementor-open-inline .elementor-custom-embed-image-overlay{position:absolute;top:0;right:0;bottom:0;left:0;background-size:cover;background-position:50%}.elementor-widget-video .elementor-custom-embed-image-overlay{cursor:pointer;text-align:center}.elementor-widget-video .elementor-custom-embed-image-overlay:hover .elementor-custom-embed-play i{opacity:1}.elementor-widget-video .elementor-custom-embed-image-overlay img{display:block;width:100%;aspect-ratio:var(--video-aspect-ratio);-o-object-fit:cover;object-fit:cover;-o-object-position:center center;object-position:center center}@supports not (aspect-ratio:1\/1){.elementor-widget-video .elementor-custom-embed-image-overlay{position:relative;overflow:hidden;height:0;padding-bottom:calc(100% \/ var(--video-aspect-ratio))}.elementor-widget-video .elementor-custom-embed-image-overlay img{position:absolute;top:0;right:0;bottom:0;left:0}}.elementor-widget-video .e-hosted-video .elementor-video{-o-object-fit:cover;object-fit:cover}.e-con-inner>.elementor-widget-video,.e-con>.elementor-widget-video{width:var(--container-widget-width);--flex-grow:var(--container-widget-flex-grow)}<\/style>\t\t<div class=\"elementor-wrapper elementor-open-inline\">\n\t\t\t<div class=\"elementor-video\"><\/div>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-27f726f elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"27f726f\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-machine-learning-engineer\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Commencer une formation en Machine Learning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-31a4f99 e-flex e-con-boxed e-con\" data-id=\"31a4f99\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-6e58cb9 elementor-widget elementor-widget-html\" data-id=\"6e58cb9\" data-element_type=\"widget\" data-widget_type=\"html.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<script type=\"application\/ld+json\">\r\n{\r\n  \"@context\": \"https:\/\/schema.org\",\r\n  \"@type\": \"FAQPage\",\r\n  \"mainEntity\": [{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Qu\u2019est-ce que la divergence de Jensen-Shannon ?\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"La divergence de Jensen-Shannon est introduite pour la premi\u00e8re fois dans un article de Barry E. .S. Lindgren en 1991, intitul\u00e9 \u00ab Some Properties of Jensen-Shannon Divergence and Mutual Information\u00bb. Il a d\u00e9velopp\u00e9 cette m\u00e9trique comme une mesure de divergence sym\u00e9trique entre deux distributions de probabilit\u00e9. Sa principale diff\u00e9rence avec la divergence de Kullback-Leibler qui lui sert de fondation est la sym\u00e9trie.\"\r\n    }\r\n  },{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Comment calculer la divergence de Jensen-Shannon ?\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"La premi\u00e8re \u00e9tape pour calculer la divergence de Jensen-Shannon est de pr\u00e9-traiter les donn\u00e9es pour obtenir les distributions de probabilit\u00e9 P et Q. Par la suite, les distributions de probabilit\u00e9 peuvent \u00eatre estim\u00e9es \u00e0 partir des donn\u00e9es. Il est par exemple possible de compter les occurrences de chaque \u00e9l\u00e9ment dans l\u2019\u00e9chantillon.\"\r\n    }\r\n  },{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Avantages et inconv\u00e9nients\u200b\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"Le point fort de la divergence de Jensen-Shannon est la prise en compte de la structure globale des distributions. Elle est donc plus r\u00e9sistante aux variations locales que d\u2019autres mesures de divergence. Son calcul est relativement efficace, ce qui la rend par ailleurs applicable \u00e0 de grandes quantit\u00e9s de donn\u00e9es. Il s\u2019agit de ses principaux avantages.\"\r\n    }\r\n  }]\r\n}\r\n<\/script>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"<p>La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes ! Au cours du XXe si\u00e8cle, le math\u00e9maticien danois Johan Jensen et le statisticien am\u00e9ricain Peter Shannon [&hellip;]<\/p>\n","protected":false},"author":78,"featured_media":204010,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"content-type":"","inline_featured_image":false},"categories":[2497],"tags":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v21.7 (Yoast SEO v21.7) - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML<\/title>\n<meta name=\"description\" content=\"La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes !\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/datascientest.com\/divergence-de-jensen-shannon\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML\" \/>\n<meta property=\"og:url\" content=\"https:\/\/datascientest.com\/divergence-de-jensen-shannon\" \/>\n<meta property=\"og:site_name\" content=\"Formation Data Science | DataScientest.com\" \/>\n<meta property=\"article:published_time\" content=\"2023-08-23T07:30:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-11-09T13:43:47+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-datascientest.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"600\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"J\u00e9r\u00e9my Robert\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"J\u00e9r\u00e9my Robert\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"9 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/datascientest.com\/divergence-de-jensen-shannon\",\"url\":\"https:\/\/datascientest.com\/divergence-de-jensen-shannon\",\"name\":\"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML\",\"isPartOf\":{\"@id\":\"https:\/\/datascientest.com\/#website\"},\"datePublished\":\"2023-08-23T07:30:00+00:00\",\"dateModified\":\"2023-11-09T13:43:47+00:00\",\"author\":{\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925\"},\"description\":\"La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes !\",\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/datascientest.com\/divergence-de-jensen-shannon\"]}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/datascientest.com\/#website\",\"url\":\"https:\/\/datascientest.com\/\",\"name\":\"Formation Data Science | DataScientest.com\",\"description\":\"Leader de la formation en Data Science\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/datascientest.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925\",\"name\":\"J\u00e9r\u00e9my Robert\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg\",\"contentUrl\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg\",\"caption\":\"J\u00e9r\u00e9my Robert\"},\"description\":\"J\u00e9r\u00e9my Robert est actuellement Directeur p\u00e9dagogique B2B chez DataScientest.com. Avant de rejoindre DataScientest, il a travaill\u00e9 en tant que Consultant Business Intelligence chez DEAPDATA, o\u00f9 il a g\u00e9r\u00e9 des projets dans les domaines de l'assurance, bancaire et industrie. Il a \u00e9galement \u00e9t\u00e9 Co-fondateur et pr\u00e9sident de Tripzer. En tant que consultant ind\u00e9pendant, J\u00e9r\u00e9my a propos\u00e9 des formations sur MicroStrategy pour divers niveaux professionnels. Il est dipl\u00f4m\u00e9 de l'Universit\u00e9 Paris Cit\u00e9 avec un Master MIAGE, combinant comp\u00e9tences en informatique et gestion.\",\"sameAs\":[\"https:\/\/www.linkedin.com\/in\/jeremyrobert1\/\",\"Data Science\"],\"url\":\"https:\/\/datascientest.com\/author\/jeremyrobert\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML","description":"La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes !","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/datascientest.com\/divergence-de-jensen-shannon","og_locale":"fr_FR","og_type":"article","og_title":"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML","og_url":"https:\/\/datascientest.com\/divergence-de-jensen-shannon","og_site_name":"Formation Data Science | DataScientest.com","article_published_time":"2023-08-23T07:30:00+00:00","article_modified_time":"2023-11-09T13:43:47+00:00","og_image":[{"width":1200,"height":600,"url":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/06\/divergence-Jensen-Shannon-datascientest.png","type":"image\/png"}],"author":"J\u00e9r\u00e9my Robert","twitter_card":"summary_large_image","twitter_misc":{"\u00c9crit par":"J\u00e9r\u00e9my Robert","Dur\u00e9e de lecture estim\u00e9e":"9 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/datascientest.com\/divergence-de-jensen-shannon","url":"https:\/\/datascientest.com\/divergence-de-jensen-shannon","name":"Divergence de Jensen-Shannon : Tout savoir sur ce mod\u00e8le de ML","isPartOf":{"@id":"https:\/\/datascientest.com\/#website"},"datePublished":"2023-08-23T07:30:00+00:00","dateModified":"2023-11-09T13:43:47+00:00","author":{"@id":"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925"},"description":"La divergence de Jensen-Shannon permet de mesurer la similarit\u00e9 entre deux distributions de probabilit\u00e9, notamment dans le domaine du Machine Learning. D\u00e9couvrez tout ce que vous devez savoir sur cette mesure, de son histoire \u00e0 ses applications modernes !","inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/datascientest.com\/divergence-de-jensen-shannon"]}]},{"@type":"WebSite","@id":"https:\/\/datascientest.com\/#website","url":"https:\/\/datascientest.com\/","name":"Formation Data Science | DataScientest.com","description":"Leader de la formation en Data Science","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/datascientest.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925","name":"J\u00e9r\u00e9my Robert","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/datascientest.com\/#\/schema\/person\/image\/","url":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg","contentUrl":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg","caption":"J\u00e9r\u00e9my Robert"},"description":"J\u00e9r\u00e9my Robert est actuellement Directeur p\u00e9dagogique B2B chez DataScientest.com. Avant de rejoindre DataScientest, il a travaill\u00e9 en tant que Consultant Business Intelligence chez DEAPDATA, o\u00f9 il a g\u00e9r\u00e9 des projets dans les domaines de l'assurance, bancaire et industrie. Il a \u00e9galement \u00e9t\u00e9 Co-fondateur et pr\u00e9sident de Tripzer. En tant que consultant ind\u00e9pendant, J\u00e9r\u00e9my a propos\u00e9 des formations sur MicroStrategy pour divers niveaux professionnels. Il est dipl\u00f4m\u00e9 de l'Universit\u00e9 Paris Cit\u00e9 avec un Master MIAGE, combinant comp\u00e9tences en informatique et gestion.","sameAs":["https:\/\/www.linkedin.com\/in\/jeremyrobert1\/","Data Science"],"url":"https:\/\/datascientest.com\/author\/jeremyrobert"}]}},"_links":{"self":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/203999"}],"collection":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/users\/78"}],"replies":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/comments?post=203999"}],"version-history":[{"count":0,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/203999\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media\/204010"}],"wp:attachment":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media?parent=203999"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/categories?post=203999"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/tags?post=203999"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}