{"id":225817,"date":"2024-02-20T06:30:00","date_gmt":"2024-02-20T06:30:00","guid":{"rendered":"https:\/\/datascientest.com\/?p=225817"},"modified":"2024-02-16T11:58:28","modified_gmt":"2024-02-16T11:58:28","slug":"instruction-tuning-tout-savoir","status":"publish","type":"post","link":"https:\/\/datascientest.com\/instruction-tuning-tout-savoir","title":{"rendered":"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?"},"content":{"rendered":"\t\t<div data-elementor-type=\"wp-post\" data-elementor-id=\"225817\" class=\"elementor elementor-225817\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-882e3e8 e-flex e-con-boxed e-con\" data-id=\"882e3e8\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-43049d9 elementor-widget elementor-widget-heading\" data-id=\"43049d9\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-heading-title{padding:0;margin:0;line-height:1}.elementor-widget-heading .elementor-heading-title[class*=elementor-size-]>a{color:inherit;font-size:inherit;line-height:inherit}.elementor-widget-heading .elementor-heading-title.elementor-size-small{font-size:15px}.elementor-widget-heading .elementor-heading-title.elementor-size-medium{font-size:19px}.elementor-widget-heading .elementor-heading-title.elementor-size-large{font-size:29px}.elementor-widget-heading .elementor-heading-title.elementor-size-xl{font-size:39px}.elementor-widget-heading .elementor-heading-title.elementor-size-xxl{font-size:59px}<\/style><h2 class=\"elementor-heading-title elementor-size-default\">L\u2019instruction tuning est une m\u00e9thode innovante de fine-tuning des Larges Mod\u00e8les de Langage, qui consiste \u00e0 ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. D\u00e9couvrez pourquoi cette approche a le potentiel de r\u00e9volutionner l\u2019IA !<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-109c22c elementor-widget elementor-widget-text-editor\" data-id=\"109c22c\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-text-editor.elementor-drop-cap-view-stacked .elementor-drop-cap{background-color:#69727d;color:#fff}.elementor-widget-text-editor.elementor-drop-cap-view-framed .elementor-drop-cap{color:#69727d;border:3px solid;background-color:transparent}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap{margin-top:8px}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap-letter{width:1em;height:1em}.elementor-widget-text-editor .elementor-drop-cap{float:left;text-align:center;line-height:1;font-size:50px}.elementor-widget-text-editor .elementor-drop-cap-letter{display:inline-block}<\/style>\t\t\t\t<p><span style=\"font-weight: 400;\">Au fil des derni\u00e8res ann\u00e9es, le <a href=\"https:\/\/datascientest.com\/machine-learning-tout-savoir\">Machine Learning<\/a> et le <a href=\"https:\/\/datascientest.com\/introduction-au-nlp-natural-language-processing\">Traitement Naturel du Langage (NLP)<\/a> ont beaucoup \u00e9volu\u00e9. C\u2019est notamment la fa\u00e7on dont les mod\u00e8les sont entra\u00een\u00e9s qui a chang\u00e9.<\/span><\/p><p><span style=\"font-weight: 400;\">Avec l\u2019arriv\u00e9e des mod\u00e8les pr\u00e9-entra\u00een\u00e9s tels que <a href=\"https:\/\/datascientest.com\/bert-un-outil-de-traitement-du-langage-innovant\">BERT<\/a> ou <a href=\"https:\/\/datascientest.com\/un-outil-plus-puissant-que-chatgpt-arrive-et-vous-netes-pas-pret-pour-ca\">GPT<\/a>, le fine-tuning de mod\u00e8les pr\u00e9-entra\u00een\u00e9s pour les t\u00e2ches en aval est devenu la nouvelle norme.<\/span><\/p><p><span style=\"font-weight: 400;\">Par la suite, l\u2019<strong>augmentation de capacit\u00e9s des mod\u00e8les de langage<\/strong> toujours plus larges a permis l\u2019apprentissage en contexte via le prompting. Et plus r\u00e9cemment, une nouvelle m\u00e9thode est apparue pour rendre les <a href=\"https:\/\/datascientest.com\/large-language-models-tout-savoir\">LLM<\/a> utiles dans la pratique : l\u2019instruction tuning.<\/span><\/p><p><span style=\"font-weight: 400;\">En combinant les donn\u00e9es d\u2019exemples avec des instructions, cette <strong>approche innovante<\/strong> rend les mod\u00e8les de langage beaucoup plus polyvalents. Avant d\u2019explorer cette technique plus en d\u00e9tail, commen\u00e7ons par revenir sur le concept du fine-tuning.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-ef66f93 e-flex e-con-boxed e-con\" data-id=\"ef66f93\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-a7f31f6 elementor-widget elementor-widget-heading\" data-id=\"a7f31f6\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Qu\u2019est-ce que le fine-tuning ?<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-78f44e5 elementor-widget elementor-widget-text-editor\" data-id=\"78f44e5\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Les mod\u00e8les de langage pr\u00e9-entra\u00een\u00e9s offrent de formidables possibilit\u00e9s, mais ne sont pas nativement experts dans un domaine sp\u00e9cifique.<\/span><\/p><p><span style=\"font-weight: 400;\">Afin d\u2019\u00eatre sp\u00e9cialis\u00e9s pour des t\u00e2ches comme l\u2019analyse de sentiment, la traduction de langage ou la r\u00e9ponse aux questions sur des sujets pr\u00e9cis, ils doivent \u00eatre ajust\u00e9s par le biais d\u2019une m\u00e9thode appel\u00e9e \u00ab fine-tuning \u00bb (r\u00e9glage fin).<\/span><\/p><p><span style=\"font-weight: 400;\">Ce processus permet d\u2019<strong>apporter la touche finale \u00e0 un mod\u00e8le<\/strong>, afin de le sp\u00e9cialiser. Il implique g\u00e9n\u00e9ralement d\u2019entra\u00eener le mod\u00e8le sur un jeu de donn\u00e9es plus petit, sp\u00e9cifiquement ax\u00e9 sur une t\u00e2che.<\/span><\/p><p><span style=\"font-weight: 400;\">Le <a href=\"https:\/\/datascientest.com\/dataset-definition\">dataset<\/a> est \u00e9tiquet\u00e9 avec des exemples pertinents pour la t\u00e2che cibl\u00e9e. En exposant le mod\u00e8le \u00e0 ces exemples, il devient capable d\u2019<strong>ajuster ses param\u00e8tres et repr\u00e9sentations internes<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Les connaissances acquises durant le pr\u00e9-entra\u00eenement sont exploit\u00e9es, permettant d\u2019\u00e9conomiser du temps et des ressources. Une fois raffin\u00e9 de la sorte, <strong>le mod\u00e8le de langage devient plus performant sur les t\u00e2ches pour lesquelles il a \u00e9t\u00e9 ajust\u00e9<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Toutefois, le d\u00e9fi \u00e0 relever est de parvenir \u00e0 g\u00e9n\u00e9raliser l\u2019expertise acquise au cours de cet entra\u00eenement \u00e0 d\u2019autres t\u00e2ches. C\u2019est l\u00e0 que l\u2019instruction tuning entre en jeu.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-5a1d6a5 e-flex e-con-boxed e-con\" data-id=\"5a1d6a5\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-0d9a1b6 elementor-widget elementor-widget-heading\" data-id=\"0d9a1b6\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Instruction tuning vs fine-tuning : quelles diff\u00e9rences ?<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-68fcd4f elementor-widget elementor-widget-text-editor\" data-id=\"68fcd4f\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">La principale diff\u00e9rence entre l\u2019instruction tuning et le fine-tuning supervis\u00e9 standard r\u00e9side dans les donn\u00e9es sur lesquelles le mod\u00e8le est entra\u00een\u00e9.<\/span><\/p><p><span style=\"font-weight: 400;\">Alors que le <strong>fine-tuning supervis\u00e9<\/strong> consiste \u00e0 entra\u00eener les mod\u00e8les sur des entr\u00e9es d\u2019exemples (inputs) et les r\u00e9sultats qui en d\u00e9coulent (output), l\u2019instruction tuning \u00e9toffe les exemples input-output avec un autre composant : les instructions.<\/span><\/p><p><span style=\"font-weight: 400;\">C\u2019est pr\u00e9cis\u00e9ment ce qui permet aux <strong>mod\u00e8les instruction-tuned<\/strong> de g\u00e9n\u00e9raliser plus facilement \u00e0 de nouvelles t\u00e2ches. Ainsi, les LLM ainsi ajust\u00e9s deviennent beaucoup plus polyvalents et utiles.<\/span><\/p><p><span style=\"font-weight: 400;\">Avec cette m\u00e9thode, les capacit\u00e9s des LLM \u00e0 fournir des r\u00e9sultats appropri\u00e9s bas\u00e9s sur les inputs d\u2019instructions sont augment\u00e9es au m\u00eame titre que la g\u00e9n\u00e9ralisation cross-task. <strong>Les performances sont donc accrues sur des t\u00e2ches in\u00e9dites.<\/strong><\/span><\/p><p><span style=\"font-weight: 400;\">De plus, l\u2019efficacit\u00e9 des \u00e9chantillons est renforc\u00e9e puisque le volume de donn\u00e9es d\u2019entra\u00eenement requis pour \u00e9galer les performances des meilleures mod\u00e8les supervis\u00e9s est minime.<\/span><\/p><p><span style=\"font-weight: 400;\">Cependant, cette approche requiert de <strong>construire des donn\u00e9es d\u2019instruction tuning<\/strong>. Il existe heureusement plusieurs datasets d\u2019excellente qualit\u00e9, et nous allons maintenant voir quels sont les plus populaires !<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-6cf9719 elementor-widget elementor-widget-image\" data-id=\"6cf9719\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-image{text-align:center}.elementor-widget-image a{display:inline-block}.elementor-widget-image a img[src$=\".svg\"]{width:48px}.elementor-widget-image img{vertical-align:middle;display:inline-block}<\/style>\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"797\" height=\"500\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-1.jpg\" class=\"attachment-large size-large wp-image-225856\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-1.jpg 797w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-1-300x188.jpg 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-1-768x482.jpg 768w\" sizes=\"(max-width: 797px) 100vw, 797px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-ecc8736 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"ecc8736\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-prompt-engineering\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Ma\u00eetriser l'instruction tuning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-6fd5e3b e-flex e-con-boxed e-con\" data-id=\"6fd5e3b\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-f401f23 elementor-widget elementor-widget-heading\" data-id=\"f401f23\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Les meilleurs datasets d\u2019instruction tuning<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-56d0cc7 elementor-widget elementor-widget-text-editor\" data-id=\"56d0cc7\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">On distingue deux principales cat\u00e9gories de datasets d\u2019instruction tuning. <\/span><\/p><p><span style=\"font-weight: 400;\">Dans le premier cas, les instructions sont ajout\u00e9es \u00e0 des t\u00e2ches NLP existantes. Dans le second, les donn\u00e9es sont utilis\u00e9es pour conditionner un mod\u00e8le \u00e0 g\u00e9n\u00e9rer de nouvelles \u00ab <strong>tuples<\/strong> \u00bb (s\u00e9quences ordonn\u00e9es) d\u2019input-output d\u2019instructions.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-2eae570 elementor-widget elementor-widget-heading\" data-id=\"2eae570\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">Natural Instructions (Swaroop Mishra, 2022)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-bf68bc2 elementor-widget elementor-widget-text-editor\" data-id=\"bf68bc2\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Ce jeu de donn\u00e9es regroupe <strong>193 000 exemples d\u2019outputs d\u2019instructions<\/strong> <strong>sourc\u00e9s<\/strong> en provenance de 61 t\u00e2ches de NLP existantes en anglais. Les instructions crowd-sourced de chaque dataset sont align\u00e9es avec un sch\u00e9ma commun.<\/span><\/p><p><span style=\"font-weight: 400;\">Ces instructions sont plus structur\u00e9es que sur d\u2019autres datasets. Les outputs sont toutefois relativement courts, ce qui rend les donn\u00e9es moins utiles pour g\u00e9n\u00e9rer du contenu long format.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-45c8ab0 elementor-widget elementor-widget-heading\" data-id=\"45c8ab0\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">Natural Instructions v2 \/ Super-Natural Instructions (Yizhong Wang, 2022)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-9a5d241 elementor-widget elementor-widget-text-editor\" data-id=\"9a5d241\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Cette collection <strong>crowd-sourced de donn\u00e9es d\u2019instructions<\/strong> est bas\u00e9e sur des t\u00e2ches de NLP et de simples t\u00e2ches synth\u00e9tiques. Elle regroupe <strong>5 millions d\u2019exemples<\/strong> en provenance de 76 t\u00e2ches dans 55 langues.<\/span><\/p><p><span style=\"font-weight: 400;\">En comparaison avec la premi\u00e8re version du dataset Natural Instructions, les instructions sont largement simplifi\u00e9es. Elle consistent en une d\u00e9finition de la t\u00e2che accompagn\u00e9e d\u2019exemples positifs et n\u00e9gatifs et d\u2019explications.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-306335f elementor-widget elementor-widget-heading\" data-id=\"306335f\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">Unnatural Instructions (Or Honovinch, 2023)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-5d0d12f elementor-widget elementor-widget-text-editor\" data-id=\"5d0d12f\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Ce jeu de donn\u00e9es collect\u00e9es automatiquement regroupe <strong>240 000 exemples obtenus en promptant InstructGPT (text-davinci-002)<\/strong> avec trois exemples de Super-Natural Instructions.<\/span><\/p><p><span style=\"font-weight: 400;\">Il s\u2019agit d\u2019une instruction, d\u2019un input, et des contraintes d\u2019output possible. Pour chaque trio, le mod\u00e8le InstructGPT a pour consigne de g\u00e9n\u00e9rer un nouvel exemple.<\/span><\/p><p><span style=\"font-weight: 400;\">L\u2019output est g\u00e9n\u00e9r\u00e9 s\u00e9par\u00e9ment \u00e0 partir de condition sur l\u2019instruction, l\u2019input et les contraintes g\u00e9n\u00e9r\u00e9s. Par la suite, les instructions ainsi g\u00e9n\u00e9r\u00e9es sont \u00e0 nouveau paraphras\u00e9es en promptant le mod\u00e8le.<\/span><\/p><p><span style=\"font-weight: 400;\">Par rapport \u00e0 <strong>Super-Natural Instructions<\/strong>, cette nouvelle version Unnatural Instructions couvre un ensemble de t\u00e2ches beaucoup plus diverses. M\u00eame si beaucoup d\u2019exemples refl\u00e8tent des t\u00e2ches NLP classiques, d\u2019autres exemples de t\u00e2ches int\u00e9ressantes sont aussi inclus.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-b4fd798 elementor-widget elementor-widget-heading\" data-id=\"b4fd798\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">P3 : Public Pool of Prompts (Victor Sanh, 2022)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-40f61ec elementor-widget elementor-widget-text-editor\" data-id=\"40f61ec\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Cette collection de prompts est <strong>crowd-sourc\u00e9e \u00e0 partir de 177 t\u00e2ches de NLP en anglais<\/strong>. Pour chaque dataset, environ 11 prompts diff\u00e9rents sont disponibles en moyenne.<\/span><\/p><p><span style=\"font-weight: 400;\">Ceci permet d\u2019\u00e9tudier l\u2019impact des diff\u00e9rentes formulations de prompts. En comparaison avec les instructions des datasets mentionn\u00e9s pr\u00e9c\u00e9demment, les prompts de P3 sont souvent plus courts et moins \u00e9labor\u00e9s.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-991a159 elementor-widget elementor-widget-heading\" data-id=\"991a159\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">Flan 2021 \/ Muffin (Jason Wei, 2022)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-1899a2f elementor-widget elementor-widget-text-editor\" data-id=\"1899a2f\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Un <strong>ensemble de prompts issus de 62 datasets de textes \u00e9crits en anglais<\/strong>, avec 10 templates de prompts pour chaque t\u00e2che : voici ce que propose Flan 2021.<\/span><\/p><p><span style=\"font-weight: 400;\">Et pour les t\u00e2ches de classification, un suffit OPTIONS est annex\u00e9 \u00e0 l\u2019input pour indiquer les contraintes d\u2019output. Toutefois, la version 2022 est beaucoup plus compl\u00e8te.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-3344103 elementor-widget elementor-widget-heading\" data-id=\"3344103\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h4 class=\"elementor-heading-title elementor-size-medium\">Flan 2022 (Hyung Won Chung, 2022)<\/h4>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-57523c9 elementor-widget elementor-widget-text-editor\" data-id=\"57523c9\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Ce dataset est une <strong>combinaison de Flan 2021, P3, Super-Natural Instructions<\/strong>, et d\u2019autres jeux de donn\u00e9es de raisonnement, de dialogue et de synth\u00e8se de programme.<\/span><\/p><p><span style=\"font-weight: 400;\">Les neuf datasets de raisonnement additionnels sont annot\u00e9s avec une cha\u00eene de pens\u00e9e (CoT ou chain-of-thoughts). Il s\u2019agit donc de l\u2019un des jeux de donn\u00e9es d\u2019instruction-tuning les plus exhaustifs \u00e0 ce jour.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-3ea65c5 elementor-widget elementor-widget-image\" data-id=\"3ea65c5\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"781\" height=\"500\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-2.jpg\" class=\"attachment-large size-large wp-image-225860\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-2.jpg 781w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-2-300x192.jpg 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-2-768x492.jpg 768w\" sizes=\"(max-width: 781px) 100vw, 781px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-fa8d314 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"fa8d314\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-prompt-engineering\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Tout apprendre de l'instruction tuning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-f2819d3 e-flex e-con-boxed e-con\" data-id=\"f2819d3\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-c787a87 elementor-widget elementor-widget-heading\" data-id=\"c787a87\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Une nouvelle g\u00e9n\u00e9ration de datasets plus proches du monde r\u00e9el<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-9cb708b elementor-widget elementor-widget-text-editor\" data-id=\"9cb708b\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Hormis les datasets de premi\u00e8re g\u00e9n\u00e9ration \u00e9voqu\u00e9s auparavant, principalement bas\u00e9s sur les t\u00e2ches existantes de NLP, <strong>une nouvelle vague de jeux de donn\u00e9es a vu le jour pour se rapprocher des cas d\u2019usage du monde r\u00e9el<\/strong>. En voici quelques exemples.<\/span><\/p><p><span style=\"font-weight: 400;\">Le dataset Alpaca Data lanc\u00e9 par Rohan Taori et ses associ\u00e9s en mars 2023 regroupe 52 000 exemples d\u2019instructions en anglais. Il est <strong>g\u00e9n\u00e9r\u00e9 \u00e0 l\u2019aide de text-davinci-003 d\u2019<\/strong><a href=\"https:\/\/datascientest.com\/openai-lentreprise-qui-revolutionne-lia\">OpenAI<\/a> <strong>avec self-instruct<\/strong>. Ses cr\u00e9ateurs ont effectu\u00e9 des modifications pour simplifier le pipeline de g\u00e9n\u00e9ration de donn\u00e9es et r\u00e9duire les co\u00fbts sous la barre des 500 dollars !<\/span><\/p><p><span style=\"font-weight: 400;\">Avec Evol-instruct lanc\u00e9 en avril 2023, Can Xu et ses coll\u00e8gues ont r\u00e9\u00e9crit 250 000 paires d\u2019instructions et de r\u00e9ponses bas\u00e9es sur Alpaca Data. Les instructions ont \u00e9t\u00e9 r\u00e9\u00e9crites pour les rendre plus complexes ou pour cr\u00e9er de nouvelles instructions plus sp\u00e9cialis\u00e9es \u00e0 l\u2019aide de ChatGPT.<\/span><\/p><p><span style=\"font-weight: 400;\">Dans un second temps, ChatGPT a \u00e9t\u00e9 utilis\u00e9 pour g\u00e9n\u00e9rer les r\u00e9ponses correspondantes. Les paires d\u2019instructions et de r\u00e9ponses de basse qualit\u00e9 sont filtr\u00e9es en utilisant des heuristiques. Le processus est r\u00e9p\u00e9t\u00e9 trois fois.<\/span><\/p><p><span style=\"font-weight: 400;\">Citons aussi Vicuna ShareGPT dat\u00e9 de mars 2023. Il regroupe plus de <strong>70 000 conversations en anglais partag\u00e9es par des utilisateurs et scrap\u00e9es depuis le site web sharegpt.com<\/strong>. Le pr\u00e9-traitement a impliqu\u00e9 de convertir le HTML en markdown, de filtrer les \u00e9chantillons de basse qualit\u00e9, et de diviser les longues conversations en segments plus courts.<\/span><\/p><p><span style=\"font-weight: 400;\">Par rapport aux autres jeux de donn\u00e9es cit\u00e9s pr\u00e9c\u00e9demment, les <strong>conversations ShareGPT sont constitu\u00e9es de multiples r\u00e9pliques<\/strong> et sont donc plus utiles pour entra\u00eener un mod\u00e8le \u00e0 s\u2019appuyer sur le contexte d\u2019une discussion.<\/span><\/p><p><span style=\"font-weight: 400;\">Autre exemple de dataset multi-r\u00e9pliques : <strong>Baize Data<\/strong>, lanc\u00e9 en avril 2023. Il contient des exemples de dialogues en anglais 54k et 57k, avec en moyenne 3,4 r\u00e9pliques g\u00e9n\u00e9r\u00e9s avec GPT en utilisant des questions issues de <strong>Quora <\/strong>et <strong>StackOverflow<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">De plus, des dialogues 47k sur le domaine m\u00e9dical ont \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9s en se basant sur les questions du jeu de donn\u00e9es MedQuAD. Cela le rend tr\u00e8s utile pour ce domaine.<\/span><\/p><p><span style=\"font-weight: 400;\">Le jeu de donn\u00e9es databricks-dolly-15k data d\u2019avril 2023 regroupe des instructions et des exemples 15k \u00e9crits par des employ\u00e9s de <a href=\"https:\/\/datascientest.com\/formation-databricks\">Databricks<\/a>. Les instructions et les r\u00e9ponses sont g\u00e9n\u00e9r\u00e9s par des humains, ce qui contraste avec l\u2019utilisation de ChatGPT dans les autres datasets mentionn\u00e9s.<\/span><\/p><p><span style=\"font-weight: 400;\">Les exemples couvrent 7 cas d\u2019usage diff\u00e9rent comme les questions-r\u00e9ponses ouvertes ou ferm\u00e9es, l\u2019extraction et la synth\u00e8se de donn\u00e9es Wikip\u00e9dia, le brainstorming, la classification et l\u2019\u00e9criture cr\u00e9ative.<\/span><\/p><p><span style=\"font-weight: 400;\">Si la plupart des datasets se concentrent sur la langue anglaise, <strong>OpenAssistant Conversations<\/strong> propose des conversations dans plusieurs langages g\u00e9n\u00e9r\u00e9es par des annotateurs humains. Plus de 30% sont en espagnol ou d\u2019autres langues.<\/span><\/p><p><span style=\"font-weight: 400;\">Enfin, LIMA data lanc\u00e9 en mai 2023 propose des paires de questions-r\u00e9ponses issues de StackExchange, wikiHow et le dataset Pushshift Reddit. L\u2019entra\u00eenement sur ce petit jeu de donn\u00e9es soigneusement s\u00e9lectionn\u00e9es se r\u00e9v\u00e8le plus performant que l\u2019entra\u00eenement sur un dataset beaucoup plus large comme <strong>Alpaca Data<\/strong>.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-ef27032 elementor-widget elementor-widget-image\" data-id=\"ef27032\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"521\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-3.jpg\" class=\"attachment-large size-large wp-image-225861\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-3.jpg 845w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-3-300x195.jpg 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-3-768x500.jpg 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-b24106c elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"b24106c\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-prompt-engineering\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Se former pour savoir utiliser l'instruction tuning<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-d0a1858 e-flex e-con-boxed e-con\" data-id=\"d0a1858\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-328b007 elementor-widget elementor-widget-heading\" data-id=\"328b007\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Les caract\u00e9ristiques cl\u00e9s des donn\u00e9es d\u2019instruction<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-b98ec66 elementor-widget elementor-widget-text-editor\" data-id=\"b98ec66\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Dans une \u00e9tude publi\u00e9e d\u00e9but 2023, Shayne Longpre et ses collaborateurs mettent en lumi\u00e8re plusieurs aspects importants des donn\u00e9es d\u2019instruction.<\/span><\/p><p><span style=\"font-weight: 400;\">Tout d\u2019abord, l\u2019entra\u00eenement avec des prompts few-shots m\u00e9lang\u00e9s avec des <strong>prompts zero-shot<\/strong> am\u00e9liore massivement les performances dans les deux configurations.<\/span><\/p><p><span style=\"font-weight: 400;\">En outre, les larges mod\u00e8les de langage tirent un avantage de l\u2019augmentation continuelle du nombre de t\u00e2ches et de leur diversit\u00e9. Une autre approche b\u00e9n\u00e9fique est l\u2019augmentation des donn\u00e9es, notamment par l\u2019<strong>inversion des inputs et des outputs<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Il peut s&rsquo;agir par exemple de transformer une t\u00e2che de r\u00e9ponse \u00e0 une question en une t\u00e2che de g\u00e9n\u00e9ration de questions. De m\u00eame, lorsqu\u2019on utilise une combinaison de plusieurs datasets d\u2019instruction tuning, il est important d\u2019ajuster les poids de mani\u00e8re appropri\u00e9e.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-779e797 e-flex e-con-boxed e-con\" data-id=\"779e797\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-9d6d302 elementor-widget elementor-widget-heading\" data-id=\"9d6d302\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">Conclusion : instruction tuning, la cl\u00e9 pour rendre les LLM plus polyvalents et g\u00e9n\u00e9ralistes ?<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-3856c57 elementor-widget elementor-widget-text-editor\" data-id=\"3856c57\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Gr\u00e2ce aux instructions ajout\u00e9es aux datasets, <strong>l\u2019instruction tuning aide \u00e0 g\u00e9n\u00e9raliser les connaissances acquises par les LLM \u00e0 de nouvelles t\u00e2ches<\/strong>. Il pourrait s\u2019agir de la cl\u00e9 vers l\u2019\u00e9mergence d\u2019une IA g\u00e9n\u00e9raliste (AGI) consid\u00e9r\u00e9e comme le but ultime de l\u2019intelligence artificielle\u2026<\/span><\/p><p><span style=\"font-weight: 400;\">Selon une \u00e9tude men\u00e9e par le chercheur Khai Loong Aw et ses coll\u00e8gues, <strong>l\u2019instruction tuning permet de rapprocher les LLM de la fa\u00e7on dont le cerveau humain traite le langage<\/strong>. Par rapport au fine-tuning, l\u2019alignement avec le cerveau augmente de 6%.<\/span><\/p><p><span style=\"font-weight: 400;\">Afin de <strong>ma\u00eetriser cette m\u00e9thode innovante de fine-tuning<\/strong>, vous pouvez vous tourner vers DataScientest ! Nous vous proposons plusieurs formations en ligne pour devenir expert en intelligence artificielle.<\/span><\/p><p><span style=\"font-weight: 400;\">Avec le <a href=\"https:\/\/datascientest.com\/formation-machine-learning-engineer\">cursus Machine Learning Engineer<\/a>, vous pouvez apprendre \u00e0 concevoir, d\u00e9velopper et d\u00e9ployer des solutions d\u2019intelligence artificielle. Ce programme permet d\u2019<strong>acqu\u00e9rir \u00e0 la fois des comp\u00e9tences en Data Science et en apprentissage automatique<\/strong>.<\/span><\/p><p><span style=\"font-weight: 400;\">Vous d\u00e9couvrirez notamment la programmation en Python, les outils de DataViz, le Data Engineering, les techniques de DataOps, mais aussi les notions de Machine Learning et Deep Learning.<\/span><\/p><p><span style=\"font-weight: 400;\">\u00c0 la fin de ce parcours ax\u00e9 sur la pratique, vous validerez la certification \u00ab <strong>Chef de projet en intelligence artificielle<\/strong> \u00bb d\u00e9livr\u00e9e par le Coll\u00e8ge de Paris, et recevrez un certificat des Mines ParisTech PSL Executive Education.<\/span><\/p><p><span style=\"font-weight: 400;\">En outre, vous pourrez <strong>passer l\u2019examen de certification Amazon Certified Cloud Practitioner<\/strong> attestant d\u2019une ma\u00eetrise du cloud AWS. Cette formation vous apporte donc une triple reconnaissance !<\/span><\/p><p><span style=\"font-weight: 400;\">De son c\u00f4t\u00e9, le <a href=\"https:\/\/datascientest.com\/formation-ml-ops\">cursus MLOps<\/a> vous apprend \u00e0 <strong>mettre en production et d\u00e9ployer des mod\u00e8les IA<\/strong> de mani\u00e8re automatis\u00e9e. Elle couvre la programmation sur <a href=\"https:\/\/datascientest.com\/pourquoi-linux-est-il-le-systeme-dexploitation-prefere-des-developpeurs\">Linux<\/a>, le <a href=\"https:\/\/datascientest.com\/ci-cd-integration-continue-livraison-continue\">CI\/CD<\/a>, la conteneurisation avec <a href=\"https:\/\/datascientest.com\/formation-docker\">Docker<\/a> et <a href=\"https:\/\/datascientest.com\/formation-kubernetes\">Kubernetes<\/a>, ou encore le monitoring avec <a href=\"https:\/\/datascientest.com\/prometheus-tout-savoir\">Prometheus<\/a> et <a href=\"https:\/\/datascientest.com\/grafana-tout-savoir\">Grafana<\/a>.<\/span><\/p><p><span style=\"font-weight: 400;\">Enfin, notre <a href=\"https:\/\/datascientest.com\/formation-prompt-engineering\">formation Prompt Engineering et Generative AI<\/a> fera de vous un ma\u00eetre dans l\u2019art de la formulation de prompts pour <a href=\"https:\/\/datascientest.com\/comment-fonctionne-chatgpt\">ChatGPT<\/a>, <strong>Canva<\/strong> ou encore <a href=\"https:\/\/datascientest.com\/dall-e-en-acces-public-sur-edge-microsoft-donne-le-feu-vert\">DALL-E<\/a>.<\/span><\/p><p><span style=\"font-weight: 400;\">En seulement deux jours, <strong>vous deviendrez capable d\u2019exploiter les<\/strong> <a href=\"https:\/\/datascientest.com\/comment-lia-generative-pourrait-changer-a-jamais-notre-facon-de-travailler\">IA g\u00e9n\u00e9ratives<\/a> pour produire du contenu correspondant parfaitement \u00e0 vos attentes.<\/span><\/p><p><span style=\"font-weight: 400;\">Toutes nos formations sont \u00e9ligibles au <a href=\"https:\/\/datascientest.com\/cpf-comment-utiliser-son-compte-personnel-de-formation\">CPF<\/a> pour le financement, et se compl\u00e8tent enti\u00e8rement \u00e0 distance \u00e0 temps plein, temps partiel ou en <a href=\"https:\/\/datascientest.com\/definition-bootcamp\">BootCamp<\/a> intensif. <strong>D\u00e9couvrez vite DataScientest et ses formations IA !<\/strong><\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-7655749 elementor-widget elementor-widget-image\" data-id=\"7655749\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"800\" height=\"499\" src=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-4.jpg\" class=\"attachment-large size-large wp-image-225865\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-4.jpg 881w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-4-300x187.jpg 300w, https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning-4-768x479.jpg 768w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-6319c80 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"6319c80\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/formation-prompt-engineering\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">D\u00e9couvrir nos formations IA<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-76c9a69 elementor-widget elementor-widget-text-editor\" data-id=\"76c9a69\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p><span style=\"font-weight: 400;\">Vous savez tout sur l\u2019instruction tuning. Pour plus d\u2019informations sur le m\u00eame sujet, d\u00e9couvrez <span style=\"text-decoration: underline;\">notre dossier complet sur le fine-tuning<\/span> et <a href=\"https:\/\/datascientest.com\/prompt-engineer-tout-savoir\">notre dossier sur le prompt engineering<\/a> !<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-f797c22 elementor-widget elementor-widget-html\" data-id=\"f797c22\" data-element_type=\"widget\" data-widget_type=\"html.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<script type=\"application\/ld+json\">\r\n{\r\n  \"@context\": \"https:\/\/schema.org\",\r\n  \"@type\": \"FAQPage\",\r\n  \"mainEntity\": [{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Qu\u2019est-ce que l'instruction tuning ?\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"L\u2019instruction tuning est une m\u00e9thode innovante de fine-tuning des Larges Mod\u00e8les de Langage, qui consiste \u00e0 ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. Au fil des derni\u00e8res ann\u00e9es, le Machine Learning et le Traitement Naturel du Langage (NLP) ont beaucoup \u00e9volu\u00e9. C\u2019est notamment la fa\u00e7on dont les mod\u00e8les sont entra\u00een\u00e9s qui a chang\u00e9. Avec l\u2019arriv\u00e9e des mod\u00e8les pr\u00e9-entra\u00een\u00e9s tels que BERT ou GPT, le fine-tuning de mod\u00e8les pr\u00e9-entra\u00een\u00e9s pour les t\u00e2ches en aval est devenu la nouvelle norme. Par la suite, l\u2019augmentation de capacit\u00e9s des mod\u00e8les de langage toujours plus larges a permis l\u2019apprentissage en contexte via le prompting. Et plus r\u00e9cemment, une nouvelle m\u00e9thode est apparue pour rendre les LLM utiles dans la pratique : l\u2019instruction tuning.\"\r\n    }\r\n  },{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Qu\u2019est-ce que le fine-tuning ?\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"Les mod\u00e8les de langage pr\u00e9-entra\u00een\u00e9s offrent de formidables possibilit\u00e9s, mais ne sont pas nativement experts dans un domaine sp\u00e9cifique. Afin d\u2019\u00eatre sp\u00e9cialis\u00e9s pour des t\u00e2ches comme l\u2019analyse de sentiment, la traduction de langage ou la r\u00e9ponse aux questions sur des sujets pr\u00e9cis, ils doivent \u00eatre ajust\u00e9s par le biais d\u2019une m\u00e9thode appel\u00e9e \u00ab fine-tuning \u00bb (r\u00e9glage fin).\"\r\n    }\r\n  },{\r\n    \"@type\": \"Question\",\r\n    \"name\": \"Instruction tuning vs fine-tuning : quelles diff\u00e9rences ?\",\r\n    \"acceptedAnswer\": {\r\n      \"@type\": \"Answer\",\r\n      \"text\": \"La principale diff\u00e9rence entre l\u2019instruction tuning et le fine-tuning supervis\u00e9 standard r\u00e9side dans les donn\u00e9es sur lesquelles le mod\u00e8le est entra\u00een\u00e9. Alors que le fine-tuning supervis\u00e9 consiste \u00e0 entra\u00eener les mod\u00e8les sur des entr\u00e9es d\u2019exemples (inputs) et les r\u00e9sultats qui en d\u00e9coulent (output), l\u2019instruction tuning \u00e9toffe les exemples input-output avec un autre composant : les instructions. C\u2019est pr\u00e9cis\u00e9ment ce qui permet aux mod\u00e8les instruction-tuned de g\u00e9n\u00e9raliser plus facilement \u00e0 de nouvelles t\u00e2ches. Ainsi, les LLM ainsi ajust\u00e9s deviennent beaucoup plus polyvalents et utiles. Avec cette m\u00e9thode, les capacit\u00e9s des LLM \u00e0 fournir des r\u00e9sultats appropri\u00e9s bas\u00e9s sur les inputs d\u2019instructions sont augment\u00e9es au m\u00eame titre que la g\u00e9n\u00e9ralisation cross-task. Les performances sont donc accrues sur des t\u00e2ches in\u00e9dites. De plus, l\u2019efficacit\u00e9 des \u00e9chantillons est renforc\u00e9e puisque le volume de donn\u00e9es d\u2019entra\u00eenement requis pour \u00e9galer les performances des meilleures mod\u00e8les supervis\u00e9s est minime. Cependant, cette approche requiert de construire des donn\u00e9es d\u2019instruction tuning. Il existe heureusement plusieurs datasets d\u2019excellente qualit\u00e9, et nous allons maintenant voir quels sont les plus populaires !\"\r\n    }\r\n  }]\r\n}\r\n<\/script>\r\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"<p>L\u2019instruction tuning est une m\u00e9thode innovante de fine-tuning des Larges Mod\u00e8les de Langage, qui consiste \u00e0 ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. D\u00e9couvrez pourquoi cette approche a le potentiel de r\u00e9volutionner l\u2019IA ! Au fil des derni\u00e8res ann\u00e9es, le Machine Learning et le Traitement Naturel du Langage (NLP) ont beaucoup \u00e9volu\u00e9. C\u2019est notamment la [&hellip;]<\/p>\n","protected":false},"author":78,"featured_media":225819,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"content-type":"","inline_featured_image":false},"categories":[2497],"tags":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v21.7 (Yoast SEO v21.7) - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Instruction Tuning : En quoi consiste cette technique de fine-tuning ?<\/title>\n<meta name=\"description\" content=\"L&#039;instruction tuning est une m\u00e9thode de fine-tuning permettant d&#039;ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. Les d\u00e9tails dans cet article.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/datascientest.com\/instruction-tuning-tout-savoir\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?\" \/>\n<meta property=\"og:url\" content=\"https:\/\/datascientest.com\/instruction-tuning-tout-savoir\" \/>\n<meta property=\"og:site_name\" content=\"Formation Data Science | DataScientest.com\" \/>\n<meta property=\"article:published_time\" content=\"2024-02-20T06:30:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-02-16T11:58:28+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1050\" \/>\n\t<meta property=\"og:image:height\" content=\"600\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"J\u00e9r\u00e9my Robert\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"J\u00e9r\u00e9my Robert\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/datascientest.com\/instruction-tuning-tout-savoir\",\"url\":\"https:\/\/datascientest.com\/instruction-tuning-tout-savoir\",\"name\":\"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?\",\"isPartOf\":{\"@id\":\"https:\/\/datascientest.com\/#website\"},\"datePublished\":\"2024-02-20T06:30:00+00:00\",\"dateModified\":\"2024-02-16T11:58:28+00:00\",\"author\":{\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925\"},\"description\":\"L'instruction tuning est une m\u00e9thode de fine-tuning permettant d'ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. Les d\u00e9tails dans cet article.\",\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/datascientest.com\/instruction-tuning-tout-savoir\"]}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/datascientest.com\/#website\",\"url\":\"https:\/\/datascientest.com\/\",\"name\":\"Formation Data Science | DataScientest.com\",\"description\":\"Leader de la formation en Data Science\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/datascientest.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925\",\"name\":\"J\u00e9r\u00e9my Robert\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/datascientest.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg\",\"contentUrl\":\"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg\",\"caption\":\"J\u00e9r\u00e9my Robert\"},\"description\":\"J\u00e9r\u00e9my Robert est actuellement Directeur p\u00e9dagogique B2B chez DataScientest.com. Avant de rejoindre DataScientest, il a travaill\u00e9 en tant que Consultant Business Intelligence chez DEAPDATA, o\u00f9 il a g\u00e9r\u00e9 des projets dans les domaines de l'assurance, bancaire et industrie. Il a \u00e9galement \u00e9t\u00e9 Co-fondateur et pr\u00e9sident de Tripzer. En tant que consultant ind\u00e9pendant, J\u00e9r\u00e9my a propos\u00e9 des formations sur MicroStrategy pour divers niveaux professionnels. Il est dipl\u00f4m\u00e9 de l'Universit\u00e9 Paris Cit\u00e9 avec un Master MIAGE, combinant comp\u00e9tences en informatique et gestion.\",\"sameAs\":[\"https:\/\/www.linkedin.com\/in\/jeremyrobert1\/\",\"Data Science\"],\"url\":\"https:\/\/datascientest.com\/author\/jeremyrobert\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?","description":"L'instruction tuning est une m\u00e9thode de fine-tuning permettant d'ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. Les d\u00e9tails dans cet article.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/datascientest.com\/instruction-tuning-tout-savoir","og_locale":"fr_FR","og_type":"article","og_title":"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?","og_url":"https:\/\/datascientest.com\/instruction-tuning-tout-savoir","og_site_name":"Formation Data Science | DataScientest.com","article_published_time":"2024-02-20T06:30:00+00:00","article_modified_time":"2024-02-16T11:58:28+00:00","og_image":[{"width":1050,"height":600,"url":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/12\/instruction-tuning.jpg","type":"image\/jpeg"}],"author":"J\u00e9r\u00e9my Robert","twitter_card":"summary_large_image","twitter_misc":{"\u00c9crit par":"J\u00e9r\u00e9my Robert","Dur\u00e9e de lecture estim\u00e9e":"12 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/datascientest.com\/instruction-tuning-tout-savoir","url":"https:\/\/datascientest.com\/instruction-tuning-tout-savoir","name":"Instruction Tuning : En quoi consiste cette technique de fine-tuning ?","isPartOf":{"@id":"https:\/\/datascientest.com\/#website"},"datePublished":"2024-02-20T06:30:00+00:00","dateModified":"2024-02-16T11:58:28+00:00","author":{"@id":"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925"},"description":"L'instruction tuning est une m\u00e9thode de fine-tuning permettant d'ajouter des instructions sp\u00e9cifiques aux donn\u00e9es d\u2019exemple. Les d\u00e9tails dans cet article.","inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/datascientest.com\/instruction-tuning-tout-savoir"]}]},{"@type":"WebSite","@id":"https:\/\/datascientest.com\/#website","url":"https:\/\/datascientest.com\/","name":"Formation Data Science | DataScientest.com","description":"Leader de la formation en Data Science","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/datascientest.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/datascientest.com\/#\/schema\/person\/7af2361c48e24e79a8aa2360e6e74925","name":"J\u00e9r\u00e9my Robert","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/datascientest.com\/#\/schema\/person\/image\/","url":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg","contentUrl":"https:\/\/datascientest.com\/wp-content\/uploads\/2023\/11\/jeremyrobert.jpeg","caption":"J\u00e9r\u00e9my Robert"},"description":"J\u00e9r\u00e9my Robert est actuellement Directeur p\u00e9dagogique B2B chez DataScientest.com. Avant de rejoindre DataScientest, il a travaill\u00e9 en tant que Consultant Business Intelligence chez DEAPDATA, o\u00f9 il a g\u00e9r\u00e9 des projets dans les domaines de l'assurance, bancaire et industrie. Il a \u00e9galement \u00e9t\u00e9 Co-fondateur et pr\u00e9sident de Tripzer. En tant que consultant ind\u00e9pendant, J\u00e9r\u00e9my a propos\u00e9 des formations sur MicroStrategy pour divers niveaux professionnels. Il est dipl\u00f4m\u00e9 de l'Universit\u00e9 Paris Cit\u00e9 avec un Master MIAGE, combinant comp\u00e9tences en informatique et gestion.","sameAs":["https:\/\/www.linkedin.com\/in\/jeremyrobert1\/","Data Science"],"url":"https:\/\/datascientest.com\/author\/jeremyrobert"}]}},"_links":{"self":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/225817"}],"collection":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/users\/78"}],"replies":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/comments?post=225817"}],"version-history":[{"count":0,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/posts\/225817\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media\/225819"}],"wp:attachment":[{"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/media?parent=225817"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/categories?post=225817"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datascientest.com\/wp-json\/wp\/v2\/tags?post=225817"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}