À une époque où la création de contenu généré par intelligence artificielle (IA) explose, la capacité à distinguer ces productions de celles écrites par des humains est devenue cruciale. En réponse, Google a dévoilé SynthID, une technologie innovante qui intègre des marques invisibles dans les textes générés par IA. Cette avancée vise à assurer la traçabilité et la transparence des contenus, répondant ainsi aux enjeux de sécurité et de fiabilité sur internet.
Qu'est-ce que SynthID ?
Développé par Google en collaboration avec DeepMind, SynthID est un outil de filigrane numérique conçu pour détecter les textes produits par intelligence artificielle. En intégrant un marquage invisible directement dans les mots générés par des modèles comme Gemini, SynthID rend possible la vérification de l’origine d’un texte, même après d’éventuelles modifications. Ce filigrane textuel, semblable à ceux utilisés sur les images, ne compromet ni la qualité ni la lisibilité du contenu et reste invisible à l’œil humain.
Comment cela fonctionne ?
La technologie SynthID repose sur des algorithmes de deep learning qui analysent et ajustent subtilement les mots ou phrases produits par un modèle d’IA. Chaque mot, ou jeton, génère une probabilité d’apparition, et SynthID utilise cette probabilité pour insérer un filigrane numérique sans nuire à la fluidité du texte. Ce processus rend les textes traçables même après des paraphrases ou des ajustements mineurs. Bien que SynthID excelle dans les textes longs et créatifs, il se montre moins performant sur les contenus très courts ou factuels.
La fin des contenus générés par IA ?
Alors que l’usage de contenus IA devient omniprésent, la détection de ces productions représente un enjeu majeur pour limiter la désinformation. Avec SynthID, Google met à disposition un outil qui pourrait bien devenir une référence en matière de traçabilité, particulièrement dans les domaines du marketing, de l’édition et des réseaux sociaux. Cependant, Google admet certaines limitations, notamment face aux utilisateurs malveillants cherchant à contourner ces signatures.
Les enjeux sont d’autant plus importants que certains pays, comme la Chine, rendent déjà obligatoire le marquage des contenus IA. Aux États-Unis, des réglementations similaires sont envisagées en Californie, et l’Union Européenne pousse pour une IA responsable et traçable. Google espère que l’open source de SynthID encouragera les développeurs à adopter ces standards et ainsi contribuer à un internet plus transparent et sûr.
Source : deepmind.google
