Teddy Furon : protéger les contenus numériques, sécuriser l'IA et détecter la désinformation
Avec l'intelligence artificielle générative, la falsification des contenus numériques – textes, photos, ou vidéos, devient une menace dans tous les domaines. Pour se prémunir contre ces risques, les solutions développées par Teddy Furon, directeur de recherche Inria à l'Institut de recherche en informatique et systèmes aléatoires (IRISA - CNRS/Université de Rennes), ont été distinguées par le Prix de l’innovation Inria – Académie des sciences – Dassault Systèmes.
Images fabriquées, vidéos truquées, articles générés artificiellement... les deepfakes en tous genres prolifèrent sur internet, aussitôt consultés et relayés par des millions d'utilisateurs à travers le monde. La désinformation explose avec la généralisation des systèmes d’intelligence artificielle capables de produire des contenus indiscernables du réel. Ce phénomène inquiète, et beaucoup s'interrogent sur les moyens de contrer cette vague qui envahit tous les secteurs, de la politique aux pratiques artistiques.
Mais les scientifiques n'ont pas attendu l'arrivée de ChatGPT pour se préoccuper de la sécurisation des contenus numériques. C'est le cas de Teddy Furon, dès 1998 avec sa thèse consacrée au tatouage numérique : un message caché dans le fichier à protéger et qui permet de l'authentifier. Cette technique, alors peu étudiée, s'est depuis répandue dans les DVD, fichiers audio et images numériques et continue de susciter de nouvelles recherches. Aujourd'hui directeur de recherche Inria à l'IRISA, le chercheur a réalisé plusieurs avancées dans ce domaine, en développant notamment la sécurité du tatouage : celui-ci, en plus d'être robuste (ne pas craindre le recadrage ou à la compression), doit être capable de préserver sa fonction d'authentification face aux attaques. Il a confondé en 2015 la start-up Imatag, qui a notamment développé le tatouage de clichés numériques permettant aux photographes d'agences de presse de revendiquer leurs images et faire valoir leurs droits.
Le tatouage numérique reste un axe de recherche de l'équipe Artishau, dirigée par Teddy Furon depuis octobre 2024. L'objectif : intégrer systématiquement un tatouage numérique dans les outils d’IA générative. Ainsi, les vidéos, images, audios ou textes produits pourront être identifiés comme issus de l’IA. La législation devrait les y contraindre, au moins en Europe dans le cadre de l'AI Act qui doit entrer en vigueur en 2026. Aujourd’hui, l’enjeu n’est plus seulement de marquer des contenus existants, mais d’assurer la traçabilité des créations issues de l’IA générative. La start-up Label4.ai, cofondée en 2024 par Teddy Furon, développe des technologies pour le tatouage de contenus créés par une IA générative.
La sécurisation du tatouage numérique reste une préoccupation de Teddy Furon et de son équipe, car elle doit maintenant prendre en compte les nouveaux défis posés par l'IA générative. Par exemple, des attaquants peuvent chercher, en analysant des milliers d'images tatouées, à comprendre comment l'algorithme les détecte et finalement trouver le moyen de le tromper... Plus généralement, sécuriser l'IA est un autre axe majeur de recherche d'Artishau. Ainsi, les applications des réseaux de neurones qui réalisent des prédictions, après avoir fait leur apprentissage sur des milliers de données, peuvent aussi être soumises à des attaques.
L'équipe Artishau développe également des outils d'audit d'algorithmes « en boîte noire ». Des tests qui permettent d'évaluer qu'une IA est en conformité avec la législation en vigueur, ou qu'elle n'introduit pas de biais discriminatoires, sans avoir accès à leur logique de fonctionnement. La mise au point de ces outils pose de nombreuses questions : comment s'assurer qu'ils restent indétectables par le propriétaire de l'algorithme ? comment identifier les évolutions de l'algorithme au cours du temps ?
Plusieurs collaborations avec des grandes entreprises (Thales, Alcatel-Nokia, Meta) mais aussi des start-up comme Imatag, à travers des thèses Cifre, permettent aux scientifiques d'aborder ces sujets en prise direct avec les besoins du monde économique et de la société. Le Prix de l’innovation Inria – Académie des sciences – Dassault Systèmes récompense ainsi Teddy Furon pour l'ensemble de ses travaux, toujours menés dans la perspective de donner naissance à des innovations.
En conjuguant rigueur scientifique, sens de l’innovation et engagement sociétal, Teddy Furon illustre la manière dont la recherche publique peut façonner la confiance numérique de demain.