Microsoft va désormais ajouter un filigrane invisible (watermark) aux contenus générés par l’IA dans Microsoft 365 . Ce filigrane, intégré sous forme de métadonnées, permettra d’indiquer qu’un contenu audio ou une image a été créé ou modifié par Copilot. L’objectif est d’améliorer effectivement la transparence vis a vis de l’IA générative.
Concrétement, Il s’agira d’un marquage dans les métadonnées, invisible pour l’utilisateur mais qui incluera le modèle d’IA utilisé, l’application qui a généré le contenu et la date de création du contenu
Ce filigrane devrait rester persistant.
Même si les filigranes ne sont pas activés par l’utilisateur ou l’administrateur, certaines informations révélant l’utilisation de l’IA sont ajoutées aux métadonnées des images, vidéos et contenus audio qui sont générer ou modifier à l’aide de l’IA dans Microsoft 365.
Les raisons qui peuvent justifier cette décision
3 raisons peuvent effectivement légitimer cette décision et qui pour le coup améliore la transparence de l’informations et permettra de mieux lutter contre la désinformation
• identifier automatiquement les contenus générés par Copilot.
• répondre aux demandes croissantes de traçabilité des contenus IA.
• s’aligner sur les futures régulations (comme l’AI Act européen).
c’est en tout l’objectif du projet Coalition for Content Provenance and Authenticity (C2PA) avec Qui Microsoft a semble t’il un partenariat et dont les objectifs sont
- d’Identifier les exigences en matière de provenance du contenu.
- d’Appliquer ces exigences dans l’élaboration des spécifications relatives à la provenance du contenu.
- d’élaborer des pratiques exemplaires et des modèles de référence pour l’application de ces normes.
- De promouvoir certaines spécifications afin qu’elles deviennent des normes mondiales.
- De promouvoir l’adoption mondiale des techniques de provenance numérique.
- De promouvoir l’adoption des spécifications et des normes numériques de la Coalition par les plateformes sociales et médiatiques.
- De veiller à ce que le contenu reste accessible même lorsque des techniques de provenance numérique sont appliquées.
Authentication Of Média via Provenance
Microsoft annonce par ailleurs clairement son projet d’origine nommé AMP : Authentication Of Média via Provenance dont les objectifs sont précisés ci dessous : (contenu traduit du site)
AMP, est un système qui garantit l’authentification du fournisseur d’un contenu multimédia via sa provenance. Il crée un ou plusieurs manifestes pour une instance multimédia téléchargée par un fournisseur de contenu.
Ces manifestes sont stockés dans une base de données permettant une recherche rapide à partir d’applications telles que les navigateurs.
À titre de référence, les manifestes sont également enregistrés et signés par un registre autorisé, mis en œuvre à l’aide du Confidential Consortium Framework (CCF).
Le CCF utilise à la fois des techniques logicielles et matérielles pour garantir l’intégrité et la transparence de tous les manifestes enregistrés. Grâce à l’utilisation du CCF, AMP permet également à un consortium de fournisseurs de médias de gérer le service tout en rendant toutes ses opérations vérifiables. L’authenticité du média peut être communiquée à l’utilisateur via une icône ou d’autres éléments visuels dans le navigateur, indiquant qu’un manifeste AMP a été localisé et vérifié avec succès.
Une présentation du projet peut être visualisée ici : Building trust at the Origin
Laurent TERUIN
Travailler ensemble 