Aller au contenu

Le filigrane de poids WWM : prouver l'origine d'un modèle de langage à partir de ses paramètres

Quand un modèle de langage circule en dehors de son éditeur, il est difficile de prouver d’où il vient. Le filigrane WWM (Weight WaterMark) inscrit une signature directement dans les paramètres du modèle, lisible par quiconque possède la clé de l’éditeur.

Une signature de 256 bits est répartie dans les bits de poids faible de 4 096 paramètres choisis par un tirage pseudo-aléatoire dérivé de la clé. La modification est trop faible pour changer le comportement du modèle.

PropriétéRésultat
Survie à la quantification 4 bitsOui
Survie à un réentraînement completOui
Impact sur la qualitéNul

Création : Mise à jour :