GPT : Generative Pre-trained Transformer
IA
GPT : Generative Pre-trained Transformer, famille de modèles de langage d'OpenAI fondée sur l'architecture Transformer. « Un modèle qui a lu une bonne partie de ce que l'humanité a écrit et en a surtout retenu comment continuer une phrase », par analogie avec le convive brillant qui termine les phrases de tout le monde, y compris celles qu'il aurait mieux valu laisser en suspens.
Repères : Le premier GPT a été publié par OpenAI en 2018, suivi de GPT-2 (2019), de GPT-3 (2020), puis des modèles qui alimentent ChatGPT, lancé en novembre 2022. Generative : il produit du texte ; Pre-trained : il est d'abord entraîné sur un immense corpus avant d'être spécialisé ; Transformer : l'architecture de réseau de neurones décrite par des chercheurs de Google en 2017.
Les GPTs : Depuis novembre 2023, OpenAI permet de créer des « GPTs », assistants personnalisés combinant instructions, fichiers de connaissance et actions vers des API. Tout ce qu'on y dépose doit être considéré comme récupérable par un utilisateur insistant : instructions et fichiers fuient par injection de requête avec une régularité que seule égale la surprise de leurs auteurs.
Homonymie : En informatique système, GPT désigne aussi la GUID Partition Table (GUID pour Globally Unique Identifier), table de partitionnement des disques associée à l'UEFI (Unified Extensible Firmware Interface). Le contexte suffit en général à trancher, un disque se partitionnant rarement en conversation.
Ce qui arrive si on s'en passe
Un assistant bâti sur un GPT et chargé d'instructions confidentielles, de clés d'API ou de documents internes les rendra tôt ou tard à qui saura les lui demander, car le modèle ne distingue pas de façon fiable une consigne de son concepteur d'une consigne glissée par un utilisateur. Une action connectée à une API avec des droits larges permet alors à un inconnu d'agir sur des systèmes réels par simple conversation. La règle tient en une phrase : ne rien mettre dans un assistant qu'on ne publierait pas, et donner à ses actions les droits minimaux, contrôlés côté serveur.
Explication de la marmotte
GPT est le nom d'une famille de programmes d'intelligence artificielle de l'entreprise OpenAI, capables d'écrire du texte en prédisant, mot après mot, la suite la plus probable. C'est la technologie derrière ChatGPT. On peut aussi créer des assistants personnalisés, appelés GPTs, en leur donnant des consignes et des documents. Mais ces consignes et documents peuvent être récupérés par des utilisateurs malins : il ne faut donc jamais y mettre de secrets.
Où ce terme est utilisé
- GPO Active Directory : durcissement, abus et contrôle (8 occurrences)
- Registre Windows, GPO et services, fonctionnement et attaques (4 occurrences)
- Fuite des instructions d'un assistant IA personnalisé publié (3 occurrences)
- Comparer GGUF GPTQ et AWQ pour LLM local (1 occurrence)
- Faille chatbot Chevrolet 2023, Tahoe à 1 dollar et injection (1 occurrence)