Parcours : Comprendre et sécuriser l’IA
Parcours : Comprendre et sécuriser l’IA
Pour qui : Toute personne qui utilise, déploie ou encadre des assistants et des agents d’IA.
Comment fonctionnent les modèles de langage et les agents, ce qu’il faut encadrer dans leur usage en entreprise, puis comment sécuriser RAG, outils et agents autonomes.
- Étape 01 : L'IA actuelle : assistants conversationnels et agents
État des lieux en octobre 2026 des assistants d'IA générative (ChatGPT, Claude, Gemini, Copilot, Vibe, Meta AI, DeepSeek, Grok, modèles ouverts) et des agents qui agissent à leur place, avec ce que cela change pour la sécurité et la manière de les encadrer.
- Étape 02 : Différence entre IA et LLM : un champ entier, un type de modèle
Distinguer l'intelligence artificielle, champ entier aux nombreuses familles de modèles, du LLM, type récent de modèle de langage génératif, et en tirer les conséquences en sécurité, en architecture et en conformité AI Act.
- Étape 03 : Comment fonctionne l'inférence d'un modèle de langage
Préremplissage, décodage, cache de clés et valeurs, batching et surface d'attaque d'un serveur d'inférence, avec les compromis de latence et de débit à trancher avant la mise en production.
- Étape 04 : Embeddings : vecteurs, recherche sémantique et RAG
Comprendre les embeddings, leur rôle dans la recherche sémantique, l'indexation vectorielle et l'intégration dans les systèmes Retrieval-Augmented Generation (RAG).
- Étape 05 : Agentique : définition, lectures d'OpenAI et d'Anthropic, Claude Code
Ce que recouvre le mot agentique pour un système fondé sur un modèle de langage, comment OpenAI et Anthropic le définissent, et ce que Claude Code en fait concrètement sur un dépôt de code.
- Étape 06 : MCP : le protocole qui connecte les modèles IA aux outils
Le MCP (Model Context Protocol) standardise la connexion entre modèles de langage, sources de données et outils externes. Définition, architecture et exemple.
- Étape 07 : Rédiger une politique d'usage de l'IA générative publique
Politique d'usage de l'IA générative publique qui croise la classification des données et les outils autorisés, et qui se fait appliquer sans devenir inapplicable.
- Étape 08 : Fuite de secrets dans les prompts d'un assistant IA public
Prévenir, filtrer et traiter la fuite de mots de passe, de clés et de données clients collés dans un assistant d'intelligence artificielle public.
- Étape 09 : Rétention des données envoyées à une API d'IA générative
Ce que devient une donnée envoyée à une API d'IA générative hébergée (rétention, entraînement, journaux d'abus, objets stockés) et comment le vérifier techniquement et contractuellement.
- Étape 10 : AI Act et modèle d'IA à usage général appelé par API
Obligations de l'AI Act pour une organisation qui intègre un modèle d'IA à usage général accessible par API dans ses propres services, vues depuis la sécurité (transparence, maîtrise, documentation).
- Étape 11 : Slopsquatting, paquets inventés par les assistants de code IA
Slopsquatting, les noms de paquets inventés par les assistants de code IA puis enregistrés par des attaquants, et comment s'en protéger dans la chaîne de dépendances.
- Étape 12 : Sécuriser un corpus RAG contre l’injection indirecte
Cette fiche décrit comment empêcher qu’un document empoisonné dans un corpus RAG détourne un modèle de langage lors de la génération.
- Étape 13 : Comment valider le function calling d’un LLM
Sécuriser le function calling d’un LLM en validant les paramètres, les autorisations et l’exécution réelle des outils.
- Étape 14 : Sécuriser les actions irréversibles des agents LLM
Sécuriser les agents autonomes basés sur LLM disposant de function calling ou d'exécution de code face aux actions irréversibles déclenchées par une hallucination.
- Étape 15 : Comment red teamer un LLM local avant production
Méthode de red teaming pour tester les jailbreaks, les garde-fous et les scénarios d’abus d’un modèle de langage déployé localement.