Le sujet « Prompt injection » doit conduire à une preuve, pas seulement à un déploiement : l'effet attendu doit être mesurable et réversible.
Cadrez le point « séparation des instructions », contrôlez le point « outils à moindre privilège », puis décidez avec une mesure de référence explicite.
1. Chiffres clés
| Chiffre | Ce qu'il établit | Source, date et périmètre | Lecture pour vous |
|---|---|---|---|
| 2 voies d'injection | OWASP distingue l'injection directe dans le prompt de l'injection indirecte portée par un fichier, une page ou une autre source externe. | OWASP GenAI — Prompt Injection, édition 2025, consultée le 11 juillet 2026, applications LLM et agents connectés | Le modèle doit être traité comme un interprète non fiable et ses pouvoirs limités en code |
| 3 risques combinés | OWASP décrit pour MCP une surface mêlant injection de prompt, chaîne d'approvisionnement et problème de confused deputy. | OWASP Cheat Sheet Series — MCP Security, consulté le 11 juillet 2026, clients, serveurs et outils MCP | L'autorisation appartient au système d'exécution, jamais à la seule intention déduite par le modèle |
| 4 familles | NIST AI 100-2 couvre évasion, empoisonnement, atteintes à la vie privée et détournement pour l'IA générative. | NIST — Adversarial Machine Learning, 24 mars 2025, équipes concevant, déployant et gouvernant des systèmes d'IA | Le test adverse doit couvrir données, modèle, contexte et outils connectés |
| 4 fonctions | Le NIST AI RMF organise la maîtrise des risques autour de Govern, Map, Measure et Manage. | NIST AI Resource Center — AI RMF, consulté le 11 juillet 2026, systèmes d'IA de tous secteurs | Un registre ou une évaluation n'a de valeur que s'il déclenche des décisions de gestion |
| 5 capacités humaines | L'article 14 prévoit que la supervision humaine permette notamment comprendre, surveiller, interpréter, ignorer ou renverser, et interrompre le système. | Commission européenne — AI Act article 14, texte officiel, consulté le 11 juillet 2026, systèmes d'IA à haut risque | Un humain dans la boucle n'est utile que s'il dispose d'information, de compétence, d'autorité et d'un vrai moyen d'arrêt |
Ces repères bornent la décision sur une défense en profondeur contre l'injection par prompt ; ils ne la prennent pas à votre place. Une valeur publiée décrit un périmètre précis, une date et parfois une population différente de la vôtre. Lisez-la comme une contrainte à tester, non comme la promesse d'un effet automatique. L'écart mérite une explication.
Pour ce sujet, la première source conduit à la lecture opérationnelle suivante : « Le modèle doit être traité comme un interprète non fiable et ses pouvoirs limités en code. » La deuxième référence du tableau doit, elle aussi, être confrontée à votre périmètre et à une mesure locale. Cette distinction entre référence externe et mesure locale protège l'analyse contre les extrapolations faciles.
2. Lire les sources sans surinterpréter
Parce que le contexte évolue, l'élément probant demeure lié à la décision : une source est utile lorsqu'un lecteur comprend simultanément ce qu'elle affirme, le périmètre qu'elle couvre et la limite de l'extrapolation. Les cinq repères ci-dessous sont donc relus comme des bornes de décision, jamais comme des promesses causales.
Pour le périmètre « une défense en profondeur contre l'injection par prompt », une donnée externe n'est utilisable pour décider que si son périmètre, sa date, son unité et sa limite sont explicités. La revue doit séparer ce que la source établit, ce que l'équipe en déduit et ce qu'un test local doit encore démontrer.
Concrètement, la fiche de preuve conserve l'organisme, le titre, l'URL, la date de consultation, la population, l'unité, la méthode et la réserve d'interprétation. Elle indique ensuite la décision que le repère éclaire et l'observation locale capable de contredire ce repère. Dans ce dossier, rattachez ce registre à « séparation des instructions » et confiez sa revue à « Métiers ». Une donnée sans propriétaire documentaire vieillit silencieusement ; une donnée assortie d'une condition de révision demeure contrôlable et peut être citée sans perdre son contexte.
2.1. Repère 1
La référence OWASP GenAI — Prompt Injection publie « 2 voies d'injection ». Avant d'en tirer une décision, vérifiez la date, la population couverte et la possibilité de reproduire la mesure localement. Le coût différé existe.
2.2. Repère 2
La source OWASP Cheat Sheet Series — MCP Security situe la borne « 3 risques combinés » dans le champ « clients, serveurs et outils MCP ». Elle apporte une référence externe au diagnostic ; elle ne remplace ni une mesure de référence locale ni l'analyse des exceptions. Cette frontière compte.
2.3. Repère 3
Le jalon « 4 familles », publié par NIST — Adversarial Machine Learning, relève du périmètre « équipes concevant, déployant et gouvernant des systèmes d'IA ». Il aide à formuler une hypothèse vérifiable, sans transformer une valeur externe en objectif automatique. Le calendrier sert la preuve.
2.4. Repère 4
NIST AI Resource Center — AI RMF documente « 4 fonctions ». La portée exacte figure dans le tableau précédent ; conservez-la lorsque vous comparez cette donnée à vos propres opérations, populations et périodes. La sortie se prépare tôt.
2.5. Repère 5
Commission européenne — AI Act article 14 fournit ici l'indication « 5 capacités humaines ». Cette information éclaire un choix ; elle ne démontre pas, à elle seule, que le même effet apparaîtra dans votre contexte. Cette preuve est locale.
3. Fiche de citation réutilisable
Tant que le doute subsiste, la valeur initiale demeure accessible : une citation robuste doit pouvoir être reprise sans perdre son auteur, sa date, son périmètre ni sa limite. La fiche ci-dessous isole ces éléments et les rattache à une décision précise ; elle évite qu'un chiffre correct devienne trompeur après extraction de son contexte.
| Champ | Contenu à conserver |
|---|---|
| Assertion vérifiable | OWASP distingue l'injection directe dans le prompt de l'injection indirecte portée par un fichier, une page ou une autre source externe. |
| Attribution | OWASP GenAI — Prompt Injection, édition 2025, consultée le 11 juillet 2026 |
| Portée déclarée | applications LLM et agents connectés |
| Valeur ou borne | 2 voies d'injection |
| Lecture opérationnelle | Le modèle doit être traité comme un interprète non fiable et ses pouvoirs limités en code. |
| Décision concernée | Relier « séparation des instructions » à une observation locale avant l'arbitrage |
| Propriétaire de la revue | Métiers — Éviter de numériser une friction non questionnée |
| Condition de révision | Réexaminer la citation si la source, le périmètre ou « approbation humaine » change |
4. Introduction : cadrer le risque principal
Le premier symptôme n'est pas l'absence d'outil, mais l'absence de lien entre les points « séparation des instructions », « outils à moindre privilège » et l'indicateur de décision. Les contrôles « validation déterministe » et « approbation humaine » arrivent alors trop tard pour corriger la décision.
Le risque concret prend la forme suivante : un filtre de mots supposé résoudre une vulnérabilité sémantique. Ce problème ne se corrige ni par une option activée ni par un tableau de bord supplémentaire ; il exige un périmètre, un responsable et une preuve contradictoire.
Sur ce périmètre, la règle d'arrêt est connue : notre position est donc nette : le dispositif n'a de valeur que si l'effet annoncé est observable. La comparaison doit porter sur la situation avant le changement, puis sur les mêmes segments après le test. La réversibilité tranche.
5. Acteurs et responsabilités
| Acteur | Responsabilité dans la décision | Point de vigilance |
|---|---|---|
| Métiers | Décrivent le travail réel, les exceptions et la valeur | Éviter de numériser une friction non questionnée |
| Équipe IA et data | Conçoit données, évaluations, modèles et observabilité | Mesurer la tâche complète et les cas d'échec |
| DSI et sécurité | Gère identités, outils, risques et continuité | Limiter portées, secrets et actions irréversibles |
| Fournisseurs de modèles | Fournissent capacités, limites et évolutions | Surveiller coûts, versions, conservation et dépendance |
Cette répartition évite de confondre exécution et responsabilité. La première responsabilité opérationnelle revient à la fonction « Métiers » ; la fonction « Équipe IA et data » apporte un contrôle distinct. La décision n'est défendable que si chaque acteur sait ce qu'il mesure, ce qu'il autorise et ce qu'il reprend lorsque la limite acceptée est franchie. Le test doit résister.
6. Définition : défense en profondeur contre l'injection par prompt
Dans ce guide, le périmètre « une défense en profondeur contre l'injection par prompt » combine les points « séparation des instructions », « outils à moindre privilège », « validation déterministe » et « approbation humaine ». L'objectif est d'obtenir un système qui traite les contenus externes comme non fiables et limite les pouvoirs ; la décision repose sur la part de scénarios adverses bloqués avant action sensible.
Lors de la revue, la prochaine échéance est planifiée : la définition est donc opérationnelle : elle nomme les composantes, l'effet recherché, l'indicateur et la limite. Un lecteur peut la citer sans devoir reconstituer le sens dans le reste de la page. Ce repère ne décide pas.
7. Pourquoi le sujet devient structurant
Les sources convergent sur trois bornes : 2 voies d'injection, 3 risques combinés et 4 familles. Elles ne décrivent pas une moyenne universelle ; elles précisent des seuils, des obligations ou des conditions d'exploitation. Dans le cas présent, la troisième source conduit à la lecture opérationnelle suivante : « Le test adverse doit couvrir données, modèle, contexte et outils connectés. »
Cette lecture transforme les chiffres en questions de décision : quel périmètre couvrent-ils, quelle incertitude subsiste et qui peut agir lorsque la mesure sort du seuil accepté ? Sur une défense en profondeur contre l'injection par prompt, cette responsabilité conditionne l'effet recherché. Le contexte impose la preuve.
8. Comparer quatre niveaux d'engagement
| Niveau | Ce qu'il optimise | Critère de décision | Limite à rendre visible |
|---|---|---|---|
| Observation sans mesure de référence | Vitesse apparente | séparation des instructions | Le résultat ne peut pas être attribué |
| Pilote borné | Apprentissage sur un flux | Écart à la mesure de référence | Le cas testé peut rester trop simple |
| Déploiement gouverné | Effet démontré sur le périmètre utile | Les contrôles « validation déterministe » et « approbation humaine » | Le coût récurrent doit rester explicite |
| Réduction ou arrêt | Maîtrise du risque principal | Seuil de sortie documenté | Préserver données, preuves et réversibilité |
Concernant une défense en profondeur contre l'injection par prompt, la comparaison ne désigne pas un vainqueur universel. Elle rend visible le coût d'une preuve absente, d'un pilote trop simple ou d'une extension prématurée. Le bon niveau dépend de la criticité du flux, de la qualité de « outils à moindre privilège » et de la possibilité concrète de reprendre « approbation humaine ». La réponse dépend du cycle.
9. Méthode recommandée : sept étapes vérifiables
Appliquée à une défense en profondeur contre l'injection par prompt, la méthode suivante relève de bonnes pratiques publiques et opérationnelles. Elle n'est pas présentée comme une méthode propriétaire de Logiks : sa valeur vient de l'ordre des contrôles et de la possibilité, pour un tiers, de vérifier chaque livrable.
9.1. Formuler la décision
Cette étape transforme l'intention en contrôle : décrire le résultat attendu et le relier à « séparation des instructions ». Mesurez ce qui change réellement dans la décision réellement ouverte et la valeur qui la justifie, y compris les reprises humaines. Documentez le tout dans une note de cadrage qui nomme la décision, la limite et le responsable.
9.2. Mesurer le point de départ
Lorsqu'un arbitrage est contesté, le seuil possède un propriétaire : pour avancer sans masquer le coût différé, vous devez observer l'indicateur de décision avant toute modification. Comparez avant et après sur la situation de départ et ses variations entre segments, puis faites relire une mesure initiale datée et ventilée par segment utile par un acteur qui n'a pas conçu le test.
9.3. Tracer le chemin critique
Action attendue : relier « outils à moindre privilège » aux données, équipes et dépendances concernées. Commencez sur un périmètre où l'équipe peut encore revenir en arrière. La preuve attendue porte sur les exceptions rencontrées par les équipes qui exploitent le dispositif ; consignez-la dans une carte des exceptions, dépendances et propriétaires.
9.4. Poser les garde-fous
Le travail consiste d'abord à encadrer « validation déterministe » par des limites, des droits et une procédure de reprise. Ne retenez ni une démonstration idéale ni une moyenne globale : observez les limites, les droits d'action et la possibilité de revenir en arrière. Le livrable utile est une matrice de contrôle qui rend coût et réversibilité visibles.
9.5. Tester le cas difficile
À cette étape, il faut éprouver « approbation humaine » dans un scénario représentatif, puis dans un scénario dégradé. Faites participer la personne qui traite les exceptions, puis confrontez le résultat au comportement nominal, l'échec provoqué et la qualité de la reprise. Vous devez pouvoir remettre un compte rendu du scénario nominal, de l'échec et de la reprise humaine à un décideur absent du projet.
9.6. Constituer la preuve
En présence d'un tiers, l'échantillon demeure représentatif : ici, l'action consiste à comparer résultat, erreurs, interventions et coût complet au point de départ. Exécutez le contrôle sur un cas normal et un cas dégradé, en gardant l'écart entre la promesse initiale et les faits consignés comme critère. La sortie concrète prend la forme d'un dossier de journaux, d'écarts et de décisions relisibles par un tiers.
9.7. Décider et revoir
Après la mise en production, la trace demeure auditable : cette étape transforme l'intention en contrôle : attribuer la revue et suivre la mesure selon une cadence explicite. Mesurez ce qui change réellement dans le seuil qui déclenche une correction, une extension ou un arrêt, y compris les reprises humaines. Documentez le tout dans une règle de revue assortie de seuils de correction et d'arrêt.
10. Conseils Logiks : preuve, maîtrise et réversibilité
Notre priorité porte sur le risque suivant : un filtre de mots supposé résoudre une vulnérabilité sémantique. Commencez là où cette fragilité produit déjà une attente, une perte ou une décision contestée ; le périmètre prestigieux peut attendre.
Avec une donnée incomplète, le champ observé demeure stable : gardez la mesure de référence au niveau où une équipe peut agir. Une moyenne trimestrielle ne remplace pas une observation par parcours, par cohorte ou par type d'exception ; le repère doit demeurer actionnable.
Traitez « séparation des instructions » comme une décision documentée. Un responsable, une hypothèse, une limite et une date de revue valent mieux qu'un réglage dont personne ne connaît l'origine.
Éprouvez « validation déterministe » avec « approbation humaine », puis avec une reprise dégradée. Le test doit révéler le fonctionnement et le coût d'exploitation, pas seulement confirmer que la démonstration tient.
N'étendez le dispositif que si les faits observés soutiennent l'effet recherché et si « outils à moindre privilège » demeure maîtrisable par une personne extérieure au projet.
Dans ce dossier, les recommandations expriment un jugement de séquence : rendre le risque observable, tester l'hypothèse portant sur « validation déterministe », puis engager les ressources. La sophistication vient après la démonstration de l'effet annoncé ; elle ne la remplace pas. Les exceptions révèlent la maturité.
11. Grille de décision
| État | Signal observé | Preuve attendue | Décision prudente |
|---|---|---|---|
| À cadrer | « séparation des instructions » existe sans résultat nommé | mesure de référence datée | Ne pas engager tout le périmètre |
| En pilote | « outils à moindre privilège » est testé sur un flux réel | Écart au point de départ | Inclure une exception représentative |
| Gouverné | « validation déterministe » possède un responsable et une revue | Stabilité, coût et incidents | Documenter le mode dégradé |
| À étendre ou arrêter | « approbation humaine » permet une décision | Valeur nette et risque résiduel | Appliquer la règle de sortie |
La grille ne produit pas automatiquement l'arbitrage sur une défense en profondeur contre l'injection par prompt. Elle force en revanche les équipes à montrer leurs hypothèses sur « séparation des instructions », leurs seuils et leurs responsabilités ; un désaccord est alors explicite et peut être tranché. Le risque est concret.
12. Erreurs fréquentes
12.1. Confondre activation et résultat
Activer « séparation des instructions » ne prouve pas que l'effet attendu est atteint. Cette erreur déplace le débat vers l'outil alors que la décision porte sur un changement observable.
12.2. Optimiser le premier indicateur disponible
Si la mesure diverge, la portée demeure explicitée : un proxy commode peut progresser pendant que la mesure décisive se dégrade. Reliez chaque signal à une décision et à un garde-fou.
12.3. Ignorer les exceptions
Au prochain jalon, le risque résiduel est accepté : le parcours nominal masque souvent la fragilité décrite plus haut. Testez un cas limite, un échec et la façon dont l'équipe reprend la main.
12.4. Laisser une dépendance sans propriétaire
Lorsque « outils à moindre privilège » relève de tout le monde, personne ne tranche l'incident ni le coût. Attribuez la décision avant le déploiement.
12.5. Présenter le risque comme une formalité
Documenter « validation déterministe » sans corriger le système produit une conformité de façade. Le dossier doit montrer un contrôle exécuté et son résultat.
12.6. Étendre sans règle de sortie
Si « approbation humaine » ne permet pas de décider, le pilote se poursuit par inertie. Fixez à l'avance les seuils de poursuite, de correction et d'arrêt.
13. Plan d'action 30 / 60 / 90 jours
13.1. Jours 1 à 30 : établir le point de départ
- décrire la décision, le périmètre et la personne qui l'assume ;
- consigner la valeur initiale de l'indicateur avant toute modification ;
- inventorier les dépendances et leurs exceptions ;
- écrire le risque principal et sa condition de détection.
Entre deux revues, la date de la source est vérifiée : la première phase sert à rendre le désaccord visible. À trente jours, la direction doit connaître la mesure de référence, les données manquantes et le cas précis sur lequel la progression sera jugée.
13.2. Jours 31 à 60 : éprouver le chemin critique
- mettre en œuvre le contrôle principal sur un flux représentatif ;
- tester la reprise dans une situation normale puis dégradée ;
- enregistrer erreurs, interventions humaines, délais et coûts ;
- comparer les observations au scénario de départ.
Sur le chemin critique, une fonction responsable est nommée : ce pilote ne cherche pas seulement à démontrer que la technologie fonctionne. Il doit établir si le dispositif fait progresser l'indicateur retenu sans déplacer une charge disproportionnée vers l'exploitation, les utilisateurs ou un fournisseur.
13.3. Jours 61 à 90 : décider et organiser la suite
- consolider les preuves et faire relire leurs limites ;
- attribuer chaque contrôle récurrent à une fonction nommée ;
- confirmer la prochaine date de revue et la procédure de sortie ;
- étendre seulement si les faits soutiennent l'effet annoncé au départ.
Pendant l'audit, le résultat garde le même sens : à quatre-vingt-dix jours, il faut démontrer ou infirmer l'hypothèse initiale. Trois décisions demeurent légitimes : étendre, corriger ou arrêter le périmètre ; continuer sans seuil ne constitue pas une quatrième option.
14. FAQ
14.1. Comment définir une défense en profondeur contre l'injection par prompt ?
Il s'agit d'un cadre de décision appliqué à une défense en profondeur contre l'injection par prompt. La démarche relie « séparation des instructions » aux contrôles « validation déterministe » et « approbation humaine », avec une mesure de référence, des responsables et une règle de sortie.
14.2. Par quoi commencer ?
Devant un écart, la reprise humaine est éprouvée : commencez par une décision réelle, une mesure de référence et une manifestation déjà observée du risque principal. L'outil vient après ce cadrage.
14.3. Quel budget faut-il retenir ?
Hors scénario nominal, l'incertitude de mesure demeure visible : additionnez préparation, intégration, exploitation, contrôle, formation, incidents et sortie. Comparez ce coût complet à la valeur attendue, et non au seul prix de licence ou de campagne.
14.4. Combien de temps doit durer le test ?
Le test doit couvrir un cycle complet de la mesure et au moins une exception liée à « validation déterministe ». Sa durée découle de cette observation, et non d'un standard arbitraire.
14.5. Quand passer à l'échelle ?
Passez à l'échelle lorsque la progression demeure stable, que « approbation humaine » est contrôlé et que les responsabilités, coûts et conditions de sortie sont documentés.
15. Conclusion
Sans propriétaire désigné, l'incident fait l'objet d'une revue : la décision est solide lorsqu'une mesure commune relie les choix techniques, métiers et financiers. Le nombre d'options activées importe moins que la capacité à expliquer les écarts, à traiter les exceptions et à revenir sur un choix devenu coûteux.
Le pivot est simple : le chantier « une défense en profondeur contre l'injection par prompt » ne doit plus être un projet à livrer, mais une capacité à gouverner pour produire l'effet annoncé. Le seuil demeure explicite.
16. Sources principales
- OWASP GenAI — Prompt Injection — édition 2025, consultée le 11 juillet 2026 — applications LLM et agents connectés.
- OWASP Cheat Sheet Series — MCP Security — consulté le 11 juillet 2026 — clients, serveurs et outils MCP.
- NIST — Adversarial Machine Learning — 24 mars 2025 — équipes concevant, déployant et gouvernant des systèmes d'IA.
- NIST AI Resource Center — AI RMF — consulté le 11 juillet 2026 — systèmes d'IA de tous secteurs.
- Commission européenne — AI Act article 14 — texte officiel, consulté le 11 juillet 2026 — systèmes d'IA à haut risque.
