Gouverner les agents IA : l'AI Control Plane

La question n'est plus de savoir s'il faut laisser un agent IA automatiser une tâche d'architecture ou d'exploitation — c'est déjà fait, dans la plupart des organisations, souvent sans que la gouvernance en soit pleinement informée. La question qui reste ouverte est : qui décide de ce qu'un agent a le droit de faire sans validation humaine, et comment cette décision reste-t-elle traçable ? C'est le rôle de l'AI Control Plane dans TEAF — et un chantier qui reste honnêtement incomplet.

Ce que l'AI Control Plane couvre aujourd'hui

Le socle actuel repose sur des principes déjà solides pour un cadre de premier niveau : séparation identité/authentification/autorisation pour chaque agent, secrets tenus hors du code, provenance des actions journalisée, human-in-the-loop sur les changements critiques, et capacité de rollback systématique. Le dépôt TEAF Light verrouille mécaniquement certains de ces principes — ce n'est pas une déclaration d'intention, ce sont des contrôles qui s'appliquent par défaut.

La frontière entre exécution assistée et exécution autonome

Le rôle central de l'AI Control Plane est de maintenir explicite la frontière entre ce qu'un agent peut exécuter seul et ce qui nécessite une validation humaine avant application. Cette frontière n'est pas figée : elle dépend de la criticité de la capacité concernée, du niveau de confiance établi avec l'agent au fil du temps, et du contexte réglementaire. Ce qui compte, structurellement, c'est que cette frontière soit une décision explicite et documentée — pas une conséquence accidentelle de ce que l'outillage permet techniquement.

Ce qui reste à construire

Une architecture IA-native réellement industrielle demande d'aller au-delà de ce socle : évaluation continue des modèles utilisés, résistance au prompt injection et au data poisoning, sécurité de la chaîne d'approvisionnement des modèles (d'où viennent-ils, comment sont-ils mis à jour), confiance agent-à-agent quand plusieurs systèmes IA interagissent entre eux, détection de dérive de modèle dans le temps, maîtrise des coûts d'inférence, capacité de red teaming spécifique aux agents, et procédures de réponse à incident adaptées — un agent compromis ne se comporte pas comme un serveur compromis. TEAF possède le cadre pour accueillir ces dimensions — la boucle, les rôles, l'AI Control Plane lui-même — mais pas encore la profondeur d'un framework de sécurité IA complet.

Pourquoi le dire plutôt que le laisser deviner

Un framework qui prétendrait déjà tout couvrir en matière de sécurité IA serait, sur ce sujet en particulier, activement trompeur : le domaine évolue trop vite pour qu'un socle de premier niveau suffise durablement. La feuille de route ouverte — approfondir prompt injection, data poisoning, dérive de modèle et confiance agent-à-agent au fil des prochaines versions — n'est pas une faiblesse à minimiser, c'est la description honnête d'un chantier en cours plutôt que d'un problème résolu.

• L'AI Control Plane couvre aujourd'hui l'identité des agents, la séparation des secrets, la provenance, le human-in-the-loop et le rollback.
• Son rôle central : maintenir explicite la frontière entre ce qu'un agent exécute seul et ce qui exige validation humaine.
• Prompt injection, data poisoning, chaîne d'approvisionnement des modèles, confiance agent-à-agent restent des chantiers à approfondir.
• TEAF a le cadre pour accueillir une gouvernance IA complète, pas encore toute la profondeur — et le dit explicitement plutôt que de le laisser deviner.