English
Deutsch
Le mythe de l'autonomie totale
Les médias technologiques adorent les démonstrations d'agents IA "entièrement autonomes". La réalité des déploiements en entreprise est plus nuancée — et c'est une bonne chose. La question n'est pas de savoir si un humain doit être dans la boucle, mais où et comment l'intégrer pour maximiser à la fois l'efficacité et la fiabilité.
Les quatre modèles de supervision
Modèle 1 — Validation systématique
Chaque action de l'agent est soumise à validation humaine avant exécution. Utilisé pour : actions irréversibles (suppression de données, envoi d'emails clients, modifications ERP), processus réglementés (validation médicale, validation financière). Coût : faible gain d'efficacité. Bénéfice : risque zéro.
Modèle 2 — Validation par exception
L'agent agit de manière autonome mais signale les cas ambigus pour validation. C'est le modèle optimal pour la plupart des processus opérationnels. L'agent définit lui-même ses seuils de confiance : en dessous de 85%, il escalade vers un humain.
Modèle 3 — Supervision a posteriori
L'agent agit de manière entièrement autonome. Un humain consulte les journaux d'activité périodiquement (quotidiennement, hebdomadairement). Utilisé pour : processus à faible risque, fort volume, haute répétabilité (reporting, notifications, triage).
Modèle 4 — Supervision par anomalie
Un système de surveillance détecte automatiquement les comportements inhabituels de l'agent et alerte un humain uniquement en cas d'anomalie détectée. Nécessite une définition préalable rigoureuse des métriques d'anomalie.
Construire un framework de gouvernance
Pour chaque agent déployé en production, je recommande de documenter :
| Dimension | Questions à répondre |
|---|---|
| Périmètre d'action | Quels systèmes l'agent peut-il modifier ? Avec quelles limites ? |
| Seuil d'escalade | Dans quels cas l'agent doit-il suspendre et alerter ? |
| Journalisation | Quelles actions sont loggées ? Pendant combien de temps ? |
| Responsabilité | Qui est responsable en cas d'erreur de l'agent ? |
| Plan de rollback | Comment annuler les actions d'un agent défaillant ? |
Le cas particulier de la Suisse
En Suisse, les exigences réglementaires dans les secteurs finance, santé et administration publique imposent des niveaux de traçabilité stricts. Toute décision automatisée ayant un impact sur un tiers doit être explicable. Cela ne signifie pas interdire l'IA agentique — cela signifie concevoir ses workflows avec l'auditabilité comme contrainte de conception, et non comme réflexion a posteriori.