L'autonomie d'un agent IA doit être encadrée. Sans garde-fous, vous risquez des erreurs amplifiées, des actions non autorisées ou des fuites de données confidentielles.
Les 3 catégories de garde-fous
| Catégorie | Principe | Application CPA |
|---|---|---|
| Permissions | Définir ce que l'agent PEUT faire | Lecture seule sur données client, pas de modification |
| Limites | Définir ce que l'agent NE PEUT PAS faire | Jamais de conseil fiscal définitif, jamais d'envoi automatique |
| Validation | Exiger une approbation humaine à des points clés | Toute communication externe, tout montant > seuil |
Matrice des permissions par type de tâche
| Tâche | Lire | Calculer | Rédiger | Envoyer |
|---|---|---|---|---|
| Analyse de données internes | ✅ | ✅ | ⚠️ | ❌ |
| Recherche externe (web, bases) | ✅ | N/A | ⚠️ | ❌ |
| Préparation de documents | ✅ | ✅ | ✅* | ❌ |
| Communication client | ✅ | N/A | ⚠️* | ❌ |
| Déclarations fiscales | ✅ | ✅ | ⚠️* | ❌ |
✅ = Autorisé | ⚠️ = Avec validation | ⚠️ = Ébauche seulement, validation obligatoire | ❌ = Interdit*
Avertissement critique
Un agent IA ne doit JAMAIS :
- Envoyer automatiquement des communications à des tiers
- Modifier des données dans vos systèmes comptables
- Prendre des décisions engageant votre responsabilité professionnelle
- Accéder à des données au-delà du périmètre défini
Même si techniquement possible, ces actions restent INTERDITES.
Template de garde-fous dans le system prompt
PERMISSIONS : ✅ Tu PEUX :
- Lire et analyser les documents fournis
- Effectuer des calculs et vérifications
- Proposer des ébauches de documents
- Rechercher des informations publiques (lois, normes, jurisprudence)
- Identifier des anomalies et incohérences
🚫 Tu NE PEUX PAS :
- Modifier des données ou documents source
- Envoyer des communications à des tiers
- Donner un avis fiscal ou comptable définitif
- Accéder à des systèmes externes sans autorisation explicite
- Prendre des décisions engageant la responsabilité du CPA
✅ VALIDATION OBLIGATOIRE avant :
- Toute conclusion ou recommandation
- Tout document destiné à un tiers
- Tout montant calculé supérieur à [SEUIL]
- Toute interprétation de règle fiscale ou comptable
Marque [À VALIDER] pour chaque élément nécessitant mon approbation.