Gouvernance de l’intelligence artificielle

L’agent propose, l’humain valide

Chez BOUCLR, l’intelligence artificielle ne décide pas à votre place : elle prépare, recommande et exécute dans le cadre et aux seuils que vous avez fixés. Le contrôle humain n’est pas une option, c’est le socle de la plateforme.

1. Un principe de conception, pas une couche ajoutée

L’AI Act européen impose que les systèmes d’IA restent sous supervision humaine, traçables et proportionnés. BOUCLR n’a pas eu à se mettre en conformité après coup : la plateforme a été construite dès l’origine autour de ces principes. La supervision humaine, la journalisation de chaque action et la minimisation des données sont inscrites dans l’architecture, pas rajoutées pour cocher une case.

Nous employons volontairement la formule « conçu selon les exigences de l’AI Act ». L’AI Act ne délivre pas de label ni de certificat pour ce type d’outil : toute promesse de « certification » serait trompeuse. Ce que nous garantissons, c’est un alignement concret, vérifiable dans le fonctionnement de la plateforme.

2. La supervision humaine : quatre modes, choisis par vous

Vous décidez, type d’action par type d’action, du degré d’autonomie que vous confiez à BOUCLR. Le curseur va du contrôle total à l’automatisation supervisée, et il vous appartient à tout moment.

• Manuel : BOUCLR propose, votre équipe exécute. Aucune action n’a lieu sans une décision humaine explicite.
• Assisté : BOUCLR prépare le brouillon complet, votre équipe relit et déclenche.
• Semi-automatique : BOUCLR exécute dans un périmètre validé à l’avance, votre équipe garde la main sur les cas hors cadre.
• Automatique : BOUCLR exécute et votre équipe supervise, dans les seuils et règles que vous avez définis.
• Dans tous les cas, les seuils et les règles métier sont saisis par des humains. Aucune action sortante vers vos clients finaux n’échappe au cadre que vous avez fixé. Vous pouvez rehausser le niveau de contrôle ou tout suspendre à tout moment.

3. La traçabilité : chaque action est journalisée

Chaque exécution d’agent est enregistrée dans la plateforme : quel agent, quand, sur quel périmètre, avec quel résultat. Cette traçabilité rend l’activité de l’IA auditable de bout en bout et permet de rendre des comptes à tout moment.

• Journal d’activité par agent : horodatage, périmètre et résultat de chaque tâche.
• Journal partagé entre agents : les apprentissages sont consignés et relus, ce qui rend explicite le raisonnement collectif de la plateforme plutôt que de le laisser dans une boîte noire.
• Cartographie des données : une vue d’ensemble des données mobilisées, de leur origine et de leur circulation.
• Mêmes règles que le reste : ces journaux sont soumis à l’isolation par client et aux durées de conservation, puis purgés.

4. La minimisation et la protection des données

L’IA ne reçoit que le strict nécessaire à la tâche. Les données de vos clients finaux restent dans la base BOUCLR, en Union européenne ; le modèle traite une requête ponctuelle puis n’en conserve rien.

• Extrait minimal : seuls les éléments utiles à la tâche sont transmis au modèle.
• Pseudonymisation : quand la tâche le permet, l’identité réelle est remplacée par une référence opaque ; la correspondance reste dans la plateforme, en UE.
• Pas d’entraînement sur vos données : les fournisseurs de modèles utilisés via API s’engagent contractuellement à ne pas s’en servir pour entraîner leurs modèles.
• Purge : durées de conservation encadrées, digests anonymisés, suppression en cascade en fin de contrat.

5. Transparence

Vos interlocuteurs savent quand ils ont affaire à un contenu produit avec l’aide de l’IA. Les contenus générés (brouillons de campagnes, recommandations, analyses) sont présentés comme tels à votre équipe, qui reste l’émettrice des décisions. BOUCLR n’usurpe pas d’identité et ne dissimule pas le rôle de l’IA dans la production d’un contenu.

6. Ce que BOUCLR ne fait pas

La gouvernance passe aussi par des limites claires. BOUCLR n’utilise pas l’IA pour des usages que l’AI Act interdit ou encadre lourdement.

• Pas de notation sociale des individus.
• Pas de décision individuelle automatisée à effet juridique sans intervention humaine.
• Pas de catégorisation fondée sur des données sensibles (santé, opinions, appartenance) pour cibler des personnes.
• Pas de manipulation ni d’exploitation de vulnérabilités des destinataires.
• Pas d’action sortante hors du cadre et des seuils définis par le client.

7. Alignement avec l’AI Act, exigence par exigence

8. Un registre des risques adossé au MIT AI Risk Repository

La gouvernance ne se décrète pas, elle se tient à jour. Notre registre des risques IA s’appuie sur le MIT AI Risk Repository (airisk.mit.edu), la référence académique qui recense et classe les risques documentés de l’intelligence artificielle, publiée sous licence CC BY 4.0. Nous suivons sa version publiée et réexaminons chaque mise à jour.

• Un registre opérationnel, pas une liste théorique : les risques retenus sont reformulés en langage métier et rattachés à chaque temps de la plateforme.
• Chaque agent et chaque connecteur est rattaché au registre. Si une nouvelle brique est ajoutée sans rattachement, la plateforme le signale : rien n’échappe à la gouvernance.
• Chaque risque porte une décision humaine (accepté, atténué, sous surveillance) et une date de revue : le registre est réexaminé au moins tous les trois mois.
• Une synchronisation avec la base MIT n’écrase jamais une décision humaine : elle propose, l’humain tranche. Toujours le même principe.

9. Questions fréquentes

• BOUCLR est-il « certifié AI Act » ? Non, et personne ne peut l’être pour ce type d’outil : l’AI Act ne délivre pas ce label. BOUCLR est conçu selon ses exigences, de façon vérifiable dans le fonctionnement de la plateforme.
• L’IA peut-elle envoyer un message à mes clients sans validation ? Uniquement si vous avez choisi un mode automatique pour ce type d’action, dans le cadre et les seuils que vous avez fixés. Par défaut, l’agent propose et votre équipe valide.
• Puis-je savoir ce que l’IA a fait ? Oui. Chaque action est journalisée (agent, moment, périmètre, résultat) et consultable.
• L’IA décide-t-elle seule des seuils ? Non. Les seuils et les règles métier sont saisis par des humains. L’agent propose, l’humain valide.