Gouvernance de l'IA : Introspection et approbations
Flash place chaque action initiée par l'IA derrière un équipement d'autorisation par action — auto, review ou forbidden — configuré par espace de travail dans la console Activité et approbations de l'IA. Pour un client IA supérieur à MCP, cela signifie deux choses : vous pouvez découvrir les objets métier et les actions que vous êtes autorisé à entreprendre avant d'agir, et vos appels d'écriture renvoient des résultats structurés : exécutés, en attente d'approbation humaine ou refusés avec une raison lisible par machine.
Ce guide couvre les outils d'introspection, la sémantique d'écriture sous un palier de revue et le cycle de vie des approbations. Il s'appuie sur le même serveur MCP gouverné, documenté dans le guide d'intégration MCP. Pour la vue d'ensemble, voir la page produit Gouvernance et approbations IA. Le routage par palier est en service dans chaque espace de travail.
Introspection métier object (portée introspection:read)
Trois outils de lecture permettent à un client d'IA de saisir la forme de l'activité avant d'y toucher : quels objets existent (y compris les champs et objets personnalisés propres à l'espace de travail), ce que signifie chaque attribut, comment les objets se relient, et quelles actions sont exécutables — avec leurs préconditions et le palier par défaut. Un agent bien réglé appelle d'abord ces outils, et tient un résultat d'écriture en attente ou refusé pour le dernier mot sur ce que son espace de travail autorise.
list_objectsLectureDécouvrez les objets métier disponibles dans l'espace de travail de la clé : membre, commande, coupon, campagne, magasin, produit, segment, étiquette, ainsi que tous les objets personnalisés définis par l'espace de travail. Renvoie la clé, l'étiquette et une brève description de chaque object. Appelez d'abord cette fonction pour connaître les éléments existants avant toute lecture ou action.
(none)describe_objectLectureLa structure complète d'un objet object : ses attributs (y compris les champs personnalisés de l'espace de travail) avec leur type et leur signification métier, ainsi que ses relations avec d'autres objets (par exemple, une commande appartient à un membre ; un coupon peut être émis à un membre). Les champs contenant des informations personnelles sont renvoyés uniquement sous forme de métadonnées — nom, type, sémantique et indicateur d'information personnelle — jamais leurs valeurs.
objectlist_actionsLectureLes actions qu'un client d'IA peut entreprendre, avec les préconditions de chaque action et son palier d'autorisation par défaut sur la plateforme (auto / review / forbidden ; gear_source: 'default'). Filtrez par object pour ne voir que les actions qui le concernent. Votre espace de travail peut fixer un palier différent par action, et c'est ce réglage qui est appliqué — le résultat d'écriture vous dit si un appel a été exécuté, est en attente ou a été refusé.
object?Les données personnelles identifiables (PII) sont, par conception, uniquement des métadonnées. L'introspection décrit les champs contenant des informations personnelles (leur nom, leur type, leur signification et un indicateur pii) mais ne renvoie jamais leurs valeurs. La lecture des données réelles des membres s'effectue via les outils de lecture des membres et leurs propres périmètres d'accès.
Exemple : décrivez un object, puis vérifiez les engrenages
Exemples descriptifs de la structure requête/réponse (abrégés — les réponses réelles listent chaque champ et action) :
// describe_object { "object": "member" }
{
"object": "member",
"label": "Member",
"meaning": "A loyalty program member owned by this workspace.",
"fields": [
{ "name": "email", "type": "string", "pii": true,
"meaning": "Contact email. PII: metadata only — values are never returned here." },
{ "name": "tier", "type": "string", "pii": false,
"meaning": "Current loyalty tier." },
{ "name": "membership_no", "type": "string", "pii": false, "custom": true,
"meaning": "Workspace-defined custom field." }
],
"relationships": [
{ "to": "order", "kind": "has_many", "meaning": "Orders placed by this member." },
{ "to": "coupon", "kind": "has_many", "meaning": "Coupons issued to this member." },
{ "to": "tag", "kind": "has_many", "meaning": "Tags currently applied to this member." }
]
}// list_actions { "object": "member" }
{ "actions": [
{ "key": "earn_points", "object": "member", "gear": "review", "gear_source": "default", "gear_locked": false,
"preconditions": ["compliance_outreach","budget","write_guard"], "reversal": "undo", "value_cap": { "amount": 10000 } },
{ "key": "issue_coupon", "object": "member", "gear": "review", "gear_source": "default", "gear_locked": false,
"preconditions": ["compliance_outreach","budget","write_guard","pool_ownership"], "reversal": "undo" },
{ "key": "assign_tag", "object": "member", "gear": "review", "gear_source": "default", "gear_locked": false,
"preconditions": ["write_guard"], "reversal": "compensating" },
{ "key": "add_member_note", "object": "member", "gear": "auto", "gear_source": "default", "gear_locked": false,
"preconditions": ["write_guard"], "reversal": "compensating" }
], "count": 4 }Aujourd'hui, gear est la valeur par défaut de la plateforme pour chaque action (gear_source: 'default'), et non le réglage propre à votre espace de travail. Les attributions d'agent telles que earn_points et issue_coupon ont pour valeur par défaut review : l'attribution d'un agent est mise en file pour qu'une personne l'approuve et ne s'exécute que si elle est approuvée ; add_member_note a pour valeur par défaut auto. Chaque espace de travail peut fixer son propre palier par action, et ces réglages ne sont pas encore reflétés ici — tenez donc list_actions pour un point de départ, et fiez-vous au résultat de chaque écriture (exécutée, en attente ou refusée) plutôt que de conserver les paliers en cache pendant de longues sessions.
Outils de rédaction en cours de révision : en attente / refusés.
Lorsqu'un outil d'écriture MCP cible une action dont le mécanisme est review, l'appel not n'exécute pas l'effet de bord. Il renvoie un résultat structuré : soit la proposition a été mise en file d'attente pour approbation humaine (pending), soit elle a été refusée d'emblée (refused), avec un reason_code et un suggested_action lisibles par machine.
// proposed — waiting for a human
{
"status": "pending",
"proposal_id": "prop_9f2c…",
"key": "issue_coupon",
"expires_at": "2026-07-10T00:00:00Z", // 7 days
"message": "Queued for human approval in
AI Activity & Approvals."
}// refused — with a reason and a next step
{
"status": "refused",
"key": "issue_coupon",
"reason_code": "recently_rejected",
"suggested_action": "A human rejected this
proposal recently. Do not re-propose;
consider a different action or ask the
operator."
}| reason_code | Signification | Le rôle de votre agent |
|---|---|---|
gear_forbidden | L'action est interdite dans cet espace de travail, ou elle a été déclenchée d'une manière qui exige un niveau qu'elle n'a pas. | N'essayez pas à nouveau. Faites émerger le refus ; suivez les instructions. suggested_action (généralement une action alternative ou « demander à un humain de changer de vitesse »). |
recently_rejected | Un utilisateur a récemment refusé la même proposition pour la même cible ; la plateforme ne la remettra pas en attente. | Respectez la décision humaine. Ne la reformulez pas et ne la reprenez pas ; suivez-la. suggested_action. |
Chaque refus porte un reason_code sous cette forme plus un suggested_action — traitez les codes ci-dessus comme ceux sur lesquels bifurquer et le champ comme extensible. Un refus est une limite difficile à lire pour vous, et non une erreur à réessayer : ne reformulez jamais une proposition pour contourner un refus.
Cycle d'approbation
Une proposition pending se résout d'exactement une façon : approved, rejected ou expired. Des personnes la traitent dans la console Activité et approbations de l'IA (une par une ou par lot selon le type d'action).
| État | Comment ça se passe | Ensuite |
|---|---|---|
pending | Un outil d'écriture a été appelé pendant que le matériel de l'action était en cours de révision : la proposition est en attente d'approbation humaine. | Approuvé · Rejeté · Expiré |
approved | Approbation humaine. Avant exécution, la plateforme revérifie le raisonnement de l'IA ; s'il n'est plus valable (par exemple, si le client a déjà effectué un nouvel achat), l'action est annulée. | Terminal (résultat enregistré dans le journal des décisions ; les actions réversibles peuvent être annulées en un clic). |
rejected | Un humain l'a rejeté, éventuellement accompagné d'une note. La même proposition est ensuite refusée avec recently_rejected si soumis à nouveau. | Terminal |
expired | En l'absence de décision sous 7 jours, la proposition expire automatiquement et aucune action n'est entreprise. | Terminal |
Garanties d'idempotence
- Une approbation, une exécution. L'approbation d'une proposition exécute son action une seule fois ; une approbation répétée reproduit le résultat enregistré sans autre effet secondaire.
- La nouvelle soumission ne crée pas de doublons. Appeler à nouveau l'outil d'écriture pour la même proposition en attente renvoie le même résultat
pendingetproposal_id— aucune deuxième carte n'est mise en file d'attente. - L'approbation est revalidée, l'exécution est conditionnelle. Lors de l'approbation, la plateforme vérifie si le raisonnement de l'IA est toujours valable ; si ce n'est plus le cas (par exemple, si le client a déjà effectué un nouvel achat), aucune action n'est exécutée : le résultat est enregistré à la place de l'action.
- Tout est audité. Proposition, décision, chemin d'autorisation (
autoou une personne désignée), exécution et résultat sont tous consignés dans le journal des décisions, où les actions réversibles peuvent être annulées en un clic.
Le serveur est la limite. Les paliers, la revalidation, l'expiration et le disjoncteur par action sont appliqués du côté de SocialHub.AI — jamais confiés au raisonnement de l'agent ni à sa confirmation côté client. L'envoi n'est pas régi par les paliers : la reconquête et les autres messages d'agent ne partent que dans leurs propres garde-fous d'envoi (consentement et plafonds de fréquence), et les brouillons de campagne ne s'envoient jamais seuls.
Primitives de transparence et modèle d'inventaire « boîte de verre »
La même rigueur en matière de transparence — chaque décision automatisée est enregistrée et explicable, les données personnelles sont exclues du contexte du modèle — s'étend au-delà des actions encadrées : à l'optimisation du trafic expérimental, aux invites LLM sortantes et à l'inventaire de modèles d'apprentissage automatique classiques qui alimentent le classement, la prédiction et la détection dans l'ensemble du produit.
Optimisation automatique du trafic A/B : le journal des décisions
Les campagnes récurrentes (automatisations et parcours clients) peuvent s'inscrire à Optimisation automatique du trafic au fil du temps, qui réalloue les pondérations de diffusion entre les variantes d'expérimentation en fonction des performances de clics observées. Chaque réallocation est traçable :
- Journal de décision (ajout uniquement). Chaque recalcul horaire crée un enregistrement avec les pondérations appliquées et une justification lisible. Les enregistrements ne sont jamais réécrits : le journal conserve l’historique complet expliquant l’évolution du trafic.
- La répartition configurée reste inchangée. La répartition configurée de votre expérience sert de référence ; les pondérations optimisées sont calculées et enregistrées.
- Seuil d'exploration : 10 %. Le poids d'aucune variante ne descend jamais en dessous de 10 %, ce qui garantit un trafic constant pour chaque variante et permet de détecter tout retournement de situation.
- Répartition égale jusqu'à ≥ 100 livraisons par variante. La répartition des poids reste inchangée jusqu'à ce que chaque variante atteigne au moins ~100 livraisons. Aucun réajustement n'est effectué en cas de données peu nombreuses, et ce mécanisme ne désigne aucun « gagnant » statistique.
Masquage LLM PII au niveau de la couture du fournisseur
Avant qu'une invite ne quitte Flash pour un fournisseur LLM externe, les identifiants personnels des membres sont masqués — appliqués au niveau du fournisseur, afin que chaque fonctionnalité d'IA y transite :
- Pseudo-identifiants déterministes. Les adresses e-mail, les numéros de téléphone et les suites de chiffres (comme sur une carte) sont remplacés par des jetons de substitution stables. Un même identifiant correspond toujours au même pseudonyme, ce qui garantit la cohérence du raisonnement du modèle pour une requête donnée.
- Le masquage s’applique à chaque invite sortante de chaque fonctionnalité d’IA ; il n’y a rien à activer et il ne peut pas être désactivé depuis le produit.
- Masquage uniquement, jamais démasqué. Le mappage est unidirectionnel à la limite de sortie : la sortie du modèle n’est jamais réécrite pour rétablir les identifiants réels, de sorte que les informations personnelles brutes ne peuvent pas transiter par une réponse LLM.
Pourquoi cela est important aujourd'hui. Flash Les invites d'IA sont construites à partir de données agrégées et de données de campagne plutôt que de données personnelles — le joint de masquage est la garantie imposée qui tient à mesure que les fonctionnalités d'IA se développent, et non un patch sur une fuite.
Inventaire du modèle « boîte en verre »
Chaque fonctionnalité prédictive ou statistique du produit est un modèle déterministe classique : pas de notation boîte noire, pas d'échantillonnage, de sorte que les mêmes données produisent toujours le même modèle. Chacun porte une porte d'honnêteté explicite : sous la porte, il n'émet rien plutôt qu'une supposition, et chaque score est livré avec les nombres nécessaires pour le recalculer. L'inventaire actuel :
| Modèle | Pouvoirs | Mesures de transparence |
|---|---|---|
| Augmentation de deux modèles (deux ajustements logistiques déterministes) | SoClaw classement de la liste de travail de reconquête – valeur à risque × augmentation, formé sur l'ECR permanent du programme | Active uniquement au-delà de ≥200 lignes traitées arrivées à échéance, ≥50 lignes bloquées et ≥20 conversions, les deux ajustements étant convergés ; en dessous, le classement revient à la pure valeur à risque. Les membres à élévation négative (ne pas déranger) coulent ; chaque tâche stocke son instantané de score. |
| Gamma inter-achats par membre (méthode des moments) | Date prévue du prochain achat sur le profil + condition du segment « Jours avant le prochain achat prévu » (négatif = en retard) | Nécessite au moins 3 écarts observés (soit au moins 4 achats) et un coefficient de variation inférieur ou égal à 1,5 sur la régularité des transactions. Un acheteur irrégulier reçoit la valeur NULL, jamais une date fictive. Une date de livraison dépassée est considérée comme un retard légitime. |
| Régression logistique régularisée L2 par équipe | Propension aux clics (0 – 100), réajustement nocturne par l'équipe au cours des 90 derniers jours d'envois | Étiquette de clics uniquement (ne s'ouvre jamais — Apple MPP les gonfle) ; fonction de clic préalable protégée contre les fuites ; descente de gradient déterministe en lots complets selon un horaire fixe. Ajuster les portes ≥500 envois / ≥30 clics / ≥50 membres ; un membre a besoin d'au moins 3 envois récents pour être noté. |
| Item-kNN normalisé en cosinus | Suggestions de produits « Aussi achetés » sur toutes les plateformes de recommandation. | Le calcul « co_count / √(acheteurs(A) × acheteurs(B)) » corrige le biais de popularité ; les paires doivent avoir au moins deux acheteurs en commun pour être validées ; le nombre brut d'achats conjoints est enregistré avec le score comme preuve vérifiable. |
| Règles d’association (support/confiance/augmentation) | Suggestions de ventes croisées, extraites chaque jour des propres lignes de commande du commerçant | Une règle nécessite au moins 3 commandes simultanées et un niveau de confiance d’au moins 5 %. Chaque règle enregistre le nombre brut de commandes dont elle s’inspire, ce qui permet de recalculer manuellement n’importe quel chiffre. Le profil des membres exclut les produits déjà en leur possession et n’est visible que pour les acheteurs actifs. |
| Valeur aberrante (médiane / MAD) | Le behavior_outlier détecteur de fraude aux points | z robuste ≥ 6 plus planchers absolus (≥10 transactions gagnantes ; les équipes de moins de 50 membres actifs sont ignorées) ; déduplication par mois par membre ; gel uniquement — cela ouvre un examen et n'annule jamais de lui-même. |
| Risques proportionnels de Kaplan-Meier + Cox (vraisemblance partielle de Nelder-Mead) | Rétention par cohorte d'inscription mensuelle + panneau « à quoi la rétention est en corrélation » | Définition affichée : désabonnement = 90 jours sans achat, les clients n’ayant jamais acheté sont exclus, les cohortes de moins de 30 membres sont masquées et affichées. L’ajustement du modèle de Cox nécessite au moins 30 événements de désabonnement observés et est limité à 3 covariables ; les corrélations sont indiquées comme telles, et non comme des relations de cause à effet. |
| Holt-Winters (saisonnalité hebdomadaire, constantes fixes) | Les perspectives de revenus des 14 prochains jours sur le tableau de bord | Constantes de lissage fixes — pas de surface de réglage par équipe ; affiche la même mesure de revenus certifiée que tous les autres écrans ; ligne pointillée + bande d’erreur avec sa base en dollars imprimée ; entièrement masquée sous 4 semaines d’historique ; étiquetée comme une projection, et non comme un engagement. |
Aucun de ces modèles n'agit jamais de lui-même : ils classent, notent et signalent. Lorsqu'un agent agit sur ce qu'ils font remonter, ses points, ses coupons et ses modifications de membre passent par les paliers d'action gouvernés ci-dessus, et ses messages ne partent que dans les garde-fous d'envoi de la reconquête.
Pour obtenir des informations techniques complètes sur chaque modèle (méthode, entrées, colonnes de sortie, contrôles d'honnêteté et surfaces de consommation), consultez le document de référence des modèles prédictifs .