Concevoir pour des agents autonomes présente une frustration unique. Nous confions une tâche complexe à une IA, elle disparaît pendant 30 secondes (ou 30 minutes), puis elle revient avec un résultat. Nous regardons l'écran. Est-ce que ça a marché ? Est-ce qu'il a halluciné ? A-t-il vérifié la base de données de conformité ou ignoré cette étape ? Nous répondons généralement à cette anxiété par l’un des deux extrêmes suivants. Soit nous gardons le système dans une boîte noire, cachant tout pour maintenir la simplicité, soit nous paniquons et fournissons un vidage de données, diffusant chaque ligne de journal et appel d'API à l'utilisateur. Aucune des deux approches n’aborde directement les nuances nécessaires pour offrir aux utilisateurs le niveau idéal de transparence. La Black Box laisse les utilisateurs impuissants. Le Data Dump crée un aveuglement des notifications, détruisant l’efficacité que l’agent avait promis de fournir. Les utilisateurs ignorent le flux constant d’informations jusqu’à ce que quelque chose se brise, auquel cas il leur manque le contexte pour y remédier. Nous avons besoin d’une manière organisée pour trouver l’équilibre. Dans mon article précédent, « Concevoir pour l'IA agentique », nous avons examiné les éléments d'interface qui renforcent la confiance, comme montrer à l'avance l'action prévue de l'IA (aperçus d'intention) et donner aux utilisateurs le contrôle de ce que l'IA fait seule (cadrans d'autonomie). Mais savoir quels éléments utiliser ne constitue qu’une partie du défi. La question la plus difficile pour les designers est de savoir quand les utiliser. Comment savoir quel moment spécifique d'un flux de travail de 30 secondes nécessite un aperçu d'intention et lequel peut être géré avec une simple entrée de journal ? Cet article fournit une méthode pour répondre à cette question. Nous passerons en revue l’audit du nœud de décision. Ce processus rassemble les concepteurs et les ingénieurs dans la même pièce pour mapper la logique backend à l'interface utilisateur. Vous apprendrez à identifier les moments exacts où un utilisateur a besoin d'une mise à jour sur ce que fait l'IA. Nous couvrirons également une matrice impact/risque qui aidera à hiérarchiser les nœuds de décision à afficher et tout modèle de conception associé à associer à cette décision. Moments de transparence : un exemple d'étude de cas Prenons l’exemple de Meridian (nom fictif), une compagnie d’assurance qui utilise une IA agentique pour traiter les réclamations initiales en cas d’accident. L'utilisateur télécharge des photos des dommages au véhicule et le rapport de police. L'agent disparaît ensuite pendant une minute avant de revenir avec une évaluation des risques et une proposition de fourchette de paiement. Au départ, l’interface de Meridian affichait simplement Calcul du statut de la réclamation. Les utilisateurs sont devenus frustrés. Ils avaient soumis plusieurs documents détaillés et ne savaient pas vraiment si AI avait même examiné le rapport de police, qui contenait des circonstances atténuantes. La Boîte Noire a créé la méfiance. Pour résoudre ce problème, l'équipe de conception a effectué un audit des nœuds de décision. Ils ont constaté que l’IA effectuait trois étapes distinctes, basées sur des probabilités, avec de nombreuses étapes plus petites intégrées :
Analyse d'imageL'agent a comparé les photos des dégâts à une base de données de scénarios typiques d'accidents de voiture pour estimer le coût de réparation. Cela impliquait un score de confiance. Examen textuelIl a analysé le rapport de police à la recherche de mots-clés affectant la responsabilité (par exemple, faute, conditions météorologiques, sobriété). Cela impliquait une évaluation probabiliste de la qualité juridique. Référence croisée de la politiqueIl a comparé les détails de la réclamation aux conditions spécifiques de la politique de l'utilisateur, en recherchant des exceptions ou des limites de couverture. Cela impliquait également un appariement probabiliste.
L’équipe a transformé ces étapes en moments de transparence. La séquence d'interface a été mise à jour pour :
Évaluation des photos de dommages : comparaison avec 500 profils d'impact de véhicules. Examen du rapport de police : analyse des mots-clés de responsabilité et du précédent juridique. Vérification de la couverture de la police : vérification des exclusions spécifiques dans votre plan.
Le système prenait toujours le même temps, mais la communication explicite sur le fonctionnement interne de l’agent a redonné confiance aux utilisateurs. Les utilisateurs ont compris que l’IA effectuait la tâche complexe pour laquelle elle avait été conçue et ils savaient exactement sur quoi concentrer leur attention si l’évaluation finale semblait inexacte. Ce choix de conception a transformé un moment d’anxiété en un moment de connexion avec l’utilisateur. Application de la matrice impact/risque : ce que nous avons choisi de cacher La plupart des expériences d'IA ne manquent pas d'événements et de nœuds de décision qui pourraient potentiellement être affichés pendant le traitement. L’un des résultats les plus critiques de l’audit a été de décider ce qu’il fallait garder invisible. Dans l'exemple Meridian, les journaux backend ont généré plus de 50 événements par réclamation. Nous aurions pu afficher par défaut chaque événement tel qu'il était traité dans le cadre de l'interface utilisateur. Au lieu de cela, nous avons appliqué la matrice des risques pour les élaguer :
Événement de journal : serveur PingWest-2 pour contrôle de redondance. Verdict du filtre : Masquer. (Faibles enjeux, haute technicité).
Événement de journal : comparaison de l'estimation de réparation à la valeur BlueBook. Verdict du filtre : Afficher. (Enjeux élevés, impacte le paiement de l’utilisateur).
En supprimant les détails inutiles, les informations importantes, comme la vérification de la couverture, ont eu plus d'impact. Nous avons créé une interface ouverte et conçu une expérience ouverte. Cette approche repose sur l’idée selon laquelle les gens se sentent mieux à propos d’un service lorsqu’ils peuvent voir le travail effectué. En montrant les étapes spécifiques (évaluation, révision, vérification), nous avons changé une attente de 30 secondes d'un moment d'inquiétude (« Est-ce cassé ? ») à un moment où l'on a le sentiment que quelque chose de précieux est en train d'être créé (« C'est en train de réfléchir »). Examinons maintenant de plus près comment nous pouvons revoir le processus de prise de décision dans nos produits pour identifier les moments clés qui nécessitent des informations claires. L'audit du nœud de décision La transparence échoue lorsque nous la traitons comme un choix de style plutôt que comme une exigence fonctionnelle. Nous avons tendance à nous demander : « À quoi devrait ressembler l’interface utilisateur ? » avant de nous demander : « Que décide réellement l’agent ? L'audit des nœuds de décision est un moyen simple de rendre les systèmes d'IA plus faciles à comprendre. Il fonctionne en cartographiant soigneusement le processus interne du système. L’objectif principal est de trouver et de définir clairement les moments exacts où le système cesse de suivre ses règles établies et fait plutôt un choix basé sur le hasard ou l’estimation. En cartographiant cette structure, les créateurs peuvent montrer ces points d'incertitude directement aux personnes utilisant le système. Cela transforme les mises à jour du système, passant de déclarations vagues à des rapports spécifiques et fiables sur la manière dont l'IA est parvenue à ses conclusions. En plus de l'étude de cas sur l'assurance ci-dessus, j'ai récemment travaillé avec une équipe d'agent d'approvisionnement. Le système a examiné les contrats des fournisseurs et signalé les risques. À l’origine, l’écran affichait une simple barre de progression : « Révision des contrats ». Les utilisateurs ont détesté ça. Nos recherches ont indiqué qu'ils étaient inquiets des implications juridiques d'une clause manquante. Nous avons résolu ce problème en effectuant un audit des nœuds de décision. J'ai inclus une liste de contrôle étape par étape pour mener cet audit à la fin de cet article. Nous avons organisé une session avec les ingénieurs et expliqué le fonctionnement du système. Nous avons identifié des « points de décision » : des moments où l'IA devait choisir entre deux bonnes options. Dans les programmes informatiques standards, le processus est clair : si A se produit, alors B se produira toujours. Dans les systèmes d’IA, le processus repose souvent sur le hasard. L’IA pense que A est probablement le meilleur choix, mais elle n’en est peut-être sûre qu’à 65 %. Dans le système contractuel, nous avons trouvé un moment où l'IA vérifiait les conditions de responsabilité par rapport aux règles de notre entreprise. C'était rarement un match parfait. L’IA devait décider si une correspondance à 90 % était suffisante. Il s’agissait d’un point de décision clé.
Une fois que nous avons identifié ce nœud, nous l'avons exposé à l'utilisateur. Au lieu de « Révision des contrats », l'interface a été mise à jour pour indiquer : « La clause de responsabilité varie du modèle standard. Analyse du niveau de risque. » Cette mise à jour spécifique a donné confiance aux utilisateurs. Ils savaient que l'agent avait vérifié la clause de responsabilité. Ils ont compris la raison du retard et ont acquis la certitude que l'action souhaitée se produisait en aval. Ils savaient également où creuser plus profondément une fois que l’agent avait généré le contrat. Pour vérifier comment l'IA prend des décisions, vous devez travailler en étroite collaboration avec vos ingénieurs, chefs de produit, analystes commerciaux et personnes clés qui font les choix (souvent cachés) qui affectent le fonctionnement de l'outil d'IA. Dessinez les étapes suivies par l'outil. Marquez chaque endroit où le processus change de direction parce qu’une probabilité est remplie. Ce sont les domaines sur lesquels vous devriez vous concentrer pour être plus transparent. Comme le montre la figure 2 ci-dessous, l'audit du nœud de décision implique les étapes suivantes :
Rassemblez l’équipe : rassemblez les propriétaires de produits, les analystes commerciaux, les concepteurs, les décideurs clés et les ingénieurs qui ont construit l’IA. Par exemple, Pensez à une équipe produit qui crée un outil d'IA conçu pour examiner les contrats juridiques désordonnés. L'équipe comprend le concepteur UX, le chef de produit, le chercheur UX, un avocat en exercice qui agit en tant qu'expert en la matière et l'ingénieur backend qui a écrit le code d'analyse de texte.
Dessinez l’ensemble du processus : documentez chaque étape franchie par l’IA, de la première action de l’utilisateur au résultat final. L'équipe se tient devant un tableau blanc et dessine toute la séquence d'un flux de travail clé dans lequel l'IA recherche une clause de responsabilité dans un contrat complexe. L'avocat téléchargeun PDF de cinquante pages → Le système convertit le document en texte lisible. → L'IA scanne les pages à la recherche de clauses de responsabilité. → L'utilisateur attend. → Quelques instants ou minutes plus tard, l'outil met en surbrillance les paragraphes trouvés en jaune sur l'interface utilisateur. Ils le font pour de nombreux autres flux de travail pris en charge également par l'outil.
Trouvez où les choses ne sont pas claires : recherchez dans la cartographie des processus tout endroit où l'IA compare des options ou des entrées qui ne correspondent pas parfaitement. L'équipe regarde le tableau blanc pour repérer les étapes ambiguës. La conversion d'une image en texte suit des règles strictes. Trouver une clause de responsabilité spécifique implique des conjectures. Chaque entreprise rédige ces clauses différemment, de sorte que l’IA doit peser plusieurs options et faire une prédiction au lieu de trouver une correspondance exacte de mots.
Identifiez les étapes de la « meilleure estimation » : pour chaque point peu clair, vérifiez si le système utilise un score de confiance (par exemple, est-il sûr à 85 % ?). Ce sont les points sur lesquels l’IA fait un choix final. Le système doit deviner (donner une probabilité) quel(s) paragraphe(s) ressemblent le plus à une clause de responsabilité standard. Il attribue un score de confiance à sa meilleure estimation. Cette supposition est un nœud de décision. L'interface doit indiquer à l'avocat qu'elle met en évidence une correspondance potentielle, plutôt que d'indiquer qu'elle a trouvé la clause définitive.
Examinez le choix : pour chaque point de choix, déterminez les calculs internes spécifiques ou la comparaison effectuée (par exemple, faire correspondre une partie d'un contrat à une police ou comparer une photo d'une voiture cassée à une bibliothèque de photos de voitures endommagées). L'ingénieur explique que le système compare les différents paragraphes à une base de données de clauses de responsabilité standard provenant de dossiers fermes antérieurs. Il calcule un score de similarité de texte pour décider d'une correspondance en fonction des probabilités.
Rédigez des explications claires : créez des messages pour l'utilisateur qui décrivent clairement l'action interne spécifique qui se produit lorsque l'IA fait un choix. Le concepteur de contenu rédige un message spécifique pour ce moment précis. Le texte se lit comme suit : Comparaison du texte du document aux clauses fermes standard pour identifier les risques de responsabilité potentiels.
Mettez à jour l'écran : insérez ces nouvelles explications claires dans l'interface utilisateur, en remplaçant les messages vagues tels que « Révision des contrats ». L’équipe de conception supprime la fileuse de chargement générique Processing PDF. Ils insèrent la nouvelle explication dans une barre d'état située juste au-dessus de la visionneuse de documents pendant que l'IA réfléchit.
Vérifiez la confiance : assurez-vous que les nouveaux messages à l'écran donnent aux utilisateurs une raison simple pour tout temps d'attente ou résultat, ce qui devrait les rendre plus confiants.
La matrice impact/risque Une fois que vous aurez examiné de près le processus de l’IA, vous découvrirez probablement de nombreux points sur lesquels elle fait un choix. Une IA peut faire des dizaines de petits choix pour une seule tâche complexe. Les montrer tous crée trop d’informations inutiles. Vous devez regrouper ces choix. Vous pouvez utiliser une matrice d'impact/risque pour trier ces choix en fonction des types d'actions entreprises par l'IA. Voici des exemples de matrices impact/risque : Tout d’abord, recherchez des décisions à faibles enjeux et à faible impact. Faibles enjeux / Faible impact
Exemple : organiser une structure de fichiers ou renommer un document. Besoin de transparence : minime. Une notification toast subtile ou une entrée de journal suffit. Les utilisateurs peuvent facilement annuler ces actions.
Identifiez ensuite les décisions à enjeux et à fort impact. Enjeux élevés / Impact élevé
Exemple : rejeter une demande de prêt ou exécuter une opération boursière. Besoin de transparence : élevé. Ces actions nécessitent une preuve de travail. Le système doit démontrer la justification avant ou immédiatement pendant qu'il agit.
Considérons un robot de trading financier qui traite tous les ordres d'achat/vente de la même manière. Il exécute une transaction de 5 $ avec la même opacité qu'une transaction de 50 000 $. Les utilisateurs peuvent se demander si l'outil reconnaît l'impact potentiel de la transparence sur les transactions portant sur des montants importants. Ils ont besoin que le système fasse une pause et montre son travail pour les métiers à enjeux élevés. La solution consiste à introduire un état logique de révision pour toute transaction dépassant un montant spécifique, permettant à l'utilisateur de voir les facteurs qui déterminent la décision avant l'exécution. Mappage de nœuds à des modèles : une rubrique de sélection de modèles de conception Une fois que vous avez identifié les nœuds de décision clés de votre expérience, vous devez décider quel modèle d'interface utilisateur s'applique à chacun que vous afficherez. Dans Designing For Agentic AI, nous avons introduit des modèles tels que l'Intent Preview (pour un contrôle à enjeux élevés) et l'Action Audit (pour la sécurité rétrospective). Le facteur décisif dans le choix entre eux est la réversibilité. Nous filtrons chaquenœud de décision via la matrice d’impact afin d’attribuer le modèle correct : Enjeux élevés et irréversible : ces nœuds nécessitent un aperçu de l'intention. Étant donné que l'utilisateur ne peut pas facilement annuler l'action (par exemple, supprimer définitivement une base de données), le moment de transparence doit se produire avant l'exécution. Le système doit faire une pause, expliquer son intention et exiger une confirmation. Enjeux élevés et réversibles : ces nœuds peuvent s'appuyer sur le modèle Action Audit & Undo. Si l'agent commercial basé sur l'IA déplace un prospect vers un autre pipeline, il peut le faire de manière autonome à condition qu'il en informe l'utilisateur et propose un bouton Annuler immédiat. En catégorisant strictement les nœuds de cette manière, nous évitons la « fatigue des alertes ». Nous réservons l'Intent Preview à haute friction uniquement pour les moments véritablement irréversibles, tout en nous appuyant sur l'Action Audit pour maintenir la vitesse pour tout le reste.
Réversible Irréversible Faible impact Type : Auto-ExecuteUI : Passive Toast / LogEx : Renommer un fichier Type : ConfirmUI : Option d'annulation simpleEx : Archivage d'un e-mail Fort impact Type : ReviewUI : Notification + Review TrailEx : Envoi d'un brouillon à un client Type : Aperçu de l'intentionUI : Permission modale/expliciteEx : Suppression d'un serveur
Tableau 1 : La matrice d'impact et de réversibilité peut ensuite être utilisée pour mapper vos moments de transparence aux modèles de conception. Validation qualitative : « L'attente, pourquoi ? Tester Vous pouvez identifier des nœuds potentiels sur un tableau blanc, mais vous devez les valider par un comportement humain. Vous devez vérifier si votre carte correspond au modèle mental de l’utilisateur. J'utilise un protocole appelé « Attendez, pourquoi ? » Test. Demandez à un utilisateur de regarder l'agent accomplir une tâche. Demandez-leur de parler à voix haute. Chaque fois qu'ils posent une question : « Attendez, pourquoi a-t-il fait ça ? ou "Est-ce coincé?" ou "Est-ce qu'il m'a entendu?" - vous marquez un horodatage. Ces questions signalent la confusion des utilisateurs. L’utilisateur sent son contrôle lui échapper. Par exemple, dans une étude portant sur un assistant de planification de soins de santé, les utilisateurs ont regardé l'agent prendre rendez-vous. L'écran est resté statique pendant quatre secondes. Les participants demandaient constamment : « Est-ce que je vérifie mon calendrier ou celui du médecin ?
Cette question a révélé un moment de transparence manquant. Le système devait diviser cette attente de quatre secondes en deux étapes distinctes : « Vérification de votre disponibilité » suivie de « Synchronisation avec le calendrier du fournisseur ». Ce petit changement a réduit les niveaux d’anxiété exprimés par les utilisateurs. La transparence échoue lorsqu'elle décrit uniquement une action du système. L’interface doit connecter le processus technique à l’objectif spécifique de l’utilisateur. Un écran affichant « Vérification de vos disponibilités » tombe à plat car il manque de contexte. L’utilisateur comprend que l’IA consulte un calendrier, mais il ne sait pas pourquoi. Nous devons associer l’action au résultat. Le système doit diviser cette attente de quatre secondes en deux étapes distinctes. Tout d’abord, l’interface affiche « Vérification de votre calendrier pour trouver les heures d’ouverture ». Ensuite, il est mis à jour vers « Synchronisation avec le calendrier du fournisseur pour sécuriser votre rendez-vous ». Cela ancre le processus technique dans la vie réelle de l’utilisateur. Considérez une IA gérant l'inventaire pour un café local. Le système rencontre une pénurie d’approvisionnement. Une interface indiquant « contacter le fournisseur » ou « examiner les options » crée de l'anxiété. Le responsable se demande si le système annule la commande ou achète une alternative coûteuse. Une meilleure approche consiste à expliquer le résultat escompté : « Évaluer des fournisseurs alternatifs pour maintenir votre calendrier de livraison du vendredi. » Cela indique à l’utilisateur exactement ce que l’IA essaie d’accomplir. Opérationnalisation de l'audit Vous avez terminé l'audit du nœud de décision et filtré votre liste à travers la matrice d'impact et de risque. Vous disposez désormais d’une liste de moments essentiels pour être transparent. Ensuite, vous devez les créer dans l'interface utilisateur. Cette étape nécessite un travail d’équipe entre différents départements. Vous ne pouvez pas concevoir la transparence vous-même à l’aide d’un outil de conception. Vous devez comprendre comment le système fonctionne en coulisses. Commencez par un examen logique. Rencontrez votre concepteur système principal. Apportez votre carte des nœuds de décision. Vous devez confirmer que le système peut réellement partager ces états. Je trouve souvent que le système technique ne révèle pas exactement l’état que je souhaite montrer. L'ingénieur pourrait dire que le système renvoie simplement un état général de « fonctionnement ». Vous devez faire pression pour une mise à jour détaillée. Vous avez besoin du système pour envoyer un avis spécifiquelorsqu'il passe de la lecture de texte à la vérification des règles. Sans cette connexion technique, votre conception est impossible à construire. Ensuite, impliquez l’équipe de conception de contenu. Vous avez la raison technique de l’action de l’IA, mais vous avez besoin d’une explication claire et conviviale. Les ingénieurs fournissent le processus sous-jacent, mais les concepteurs de contenu fournissent la manière dont il est communiqué. N'écrivez pas ces messages seul. Un développeur peut écrire « Exécution de la fonction 402 », ce qui est techniquement correct mais dénué de sens pour l'utilisateur. Un designer pourrait écrire « Pensée », ce qui est amical mais trop vague. Un stratège de contenu trouve le juste milieu. Ils créent des expressions spécifiques, telles que « Analyse des risques de responsabilité », qui montrent que l'IA fonctionne sans dérouter l'utilisateur. Enfin, testez la transparence de vos messages. N'attendez pas que le produit final soit construit pour voir si le texte fonctionne. J'effectue des tests comparatifs sur des prototypes simples où la seule chose qui change est le message d'état. Par exemple, je montre à un groupe (groupe A) un message qui dit « Vérification de l'identité » et à un autre groupe (groupe B) un message qui dit « Vérification des bases de données gouvernementales » (ce sont des exemples inventés, mais vous comprenez le point). Ensuite, je leur demande quelle IA semble la plus sûre. Vous découvrirez souvent que certains mots suscitent de l’inquiétude, tandis que d’autres renforcent la confiance. Vous devez traiter le libellé comme quelque chose que vous devez tester et prouver son efficacité. Comment cela change le processus de conception La réalisation de ces audits a le potentiel de renforcer la façon dont une équipe travaille ensemble. Nous arrêtons de transmettre des fichiers de conception soignés. Nous commençons à utiliser des prototypes désordonnés et des feuilles de calcul partagées. L'outil de base devient une matrice de transparence. Les ingénieurs et les concepteurs de contenu éditent ensemble cette feuille de calcul. Ils mappent les codes techniques exacts aux mots que l’utilisateur lira. Les équipes connaîtront des frictions lors de la révision logique. Imaginez un concepteur demandant à l'ingénieur comment l'IA décide de refuser une transaction soumise sur une note de frais. L'ingénieur pourrait dire que le backend génère uniquement un code d'état générique tel que « Erreur : données manquantes ». Le concepteur déclare qu’il ne s’agit pas d’informations exploitables à l’écran. Le designer négocie avec l'ingénieur pour créer une accroche technique spécifique. L'ingénieur écrit une nouvelle règle afin que le système signale exactement ce qui manque, comme une image de reçu manquante. Les concepteurs de contenu jouent le rôle de traducteurs pendant cette phase. Un développeur peut écrire une chaîne techniquement précise telle que « Calcul du seuil de confiance pour la correspondance des fournisseurs ». Un concepteur de contenu traduit cette chaîne en une phrase qui renforce la confiance pour un résultat spécifique. Le stratège le réécrit ainsi : « Comparer les prix des fournisseurs locaux pour garantir votre livraison du vendredi ». L'utilisateur comprend l'action et le résultat. L’ensemble de l’équipe interfonctionnelle participe aux sessions de tests utilisateurs. Ils regardent une vraie personne réagir à différents messages de statut. Voir un utilisateur paniquer parce que l'écran indique « Exécution d'une transaction » oblige l'équipe à repenser son approche. Les ingénieurs et les concepteurs s’alignent sur une meilleure formulation. Ils modifient le texte en « Vérification des fonds suffisants » avant d'acheter des actions. Tester ensemble garantit que l’interface finale sert à la fois la logique du système et la tranquillité d’esprit de l’utilisateur. Il faut du temps pour intégrer ces activités supplémentaires dans le calendrier de l’équipe. Cependant, le résultat final devrait être une équipe qui communique plus ouvertement et des utilisateurs qui comprennent mieux ce que leurs outils basés sur l'IA font en leur nom (et pourquoi). Cette approche intégrée est la pierre angulaire de la conception d’expériences d’IA véritablement fiables. La confiance est un choix de conception Nous considérons souvent la confiance comme un sous-produit émotionnel d’une bonne expérience utilisateur. Il est plus facile de considérer la confiance comme le résultat mécanique d’une communication prévisible. Nous construisons la confiance en affichant les bonnes informations au bon moment. Nous le détruisons en submergeant l'utilisateur ou en cachant complètement la machinerie. Commencez par l’audit des nœuds de décision, en particulier pour les outils et produits d’IA agentique. Trouvez les moments où le système prend une décision. Cartographiez ces moments sur la matrice des risques. Si les enjeux sont élevés, ouvrez la boîte. Montrez le travail. Dans le prochain article, nous verrons comment concevoir ces moments : comment rédiger la copie, structurer l'interface utilisateur et gérer les erreurs inévitables lorsque l'agent se trompe. Annexe : La liste de contrôle d'audit du nœud de décision Phase 1 : configuration et cartographie ✅ Rassemblez l'équipe : réunissez les propriétaires de produits, les analystes commerciaux, les concepteurs,les décideurs clés et les ingénieurs qui ont construit l’IA. Astuce : vous avez besoin que les ingénieurs expliquent la logique réelle du backend. Ne tentez pas cette étape seul. ✅ Dessinez l'ensemble du processus : documentez chaque étape franchie par l'IA, de la première action de l'utilisateur au résultat final. Astuce : une session physique sur tableau blanc est souvent la meilleure solution pour définir ces premières étapes. Phase 2 : Localiser la logique cachée ✅ Trouvez où les choses ne sont pas claires : recherchez dans la carte du processus tout endroit où l'IA compare des options ou des entrées qui ne correspondent pas parfaitement. ✅ Identifiez les meilleures étapes de supposition : pour chaque point peu clair, vérifiez si le système utilise un score de confiance. Par exemple, demandez si le système est sûr à 85 %. Ce sont les points sur lesquels l’IA fait un choix final. ✅ Examinez le choix : pour chaque point de choix, déterminez les calculs internes spécifiques ou la comparaison effectuée. Un exemple consiste à faire correspondre une partie d’un contrat à une politique. Un autre exemple consiste à comparer une photo d’une voiture en panne à une bibliothèque de photos de voitures endommagées. Phase 3 : Créer l'expérience utilisateur ✅ Rédigez des explications claires : créez des messages pour l'utilisateur qui décrivent clairement l'action interne spécifique qui se produit lorsque l'IA fait un choix. Astuce : Ancrez vos messages dans la réalité concrète. Si une IA prend rendez-vous avec un client dans un café local, indiquez à l'utilisateur que le système vérifie le système de réservation du café. ✅ Mettez à jour l'écran : insérez ces nouvelles explications claires dans l'interface utilisateur. Remplacez les messages vagues comme Révision des contrats par vos explications spécifiques. ✅ Vérifiez la confiance : assurez-vous que les nouveaux messages à l'écran donnent aux utilisateurs une raison simple pour tout temps d'attente ou résultat. Cela devrait les rendre confiants et confiants. Astuce : Testez ces messages auprès d'utilisateurs réels pour vérifier qu'ils comprennent le résultat spécifique obtenu.
