La confiance n'est pas une fonctionnalité. C'est le cumul de chaque petite décision que le système a prise pendant que l'utilisateur ne regardait pas.
Un agriculteur dans le nord de la Finlande ouvre une application, photographie une note de terrain, et attend. L’IA traite l’observation. Deux secondes plus tard, elle suggère une carence en azote et recommande un traitement.
L’agriculteur marque une pause.
La suggestion est peut-être juste. Il ne s’attendait simplement pas à cette réponse précise pour cette observation précise. Et dans cette pause, quelque chose se décide qui n’a rien à voir avec l’azote.
La confiance se forme ou se brise dans des moments exactement comme celui-là.
Le piège de la confiance affichée
La plupart des produits IA sont conçus pour projeter de la confiance. La confiance ressemble à de la qualité. Un résultat livré avec certitude passe pour de la compétence. Alors les produits cachent les coutures, lissent les angles, présentent des conclusions sans contexte.
Ça fonctionne, jusqu’à ce que ça ne fonctionne plus.
La première fois que le système se trompe, et que l’utilisateur n’a aucun moyen d’évaluer pourquoi, la confiance s’effondre complètement. Parce que l’utilisateur n’a reçu aucun outil pour calibrer son propre jugement. On lui a simplement demandé de croire.
La confiance affichée sans transparence est une dette différée.
Ce dont la confiance est faite
La confiance dans un produit n’est jamais une fonctionnalité unique. C’est le cumul de chaque petite décision que le système a prise pendant que l’utilisateur ne regardait pas de près.
Est-ce que le système explique pourquoi il a suggéré cela ? Est-ce qu’il reconnaît ce qu’il ne sait pas ? Est-ce qu’il reste cohérent, ou est-ce qu’il surprend de manière qui semble arbitraire ? Quand il se trompe, est-ce qu’il le rend visible, ou est-ce qu’il se cache derrière une interface confiante ?
Ces questions sont la matière dont la confiance est faite. Et ils s’accumulent. Chaque fois que le système se comporte de manière prévisible, la confiance s’accumule. Chaque fois qu’il ne le fait pas, elle se vide, plus vite qu’elle ne s’est remplie.
Montrer le raisonnement derrière la conclusion
Travailler sur Farmscribe, une application mobile qui transforme l’observation terrain d’un agriculteur en données structurées et en conseils contextuels, a clarifié quelque chose autour de quoi je tournais depuis un moment. La décision de design qui compte le plus, c’est le raisonnement derrière la suggestion.
« Carence en azote détectée » est un distributeur automatique. Il livre une réponse et vous demande de l’accepter.
« D’après le jaunissement que vous avez décrit, cela ressemble à une carence en azote » est un collègue. Il montre son travail. Il ancre la conclusion dans quelque chose que l’utilisateur connaît déjà. Il invite l’utilisateur à vérifier.
La différence tient à une phrase. L’effet sur la confiance est considérable.
Quand les utilisateurs comprennent le raisonnement, deux choses se produisent : ils détectent les erreurs plus vite, et ils sont plus indulgents quand des erreurs se produisent. Les deux sont bons pour le produit. Et surtout, les deux sont bons pour l’utilisateur.
« Je ne suis pas sûr » est un état valide
Il existe un état que presque personne ne conçoit. L’état où l’IA n’est pas certaine.
Dans la plupart des produits, l’incertitude est masquée derrière la confiance parce qu’elle ressemble à un échec. Mais pour un utilisateur, l’incertitude visible construit la confiance. Elle dit que le système sait ce qu’il sait et ne fait pas semblant du contraire. Elle dit que l’interface est honnête.
« Je ne suis pas sûr » devrait être la première chose que vous mettez en place.
La confiance a un langage visuel
Il opère en dessous du niveau des mots, ce qui explique pourquoi il est souvent négligé.
Les systèmes qui inspirent confiance utilisent l’espace délibérément. La densité signale l’efficacité. L’espace signale le soin. Le choix entre les deux dit à l’utilisateur si le produit est pressé de fermer l’interaction ou prêt à lui donner le temps nécessaire.
Ils évitent le mouvement qui ne sert à rien. L’animation décorative distrait. Chaque transition qui ne communique rien est perçue comme du bruit, et le bruit est le contraire de la confiance.
Ils conçoivent pour les états inconfortables : l’état d’erreur, l’état d’incertitude, l’état vide. C’est là que la confiance se construit vraiment. Le parcours idéal, où tout fonctionne et où personne n’est mis à l’épreuve, est la partie facile. C’est dans les cas limites que le caractère du produit se révèle.
Retour au terrain
L’agriculteur du nord de la Finlande, qui marque une pause avant d’agir sur une suggestion IA.
Cette pause est le moment de vérité du produit. Tout ce qui est entré dans la conception a soit justifié la confiance, soit pas.
Un bon design rend la bonne décision plus facile à prendre pendant cette pause.
Vous travaillez sur un produit IA et vous réfléchissez à la confiance ? Parlons-en.