Fluera

metacognition

Biais d'automatisation

La tendance à accepter sans esprit critique les sorties de systèmes automatisés, surtout lorsqu'elles sont linguistiquement fluides. Amplifiée par les LLM, dont le style articulé est confondu avec la justesse.

Année clé
2010
Preuves
Consensus solide
Domaine
metacognition

La revue de Parasuraman et Manzey de 2010 a consolidé les preuves : les humains sous-vérifient systématiquement les sorties des systèmes automatisés, même lorsqu’ils ont des incitations explicites à contrôler. Plus la présentation de surface du système est confiante, moins la vérification a lieu.

Les LLM affichent par conception la confiance de surface maximale. Ils écrivent en phrases complètes avec une grande fluidité linguistique. La forme de leur sortie est la forme de l’autorité, et le biais d’automatisation pousse l’apprenant à accepter ce qui paraît faire autorité.

L’IA de Fluera ne présente jamais ses sorties sur un ton d’autorité. Ghost Map fait émerger l’incertitude visuellement. Les réponses socratiques sont formulées comme des questions, non comme des verdicts. La position explicite du produit — vérifie avant de faire confiance — est un contrepoids délibéré au biais que le style de la technologie invite.