Fluera

metacognition

Viés de automação

A tendência de aceitar acriticamente o output de sistemas automatizados, sobretudo quando ele é linguisticamente fluente. Amplificada pelos LLMs, cujo estilo articulado é confundido com acurácia.

Ano-chave
2010
Evidência
Consenso robusto
Campo
metacognition

A revisão de Parasuraman e Manzey de 2010 consolidou a evidência: os humanos subverificam sistematicamente o output de sistemas automatizados, mesmo quando têm incentivos explícitos para checar. Quanto mais confiante for a apresentação de superfície do sistema, menos verificação acontece.

Os LLMs exibem por design a confiança de superfície máxima. Escrevem em frases completas com alta fluência linguística. A forma do output deles é a forma da autoridade, e o viés de automação empurra o learner a aceitar o que parece autoritativo.

A IA do Fluera nunca apresenta output com tom de autoridade. Ghost Map faz emergir a incerteza visualmente. As respostas socráticas são formuladas como prompts, não como pronunciamentos. A posição explícita do produto — verifique antes de confiar — é um contrapeso deliberado ao viés que o estilo da tecnologia convida.