De review van Parasuraman en Manzey uit 2010 consolideerde het bewijs: mensen onderverifiëren systematisch de output van geautomatiseerde systemen, zelfs wanneer ze expliciete prikkels hebben om te controleren. Hoe zelfverzekerder de oppervlaktepresentatie van het systeem, hoe minder verificatie er plaatsvindt.
LLM’s vertonen by design de maximale oppervlakte-zelfverzekerdheid. Ze schrijven in volledige zinnen met hoge taalkundige vlotheid. De vorm van hun output is de vorm van autoriteit, en de automatiseringsbias duwt de lerende ertoe te aanvaarden wat autoritair lijkt.
De AI van Fluera presenteert nooit output met een toon van autoriteit. Ghost Map laat onzekerheid visueel naar boven komen. Socratische antwoorden worden geformuleerd als prompts, niet als uitspraken. De expliciete houding van het product — controleer voor je vertrouwt — is een bewust tegenwicht voor de bias die de stijl van de technologie uitnodigt.