Parasuraman と Manzey の 2010 年のレビューはエビデンスを確立しました。人間は自動化されたシステムの出力を体系的に検証不足のまま受け入れる傾向があり、明示的に検証するインセンティブがある場合でさえそうなります。システムの表層的な提示が自信に満ちているほど、検証は行われなくなります。
LLM は設計上、表層的な自信を最大限に示します。完全な文を高い言語的流暢さで書きます。その出力の形式は権威の形式そのものであり、自動化バイアスは学習者を権威的に見えるものを受け入れる方向へと押しやります。
Fluera の AI は決して権威的な口調で出力を提示しません。Ghost Map は不確実性を視覚的に浮かび上がらせます。ソクラテス的な応答は宣言ではなくプロンプトとして組み立てられます。プロダクトの明示的な姿勢である 信頼する前に検証する は、テクノロジーの文体が招くバイアスへの意図的なカウンターウェイトです。