Fluera

metacognition

Automaatiovinouma

Taipumus hyväksyä automatisoitujen järjestelmien tuotos kritiikittömästi, erityisesti kun se on kielellisesti sujuvaa. Vahvistettuna LLM:ien myötä, joiden artikuloitu tyyli sekoitetaan tarkkuuteen.

Avainvuosi
2010
Näyttö
Vahva konsensus
Ala
metacognition

Parasuramanin ja Manzeyn vuoden 2010 katsausartikkeli on koonnut todisteet: ihmiset alitarkastavat automatisoitujen järjestelmien tuotosta järjestelmällisesti, vaikka heillä olisi nimenomaisia kannustimia tarkistaa se. Mitä itsevarmemmalta järjestelmän pintaesitys vaikuttaa, sitä vähemmän todennusta tapahtuu.

LLM:t näyttävät suunnittelun mukaisesti maksimaalisen pintaluottamuksen. Ne kirjoittavat täysillä lauseilla suurella kielellisellä sujuvuudella. Niiden tuotoksen muoto on auktoriteetin muoto, ja automaatiovinouma painostaa oppijoita hyväksymään sen, mikä vaikuttaa arvovaltaiselta.

Flueran tekoäly ei koskaan esitä tuotostaan auktoriteetin sävyssä. Ghost Map antaa epävarmuuden nousta esiin visuaalisesti. Sokraattiset vastaukset on muotoiltu herätteiksi, ei julistuksiksi. Tuotteen nimenomainen kanta — tarkista ennen kuin luotat — on tietoinen vastapaino sille vinoumalle, johon teknologian tyyli kutsuu.