Hallusinaatio tarkoittaa tekoälykontekstissa ilmiötä, jossa kielimalli tuottaa uskottavan kuuloista mutta todellisuudessa virheellistä, harhaanjohtavaa tai täysin keksittyä tietoa. Malli ei "tiedä" olevansa väärässä – se generoi todennäköisimmän jatkeen syötteelle, vaikka se ei vastaisi totuutta.
Hallusinaatiot ja lähteiden valinta
Hallusinaatioiden vähentämiseksi tekoälyhakujärjestelmät käyttävät RAG-arkkitehtuuria: ne hakevat faktoja luotettavista lähteistä ennen vastauksen generointia. Tämä tarkoittaa, että luotettavat, todennetut lähteet pääsevät useammin tekoälyn käyttämäksi aineistoksi.
Merkitys GEO:lle
Verifioidun, lähteisiin merkityn tiedon julkaiseminen on sekä laadun merkki että hallusinaatioriskiä vähentävä tekijä. Tekoäly valitsee mieluummin lähteitä, joissa faktat ovat selkeästi todennettu.