Tekoälymallin hallusinaatio on vastaus, jossa malli esittää vakuuttavasti väärää, perusteetonta, annettuun lähteeseen nähden uskotonta tai sisäisesti ristiriitaista sisältöä. Se voi keksiä faktan, lainauksen, lähteen, nimen tai luvun ilman että käyttäjä huomaa mitään poikkeavaa.
Kyse ei ole siitä, että tekoäly näkisi harhoja ihmisen tavoin. Kielimalli tuottaa tekstiä ennustamalla, mikä sana tai tekstin osa sopii seuraavaksi. Sujuva lause voi siksi syntyä silloinkin, kun sen sisältö ei pidä paikkaansa.
Hallusinaatio pähkinänkuoressa
Kysymys | Lyhyt vastaus |
|---|---|
Mitä tekoälyn hallusinointi tarkoittaa? | Malli tuottaa uskottavaa mutta väärää tai perusteetonta sisältöä. |
Miksi sitä tapahtuu? | Malli ennustaa todennäköistä tekstiä eikä tarkista totuutta automaattisesti. |
Poistaako uusi malli ongelman? | Ei. Virheet voivat vähentyä, mutta eivät katoa. |
Auttaako verkkohaku? | Usein, jos malli käyttää oikeita lähteitä ja käyttäjä avaa ne. |
Voiko hyvä kehote estää virheet? | Se voi pienentää riskiä, mutta ei takaa oikeaa vastausta. |
Kuka vastaa lopputuloksesta? | Tekoäly ei kanna oikeudellista vastuuta. Vastuu riippuu toimijan roolista, käyttötarkoituksesta ja sovellettavasta laista. Myös tarjoajalla voi olla velvoitteita. |
Hallusinaation vastakohta ei ole pitkä lähdelista. Myös lähdeviite voi olla keksitty tai se voi johtaa sivulle, joka ei tue väitettä. Varmistus vaatii lähteen avaamisen.
Miltä tekoälyn hallusinaatio näyttää?
Hallusinaatio ei aina ole täysin järjetön vastaus. Usein se on lähes oikein. Juuri siksi se on vaarallinen.
Keksitty fakta
Malli antaa väärän päivämäärän, henkilönimen, tuotetiedon tai lainkohdan. Muu vastaus voi olla oikea, joten yksi virhe jää helposti huomaamatta.
Olematon lähde tai lainaus
Vastauksessa on uskottavalta kuulostava tutkimus, DOI-tunnus, kirjan nimi tai suora lainaus. Lähdettä ei löydy, tai todellinen lähde ei sano sitä, mitä malli väittää.
Sisäinen ristiriita
Vastaus sanoo alussa yhden asian ja päätyy lopussa toiseen. Pitkässä tekstissä ristiriita voi olla useiden kappaleiden päässä.
Kehotteen vastainen vastaus
Malli sivuuttaa rajauksen, sekoittaa henkilöt tai käyttää aineiston ulkopuolista tietoa, vaikka sitä pyydettiin pitäytymään annetuissa lähteissä.
Lasku- tai päättelyvirhe
Kaava näyttää oikealta, mutta lähtöarvo, yksikkö tai välivaihe on väärä. Malli voi myös selittää virheellisen tuloksen vakuuttavasti jälkikäteen.
Lähteeseen perustumaton tiivistelmä
Malli lisää dokumentin tiivistelmään yleistä taustatietoa, jota alkuperäisessä aineistossa ei ole. Teksti voi olla sinänsä totta, mutta se ei ole pyydetyn lähteen yhteenveto.
Miksi kielimalli hallusinoi?
Hallusinaatio ei ole yksi bugi, joka voidaan vain korjata. Taustalla on useita syitä.
1. Malli ennustaa seuraavaa tekstin osaa
Kielimallin peruskoulutus perustuu seuraavan tokenin ennustamiseen. Malli oppii, millaiset sanat, väitteet ja rakenteet esiintyvät yhdessä. Se ei saa jokaisen koulutuslauseen mukana erillistä tosi tai epätosi -merkintää.
OpenAI kuvaa ongelmaa näin: oikeinkirjoituksessa ja kieliopissa on paljon toistuvia malleja, joten niiden ennustaminen onnistuu hyvin. Harvinainen yksityiskohta, kuten vähän tunnetun henkilön syntymäpäivä, ei välttämättä seuraa mistään yleisestä kuviosta. Silloin sujuva arvaus on mahdollinen.
2. Arvaaminen voi näyttää arvioinnissa paremmalta
Jos testissä palkitaan vain oikeasta vastauksesta, "en tiedä" ei tuo pistettä. Arvaus voi joskus osua. Mallien koulutus ja vertailu voivat siksi suosia järjestelmää, joka yrittää vastata silloinkin kun sen pitäisi ilmaista epävarmuus.
Parempi malli ei siis ole vain se, jolla on korkea osumatarkkuus. Korkean riskin käytössä on tärkeää mitata myös virheellisten vastausten ja perusteltujen kieltäytymisten määrää.
3. Kysymys on epäselvä tai tieto puuttuu
Sana voi tarkoittaa useaa asiaa, ajanjakso voi puuttua tai käyttäjä voi olettaa mallin tuntevan dokumentin, jota sille ei ole annettu. Malli yrittää silti rakentaa yhtenäisen vastauksen.
Esimerkiksi "Mitä viimeisin päätös tarkoittaa meille?" on mahdoton kysymys ilman tietoa päätöksestä, organisaatiosta ja ajankohdasta. Hyvä järjestelmä pyytää tarkennusta. Huono järjestelmä täyttää aukot itse.
4. Tieto on muuttunut
Hinnat, lait, ohjelmistoversiot ja organisaatioiden vastuuhenkilöt vaihtuvat. Mallin koulutuksessa ollut tieto voi olla vanhaa. Verkkohaku tai yrityksen oma tietolähde auttaa, mutta vain jos haku löytää oikean ja ajantasaisen lähteen.
5. Pitkä konteksti sisältää liikaa tai ristiriitaista tietoa
Suuri konteksti-ikkuna ei tarkoita, että malli huomaa jokaisen yksityiskohdan. Pitkässä aineistossa olennainen ehto voi jäädä muiden dokumenttien alle. Jos lähteet ovat ristiriidassa, malli voi yhdistää niistä kolmannen version.
6. Haku tai työkalu epäonnistuu
Lähteisiin yhdistetty järjestelmä voi hakea väärän dokumentin, katkenneen sivun tai liian lyhyen tekstikatkelman. Malli vastaa silloin huonon todistusaineiston pohjalta. RAG ja verkkohaku vähentävät muistista arvaamista, mutta eivät takaa, että haku, tulkinta ja viittaus onnistuivat.
Milloin hallusinaatio on vaarallinen?
Virhe ideointilistassa on helppo poistaa. Virhe lääkeannoksessa, sopimuksessa tai tilinumerossa on aivan eri asia.
Riski | Esimerkki | Tarkistus |
|---|---|---|
Terveys | Oireen väärä tulkinta tai annostus | Terveydenhuollon ammattilainen ja virallinen lääketieto |
Laki | Keksitty lainkohta tai oikeustapaus | Ajantasainen säädös ja juristin arvio |
Raha | Väärä korko, vero tai laskelma | Alkuperäinen päätös, laskuri ja asiantuntija |
Työ | Virheellinen asiakas- tai henkilöstötieto | Lähdejärjestelmä ja nimetty hyväksyjä |
Uutiset | Keksitty tapahtuma tai lainaus | Kaksi riippumatonta lähdettä, joista ainakin yksi ensisijainen |
Tutkimus | Olematon julkaisu tai väärä tulkinta | Julkaisun tietokanta ja alkuperäinen paperi |
Koodi | Keksitty kirjasto tai turvaton ratkaisu | Virallinen dokumentaatio, testit ja katselmointi |
Nyrkkisääntö: mitä suurempi haitta yhdestä virheestä syntyy, sitä vähemmän tekoälyn omaan itsearvioon kannattaa luottaa.
Laajemman riskikuvan löydät oppaasta tekoälyn vaarat ja riskit.
7 tapaa tarkistaa tekoälyn vastaus
1. Luokittele väitteet ennen tarkistamista
Erota vastaus kolmeen osaan:
faktat, jotka voi tarkistaa
tulkinnat, joista voi olla eri mieltä
suositukset, jotka riippuvat tavoitteista ja arvoista
Kaikkea ei tarvitse tarkistaa samalla tarkkuudella. Aloita väitteistä, joissa virhe aiheuttaisi eniten haittaa.
2. Pyydä lähde jokaiselle tärkeälle väitteelle
Pyydä mallia liittämään väitteen yhteyteen lähde, julkaisija ja päivämäärä. Tämä helpottaa tarkistusta, mutta ei vielä todista väitettä oikeaksi.
3. Avaa lähde
Tarkista, että linkki toimii, lähde on oikea ja sivu todella tukee väitettä. Hakutuloksen otsikko tai tekoälyn laatima lähdekuvaus ei riitä.
4. Suosi ensisijaista lähdettä
Tuotetieto tarkistetaan valmistajan dokumentaatiosta, laki säädöstekstistä tai viranomaiselta ja tutkimustulos alkuperäisestä paperista. Toisen artikkelin tiivistelmä voi auttaa ymmärtämään, mutta se ei korvaa alkuperäistä lähdettä.
5. Tarkista luvut erillisellä työkalulla
Laske prosentit, valuuttamuunnokset ja yksiköt taulukkolaskennassa tai laskimella. Tarkista myös lähtöarvojen lähteet. Oikea kaava väärillä luvuilla tuottaa väärän tuloksen.
6. Vertaa riippumattomaan hakuun
Muotoile keskeinen väite uudelleen ja hae sitä ilman tekoälyn ehdottamaa lähdenimeä. Näin et lukkiudu mallin keksimään viitteeseen. Tuoreessa uutisessa tarkista tapahtumapäivä erikseen julkaisupäivästä.
7. Pyydä epävarmuudet näkyviin
Ohjeista mallia erottamaan varmistettu tieto, päätelmä ja puuttuva tieto. Pyydä sitä sanomaan "en tiedä", jos lähde ei riitä. Tämä ei tee vastauksesta automaattisesti oikeaa, mutta vähentää varmuuden vaikutelmaa.
AI-Sanomien ChatGPT-opas toimistotyöntekijälle näyttää, miten sama tarkistus liitetään päivittäiseen työhön.
Auttaako parempi kehote?
Auttaa, mutta ei yksin ratkaise ongelmaa. Hyvä kehote rajaa tehtävän, antaa lähteet ja kertoo, mitä mallin pitää tehdä epävarmassa tilanteessa.
Vahva perusohje sisältää nämä kohdat:
Käytä vain annettuja lähteitä.
Liitä jokaiseen väitteeseen lähdekohta.
Älä täytä puuttuvia tietoja oletuksilla.
Merkitse ristiriidat ja epävarmuudet.
Kysy tarkennus ennen vastaamista, jos tehtävä on epäselvä.
Kehote ei kuitenkaan valvo itse itseään. Jos käyttötapaus on tärkeä, tarkistus pitää toteuttaa myös prosessina: lähteet, testit, hyväksyjä ja loki.
Kuusi keinoa, jotka eivät yksin todista vastausta oikeaksi
Heikko varmistus | Miksi se ei riitä | Parempi tapa |
|---|---|---|
Pyydä samaa mallia tarkistamaan itsensä | Malli voi toistaa saman virheen uudella selityksellä | Tarkista ensisijaisesta lähteestä |
Kysy toiselta tekoälyltä | Mallit voivat käyttää samaa väärää tietoa tai päättelytapaa | Käytä riippumatonta lähdettä, älä vain toista kysymystä |
Luota mallin varmuuteen | Sujuva kieli ja itse ilmoitettu varmuus eivät ole todisteita | Tarkista väite ja lähde erikseen |
Laske temperature nollaan | Vastaus muuttuu toistettavammaksi, ei välttämättä oikeaksi | Testaa oikeilla esimerkeillä ja lähteillä |
Pyydä pitkä lähdelista | Lähde voi olla keksitty tai epärelevantti | Avaa linkki ja etsi väitettä tukeva kohta |
Lisää RAG tai verkkohaku | Haku voi löytää väärän, vanhan tai ristiriitaisen aineiston | Näytä haetut katkelmat ja arvioi niiden laatu |
Usean mallin eriävät vastaukset ovat hyödyllinen varoitussignaali. Yksimielisyys ei kuitenkaan todista väitettä oikeaksi. Sama koskee mallin näkyvää perustelua: pitkä päättelyketju voi olla johdonmukainen ja silti rakentua väärälle lähtötiedolle.
Organisaation tapa vähentää hallusinaatioita
Yksittäinen käyttäjä tarkistaa vastauksen. Organisaation pitää rakentaa tarkistus toistettavaksi.
Rajaa käyttötarkoitus
Määrittele, missä tekoäly saa luonnostella, missä se saa suositella ja missä se ei saa tehdä päätöstä. "Avustava käyttö" on liian epätarkka ohje.
Kytke vastaukset hyväksyttyihin lähteisiin
Käytä ajantasaista dokumentaatiota, tietokantaa tai hallittua RAG-ratkaisua. Näytä käyttäjälle, mitä lähdekohtaa vastaus käytti.
Tee omat testit
Kerää todellisia kysymyksiä, oikeat vastaukset ja hankalat poikkeukset. Mittaa erikseen oikeat vastaukset, väärät vastaukset ja tilanteet, joissa järjestelmä kieltäytyi tai pyysi tarkennusta.
Lisää ihmisen hyväksyntä korkean riskin kohtiin
Julkaisu, asiakasviesti, lääketieteellinen suositus, juridinen tulkinta ja rahaa liikuttava toimi vaativat nimetyn hyväksyjän. Pelkkä "human in the loop" ei riitä, ellei ihmisellä ole aikaa, osaamista ja oikeutta pysäyttää prosessi.
Seuraa muutoksia
Malliversio, järjestelmäkehote, hakutapa ja lähdeaineisto vaikuttavat tuloksiin. Testit pitää ajaa uudelleen, kun jokin niistä muuttuu.
Hallusinaation, tokenin ja RAGin peruskäsitteet löytyvät myös oppaasta 20 AI-käsitettä, jotka pitää ymmärtää vuonna 2026.
Kehotteet
Kehote 1: Lähdesidonnainen vastaus
Vastaa vain alla olevien lähteiden perusteella.
Lähteet:
[liitä teksti tai linkit]
Kysymys:
[kirjoita kysymys]
Ohjeet:
1. Liitä jokaisen faktaväitteen perään lähteen nimi ja kohta.
2. Älä käytä lähteiden ulkopuolista tietoa.
3. Jos lähteet ovat ristiriidassa, näytä ristiriita.
4. Jos vastausta ei löydy, sano "Tieto ei löydy annetuista lähteistä".
5. Erota lopuksi varmistetut tiedot ja omat päätelmät.Kehote 2: Hallusinaatioiden tarkistus
Tarkista alla oleva tekoälyvastaus kriittisesti.
Vastaus:
[liitä vastaus]
1. Poimi kaikki nimet, luvut, päivämäärät, lainaukset ja lähdeviitteet.
2. Arvioi, mikä väite aiheuttaisi suurimman haitan, jos se on väärä.
3. Kerro jokaiselle tärkeälle väitteelle paras ensisijainen lähdetyyppi.
4. Jos käytössäsi on verkkohaku, avaa lähteet ja kerro tukevatko ne väitettä.
5. Merkitse tulos: vahvistettu, ristiriitainen tai varmistamatta.
6. Älä keksi puuttuvaa lähdettä.Kehote 3: Epävarmuus ennen vastausta
Ennen kuin vastaat, arvioi onko tehtävä yksiselitteinen ja onko sinulla riittävä tieto.
Tehtävä:
[kirjoita tehtävä]
Toimi näin:
1. Listaa puuttuvat tiedot ja epäselvät käsitteet.
2. Kysy enintään viisi tarkentavaa kysymystä, jos niitä tarvitaan.
3. Vastaa vasta tarkennusten jälkeen.
4. Merkitse vastauksessa erikseen faktat, oletukset ja epävarmuudet.
5. Älä anna tarkkaa nimeä, lukua tai lähdettä, jos et pysty perustelemaan sitä.Usein kysytyt kysymykset
Hallusinoivatko kaikki tekoälymallit?
Kaikki generatiiviset kielimallit voivat tuottaa virheellistä sisältöä. Mallien, tehtävien ja asetusten välillä on eroja, mutta tuotemerkki tai uudempi versio ei poista tarkistuksen tarvetta.
Tietääkö tekoäly, milloin se hallusinoi?
Ei luotettavasti. Malli voi arvioida epävarmuutta ja joissakin tilanteissa kieltäytyä vastaamasta, mutta myös itsearvio voi olla väärä. Ulkoinen lähde ja testi ovat vahvempia kuin mallin oma vakuutus.
Poistaako RAG hallusinaatiot?
Ei. RAG voi tuoda vastaukseen ajantasaista ja rajattua tietoa, mutta haku voi löytää väärän lähteen ja malli voi tulkita sen väärin. Lähdekohtien näyttäminen ja arviointi ovat edelleen tarpeen.
Voiko tekoälyn vastausta käyttää lähteenä?
Tekoälyvastaus ei yleensä ole alkuperäinen lähde. Käytä sitä apuna lähteiden löytämiseen ja asian jäsentämiseen, mutta viittaa julkaistuun dokumenttiin, tutkimukseen tai viranomaisaineistoon.
Yhteenveto
Tekoäly hallusinoi, koska sen tehtävä on tuottaa todennäköistä sisältöä, ei todistaa jokaista lausetta oikeaksi. Epäselvä kysymys, harvinainen fakta, vanhentunut tieto tai epäonnistunut haku lisää riskiä.
Turvallinen käyttötapa on käytännöllinen: pyydä lähteet, avaa ne, tarkista korkean panoksen väitteet ja anna mallille lupa olla vastaamatta. Jos tekoälyn tuotos vaikuttaa terveyteen, rahaan, oikeuksiin tai toiseen ihmiseen, asiantuntijan arvio ei ole valinnainen lisä.
Lähteet: OpenAI: Why language models hallucinate, OpenAI Help Center: ChatGPT accuracy and limitations, NIST: Generative AI Profile, Anthropic: Reduce hallucinations, Farquhar ym.: Semantic entropy
Lisää tekoälyoppaita ja -uutisia: aisanomat.fi
