Tunnistat varmasti tämän tunteen. Kysyt tekoälychatbotilta tiettyä lähdettä opinnäytetyötäsi varten tai yhteenvetoa jostain hämärästä oikeusjutusta. Vastaus rullaa esiin sujuvasti. Kaunis lauserakenne, vakuuttava sävy, mukana sivunumerot ja linkit. Tarkistat sen… eikä siinä ole yhtään mitään totta. Lähdettä ei ole olemassa, oikeusjuttu on keksitty.
Tervetuloa tekoälyhallusinaatioiden kiehtovaan, joskus turhauttavaan maailmaan.
Nyt kun tekoälystä on tullut kiinteä osa päivittäistä työnkulkuamme, törmäämme yhä useammin näihin digitaalisiin kangastuksiin. Mutta mikä oikeastaan on tekoälyhallusinaatio? Miksi kone, joka on maksanut miljardeja, teeskentelee tietävänsä kaiken, ja miten tunnistat fiktion faktojen joukosta?
Tekoäly voi tehdä paljon hyvää, mutta tekoälyssä on myös tärkeä puoli, joka on hyvä ottaa huomioon. Tekoälykin voi nimittäin tehdä virheitä.
Kun kielimalli, kuten Claude, Gemini tai ChatGPT, keksii jotain, joka ei pidä paikkaansa – faktan, nimen, sitaatin tai lähdeviitteen – kutsumme sitä hallusinaatioksi.
Mutta ”keksiminen” on itse asiassa liian inhimillinen termi käytettäväksi tekoälystä. Tekoäly nimittäin ennustaa sana sanalta, mikä on loogisin jatko. Se ei oikeastaan tarkista, pitääkö kaikki todella paikkansa. Siihen ei ole sisäänrakennettu tarkistajaa, joka todella tarkistaisi faktat ja kysyisi: ”Pitääkö tämä paikkansa?”
Tuloksena on täydellinen teksti, joka näyttää hyvältä ja vaikuttaa luotettavalta, mutta joka ei sisällöllisesti oikeastaan pidä paikkaansa.
Tälle on muutama syy.
Ensinnäkin tekoäly toimii kaavantunnistuksen avulla. Se tietää esimerkiksi, että lauseen “Eiffel-torni rakennettiin vuonna…” jälkeen seuraa yleensä vuosiluku. Jos malli ei ole varma tarkasta vuosiluvusta, se voi silti keksiä yhden.
Lisäksi tekoäly on koulutettu antamaan aina jonkinlaisen vastauksen. Sen sijaan, että se sanoisi “en tiedä”, malli valitsee joskus loogiselta kuulostavan vastauksen. Myös kirjoitustyylillä on merkitystä. Tekoäly on oppinut, miltä artikkeli, raportti tai Wikipedia-teksti näyttää. Se osaa jäljitellä tätä tyyliä täydellisesti, vaikka sisältö ei olisikaan täysin paikkansapitävää.
Psykologiassa hallusinaatio tarkoittaa sellaisen havaitsemista, mitä ei todellisuudessa ole. Suurten kielimallien (LLM) kohdalla asia on hieman toisin. AI-hallusinaatio on ilmiö, jossa malli tuottaa täydellä varmuudella tulosta, joka on tosiasiallisesti virheellistä, jolla ei ole perustaa koulutusdatassa tai joka ei yksinkertaisesti ole järkevää.
Petollisinta on sävy. AI epäilee harvoin ääneen. Se ei sano: ”Arvioin, että se on tämä.” Ei, se esittää täydellisen valheen professorin varmuudella.
Esimerkki: Chatbot, joka suosittelee täydellistä reseptiä tappavan klooriakaasun valmistamiseen, koska se yhdistää luovasti ”siivouksen” ja ”reseptien” kaavoja, tai asianajaja, joka saa sakot käytettyään oikeuskäytäntöä, jonka AI oli keksinyt paikan päällä.
Ymmärtääksemme, miksi AI valehtelee, meidän on ymmärrettävä, miten se ajattelee. LLM ei perimmiltään ole tietokanta kuten Google. Se on äärimmäisen kehittynyt ennustuskone.
Kun esität kysymyksen, AI ei etsi tietoa digitaalisesta tietosanakirjasta. Se laskee yksinkertaisesti – tilastojen perusteella – mikä on lauseen seuraavaksi looginen sana.
Tämän ennusteen suistumiselle raiteiltaan on muutama pääsyy:
On helppo nähdä hallusinaatiot puhtaana ohjelmistovirheena, joka pitäisi ”korjata” mahdollisimman pian. Mutta insinöörit ja tekoälytutkijat ovat nykyään yhtä mieltä: hallusinaatiot ovat sivutuote tekoälyn probabilistisesta luonteesta. Jos poistaisimme hallusinaatiot täysin, hävittäisimme samalla myös mallin luovuuden. Samainen ”vapaus”, jonka ansiosta tekoäly keksii väärän URL-osoitteen, mahdollistaa sen, että se kirjoittaa alkuperäisen science fiction -tarinan, ideoi markkinointikampanjoita tai keksii uniikkeja vertauskuvia.
Täysin virheettömiä tekoälyjä ei (vielä) ole olemassa, mutta hallusinaatioriskiä voi vähentää huomattavasti. Tässä tärkeimmät nyrkkisäännöt:
Jos käytät tekoälyä yrityskäytössä, pakota malli ammentamaan tietoa tietystä tietokannasta (esimerkiksi omasta HR-käsikirjastasi tai asiakirjakokoelmastasi) sen yleisen tietämyksen sijaan. Sano promptissa kirjaimellisesti: ”Käytä vastauksen antamiseen ainoastaan alla olevaa tekstiä. Jos vastausta ei löydy siitä, sano ’En tiedä’.”
Älä kysy: ”Mitä tapahtui viime vuonna teknologia-alalla?” Kysy sen sijaan: ”Mitkä olivat kolme suurinta yritysostoa Alankomaiden tekoälysektorilla vuonna 2025? Mainitse vain todennettavia tosiasioita.” Mitä tiukemmat rajat, sitä vähemmän tilaa tekoälylle harhailla.
Tärkein sääntö pysyy samana: älä koskaan luota sokeasti kriittiseen tuotokseen. Käytä tekoälyä loistavana, salamannopeana harjoittelijana. Harjoittelija tekee esityön, mutta sinä olet se seniori, joka tarkistaa tosiasiat, klikkaa linkit auki ja laskee luvut vielä uudelleen ennen kuin sisältö julkaistaan.
Kaikki tieto ei ole yhtä luotettavaa, kun käytät tekoälyä. On muutamia asioita, joissa mallit menevät useammin pieleen:
Erityisesti tämänkaltaisen tiedon kohdalla on tärkeää olla ylimääräisen kriittinen.
Mikä malli ei tee näin?
Markkinoilla ei ole yhtään mallia, joka ei hallusinoi. Claude tekee sitä vähemmän kuin muut mallit, ja Anthropic panostaa vahvasti tekniikoihin, kuten RLHF:ään (RLHF tarkoittaa Reinforcement Learning from Human Feedback). Se on tekniikka, jonka avulla nykyaikaisia kielimalleja hienosäädetään sen jälkeen, kun niitä on ensin koulutettu valtavilla määrillä tekstiä. He käyttävät myös Constitutional AI -menetelmää sen rajoittamiseksi, mutta se on vielä kaukana virheettömästä.
Jotkin mallit yrittävät ilmaista, kun ne eivät ole jostakin varmoja, mutta edes tämä signaali ei ole luotettava. Kyse on kielimallien toimintatavan perustavanlaatuisesta ongelmasta, jota kehittäjät eivät voi ratkaista.
Valmis työskentelemään älykkäämmin tekoälyn kanssa?
Haluatko oppia, miten voit hyödyntää tekoälyä turvallisesti ja tehokkaasti organisaatiossasi?
Autamme sinua paitsi käyttämään tekoälyä, myös ymmärtämään sitä kunnolla.
Ota meihin yhteyttä ja tutustu mahdollisuuksiin.
Sinulla on nyt käsitys siitä, mitä AI-botit voivat merkitä myynnillesi. Seuraava askel on selvittää, mikä ratkaisu sopii parhaiten yrityksellesi, järjestelmillesi ja tavoitteillesi.
Sparrataan yhdessä tilanteestasi:
Kuinka paljon liidejä generoit tällä hetkellä?
Mitä järjestelmiä käytät jo (CRM, markkinoinnin automaatio)?
Mitkä ovat nykyisen myyntiprosessisi pullonkaulat?
Missä jätät tällä hetkellä mahdollisuuksia käyttämättä?
Varaa keskusteluaika ja katsotaan yhdessä, mikä on paras lähestymistapa. Olipa se sitten valmis alusta tai räätälöity ratkaisu.
Hello AI auttaa yrityksiä Pohjois-Brabantissa ja sen ulkopuolella käytännönläheisillä AI-ratkaisuilla. Koulutuksesta räätälöityihin chatboteihin. Puhumme selkeää kieltä, ajattelemme mukanasi ja toimitamme toimivia ratkaisuja.
