Tekoäly kuulostaa vakuuttavalta. Juuri se tekee siitä vaarallisen. Sillä vakuuttava ei ole sama asia kuin totta. Ota selvää, mitä tekoälyn hallusinaatiot ovat, miten tunnistat ne ja miksi ne voivat tulla sinulle kalliiksi.
Istut kannettavan tietokoneen ääressä ja deadline lähestyy vaarallisen nopeasti. Avaat ChatGPT:n, kirjoitat kysymyksesi ja muutamassa sekunnissa näytölle ilmestyy hyvä teksti.
Se näyttää ammattimaiselta, kuulostaa vakuuttavalta, juuri siltä mitä tarvitset. Kopioit tekstin ja lähetät sen tiimillesi tai asiakkaallesi. Valmista. Mutta sitten tapahtuu jotain ikävää.
Haluat tarkistaa vuosineljänneksen lukusi. Syötät tulosi ja pyydät ChatGPT:tä laskemaan kasvuprosenttisi. ”Kasvusi on 47 % edelliseen vuosineljännekseen verrattuna,” vastaa tekoäly välittömästi. Joten kysyt lisää: ”Milloin saavutan vuositavoitteeni?” ChatGPT laskee eteenpäin: ”Tällä kasvuvauhdilla saavutat tavoitteesi syyskuussa, liikevaihdolla 340 000 €.”
Teet siitä esityksen. Jaat luvut tiimillesi. Kunnes joku tarkistaa laskelman: kasvusi ei olekaan 47 %, vaan 23 %. Entä se vuositavoite? Vasta
Koko tarinasi koostuu keksityistä luvuista. Tämä on tekoälyn hallusinaatioiden vaara. Yksi väärä laskelma, ja tekoäly rakentaa siitä vain eteenpäin. Se kuulostaa loogiselta, mutta ei pidä paikkaansa.
Tekoäly voi valehdella. Ei tahallaan, mutta niin vain käy. Ja nämä valheet voivat tulla kalliiksi yrityksellesi tai uskottavuudellesi. Ongelma? Tekoäly kuulostaa niin vakuuttavalta, että unohdamme: vakuuttava ei ole sama asia kuin totta.
Tekoälyn hallusinaatiot ovat hetkiä, joina tekoäly ”keksii” tietoa, joka ei pidä paikkaansa. Se vaikuttaa loogiselta, kuulostaa vakuuttavalta ja esitetään varmuudella. Mutta se on täysin väärin.
Tässä piileekin ongelma: tekoäly ennustaa, mitä pitäisi seuraavaksi tulla, perustuen sen koulutusdatassa esiintyviin kaavoihin. Se ei ”tiedä” mitään todella, se arvaa, mitkä sanat ovat tietyssä yhteydessä loogisimpia. Aivan kuten puhelimesi ehdottaa seuraavaa sanaa, mutta paljon kehittyneemmällä tavalla.
Yleensä tämä toimii hyvin. Mutta joskus se osuu täysin harhaan. Ja koska tekoälyllä ei ole käsitystä totuudesta tai valheesta, se esittää virheellistä tietoa yhtä varmasti kuin oikeita faktoja.
ChatGPT väittää iloisesti, että vuodessa on 15 kuukautta. Tekoäly myöntää yrityksille kuvitteellisia palkintoja. Väärennettyjä tilastoja esitetään faktoina. Asianajajat joutuvat vaikeuksiin, koska tekoäly on keksinyt kokonaisia oikeusjuttuja, mukaan lukien asianumerot ja tuomiot.
Näemme yritysten kompastelevan väärien laskelmien vuoksi taloudellisissa raporteissa, virheellisten tuotetietojen vuoksi verkkokaupoissa ja täysin keksittyjen asiakaskokemusten vuoksi markkinointimateriaalissa. Nämä eivät ole teoreettisia riskejä, tätä tapahtuu oikeasti.
Tunnista varoitusmerkit
Miten tunnistat, milloin tekoäly hallusinoi? Ole tarkkana näiden merkkien suhteen:
Sinun ei tarvitse epäillä tekoälyä, mutta kannattaa silti pysyä valppaana. Tärkeintä on tietää, miten sen kanssa työskennellään. Käytä tekoälyn tuottamaa sisältöä kuin Wikipediaa: hyödyllinen lähtökohta, mutta ei lopputulos.
Pyydä lähdeviittaukset ja tarkista ne. Vertaa vastauksia omaan tietämykseesi. Jos tekoäly väittää jotain omasta alastasi, joka ei vastaa kokemustasi, älä ohita sitä noin vain. Luota omaan ammattitaitoosi.
Käytä tekoälyä lähtökohtana, ei lopputuloksena. Tekoäly on erinomainen apuväline ideoinnissa, ensimmäisissä luonnoksissa ja inspiraation hakemisessa. Mutta tärkeä sisältö tulee aina hioa, tarkistaa ja personoida itse. Anna ihmisen tarkistaa kriittinen sisältö, etenkin juridisten tekstien, taloustietojen tai lääketieteellisen tiedon kohdalla.
AI-hallusinaatiot eivät ole bugi, joka katoaa seuraavan ohjelmistopäivityksen myötä. Ne kuuluvat perustavanlaatuisesti näiden järjestelmien toimintatapaan. Ne tuottavat tekstiä kaavojen perusteella, ei todellisen tiedon tai ymmärryksen pohjalta. Tarkoittaako tämä, että tekoäly on hyödytön? Ei todellakaan. Mutta se tarkoittaa, että sinun on pysyttävä kriittisenä.
Nämä järjestelmät paranevat. Hallusinaatioita esiintyy yhä harvemmin. Mutta riski ei koskaan katoa kokonaan. Niin kauan kuin tekoäly tuottaa tekstiä ennusteiden perusteella, on aina mahdollisuus, että se menee harhaan.
Tekoäly on tehokas työkalu, mutta se ei korvaa hakukonetta tai tietokantaa. Se ei tiedä kaikkea ja tekee virheitä. Näe se oman osaamisesi ja kriittisen ajattelun tukena, ei sen korvaajana. Kouluta tiimisi tunnistamaan varoitusmerkit. Sopikaa selkeästi, milloin tekoälyä käytetään ja milloin ei. Luo kulttuuri, jossa tekoälyä ja aitoa osaamista käytetään vuorotellen. Sillä mikä on parhain suoja tekoälyn hallusinaatioita vastaan? Hyvin koulutettu, kriittinen ja itsevarma tiimi, joka tietää tarkalleen, miten hyödyntää tätä teknologiaa fiksusti.
