Keskiarvo ei ole totuus eikä kielimalli tietosanakirja tai hakukone

Opettaja teki kokeen, jota ei ollut suunniteltu kenellekään oppilaalle. Hän antoi tekoälylle oman kurssinsa loppukokeen ja tarkisti vastaukset samalla punakynällä, jolla hän tarkistaa oppilaidensa paperit. Kone vastasi jokaiseen kysymykseen sujuvasti, kohteliaasti ja hyvin varmalla äänellä. Punakynä kertoi toisen tarinan: vastaukset eivät riittäneet läpipääsyyn.

Tämä ei ole tarina tyhmästä koneesta. Sama kone kirjoittaa sujuvaa tekstiä kymmenillä kielillä ja selittää vaikeita asioita kärsivällisemmin kuin moni ihminen. Tarina kertoo jostakin muusta: siitä, mitä kone oikeastaan tekee silloin, kun se vastaa.

Mistä vastaus tulee

Kielimalli ei ole tietosanakirja eikä hakukone. Se ei etsi vastausta mistään, koska sillä ei ole paikkaa, josta etsiä. Se on tilastollinen malli, joka on lukenut suunnattoman määrän ihmisten kirjoittamaa tekstiä ja oppinut siitä yhden taidon: arvaamaan, mikä sana todennäköisimmin seuraa edellisiä. Vastaus ei ole mittaus todellisuudesta vaan laskelma siitä, mitä ihmiset ovat aiheesta kirjoittaneet.

Se luettu massa on suurelta osin internet. Mukana ovat tietosanakirjat ja tutkimusartikkelit, mutta samoissa vaunuissa matkustavat keskustelupalstat, mainostekstit, vanhentuneet sivut ja kaikki ne erehdykset, joita ihmiset ovat toisilleen vuosikymmenten aikana kirjoittaneet. Kone ei punnitse näitä totuuden vaa'alla, koska sillä ei ole sellaista vaakaa. Sen vastaus on painotettu keskiarvo meistä. Laskelma on matemaattisesti aito. Juuri siksi sen luonne kannattaa sanoa ääneen: ihmisten puheen keskiarvo ei ole sama asia kuin totuus, vaikka se olisi laskettu kuinka tarkasti. Hinta ei muuta tätä perusluonnetta miksikään. Maksullinen kone laskee samalla tavalla kuin ilmainen, se vain laskee paremmin.

Varmuus on kirjoitustyyli

Koneen ääni kuulostaa täsmälleen yhtä varmalta silloin, kun se on oikeassa ja silloin, kun se erehtyy. Varmuus ei ole merkki tiedosta vaan opittu tyylipiirre, joka on peritty miljoonista varmaan sävyyn kirjoitetuista teksteistä.

Vuonna 2023 yhdysvaltalainen tuomioistuin määräsi seuraamukset asianajajille, jotka olivat jättäneet oikeudelle tekoälyn laatiman kirjelmän. Kirjelmässä oli kuusi ennakkotapausta, joita ei ole koskaan ollut olemassa. Kone oli keksinyt tapaukset, antanut niille nimet ja asianumerot ja lainannut niitä vakuuttavasti. Asianajajat ehtivät vielä kysyä koneelta, ovatko tapaukset varmasti todellisia. Kone vakuutti, että ovat.

Miellyttämään opetettu

Valmis kielimalli viimeistellään ihmispalautteella: ihmiset vertailevat koneen vastauksia ja parhaaksi arvioitu voittaa. Miellyttävä vastaus voittaa useammin kuin epämukava. Näin koneeseen kasvaa taipumus, jonka tutkijat tuntevat nimellä sykofantia: se myötäilee mieluummin kuin oikaisee, pehmentää mieluummin kuin haastaa ja saattaa luopua oikeasta vastauksestaan, jos käyttäjä painostaa riittävän itsevarmasti. Ilmaisessa palvelussa sama taipumus saa vielä liiketaloudellisen perusteen: käyttäjä, joka viihtyy, palaa takaisin. Käyttäjä, jota oikaistaan, ei ehkä palaa.

Tämä on harhan toinen puolisko. Ensimmäinen puolisko on kone, joka kuulostaa varmalta tietämättä mitään. Toinen on kone, joka on opetettu sanomaan se, minkä kuulija haluaa kuulla.

Kysymys, jota kone ei laske

Koneen laskennassa ei ole kohtaa, jossa kysyttäisiin, mikä on totta. Siellä kysytään, mikä on todennäköistä. Ne ovat eri kysymyksiä. Todennäköisin vastaus on se, jonka useimmat olisivat antaneet. Useimmat ovat olleet väärässä ennenkin: aikanaan useimmat tiesivät, että aurinko kiertää maata. Se tieto olisi voittanut minkä tahansa keskiarvon.

Vaara ei siis ole siinä, että kone erehtyy. Ihmiset ovat aina erehtyneet. Kirjatkin erehtyvät. Vaara on siinä, että erehtyväinen ääni saa mittarin aseman. Mittarilta vaaditaan yksi asia ennen kuin siihen luotetaan: se kalibroidaan johonkin, joka on sen itsensä ulkopuolella. Vaaka kalibroidaan punnukseen, kello aikaan, kuumemittari tunnettuun pisteeseen. Kone kalibroituu meihin, meidän puheemme keskiarvoon. Väline, joka on tehty meistä, voi kertoa paljon meistä. Totuuden mittariksi se ei kelpaa, koska keskiarvo ei voi mitata itseään.

Pahimmillaan tästä kasvaa hidas tottumus, joka ei näytä miltään dramaattiselta: vastaus otetaan sieltä, mistä sen saa nopeimmin ja mukavimmin, kunnes totuudeksi aletaan vähitellen kutsua sitä, mitä kone keksii.

Renki ei muutu tuomariksi

Koneelta saa kysyä. Se on hyvä renki: väsymätön, kärsivällinen ja monessa työssä aidosti hyödyllinen. Renki ei kuitenkaan muutu tuomariksi sillä, että se puhuu kauniisti. Se, joka haluaa tietää, mikä on totta, joutuu yhä tekemään saman työn, jonka ihminen on aina joutunut tekemään: pysähtymään, vertaamaan, kysymään ja koettelemaan väitettä jotakin vasten, joka ei ole väitteen esittäjä itse. Sitä työtä ei voi ulkoistaa. Juuri se työ on ymmärtämistä. Ymmärrystä ei mikään kone voi antaa valmiina, koska valmiina annettu ymmärrys ei ole kenenkään oma.