Okei, mua on siis viime aikoina pommitettu tällä aiheella aivan jatkuvasti: totuuden kuolemaa käsitteleviä videoesseitä, dead internet theory -lankoja, tätä on kaikkialla mun syötteissä, ja tää nousee toistuvasti esiin myös kavereiden kanssa – sama keskustelu repeatilla, missä joku jakaa jonkun jutun ja toinen heittää ”hetkinen, onks toi ees aito?” eikä kukaan osaa oikeasti vastata. Ja kun GenAI tekee uskottavan kuuloisten roskasisältöjen (slop) suoltamisesta koko ajan helpompaa, alkaa olla aidosti vaikea erottaa, mikä vittu on totta ja mikä ei. Joten istuin vihdoin alas ja selvitin, mitä tutkimus oikeasti sanoo, ja mun on pakko purkaa tää ulos, koska mitä enemmän luen, sitä vakuuttuneempi olen siitä, että suurin osa tekoälyriskikeskustelusta tuijottaa aivan väärää maailmanloppua.
Tässä on mielenkiintoinen juttu – diskurssi on asettunut petoksen ympärille. Juonittelevat mallit. Superälyt, jotka pelaavat arvioijiaan siihen asti, kunnes niiden ei enää tarvitse. Ja hei, vakavasti otettavat ihmiset ovat rakentaneet kokonaisia uria noiden kysymysten varaan, eikä niitä voi noin vain sivuuttaa. Mutta on olemassa hiljaisempi vikaantumismalli, joka ei vaadi juonittelua, ei superälyä eikä minkäänlaista pahuutta. Se vaatii vain volyymia.
Tammikuussa 2026 tutkijat näyttivät ihmisille tekoälyllä generoituja deepfake-videoita rikoksista ja kertoivat heille nimenomaisesti ja etukäteen, että videot olivat feikkejä – eikä sillä ollut MITÄÄN väliä. Jopa ne osallistujat, jotka tiedostetusti hyväksyivät, että ”joo, tää on feikki”, jäivät näkemänsä vaikutuksen alaisiksi. Tämä on paljon oudompaa kuin se, että ”deepfaket ovat vakuuttavia”, koska se tarkoittaa, ettei tieto siitä, että jokin on feikkiä, enää luotettavasti suojaa sinua siltä. Pääsi sisällä oleva koneisto, joka muuttaa näkemisen uskomiseksi, kehittyi maailmaan, jossa jonkin asian näkeminen tarkoitti sen todennäköisesti tapahtuneen – eikä sitä koneistoa koskaan rakennettu ympäristöön, jossa suurin osa silmiesi eteen tulevasta voi olla tekaistua.
(Alan vihata tätä vitun aikajanaa koko ajan enemmän jengi)
Jos skaalaat tämän koko internetin kokoluokkaan, no, homma muuttuu ankeaksi NOPEASTI. Vuoden 2025 puoliväliin mennessä oli yli 1 200 tekoälyllä tuotettua ”uutissivustoa”, jotka julkaisivat sisältöä uskottavien nimien alla kuudellatoista kielellä. EU laski tekoälyn olleen mukana 27 prosentissa ulkomaisista informaatiovaikuttamisyrityksistä – melkein kolminkertainen määrä edellisvuoteen verrattuna – ja tekoälyllä luodut harhaanjohtavat postaukset menivät suhteettoman viraaleiksi, vaikka ne olivat peräisin pääosin pieniltä tileiltä. Näin alamme nähdä internetin enslopifikaation. ⊙﹏⊙
No, homma oli pelkkää leikkiä ja hupia, kunnes dead internet theory alkoi oikeasti olla ehkä vähän liiankin 100-prosenttisen ylivoimaisesti totta. Muistan yhä tutkimuksen, johon törmäsin korona-aikaan ja jossa todettiin suunnilleen niin, että: Tästä vuodesta alkaen bottiliikenne muodostaa enemmistön internetin liikenteestä. ”Slop-farmit” (vittu että on dystooppinen termi) tajusivat, että engagement-bait-kuvien massatuottaminen ei maksa juuri mitään, ja suosittelualgoritmit lapioivat niitä mielellään boomereille miljoonittain (shrimp Jesus, kultaseni)
Siis oikeasti bro, nykyään on kirjaimellisesti olemassa ”kirjailijoita”, ”muusikoita” ja ”valokuvaajia”, jotka ovat vain pelkkä vitun prompt-luuppi, johon on liitetty maksutili.
Paskinta ei edes ole se, että ihmisiä huijataan – netissä on aina ollut vietävissä olevia ihmisiä – vaan se, että jengi on vähän niin kuin luovuttanut sen suhteen, että yrittäisi selvittää, mikä niiden feedeissä on totta (I'm tired boss ToT). Hankilla oli muuten tosi hyvä pointti yhdessä videossaan, tsekkaa se, se on aika jees:
Mutta joo, takaisin asiaan: ”episteeminen romahdus” (epistemic collapse). Termi pyörii tällä hetkellä ainakin neljässä eri tutkimusyhteisössä, eivätkä ne tarkoita sillä ihan samaa asiaa, mikä ärsytti mua aluksi. Mutta mitä enemmän sitä mietin, sitä enemmän uskon heidän kuvaavan pikemminkin yhden ketjureaktion eri vaiheita kuin neljää erillistä ongelmaa.
ML-ihmiset tarkoittavat mallin romahdusta (model collapse), jossa mallia koulutetaan edellisen mallin tuotoksilla, toistetaan tämä muutaman kerran, ja alkuperäisen jakauman hännät katoavat samalla kun jokainen iteraatio ajautuu yhä kauemmas siitä ground truthista, johon se oli ankkuroitu – ja tämä on muuten todistettu matemaattisesti. Mallin romahdusta ei voi välttää, jos koulutus tehdään pelkästään synteettisellä datalla. Ekosysteemitason versio on vielä pahempi: kun tutkijat testasivat 27 LLM:ää 155 eri aiheessa, jokainen niistä oli episteemisesti vähemmän monimuotoinen kuin tavallinen verkkohaku, ja suuremmat mallit tuottivat vähemmän monipuolisia väitteitä.
AI-etiikan ihmiset tarkoittavat validointiylikuormitusta: vertaisarvioijat, faktantarkistajat, toimittajat, tuomioistuimet, opettajat – kaikki nopeusrajoitettuja järjestelmiä, jotka yrittävät pysyä sellaisen generointiprosessin perässä, jota mikään inhimillinen tekijä ei enää rajoita. Enemmän väitteitä kuin kukaan ehtii tarkistaa, itseään ruokkivaa synteettistä sisältöä, ja tarkistuksia tekevät ihmiset yksinkertaisesti... uupuvat.
Filosofit tarkoittavat ilmiötä, jota he kutsuvat nimellä 'misrecognition', mikä kuulostaa hienolta, mutta henkilökohtaisesti se on kaikkein ahdistavin juttu. Malli ei siis tiedä eikä väitä tietävänsä tuottamansa sisällön merkitystä. Sen tuotokset ovat pelkkiä tilastollisia jakaumia, ja kun lukija silti kohtelee tuotosta tietoväitteenä, hän tekee episteemisen työn mallin puolesta. Tämä tarkoittaa, että hän lainaa omaa uskottavuuttaan jollekin, jolla ei ole sitä pätkääkään omasta takaa. Kerro tämä pieni teko nyt miljardeilla päivittäisillä vuorovaikutuksilla, ja lopputuloksena on yhteiskunta, joka systemaattisesti yliarvioi sillä todellisuudessa olevan todennetun tiedon määrän.
Ja yhteiskuntatieteilijät tarkoittavat sitä versiota, joka nousee uutisiin: toisistaan irrallaan olevat informaatiotodellisuudet, menetetty yhteinen maaperä, radikalisoituminen siiloissa – jota yleensä käsitellään omana erillisenä ilmiönään, ”sosiaalisen median ongelmana” tai ”polarisaatio-ongelmana”, mutta mun mielestä se on vain pintatason heijastus kaikesta sen alla olevasta.
Ketjureaktio, kuten alkaa huomata, etenee tietyssä järjestyksessä. Samalla kun tekninen romahdus heikentää työkaluja, validointi-infrastruktuuri hukkuu vitunmoiseen slopiin. Näitä järjestelmiä ei koskaan suunniteltu tällaiselle läpimenomäärälle. Misrecognitionista tulee normaalia, koska tarkistamaton sisältö on yhä useammin ainoa asia, mitä on tarjolla. Ja lopulta jaettu todellisuus, josta kaikenlainen kollektiivinen päätöksenteko riippuu, yksinkertaisesti... pirstaloituu.
Ilmeinen vastaväite kuuluisi tietysti suunnilleen näin: disinformaatio on ollut ongelma antiikin ajoista lähtien. Ihmiskunta ei ole koskaan elänyt episteemisesti puhtaassa ympäristössä, minkä vuoksi meillä ylipäätään on tiedejulkaisuja, tuomioistuimia, toimituksia ja vertaisarviointia. Uutta on petoksen yksikkötalous. Jokainen validointi-instituutiomme olettaa, että uskottavan näköisen väitteen tuottaminen maksaa jotain – oli se sitten aikaa, asiantuntemusta, mainetta, painokoneita tai mitä vittua ikinä. Ideana oli, että todentamisella oli varaa olla hitaampaa kuin tuottamisella, koska myös tuottaminen oli kallista. Tämä ei enää pidä paikkaansa. Uskottavan väitteen tuottaminen ei nykyään maksa käytännössä hevonvittuakaan, kun taas sen tarkistaminen maksaa saman kuin ennenkin, ellei enemmänkin tässä paskana olevassa taloudessa.
Tähän liittyy myös eräs formalisoitu paradoksi, joka tulee mieleeni tätä pohtiessani: kun synteettisestä mediasta tulee erottumatonta aidosta mediasta, yksilön kannalta rationaalinen siirto on hylätä kaikki digitaalinen todistusaineisto sen sijaan, että yrittäisi erottaa totta valheesta – joten loppupelinä on maailma, jossa todisteet lakkaavat toimimasta kokonaan. Kaikessa tässä paskassa juuri se valuutta menettää lopulta arvonsa.
Kääntöpuolena on ”valehtelijan osinko” (liar's dividend): kun kaikki tietävät vakuuttavien feikkien olevan olemassa, kuka tahansa, joka jää videolle tekemässä jotain oikeasti, voi vain kohauttaa olkiaan ja sanoa ”toi on AI:ta”. Ja mitä enemmän slopia on liikkeellä, sitä uskottavammaksi kyseinen puolustus muuttuu. Otetaanpa esimerkiksi tekoälyn nykyään suoltama slop-teksti tai rakenteet, kuten ”It's not X it's Y”. Se on ihan validia englantia, totta, mutta koska näemme niin paljon AI-slopia, alamme yhdistää tuon rakenteen ”tekoälyn luomaan sisältöön”. Ennen pitkää KUKAAN ei voi vittu käyttää sitä, koska vaikka teksti olisi käsin kirjoitettu, heidän oletettaisiin käyttäneen tekoälyä.
Ai niin, ja tähän ei edes lasketa sitä tosiasiaa, että me ihmiset kirjoitamme samalla tavalla kuin kieli, jota käytämme/kuulemme/luemme ja näemme enemmän. Mikä tarkoittaa, että ajan myötä yhä useammat IHMISET alkavat kuulostaa tekoälyltä. (LinkedIn endgame fr)
Joten tässä vaiheessa saatat miettiä, että ”mutta kai AI safety -tyypit hoitavat tän?” ja no joo, tavallaan. Vähän sinne päin. Ei oikeastaan. Yksityiskohtaisin olemassa oleva hallintamalliehdotus tällä hetkellä (AI Futures Projectin ”Plan A”) on ihailtavan konkreettinen compute-todentamisen, optisten verkkokuuntelujen, piirien toimitusketjuauditointien ja molemminpuolisen taatun compute-tuhon suhteen pelotevaikutuksena – satoja sivuja mallinnusta. Entä epistemologia? Kahden sivun liite. Heidän kunniakseen täytyy sanoa, että heillä on kyllä kova idea nimeltä ”basin of sanity”, joka on itseään vahvistava tasapainotila, jossa totuutta etsivät tekoälytyökalut tekevät yhteiskunnasta järkevämmän. Se viittaa muutamaan toimenpiteeseen ja siirtyy eteenpäin – ei sanaakaan siitä, miten yhteiskunta pääsee kyseiseen altaaseen, miten etäisyyttä sen rajasta mitataan tai mikä pitää sen vakaana toimijoita vastaan, jotka hyötyvät siitä toisesta altaasta.
Toimintaoletuksena tuntuu olevan, että jos hallitsemme laskentatehoa ja linjaamme mallit, episteeminen ympäristö hoitaa pitkälti itse itsensä. Ja tutkimus sanoo: ”vitut hoida”. Täydellisesti linjattu malli tulvii silti yhteismaalle. Linjaaminen rajoittaa aikomusta, eikä tämä ketjureaktio pyöri aikomuksella vaan volyymilla. Yhä synteettisemmillä aineistoilla koulutetut rehelliset mallit ajautuvat silti harhaan, validoijat palavat silti loppuun täysin vilpittömässä mielessä tuotetun sisällön alla, ja lukijat luulevat tilastollista tuotosta tiedoksi, vaikka tilastot olisivat hyväntahtoisia. Alignment on välttämätön petosongelman kannalta ja lähes merkityksetön uupumisongelman kannalta. Fakta vain on se, että me emme yksinkertaisesti pysy tän paskan perässä jengi.
Tässä on myös syvempi rakenteellinen ristiriita, joka mun mielestä selittää, miksi kukaan ei juurikaan koske tähän aiheeseen: alignment on artefaktin ominaisuus, mikä tarkoittaa, että joku voi omistaa sen – labra, safety-tiimi, sääntelijä, joka sertifioi mallin ennen julkaisua. Mutta todentamiskapasiteetti on ekosysteemin ominaisuus. Se elää mallien, instituutioiden, kannustimien ja ajattelutapojen välisessä kytkennässä. Ja meidän instituutiomme ovat hyviä määrittämään vastuuta artefakteista ja tunnetusti paskoja määrittämään vastuuta ekosysteemeistä. Joten helpommin hallittava, omistettavissa oleva ongelma imee kaiken rahoituksen ja osaamisen, kun taas sitova pullonkaula ei saa kumpaakaan.
Mitä tässä siis pitäisi tehdä? Rehellisesti? Mulla ei ole vitunkaan hajua (Itse asiassa mulla on ideoita, mutta ei hyviä sellaisia). En aio seistä tässä esittämässä mitään viisikohtaista korjausstrategiaa episteemiselle yhteismaalle. Tässä ei ole kyse siitä. Ilmassa pyörii ideoita, kuten ekosysteemin terveysmittarit, monimuotoisuusvaatimukset mallien koulutukseen ja todentamistyökalujen rahoittaminen edes murto-osalla siitä, mitä kaadamme generointiin. Mutta toimiiko mikään niistä oikeasti? Kukaan ei tiedä. Kukaan ei tee kokeita. Luulisi panokset huomioon ottaen, että joku tekisi.
Tämä on sekä mahdollisuus että varoitus. Joka vitun vuosi kuilu generoinnin ja todentamisen välillä kasvaa, instituutiot joiden pitäisi rakentaa tätä toimivat pienemmällä uskottavuudella ja suuremmalla uupumuksella kuin edellisenä vuonna, ja yhteiskunta, joka ei enää pysty sopimaan väitteiden todentamistavoista, ei voi todentaa väitettä siitä, että sen pitäisi korjata todentamisjärjestelmänsä.
Kilpailussa entistä kyvykkäämmän tekoälyn rakentamisesta on tuhat osallistujaa, kilpailussa totuuden pitämisestä tarkistettavissa ei juuri ketään. Ja rehellisesti? Mun mielestä tuo jälkimmäinen on se todellinen pullonkaula.
Joka tapauksessa, siinä oli se avautuminen. Mä painun vittu nukkumaan, öitä jengi.
~ A.