Okay, in letzter Zeit werde ich absolut bombardiert mit diesem Zeug: Video-Essays über das Ende der Wahrheit, Dead-Internet-Theory-Threads, es ist überall in meinen Feeds und kommt auch im Freundeskreis ständig auf – immer dieselbe Endlosschleife, wo jemand was teilt und jemand anderes meint: „Warte, ist das überhaupt echt?“, und niemand kann es wirklich beantworten. Und weil GenAI es immer einfacher macht, halbwegs plausiblen Slop rauszuhauen, wird es echt verdammt schwer zu sagen, wtf wahr ist und was nicht. Also habe ich mich endlich mal hingesetzt und mir reingezogen, was die eigentliche Forschung dazu sagt, und ich muss mir das jetzt einfach von der Seele schreiben – denn je mehr ich lese, desto überzeugter bin ich, dass der Großteil der KI-Risikodebatte auf die völlig falsche Apokalypse starrt.
Und hier wird es interessant – der Diskurs dreht sich fast nur um Täuschung. Ränkespielende Modelle. Superintelligenzen, die ihre Evaluatoren austricksen, bis sie es nicht mehr nötig haben. Und versteht mich nicht falsch: Seriöse Leute haben ganze Karrieren auf diesen Fragen aufgebaut, das kann man kaum einfach so abtun. Aber es gibt einen viel leiseren Fehlermodus, der überhaupt keine Intrigen, keine Superintelligenz und keinerlei Bosheit braucht. Alles, was er braucht, ist Masse.
Im Januar 2026 haben Forschende Probanden KI-generierte Deepfake-Videos von Verbrechen gezeigt und ihnen vorab explizit gesagt, dass die Videos gefälscht sind – und es war völlig EGAL. Selbst die Teilnehmenden, die bewusst akzeptiert hatten: „Ja, das ist ein Fake“, blieben von dem beeinflusst, was sie gesehen hatten. Das ist so viel verstörender als bloß „Deepfakes sind überzeugend“, denn es bedeutet: Zu wissen, dass etwas fake ist, schützt einen nicht mehr verlässlich davor. Die Maschinerie im Kopf, die Sehen in Glauben verwandelt, hat sich für eine Welt entwickelt, in der etwas zu sehen bedeutete, dass es wahrscheinlich auch passiert ist. Und diese Maschinerie wurde nie dafür gebaut, in einer Umgebung zu funktionieren, in der der Großteil dessen, was vor deine Augen kommt, künstlich hergestellt sein könnte.
(Ich fange echt an, diese verdammte Timeline immer mehr zu hassen, gng)
Wenn man das auf die Größe des Internets hochskaliert, na ja, dann wird die Lage VERDAMMT SCHNELL düster. Mitte 2025 gab es bereits über 1.200 KI-generierte „News“-Seiten, die unter plausibel wirkenden Impressen in 16 Sprachen publizierten; die EU zählte bei 27 % der ausländischen Informationsmanipulationsversuche KI-Beteiligung – fast dreimal so viel wie im Jahr davor –, und KI-generierte irreführende Posts gingen unverhältnismäßig viral, obwohl sie meist von kleinen Accounts stammten. Und so beginnt die Enslopification des Internets. ⊙﹏⊙
Nun ja, es war alles ein riesiger Spaß, bis die Dead-Internet-Theorie anfing, wirklich irgendwie vielleicht zu 100 % überwältigend wahr zu sein. Ich erinnere mich noch an eine Studie, über die ich während COVID gestolpert bin, wo sinngemäß stand: Ab diesem Jahr macht Bot-Traffic den Großteil des Internet-Traffics aus. „Slop Farms“ (fuck, was für ein dystopischer Begriff, wenn man mal drüber nachdenkt) haben kapiert, dass Engagement-Bait-Bilder in Massenproduktion so gut wie gar nichts kosten und die Empfehlungsalgorithmen sie den Boomern mit Freuden millionenfach vor die Füße kippen (Shrimp Jesus, mein Geliebter).
Bruder, es gibt mittlerweile buchstäblich „Autoren“, „Musiker“ und „Fotografen“, die einfach nur ein verdammter Prompt-Loop mit verknüpftem Auszahlungskonto sind.
Das Beschissene daran ist nicht mal, dass die Leute verarscht werden – Trottel gab es im Internet schon immer –, sondern dass die Leute irgendwie aufgegeben haben, in ihren Feeds überhaupt noch herausfinden zu wollen, was wahr ist (I'm tired boss ToT). Hank hatte in einem seiner Videos übrigens einen sehr guten Punkt dazu, zieht's euch mal rein, ist ganz nice:
Wie auch immer, zurück zum Thema: „epistemischer Kollaps“. Der Begriff geistert derzeit durch mindestens vier verschiedene Forschungs-Communitys, und sie meinen damit nicht ganz dasselbe. Das hat mich zuerst genervt, aber je länger ich darüber nachdenke, desto mehr glaube ich, dass sie eher Phasen einer einzigen Kaskade beschreiben als vier getrennte Probleme.
Die ML-Leute meinen Model Collapse, bei dem man ein Modell auf den Outputs eines vorherigen Modells trainiert, das ein paar Mal wiederholt, und die Ränder der ursprünglichen Verteilung verschwinden, während jede Generation weiter von jeglicher Ground Truth abdriftet, an die sie mal verankert war – und das wurde übrigens mathematisch bewiesen. Model Collapse lässt sich beim Training ausschließlich auf synthetischen Daten nicht vermeiden. Die Ökosystem-Variante ist noch schlimmer: Als Forschende 27 LLMs über 155 Themen hinweg getestet haben, war jedes einzelne epistemisch weniger vielfältig als eine einfache Websuche, und die größeren Modelle produzierten weniger vielfältige Aussagen.
Die KI-Ethik-Leute meinen den Validierungs-Overload: Peer-Reviewer, Faktenchecker, Redaktionen, Gerichte, Lehrkräfte – alles rate-limitierte Systeme, die versuchen, mit einem Generierungsprozess Schritt zu halten, der durch nichts Menschliches mehr rate-limitiert ist; mehr Behauptungen, als irgendjemand prüfen kann; synthetischer Content, der sich selbst nährt; und die Menschen, die das überprüfen sollen, brennen einfach... aus.
Die Philosophen meinen etwas, das sie „Misrecognition“ nennen, was hochtrabend klingt, aber für mich persönlich der beunruhigendste Punkt ist. Also: Ein Modell weiß weder, was es produziert, noch behauptet es, den Inhalt zu kennen. Seine Outputs sind bloß statistische Verteilungen. Und wenn Lesende diese Outputs trotzdem wie eine Wissensbehauptung behandeln, übernehmen sie die epistemische Arbeit stellvertretend für das Modell. Sie leihen etwas ihre eigene Glaubwürdigkeit, das von sich aus gar keine besitzt. Und jetzt multipliziert man diesen winzigen Akt mit Milliarden täglicher Interaktionen – und man erhält eine Gesellschaft, die systematisch falsch einschätzt, wie viel verifiziertes Wissen sie tatsächlich besitzt.
Und die Sozialwissenschaftler meinen das, was in den Nachrichten landet: voneinander abgekoppelte Informationsrealitäten, verlorener gemeinsamer Nenner, Radikalisierung in Silos – meist als isoliertes Phänomen abgetan, als „Social-Media-Problem“ oder „Polarisierungsproblem“, aber ich glaube, das ist nur der oberflächliche Ausdruck von all dem, was darunter liegt.
Man bemerkt langsam, dass die Kaskade in einer Art Abfolge abläuft. Während der technische Kollaps die Werkzeuge verschlechtert, wird die Validierungs-Infrastruktur mit Slop regelrecht überflutet. Diese Systeme wurden nie für diesen Durchsatz ausgelegt. Misrecognition normalisiert sich, weil unverifizierter Content zunehmend das Einzige ist, was noch existiert. Und am Ende zersplittert die gemeinsame Realität, von der jede kollektive Entscheidungsfindung abhängt, einfach... in Stücke.
Der naheliegende Einwand wäre jetzt: Falschinformationen sind schon seit der Antike ein Problem. Die Menschheit hat noch nie in einer epistemisch sauberen Umgebung gelebt, weshalb wir überhaupt erst Fachzeitschriften, Gerichte, Redaktionen und Peer-Reviews haben. Was neu ist, sind die Grenzkosten der Täuschung (Unit Economics of Deception). Jede Verifikationsinstitution, die wir haben, geht davon aus, dass die Erstellung einer glaubwürdig wirkenden Behauptung irgendetwas kostet – sei es Zeit, Expertise, Reputation, Druckerpressen oder was auch immer tf. Die Grundannahme war: Verifikation darf langsamer sein als Generierung, weil Generierung eben auch teuer war. Das stimmt nicht mehr. Eine plausible Behauptung zu generieren, kostet heute so gut wie einen Scheißdreck, während das Überprüfen immer noch genauso viel kostet – wenn nicht sogar mehr in dieser völlig kaputten Wirtschaft.
Es gibt da auch dieses formalisierte Paradoxon, das mir in den Sinn kommt: Sobald synthetische Medien von authentischen Medien nicht mehr zu unterscheiden sind, ist der individuell rationale Schritt, jegliche digitalen Beweise abzuwerten, anstatt Wahres von Falschem zu trennen – das Endgame ist also eine Welt, in der Beweise überhaupt nicht mehr funktionieren. In der ganzen Scheiße verliert am Ende die Währung ihren Wert.
Die Kehrseite ist die „Liar's Dividend“: Sobald jeder weiß, dass überzeugende Fakes existieren, kann jeder, der auf Video bei etwas Echtem erwischt wird, einfach mit den Schultern zucken und sagen: „Das ist KI“. Und je mehr Slop da draußen herumfliegt, desto plausibler wird diese Ausrede. Nehmen wir mal diesen KI-Slop-Text, der heutzutage generiert wird, oder Muster wie: „It's not X it's Y“. Das ist valides Englisch, klar, aber weil wir so viel KI-Slop sehen, fangen wir an, dieses Muster automatisch mit „KI-generiertem Content“ zu assoziieren – und schwupps kann das verdammt noch mal NIEMAND mehr benutzen, weil man selbst bei handgeschriebenem Text sofort unterstellt bekommt, man hätte KI genutzt.
Oh, und da ist noch nicht mal die Tatsache eingerechnet, dass wir Menschen ähnlich schreiben wie die Sprache, die wir tagtäglich nutzen/hören/lesen und sehen. Was bedeutet, dass mit der Zeit immer mehr MENSCHEN anfangen werden, wie KI zu klingen. (LinkedIn-Endgame, fr)
An diesem Punkt denkst du dir vielleicht: „Aber die KI-Sicherheitsleute kümmern sich doch sicher darum?“ Und ja, irgendwie schon. Gewissermaßen. Eigentlich nicht wirklich. Der detaillierteste Governance-Vorschlag, den es aktuell gibt („Plan A“ vom AI Futures Project), ist bewundernswert konkret bei Compute-Verifikation, optischen Network-Taps, Audits von Chip-Lieferketten, gegenseitig zugesicherter Compute-Vernichtung als Abschreckung, hunderte Seiten an Modellierungen – und zur Epistemik? Ein zweiseitiger Anhang. Man muss ihnen zugutehalten, dass sie eine echt starke Idee namens „Basin of Sanity“ haben – ein sich selbst verstärkendes Gleichgewicht, in dem wahrheitssuchende KI-Tools die Gesellschaft vernünftiger machen. Es deutet eine Handvoll Interventionen an und zieht weiter; kein Wort darüber, wie eine Gesellschaft überhaupt in dieses Becken gelangt, wie man den Abstand zu seiner Grenze misst oder was es gegen Akteure stabil hält, die vom anderen Becken profitieren.
Die stillschweigende Annahme scheint zu sein: Wenn wir Compute kontrollieren und die Modelle alignen, regelt sich das epistemische Umfeld im Grunde von selbst. Und die Forschung sagt dazu: „Fuck no, wird es nicht.“ Ein perfekt gesealignetes Modell flutet die Allmende immer noch; Alignment schränkt Absichten ein, aber diese Kaskade läuft nicht über Absichten, sie läuft über Volumen. Ehrliche Modelle, die auf zunehmend synthetischen Korpora trainiert werden, driften trotzdem ab; Validatoren brennen trotzdem an Inhalten aus, die in bester Absicht produziert wurden; Lesende halten statistische Outputs immer noch für Wissen, selbst wenn die Statistik harmlos ist. Alignment ist notwendig für das Täuschungsproblem – und fast völlig irrelevant für das Erschöpfungsproblem. Tatsache ist einfach: Wir kommen bei dieser Scheiße einfach nicht mehr hinterher, gng.
Hier liegt auch ein tieferes strukturelles Missverhältnis vor, das meiner Meinung nach erklärt, warum kaum jemand dieses Thema anfasst: Alignment ist die Eigenschaft eines Artefakts. Das bedeutet, jemand kann es besitzen – ein Labor, ein Safety-Team, eine Regulierungsbehörde, die ein Modell vor dem Release zertifiziert. Aber Verifikationskapazität ist die Eigenschaft eines Ökosystems; sie existiert in der Kopplung zwischen Modellen, Institutionen, Anreizen und Denkgewohnheiten. Und unsere Institutionen sind gut darin, Verantwortung für Artefakte zuzuweisen, und notorisch beschissen darin, Verantwortung für Ökosysteme zuzuweisen. Also zieht das greifbare, besitzbare Problem die gesamte Kohle und das Talent an, während der eigentliche Flaschenhals leer ausgeht.
Was ist also der Plan? Ganz ehrlich? Ich habe keine verdammte Ahnung (eigentlich habe ich schon Ideen, aber keine guten). Ich stelle mich jetzt nicht hin mit einer 5-Punkte-Sanierungsstrategie für die epistemische Allmende. Darum geht's hier nicht. Es kursieren Ideen wie: Metriken für Ökosystem-Gesundheit, Diversitätsvorgaben fürs Modelltraining, Verifikations-Tools, die auch nur mit einem Bruchteil dessen finanziert werden, was wir in die Generierung pumpen. Aber ob irgendetwas davon tatsächlich funktioniert? Weiß kein Mensch. Niemand führt das Experiment durch. Man sollte meinen, angesichts dessen, was auf dem Spiel steht, dass es irgendwer tun würde.
Das ist Chance und Warnung zugleich. Mit jedem verdammten Jahr wird die Kluft zwischen Generierung und Verifikation größer; die Institutionen, die dieses Zeug aufbauen müssten, agieren mit weniger Glaubwürdigkeit und mehr Erschöpfung als im Vorjahr – und eine Gesellschaft, die sich nicht mehr darauf einigen kann, wie Behauptungen verifiziert werden, kann auch die Behauptung nicht mehr verifizieren, dass sie ihre Verifikationssysteme reparieren sollte.
Am Rennen um fähigere KI nehmen tausende teil; am Rennen darum, Wahrheit überprüfbar zu halten, fast niemand. Und ganz ehrlich? Ich glaube, das Zweite ist der eigentliche Flaschenhals.
Wie auch immer, das war der Rant. ich geh jetzt verdammt noch mal pennen, gn leute.
~ A.