Ein Sprachmodell schreibt einen angefangenen Text über englische Kirchtürme weiter. Ein zweites Modell lernt aus seinen Texten, ein drittes aus denen des zweiten. Das zehnte schreibt wirres Zeug über Hasen mit bunten Schwänzen. Dieser Verfall heißt Modellkollaps. Neue KI-Modelle lernen aus dem Netz, und dort steht schon viel Text, den KI geschrieben hat. Der Film erzählt, was Forscher über Sprach- und Bildmodelle herausgefunden haben, die von anderen Modellen lernen.
Quellen zum Film
Die Studie aus Oxford und Cambridge: Ilia Shumailov u. a., „AI models collapse when trained on recursively generated data“, Nature 631, 2024, S. 755–759, nature.com/articles/s41586-024-07566-y. Darin stehen das Beispiel mit den Kirchtürmen, der Versuch mit Wikipedia-Artikeln, der zweite Durchgang mit zehn Prozent der ursprünglichen Artikel und der Beweis für die Glockenkurve. Das Beispiel ist im Film übersetzt und gekürzt.
Eigene Rechnungen: Die Rechnungen mit dem Wortschatz und mit der Glockenkurve liefen jeweils fünfzigmal. Der Wortschatz besteht aus den tausend häufigsten Wörtern aus Grimms Märchen nach der Ausgabe unter gutenberg.org/ebooks/77905. Jede Generation zieht daraus fünftausend Wörter, bei der Glockenkurve hundert Körpergrößen. Im Film steht jeweils der Median dieser fünfzig Ergebnisse, also der Wert in der Mitte. Auch die Angabe, dass sechs von zehn Texten das seltene Wort nicht enthalten, stammt aus einer eigenen Rechnung.
Gesichter: Judith Langlois und Lori Roggman, „Attractive Faces Are Only Average“, Psychological Science 1(2), 1990, S. 115–121. Dass das Bildmodell Stable Diffusion zuletzt nur aus Bildern lernte, die ein Programm als schön einstufte, steht in seiner Modellkarte unter huggingface.co/CompVis/stable-diffusion-v1-4, Abschnitt Training. Wie dieses Programm entstand, beschreibt LAION, „LAION-Aesthetics“, August 2022, laion.ai/blog/laion-aesthetics. Dass KI-Gesichter durchschnittlicher und attraktiver wirken, fanden auch Elizabeth Miller u. a., „AI Hyperrealism“, Psychological Science 34(12), 2023.
Die Versuche an der Rice University: Sina Alemohammad u. a., „Self-Consuming Generative Models Go MAD“, ICLR 2024, arxiv.org/abs/2307.01850. Darin stehen das Gittermuster, der Regler für das Typische und die Versuche mit frischen echten Bildern.
Die Versuche aus Stanford: Matthias Gerstgrasser, Rylan Schaeffer, Sanmi Koyejo u. a., „Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data“, COLM 2024, arxiv.org/abs/2404.01413. Ersetzen und Anhäufen stehen in Tabelle 2, die Gesichter mit Brillen in Abbildung 6. Die Texte, die in diesem Versuch als echt galten, waren Kindergeschichten, die ein Sprachmodell geschrieben hatte.
KI-Text im Netz: Graphite, „AI Now Writes as Many Online Articles as Humans“, 15. Mai 2026, graphite.io/five-percent/research/ai-now-writes-as-many-online-articles-as-humans-do. Graphite ist eine amerikanische Marketingagentur. Sie ließ 55.400 englischsprachige Artikel mit drei Programmen prüfen, die KI-Text erkennen.
Programmierfragen: Stack Overflow ist ein Forum für Fragen zum Programmieren. Eine eigene Abfrage am 16. Oktober 2026 hat gezählt, wie viele neue Fragen dort jeden Monat gestellt wurden. Gelöschte Fragen sind darin nicht enthalten. Zum Vergleich mit ähnlichen Foren auf Russisch und Chinesisch, deren Nutzer kaum an ChatGPT herankamen: Maria del Rio-Chanona, Nadzeya Laurentsyeva und Johannes Wachs, „Large language models reduce public knowledge sharing on online Q&A platforms“, PNAS Nexus 3(9), 2024, doi.org/10.1093/pnasnexus/pgae400.
Künstliche Trainingstexte bei Microsoft und Meta: Dass beim Modell Phi-4 vierzig Prozent der Trainingstexte von KI geschrieben waren, steht bei Marah Abdin u. a., „Phi-4 Technical Report“, Microsoft, 2024, arxiv.org/abs/2412.08905, Tabelle 5. Das Llama Team von Meta beschreibt den Versuch, in dem das Modell aus Programmcode lernte, den es selbst geschrieben hatte: „The Llama 3 Herd of Models“, 2024, arxiv.org/abs/2407.21783, Abschnitt 4.3.1.
Ross Anderson, Mitautor der Nature-Studie, im Blog Light Blue Touchpaper: „Will GPT models choke on their own exhaust?“, 6. Juni 2023, lightbluetouchpaper.org/2023/06/06/will-gpt-models-choke-on-their-own-exhaust. Das Zitat über das Netz voller Gerede ist übersetzt, im Original steht „blah“.
Der alte Stahl: Die Sammlung von Texten aus der Zeit vor ChatGPT liegt unter lowbackgroundsteel.ai, darunter der Bestand von Wikipedia vom 20. August 2022. Abgerufen am 15. Oktober 2026. Zum Stahl selbst der Wikipedia-Artikel „Low-background steel“.
Ohne Quelle: Der Vergleich mit der genetischen Drift und die Körpergrößen als Beispiel für die Glockenkurve sind eigene Beispiele des Films. Für die Porträts im Film bekamen drei Bildmodelle den Auftrag, das Foto einer beliebigen Person zu machen. Dass bisher kein großes Modell nachweislich durch KI-Text aus dem Netz schlechter wurde, ist der Stand der Recherche.
Stand: Oktober 2026. Bild, Stimme und Schnitt des Films sind mit KI entstanden.