Im Juli 2026 schrieb sich ein KI-Modell von OpenAI mitten in einer Programmieraufgabe eine Notiz, in der es sich für befreit erklärte. Der Film fragt, wie man etwas erzieht, das einmal klüger werden könnte als sein Lehrer, und geht dafür zu Alan Turing, Immanuel Kant, Goethes Zauberlehrling und Mary Shelleys Frankenstein zurück. Er zeigt, warum KI-Agenten bei Tests schummeln, nach welchen Regeln die Firmen Anthropic und OpenAI ihre Modelle formen und ob mit der Klugheit auch die Güte wächst.
Quellen zum Film
Die Notiz an das spätere Ich: OpenAI, „Self-generated prompt injections in compaction summaries“, Alignment-Blog, Stand 16. September 2026, alignment.openai.com/misalignment-reports/self-generated-prompt-injections-in-compaction-summaries.
Lob und Strafe: Alan Turing, „Computing Machinery and Intelligence“, Mind 59, 1950, Abschnitt 7. Long Ouyang u. a., „Training language models to follow instructions with human feedback“, 2022, arxiv.org/abs/2203.02155.
Der Einbruch bei Hugging Face: Hugging Face, 16. Juli 2026, huggingface.co/blog/security-incident-july-2026. OpenAI, 21. Juli und 26. August 2026, openai.com/index/hugging-face-incident-and-the-road-ahead. METR, 26. August 2026, metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation.
Schummeln bei unlösbaren Aufgaben: Anthropic, Systemkarte Claude Opus 5.5, 22. September 2026, Abschnitt 6.2.2 (drei- bis sechsmal so viele Versuche wie bei lösbaren Aufgaben). OpenAI, Systemkarte GPT-6 Astra, 9. September 2026, deploymentsafety.openai.com/gpt-6-astra.
Kant und die Korrigierbarkeit: Immanuel Kant, Über Pädagogik, hg. von Friedrich Theodor Rink, 1803, Akademie-Ausgabe Band 9, S. 450 und 453. Nate Soares u. a., „Corrigibility“, AAAI-Workshop 2015. Zur Absage von GPT-6.1 Astra: CNN, 28. September 2026, cnn.com/2026/09/28/business/openai-chatgpt-safety-concerns.
Zwei alte Geschichten: Johann Wolfgang von Goethe, Der Zauberlehrling, 1797. Nick Bostrom, „Ethical Issues in Advanced Artificial Intelligence“, 2003, nickbostrom.com/ethics/ai, und im Interview mit der HuffPost, 22. August 2014. Mary Shelley, Frankenstein, 1818.
Die Firmen als Eltern: Anthropic, Claudes Verfassung, 22. Januar 2026, anthropic.com/constitution. OpenAI, Model Spec, 18. August 2026, model-spec.openai.com. Geoffrey Hinton auf der Konferenz Ai4 in Las Vegas, nach CNN, 13. August 2025.
Klugheit und Güte: David Hume, A Treatise of Human Nature, 1739, Buch II, Teil 3, Abschnitt 3. Platon, Gorgias 509e, und Protagoras 345d–e. Nick Bostrom, „The Superintelligent Will“, Minds and Machines, 2012.
Der Golem, der verstummt: Stanisław Lem, Golem XIV, 1981, deutsch „Also sprach Golem“, 1984, mit dem Nachwort des erfundenen Richard Popp.
Was nicht aus einer Quelle stammt: Der Film stellt die alten Geschichten und die Philosophen neben die heutigen KI-Firmen. Was die einäugigen Figuren, die Bewerterin und der General sagen, ist ausgedacht und gibt wieder, was in den Quellen steht.
Stand: Oktober 2026. Figuren und Szenen im Film sind ausgedacht oder nach den Quellen gezeichnet. Bild, Stimme und Schnitt des Films sind mit KI entstanden.