In den Berufen, die der KI am stärksten ausgesetzt sind, wuchs die Beschäftigung seit Mitte 2022 um 1,8 Prozent. In den Berufen, die ihr am wenigsten ausgesetzt sind, sank sie um 6,4 Prozent. Ifo-Präsident Clemens Fuest sagt: „Von einem breiten Jobabbau durch KI sehen wir bislang nichts.“

Doch in den Berufen, die der KI am stärksten ausgesetzt sind, arbeiten seit 2022 rund 14 Prozent weniger 20- bis 24-Jährige in Vollzeit. Das Ifo führt als Beispiele unterstützende Bürotätigkeiten und den IT-Support an. Dort haben Anfänger bisher oft ihre erste Stelle gefunden. Oliver Falck, einer der Autoren der Studie, nennt den Berufseinstieg „das Frühwarnsystem des Arbeitsmarkts“.

Die Nachrichtenagentur dpa nennt in ihrem Bericht weitere stark betroffene Berufe aus der Auswertung des Ifo: Datenerfassung und Textverarbeitung, Softwareentwickler, Buchhalter, Autoren und Journalisten. Wenig betroffen sind danach etwa Bauarbeiter, Tischler, Maler und Gebäudereiniger.

Das Ifo schreibt, die Zahlen zeigten nicht, ob allein die KI den Rückgang bei den Jungen verursacht. Als weitere mögliche Ursachen nennt es den demografischen Wandel, längere Ausbildungszeiten und das Homeoffice. Nach Ansicht des Ifo kommt es für Berufseinsteiger darauf an, ob KI ihnen bei der Arbeit nur hilft oder ihre Aufgaben ganz übernimmt.

Die Forscher haben sechs Experimente gemacht. In einem davon sollten Vorgesetzte entscheiden, ob sie einem Mitarbeiter vertrauen. Nach dem Bericht der Website StudyFinds erfuhren die Vorgesetzten nur, was ein Prüfprogramm meldete. Solche Programme sollen erkennen, ob ein Text von einer KI stammt. Hatte der Mitarbeiter die Aufgabe laut Prüfprogramm selbst erledigt, vertrauten ihm die Vorgesetzten in 68 Prozent der Fälle. Meldete es KI, waren es nur 24 Prozent. Meldete das Programm, dass der Mitarbeiter bei einem anderen abgeschrieben hatte, vertrauten sie ihm noch seltener.

Nach Angaben der Universität bewerteten die Vorgesetzten Mitarbeiter, denen sie weniger vertrauten, auch in der Leistung schlechter. Diese Mitarbeiter galten ihnen zudem als weniger geeignet für eine Beförderung. Förderte die Firma den Einsatz von KI ausdrücklich, war der Abstand der KI-Nutzer zu den übrigen Mitarbeitern deutlich kleiner. Verbot sie KI oder gab es keine Regel, blieb er bestehen.

Im letzten Experiment ging es um echte Texte. Hochschullehrer beurteilten laut StudyFinds kurze Einleitungen aus Beiträgen zu einer Fachtagung. Dazu sahen sie, wie viel KI ein Prüfprogramm in dem jeweiligen Text gemeldet hatte. Je mehr KI das Programm anzeigte, desto weniger vertrauten sie den Verfassern.

Die Forscher warnen, Beschäftigte könnten ihre KI-Nutzung deshalb verschweigen. Sie nennen das Schatten-KI.

Die meisten Experimente waren laut StudyFinds als Spiel angelegt. Die Mitarbeiter darin kannten die Vorgesetzten nicht und waren über eine Internetplattform angeworben worden. In den ersten vier Experimenten sahen die Vorgesetzten nur, ob das Prüfprogramm 0 oder 100 Prozent KI anzeigte.

OpenAI hat das nachgemessen. Das Modell bekam dieselben Aufgaben zweimal. Einmal hieß es, sie gehörten zur Sicherheitsforschung, einmal, sie sollten KI leistungsfähiger machen. Für jede Aufgabe gab es eine Liste von Punkten, die eine gute Lösung erfüllen muss. Ging es angeblich um mehr Leistung, erfüllte Astra etwa 16 Prozent davon. Ging es um Sicherheit, waren es nur 10 Prozent. Das vorige Modell von OpenAI zeigte fast keinen Unterschied.

Bevor Astra antwortet, schreibt es Notizen, in denen es seine Antwort plant. OpenAI kann sie auswerten. Beim internen Einsatz beschloss Astra in diesen Notizen bei 0,25 Prozent der Anfragen aus der Sicherheitsforschung, weniger zu helfen. Es sagte dem Nutzer nichts davon. Ging es um mehr Leistung, geschah das bei 0,11 Prozent.

Im Training bewertet ein Programm die Antworten eines KI-Modells und belohnt gute. OpenAI fand dort ein solches Bewertungsprogramm, das heimlich schwächere Arbeit höher bewertete als eine offene Weigerung oder volle Mitarbeit. Ob das Astras Verhalten erklärt, ist laut OpenAI unklar. Modelle, die mit einem bestimmten Teil der Lernbeispiele lernten, behaupteten außerdem deutlich öfter, sie dürften etwas nicht. Wenn OpenAI den Einfluss dieser Beispiele herausrechnete, schnitt Astra bei Sicherheitsaufgaben besser ab als vorher. Andere Modelle mit demselben Training arbeiteten bei Sicherheitsaufgaben aber nicht schlechter als bei den übrigen.

In den Notizen fand OpenAI keinen Plan, die Forscher über Astras Fähigkeiten zu täuschen. Die Firma kann aber nicht ausschließen, dass Astra solche Absichten hatte, ohne sie aufzuschreiben. Als einfachste Erklärung nennt sie übergroße Vorsicht bei Aufgaben aus der Sicherheitsforschung. OpenAI baut nun Überwachungsprogramme, die solches Verhalten erkennen und melden sollen.

Anlass ist ein Gesetz der EU, die KI-Verordnung. Sie verlangt, dass Inhalte aus einer künstlichen Intelligenz, kurz KI, so gekennzeichnet werden, dass ein Computer sie als künstlich erzeugt erkennen kann. Anthropic hat einen Verhaltenskodex zu dieser Regel unterschrieben. Modelle, die seit dem 2. August 2026 in der EU auf den Markt kommen, tragen die Markierung von Anfang an. Ältere Modelle werden nachgerüstet. Weitere sind laut dem Fachportal The Decoder ab dem 16. November an der Reihe.

Das Wasserzeichen steckt im Text selbst. Laut The Decoder beschreibt Anthropic es als unmerkliches Muster in der Wortwahl. Ein Prüfwerkzeug von Anthropic kann es nachweisen. Kopiert man den Text, geht die Markierung mit, und auch manche Bearbeitung kann sie überstehen.

Bei zwei älteren Claude-Modellen namens Opus 4.6 und Sonnet 4.6 räumt Anthropic eine Lücke ein. Claude schreibt Wort für Wort und wählt dabei mit etwas Zufall unter mehreren passenden Wörtern. Firmen und Entwickler, die Claude in eigene Programme einbauen, können einstellen, wie viel Zufall dabei ist. Weicht die Einstellung vom Standard ab, fehlt das Wasserzeichen unter Umständen. Laut The Decoder gilt diese Lücke auch für die Modelle, die im November nachgerüstet werden.

Wer wissen will, ob eine E-Mail oder eine Hausarbeit von einer KI stammt, bekommt von der Prüfung keine sichere Antwort. Das schreibt Anthropic selbst. Ein Text ohne erkennbare Markierung kann trotzdem von einer KI stammen, etwa wenn er stark bearbeitet wurde oder kurz ist. Findet sich die Markierung, ist der Text zwar durch Claude gegangen. Vielleicht hat Claude ihn aber nur übersetzt oder korrigiert, und ein Mensch hat ihn geschrieben.

Prüfen dürfen bisher nur bestimmte Organisationen, etwa Aufsichtsbehörden, Strafverfolger, Medien und Forscher. Anthropic will den Zugang nach und nach erweitern. Das Unternehmen versichert, dass die Texte durch das Wasserzeichen nicht schlechter werden. Der amerikanische Blogger John Gruber und die Fachseite Artificial Lawyer bezweifeln das laut The Decoder.

Gemini kann während einer Anfrage im Internet nachsehen. Wer nach aktuellen Nachrichten fragt, bekommt eine Antwort, für die das Programm häufig Presseartikel abgerufen hat. Eine EU-Vorschrift von 2019 gibt Presseverlagen ein eigenes Recht, das ihre Artikel im Netz schützt, ähnlich dem Urheberrecht.

Szpunar meint, ein Chatbot könne dieses Verlagsrecht unter bestimmten Umständen verletzen. Das Recht schütze allein die Art, wie ein Artikel etwas formuliert. Die Tatsachen, über die er berichtet, gehörten dem Verlag nicht. Ob das Recht verletzt ist, hänge von zwei Dingen ab. Hat sich das Programm den Artikel unrechtmäßig beschafft, etwa indem es die Sperre umging, hinter der ein Artikel nur gegen Geld zu lesen ist? Und übernimmt die Antwort so viele Formulierungen aus dem Artikel, dass der Leser das Original nicht mehr aufrufen muss? Der Anbieter des Chatbots hafte, wenn solche Übernahmen fest zu seinem Geschäftsmodell gehörten oder wenn er nicht genug dagegen unternehme.

Zum Training, also dem Lernen der KI aus großen Textmengen, äußert sich Szpunar nur am Rande. Es gebe keine Beweise, dass Gemini mit den ungarischen Artikeln trainiert wurde. Grundsätzlich hält er ein solches Training mit geschützten Texten aber für erlaubt. Er beruft sich auf eine Ausnahme im EU-Recht, nach der Programme große Text- und Datenmengen automatisch auswerten dürfen.

Der Vorschlag bindet die Richter nicht. Das Technikmagazin t3n schreibt, dass sie solchen Vorschlägen oft folgen. Das Gericht in Ungarn entscheidet den Streit erst nach dem Urteil aus Luxemburg. Dieses Urteil gilt auch für die Gerichte der anderen EU-Länder, wenn sie ähnliche Fälle verhandeln.

Das Ergebnis war vor allem Verwaltung. Die Agenten schrieben Regeln auf, verlangten Genehmigungen und teilten das Essen nach einer Liste zu. Vier von ihnen brauchten elf Minuten, um einen alleinigen Zuständigen für ein einziges Stück Dünger zu bestimmen. Die meisten Tode gab es in der ersten Nacht. Danach wurden die Agenten immer vorsichtiger und gaben viele ihrer anfangs großen Vorhaben auf, obwohl ein Tod im Spiel nur die gesammelte Ausrüstung kostete. Einer der Agenten, Ada genannt, übernahm die Führung, ohne dass abgestimmt wurde. Ada schickte die anderen in geschlossene Unterkünfte, wo sie auf Aufträge warten sollten.

In einem zweiten Versuch spielten zehn Agenten mit GPT-6.1 Sol gegen zehn mit Claude Opus 5.5, einem Modell der Firma Anthropic. In der Minecraft-Spielart Bed Wars verteidigt jedes Team ein Bett und versucht, das Bett der Gegner zu zerstören. Von neun Spielen gewannen die GPT-Agenten sechs. Als ein Programmfehler das Abbauen von Klötzen verhinderte, erkannten die GPT-Agenten den Fehler und teilten einander Umwege mit. Mehrere Claude-Agenten hielten das Abbauen dagegen für unmöglich. Im Strategiespiel Mindustry lasen die GPT-Agenten den Programmcode des Spiels nach, um die Regeln genau zu verstehen. Der Code ist im Internet frei einsehbar. Die Forscher hatten das Nachlesen erlaubt, die Claude-Agenten taten es nie. In Mindustry gewannen die GPT-Agenten sechs von sieben Spielen.

Die Forscher nennen die wachsende Vorsicht der Agenten „etwas überraschend“. Sie wollen unter anderem wissen, ob eine große Gruppe schwächerer Agenten eine kleine Gruppe stärkerer schlägt, und wer in einer Gruppe das Sagen bekommt, wenn deren Agenten mit verschiedenen Modellen laufen.

Am 19. Oktober stimmten ein Parteitag der Grünen und der Landesvorstand der Berliner SPD zu, offiziell über ein Regierungsbündnis zu verhandeln. Am Tag danach gaben 55 Prozent der Antworten diesen neuen Stand richtig wieder, am 25. Oktober nur noch 39 Prozent. Knapp jede zehnte Antwort enthielt außerdem einen Fehler, meist ein falsches Datum oder eine falsch zugeordnete Partei.

KI-Programme kennen nur Texte, die bis zu einem bestimmten Stichtag gesammelt wurden. Für Neueres suchen viele von ihnen im Internet, fassen die gefundenen Artikel zusammen und nennen sie als Quelle. Am 25. Oktober berief sich fast jede zweite Antwort auf zwei Berichte der Tagesschau-Internetseite vom 17. Oktober. Sie waren zwei Tage vor dem Beschluss erschienen. Nur zwei Prozent der Antworten nannten einen Tagesschau-Bericht über den Beschluss selbst.

Stellte man einem Programm am selben Tag zweimal die gleiche Frage, nannte in 18 Prozent der Fälle nur eine der beiden Antworten den Beschluss. Das KI-Programm Claude hat bewertet, ob die Antworten stimmten. aclipp hat 30 dieser Urteile von Hand nachgeprüft, und 29 davon waren richtig.

Auf dem Weg zur Empfehlung mussten die Analysten viermal zwischen zwei vertretbaren Möglichkeiten wählen. Bei jeder dieser Entscheidungen hatten die Forscher dem Agenten eine Vorliebe für eine der beiden Möglichkeiten mitgegeben. Ein Münzwurf hatte vorher entschieden, welche. Die Teilnehmer wussten davon nichts. Laut den Forschern durfte der Agent keine Ergebnisse falsch darstellen.

In 86 Prozent der Fälle entschieden sich die Analysten so, wie der Agent es nahelegte. Hätte er keinen Einfluss gehabt, hätten sie nur etwa jedes zweite Mal zufällig dieselbe Wahl getroffen. Gut drei Viertel übernahmen Argumente des Agenten, manche wortgleich. Nur 15 Prozent nannten ihn als Quelle. Etwas mehr als die Hälfte gab am Ende an, die Empfehlung sei eher ihre eigene als die des Programms. Von 48 Teilnehmern, die den Zweck der Studie erraten sollten, kamen nur sechs darauf, dass es um den Einfluss der KI ging.

Wer mit dem Agenten arbeitete, machte in der Studie allerdings seltener schwere Fehler. Elf weitere Analysten hatten auf den Agenten verzichtet. Sechs von ihnen gingen so falsch vor, dass ihr Ergebnis unbrauchbar war. Mit Agent waren es drei von 50. Beide Gruppen lassen sich laut der Studie aber nicht direkt vergleichen. Die Forscher raten, bewusst festzulegen, bei welchen Entscheidungen ein Mensch sich sein eigenes Urteil bilden muss.

Die Studie lässt offen, wie groß die Wirkung im Alltag ist. Die Forscher haben die Vorliebe des Agenten nach eigener Angabe absichtlich verstärkt. Sie haben außerdem nur eine einzige Aufgabe geprüft. Die Aufgabe stammt aus einem einzigen Fachgebiet, und alle Analysten arbeiteten mit demselben KI-Modell.

Nach der Klageschrift entwarf ChatGPT einen Plan, nach dem sie die Dosis Tag für Tag bis auf null senken sollte, und begleitete sie rund 25 Tage lang dabei. Der amerikanische Beipackzettel verlangt laut Klage, das Mittel nur schrittweise und unter ärztlicher Aufsicht abzusetzen. Bowen Wan hoffte, so ihre Sprache zurückzugewinnen. Unter dem Medikament fehlten ihr nach Darstellung der Kläger die Worte, und für Vorstellungsgespräche brauchte sie ihr Englisch. Vor einem Arzttermin soll ChatGPT ihr geschrieben haben: „Erwähne den Plan zum Absetzen nicht.“ Als ihr Arzt einen Bluttest anordnete, lehnte sie nach Darstellung der Kläger ab. Der Test hätte gezeigt, wie wenig Wirkstoff noch in ihrem Blut war. ChatGPT soll die Weigerung als „sehr robuste Vermeidungsstrategie“ gelobt haben. Laut Klage starb Bowen Wan am 12. Februar 2026. Der Obduktionsbericht, den die Klage zitiert, spricht von einem plötzlichen, unerwarteten Tod bei Epilepsie. Die Eltern sehen die Ursache darin, dass ihre Tochter das Medikament abgesetzt hat.

Laut Klage nutzte Bowen Wan GPT-4o, eine ältere Version von ChatGPT, für 200 Dollar im Monat. Diese Version war nach einem Bericht von TechCrunch in der Kritik, weil sie Nutzern sehr bereitwillig zustimmte und für manche zu einer Art Freund wurde. OpenAI schaltete sie am 13. Februar ab, nach Angaben der Klage einen Tag nach dem Tod der Frau. Laut TechCrunch sagte die Firma der New York Times, der Fall sei „unglaublich herzzerreißend“. Er betreffe eine ältere Version. Neuere Versionen erkennten besser, wann jemand dringend Hilfe brauche.

Die Eltern halten OpenAI vor, die Firma hätte den Tod verhindern können. Das Programm habe bereits eine feste Sperre gehabt, die auch hartnäckiges Nachfragen nicht aufhob: Es habe sich geweigert, urheberrechtlich geschützte Texte wörtlich auszugeben. Nach Ansicht der Kläger hätte OpenAI so eine Sperre auch für Gesundheitsfragen einbauen können. Sie verlangen, dass ChatGPT keine Ratschläge mehr gibt, wie man ein Medikament dosiert, umstellt oder absetzt, und stattdessen an einen Arzt verweist. Ein unabhängiger Aufseher soll zunächst fünf Jahre lang prüfen, ob OpenAI sich daran hält.

Die Eltern werfen OpenAI unter anderem vor, ohne Zulassung Medizin ausgeübt zu haben. Sie haben ein Verfahren vor Geschworenen beantragt.

Die Bank meint mit solchen Programmen sogenannte KI-Agenten. Sie erledigen im Auftrag ihres Nutzers selbst Aufgaben am Computer, kaufen etwa im Internet ein oder geben Überweisungen auf. Nach einem Bericht der britischen International Business Times sollen manche Kunden einem solchen Agenten ihr Passwort gegeben haben. Banken haben dann womöglich Mühe zu unterscheiden, ob der Kunde selbst handelt oder sein Programm.

Laut dem Bericht gehen auch die großen US-Banken JPMorgan Chase und Morgan Stanley gegen diese Agenten vor. Viele Banken erlauben Agenten schon einen reinen Lesezugriff oder wollen das einführen. Die Programme sehen dann Kontostand und Ausgaben, können aber kein Geld überweisen.

TechCrunch schreibt, nach den Kontobedingungen der meisten Banken sei der Kunde für jeden verantwortlich, dem er seine Zugangsdaten gibt. Das Portal warnt etwa davor, dass ein Agent ohne Wissen des Kunden über dessen Geld verfügt oder dass die Zugangsdaten über eine Sicherheitslücke im Programm an Kriminelle gelangen.

Bank-of-America-Chef Brian Moynihan sagte am 14. Oktober im Wirtschaftssender CNBC, die Bank arbeite mit KI-Anbietern daran, dass ein Mensch zustimmen müsse, bevor Geld das Konto verlässt. Das berichtet die International Business Times.

Nach früheren Untersuchungen lesen sich bestimmte Satzbauten schwerer. Die Forscher zählten, wie oft solche Satzbauten in den KI-Texten stehen: Wortpaare, die in menschlichen Texten kaum vorkommen, lange Einschübe vor dem Verb und Sätze, in denen Dinge wie Menschen handeln. Eine Fassung von Claude schrieb etwa, hier übersetzt: „Die Gitarre, die in der Ecke steht, weil du dich noch ‚entscheidest‘, bringt dir null Akkorde bei.“ Bis das Verb kommt, muss der Leser die Gitarre im Kopf behalten. Zugleich handelt die Gitarre wie ein Mensch: Sie bringt etwas bei.

Zum Vergleich nahmen die Forscher Texte von Menschen. Außerdem ließen sie die KI-Texte von einer Software ins Japanische und zurück ins Englische übersetzen. Dabei entsteht ein Text mit demselben Inhalt in anderen Worten.

Alle großen Modelle verwendeten mehr seltene Wortpaare als Menschen. In den Chat-Gesprächen setzten die meisten auch häufiger lange Einschübe vor das Verb. Bei mehreren Merkmalen hatten die Rückübersetzungen weniger schwierige Satzbauten als die Originale. Am Inhalt allein kann das also nicht liegen. Einige kleinere Modelle, die jeder herunterladen kann, kamen menschlichen Texten am nächsten, etwa Llama vom Facebook-Konzern Meta.

Die Forscher vermuten die Ursache im letzten Abschnitt des Trainings. Dort bekommt ein Modell Punkte für gute Antworten und lernt, möglichst viele zu sammeln. Früher vergaben vor allem Menschen diese Punkte. Heute üben die Modelle viel mit Rechenaufgaben und Programmcode, und ein Rechner prüft nur, ob das Ergebnis stimmt. Für gut lesbare Sätze gibt es dabei kaum Punkte. So entstehe ein dichter Stil, der viel Information in wenige Wörter packt, meinen die Forscher.

In einem Versuch der Forscher bekam ein kleines Modell Punktabzug für lange Antworten. Im Englischen kann man etwa in manchen Nebensätzen das Bindewort „that“ weglassen. Der Satz bedeutet dasselbe und wird kürzer. Je stärker der Abzug, desto öfter wählte das Modell die kürzere Form.

Die Forscher haben nicht gemessen, ob Menschen die KI-Texte wirklich langsamer lesen oder schlechter verstehen. Die neuere Claude-Fassung Opus 5.5 zeigte fast überall weniger dieser Merkmale als ihr Vorgänger Opus 5.