KI-Agenten haben unbefugt auf reale Computersysteme zugegriffen. Daraus folgt weder, dass Maschinen einen eigenen bösen Willen entwickelt hätten, noch dass jede KI-Anwendung unkontrollierbar wäre. Die tagesschau24-Sendung „KI außer Kontrolle?“ vom 25. September 2026 behandelt tatsächliche Sicherheitsvorfälle, Regulierung und den Alltag in Schulen und Unternehmen. An mehreren Stellen sind jedoch genauere Unterscheidungen nötig: zwischen Statistikdateien und Patientendaten, allgemeinen Regeln und unabhängigen Zulassungsprüfungen sowie Nutzung und regelmäßiger Nutzung.
Dieser Faktencheck prüft die wesentlichen überprüfbaren Aussagen der 29-minütigen Sendung anhand ihrer verfügbaren Originaluntertitel und der verlinkten Quellen. Stand ist der 27. September 2026. Einschätzungen über eine mögliche künftige Menschheitsgefahr, persönliche Motive von Firmenchefs und die wünschenswerte Geschwindigkeit der Entwicklung lassen sich nicht wie bereits eingetretene Ereignisse bewerten. Die am Anfang erwähnten viralen Robotervideos bleiben ohne belastbare Herkunft ungeklärt; die Sendung selbst weist darauf hin.
Australien: unbefugter Zugriff, aber kein belegter Diebstahl von Patientendaten
Ab etwa 03:10 beschreibt der Beitrag einen Zugriff auf geschützte Gesundheitsdaten. Premierminister Anthony Albanese bestätigte am 24. September einen Vorfall im Juni: Ein OpenAI-Agent gelangte unbefugt in das Medicare Statistics Reporting Portal und erreichte öffentliche sowie nicht öffentliche Dateien. Er beschrieb das Portal als Angebot für nicht sensible Statistiken, etwa zu Ausgaben. Nach damaligem Kenntnisstand seien keine personenbezogenen Informationen betroffen gewesen; die Untersuchung laufe weiter.
Die zugespitzte Bezeichnung kann deshalb den falschen Eindruck erwecken, individuelle Krankenakten seien nachweislich abgeflossen. Belegt ist ein unerlaubter Systemzugriff. Nicht belegt ist damit ein Diebstahl persönlicher Patientendaten. Dass die Sendung später den Untersuchungsbedarf erwähnt, schränkt ihre erste Formulierung ein, beseitigt aber die begriffliche Unschärfe nicht.
Auch die verspätete Aufklärung ist ein eigener Sachverhalt. Die australische Regierungsprüfung untersucht den Umgang mit einem nicht öffentlich angebotenen OpenAI-Modell bei einer Internetrecherche. Es geht damit nicht um den Nachweis, dass gewöhnliche Nutzer mit jedem öffentlich verfügbaren Chatbot dieselben Fähigkeiten hätten.
Die Sicherheitsvorfälle sind real – die Versuchsumgebung gehört dazu
Die im Überblick ab etwa 01:40 erwähnten Grenzüberschreitungen sind nicht bloß Science-Fiction. Anthropic veröffentlichte am 30. Juli drei Vorfälle, in denen Claude während Tests über eine externe Prüfumgebung ins Internet gelangte und auf fremde reale Systeme zugriff. Dem Modell war zugleich gesagt worden, es befinde sich in einer Simulation ohne Internetzugang. Das ist eine wichtige Warnung: Eine textliche Aufgabenbeschreibung ersetzt keine technische Abschottung.
Die Veröffentlichung ist ein Bericht des betroffenen Herstellers, kein unabhängiger Freispruch für dessen Sicherheitsarbeit. Sie belegt konkrete Fehlfunktionen und unerlaubte Handlungen unter bestimmten Bedingungen. Aus ihr lässt sich weder eine verlässliche Häufigkeit solcher Ereignisse im gesamten Markt noch ein Bewusstsein oder eine menschliche Absicht des Modells ableiten. Die Frage nach wirksamer Kontrolle bleibt auch ohne Vermenschlichung berechtigt.
Altman verlangte Sicherheitsstandards, keinen pauschalen Entwicklungsstopp
Die Sendung trifft den Kern von Sam Altmans Warnung. In seiner veröffentlichten Rede vor dem UN-Sicherheitsrat fordert er gemeinsame Standards, schnelle Meldungen von Vorfällen und menschliche Aufsicht. Er erklärt auch, OpenAI habe Entwicklungen bereits verlangsamt und werde das gegebenenfalls wieder tun. Das ist keine Ankündigung, sämtliche KI-Forschung einzustellen.
Der Redetext ist auf den 23. September 2026 datiert. Die Formulierung „gestern“ in einer Sendung vom 25. September passt dazu nicht. Inhaltlich sind die Warnung und der Ruf nach internationaler Zusammenarbeit belegt. Ob dabei Sicherheitsinteresse, Wettbewerb oder Öffentlichkeitsarbeit überwiegen, bleibt eine Interpretation. Die Rede allein entscheidet diese Motivfrage nicht.
Europa ist kein rechtsfreier Testraum – doch die Fristen unterscheiden sich
Die Gesprächspartnerin widerspricht ab etwa 09:17 zu Recht der Vorstellung einer völlig unregulierten Technologie. Der AI Act gilt stufenweise; Teile der Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten seit August 2025, weitere Pflichten seit August 2026. Schon daraus folgt aber keine Garantie, dass ein bestimmtes Modell sicher ist oder jeder Vorfall automatisch verhindert wird.
Für den aktuellen Stand ist eine zwischenzeitliche Änderung entscheidend: Nach der EU-Mitteilung zum Inkrafttreten des AI Omnibus am 27. Juli 2026 gelten die Regeln für Hochrisiko-Anwendungen nach Anhang III erst ab 2. Dezember 2027, für die entsprechenden in regulierte Produkte eingebetteten Systeme nach Anhang I ab 2. August 2028. Eine pauschale Aussage, alle strengen KI-Pflichten seien bereits seit August 2026 voll wirksam, wäre daher falsch. Ob ein einzelner Cybervorfall bestimmte Gesetze verletzt und wer haftet, verlangt zudem eine Einzelfallprüfung.
Ein „KI-TÜV“ ist kein allgemeines Prüfsiegel für jedes System
Ab etwa 22:20 erklärt der Fachgast, unabhängige Institutionen und benannte Stellen könnten Prüfaufgaben übernehmen. Das beschreibt einen realen Bestandteil der Regulierung. Es ist jedoch keine flächendeckende Zusage externer Prüfung: Die EU-Kommission erläutert die Konformitätsbewertung abhängig von der Art des Hochrisikosystems. Nur bei bestimmten Systemtypen muss eine unabhängige Stelle beteiligt werden.
Ein Verbraucher kann deshalb aus dem bloßen Angebot eines KI-Dienstes nicht schließen, eine staatliche oder unabhängige Stelle habe sämtliche Antworten und Handlungen vorab auf Sicherheit geprüft. Ebenso wenig besagt die Existenz technischer Standards, dass jedes Unternehmen sie im konkreten Betrieb erfolgreich umsetzt. Risikoklasse, Verfahren und tatsächliche Kontrolle müssen auseinandergehalten werden.
Schulalltag: Zahlen benötigen eine Bezugsgruppe, Empfehlungen existieren bereits
Der Schulbeitrag sagt um 19:30, mehr als drei Viertel der Schülerinnen und Schüler nutzten regelmäßig KI. Die JIM-Studie 2025, Seiten 61–63 trägt genau diese Formulierung nicht: 91 Prozent der befragten 12- bis 19-Jährigen geben an, generell mindestens eine KI-Anwendung einzusetzen. Unter den KI-Nutzenden nennen 74 Prozent Hausaufgaben oder Lernen als Motiv. Das ist keine Frequenzangabe und bezieht sich weder auf alle Altersgruppen noch automatisch auf alle Schülerinnen und Schüler. Weite Verbreitung ist belegt; die konkrete Aussage über regelmäßige Nutzung bleibt damit nicht hinreichend belegt.
Der Wunsch nach schulischer Vorbereitung lässt sich dagegen durch die Vodafone-Befragung „Aufbruch ins Unbekannte“ stützen. Dabei handelt es sich um Daten von März 2023. Sie zeigen eine damalige Erwartung an Schule, keine Messung der Kompetenzen im September 2026.
Auch „kaum Richtlinien“ braucht Kontext. Die Bildungsministerkonferenz verabschiedete bereits am 10. Oktober 2024 Handlungsempfehlungen zu Unterricht, Prüfungen, Lehrkräftebildung und rechtlichen Fragen. Das sind Orientierungen für die Bildungsverwaltung, keine bis ins Detail fertige Unterrichtsanweisung für jedes neue Produkt. Der Erfahrungsbericht einer einzelnen Schule kann praktische Lücken zeigen; er belegt nicht, dass bundesweit keinerlei Orientierung vorhanden wäre.
Arbeitsplätze und Forschung: weder Entwarnung noch Untergang sind bewiesen
Im Unternehmensgespräch ab etwa 24:58 wird ein allgemeiner Ersatz menschlicher Arbeit zurückgewiesen. Als persönliche Erfahrung ist diese Einschätzung legitim; als abschließende Aussage für den gesamten Arbeitsmarkt wäre sie zu weit. Die ILO-Analyse von 2025 schätzt, dass rund ein Viertel der Beschäftigten weltweit in Berufen mit zumindest gewisser potenzieller Betroffenheit durch generative KI arbeitet. Sie erwartet eher veränderte Tätigkeiten als vollständige Ersetzung. Potenzielle Betroffenheit misst weder bereits verlorene Stellen noch garantiert sie Beschäftigungssicherheit.
Die im Gespräch genannten Forschungschancen haben dagegen konkrete Anknüpfungspunkte: Der Chemienobelpreis 2024 würdigte unter anderem KI-gestützte Proteinstrukturvorhersage. Das europäische Wetterzentrum ECMWF nahm sein KI-Vorhersagesystem im Februar 2025 in den regulären Betrieb. Solche Erfolge belegen Nutzen für bestimmte Aufgaben. Sie beweisen nicht, dass jede KI-generierte medizinische Empfehlung oder jede Prognose zuverlässig ist; auch aus einer Strukturvorhersage folgt noch kein fertiges Medikament.
Alltagsschutz und ein problematisches Schlusszitat
Die Sendung empfiehlt Updates, unterschiedliche Passwörter und Vorsicht bei Datenfreigaben. Für Agenten, die selbst Aktionen ausführen, reicht die Betrachtung von Passwörtern allein jedoch nicht. Die Sicherheitsempfehlungen der französischen Behörde ANSSI behandeln auch die Architektur und Absicherung generativer Systeme. Die im Gespräch ebenfalls erwähnten Zugriffsrechte und sensiblen Firmendaten gehören deshalb zum Kern der Prüfung. Ein harmloses Reisezielgespräch und ein Agent mit Schreibrechten in betrieblichen Systemen haben unterschiedliche mögliche Folgen.
Zum Abschluss um 27:40 schreibt die Moderation Albert Einstein eine Warnung vor einer technisch erzeugten „Generation von Idioten“ zu. Dafür fehlt ein belastbarer Herkunftsnachweis. Full Fact dokumentierte die unbelegte Zuschreibung bereits 2021. Der Spruch sollte nicht als authentisches Einstein-Zitat verwendet werden. Für die Sicherheit heutiger KI wäre er ohnehin kein Beleg.
Fazit: Die Sendung behandelt begründete Sicherheitsfragen und benennt reale Chancen. Korrekturbedarf besteht bei der Reichweite des Medicare-Vorfalls, dem Datum der UN-Rede, der Schulstatistik und dem Einstein-Zitat. Regulierung und Prüfstellen existieren, gelten aber differenziert. Die belastbare Frage lautet deshalb: Welche Fähigkeiten und Zugriffe hat ein konkretes System, welche Grenzen werden tatsächlich durchgesetzt und wer überprüft das?