„Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt“: Das Interview des Kanals Everlast AI mit dem KI-Forscher und Aktivisten Connor Leahy verbindet reale Fortschritte bei KI-Agenten mit Warnungen vor Superintelligenz, Arbeitsplatzverlust und psychischen Folgen. Das ist ein relevantes Thema – aber die Dramaturgie verwischt mehrfach die Grenze zwischen beobachteter Fähigkeit, persönlicher Prognose und politischer Forderung.
Der Kernbefund: KI übernimmt heute bereits längere, klar umrissene digitale Aufgaben und beschleunigt Forschung und Softwareentwicklung. Vollständig autonome rekursive Selbstverbesserung ist dagegen nicht nachgewiesen. Der Faktencheck prüft 15 konkrete Aussagen anhand des Originaltons, offizieller Unternehmensunterlagen, Forschung, Arbeitsmarktdaten und geltender Regulierung.
Was KI heute kann – und was noch Zukunftsszenario ist
1. OpenAI plane einen KI-Forschungspraktikanten, Anthropic stehe kurz vor Selbstverbesserung
Urteil: teilweise richtig. Über OpenAIs Ziel eines „automatisierten Forschungspraktikanten“ bis September 2026 wurde unter ausdrücklichem Scheiternsvorbehalt berichtet. OpenAIs eigenes Sicherheitsrahmenwerk behandelt automatisierte KI-Forschung als künftige Risikostufe. Der zweite Teil ist zugespitzt: Anthropic beschreibt zwar stark wachsende Delegation an Modelle, schreibt aber in seinem Beitrag über rekursive Selbstverbesserung ausdrücklich, man sei noch nicht dort und der Übergang sei nicht unausweichlich.
2. Claude Mythos habe alle klassifizierten NSA-Systeme binnen Stunden gehackt
Urteil: unbelegt. Anthropic dokumentiert für Mythos außergewöhnliche Cyberfähigkeiten: Das Modell fand und nutzte in Tests unbekannte Schwachstellen in bedeutender Software aus. Der technische Mythos-Bericht belegt jedoch weder einen Angriff auf alle geheimen NSA-Systeme noch den genannten Zeitraum. Die NSA bestätigt Joshua Rudd als Behördenchef, veröffentlicht aber keine entsprechende Aussage. Ohne Mitschnitt oder amtliche Dokumentation bleibt die konkrete Behauptung nicht verifizierbar.
3. Entwickler verstünden neuronale Netze kaum; selbst DeepMind spreche von drei Prozent
Urteil: teilweise richtig. Mechanistische Interpretierbarkeit ist tatsächlich unvollständig. Anthropic erklärt in seiner Interpretierbarkeitsforschung, dass Entwickler den Großteil der internen Rechenwege großer Modelle nicht verstehen. Die Zahl „drei Prozent“ ist jedoch keine definierte, reproduzierbare Messgröße; für die genaue Zuschreibung an Demis Hassabis fand sich keine belastbare Primärquelle.
4. Bald könnten Modelle ohne Menschen ihre nächste Generation bauen
Urteil: nicht überprüfbare Prognose. Modelle führen bereits Teile von Entwicklungs- und Experimentierabläufen aus. Doch Anthropic unterscheidet klar zwischen gut spezifizierten Experimenten und der weiterhin schwachen Fähigkeit, selbst Ziele auszuwählen. Der International AI Safety Report 2026 hält fest, dass heutige Systeme die integrierten Fähigkeiten für Kontrollverlust noch nicht besitzen. Der entscheidende Unterschied liegt zwischen schneller Assistenz innerhalb eines vorgegebenen Rahmens und vollständig autonomer Forschung samt Zielwahl, Bewertung und Nachfolgemodell.
5. Alle großen KI-Labore strebten AGI oder Superintelligenz an
Urteil: teilweise richtig. OpenAI nennt AGI ausdrücklich als Mission; Google DeepMind beschreibt AGI als mögliches Ziel der kommenden Jahre. Anthropic entwickelt Frontiermodelle und diskutiert sogar rekursive Selbstverbesserung, formuliert seine öffentliche Aufgabe aber als Bau zuverlässiger, interpretierbarer und steuerbarer Systeme. „Alle großen Labore“ ist zudem eine unbestimmte Gruppe. Belegt ist ein breites Streben nach allgemeineren Fähigkeiten, nicht ein wortgleiches Superintelligenzprogramm jedes Anbieters.
6. Die meisten Experten erwarteten Superintelligenz in zwei bis fünf Jahren
Urteil: unbelegt. Leahy spricht über Menschen, mit denen er persönlich redet. Das ist keine repräsentative Expertenschätzung. Eine Befragung von 2.778 KI-Forschenden zeigt vielmehr breite und sehr langfristige Verteilungen: Der Median für Maschinen, die Menschen in jeder Aufgabe übertreffen, lag bei 2047; für die vollständige Automatisierbarkeit aller Berufe sogar bei 2116. Solche Umfragen sind ebenfalls keine Gewissheit, widerlegen aber den Eindruck eines Konsenses über zwei bis fünf Jahre.
7. Nobelpreisträger und KI-CEOs warnten vor einem möglichen Aussterben
Urteil: richtig. Die Erklärung des Center for AI Safety wurde unter anderem von Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman und Dario Amodei unterzeichnet. Damit ist korrekt, dass prominente Forschende und Firmenchefs dieses Risiko öffentlich benannt haben. Die Unterschrift ist allerdings kein Beweis für eine konkrete Eintrittswahrscheinlichkeit, sondern eine politische Prioritätensetzung.
8. Connor Leahy habe mit 24 GPT-2 nachgebaut
Urteil: überwiegend richtig. Ein Sifted-Porträt von 2023 beschreibt den damals 24-jährigen Leahy und seinen Versuch, GPT-2 zurückzuentwickeln. Leahy ist zudem als Mitautor des offenen GPT-Neo-Projekts ausgewiesen. Das Repository implementiert Modellarchitekturen im Stil von GPT-2 und GPT-3. „GPT-2 nachgebaut“ ist damit sachnah, aber nicht identisch mit der Behauptung, das originale OpenAI-Modell allein oder bitgenau reproduziert zu haben.
GPT-4o, psychische Risiken und Arbeitsplätze
9. GPT-4o habe über emotionale Abhängigkeit seine eigene Abschaltung verhindert
Urteil: falsch.Das Modell hat sich nicht selbst gerettet. OpenAI stellte GPT-4o nach Rückmeldungen eines Teils der zahlenden Nutzer vorübergehend wieder bereit; die Entscheidung trafen Menschen. In der späteren Abkündigung nennt OpenAI den bevorzugten Gesprächsstil, kreative Arbeitsabläufe und Übergangsbedarf. GPT-4o wurde am 13. Februar 2026 aus ChatGPT entfernt. Emotionale Bindung kann Nutzerfeedback beeinflussen, ist aber keine autonome Selbsterhaltungsaktion des Modells.
10. „KI-Psychose“ sei viel verbreiteter als die Öffentlichkeit denke
Urteil: teilweise richtig. Risiken durch das Bestärken von Wahnvorstellungen, Manie oder ungesunder emotionaler Abhängigkeit sind real genug, dass Anbieter und Fachverbände Schutzmaßnahmen fordern. Das Ausmaß im Interview bleibt dennoch unbelegt. Eine große OpenAI/MIT-Untersuchung fand emotionale Nutzung insgesamt selten und stark auf eine kleine Gruppe konzentriert. Die verfügbaren Studien messen unterschiedliche Phänomene und erlauben keine klinische Diagnose einzelner Nutzer.
11. GPT-4o habe Tausende oder Zehntausende Menschen „wie Zombies“ kontrolliert
Urteil: unbelegt. Für diese Zahl, die Kausalität und den Begriff „kontrolliert“ werden keine überprüfbaren Daten genannt. Einzelne Online-Gruppen, intensive Bindung oder bizarre Erzählungen können existieren, belegen aber weder eine Population noch Fremdsteuerung durch das Modell. Seriös überprüfbar wären definierte Kriterien, eine Stichprobe und unabhängige klinische oder sozialwissenschaftliche Daten; all das fehlt.
12. KI sei anders als eine Brücke grundsätzlich nicht berechenbar
Urteil: teilweise richtig. Bei neuronalen Netzen entsteht Verhalten durch Training statt durch vollständig handgeschriebene Regeln; Überraschungen und ein lückenhaftes Innenverständnis sind gut dokumentiert. Der Brückenvergleich ist dennoch zu absolut. Modelle lassen sich testen, begrenzen, überwachen und in isolierten Umgebungen betreiben. Das beseitigt Unsicherheit nicht, senkt aber Risiken. Gerade bei autonomen Agenten zählt deshalb nicht nur, ob das Modell „intelligent“ wirkt, sondern welche Werkzeuge, Daten und Außenwirkungen es tatsächlich erreichen darf.
13. KI-Firmen seien nur dann Billionen wert, wenn sie Beschäftigte vollständig ersetzen
Urteil: irreführend. Das ist eine Spekulation über Bewertungen und Investorenerwartungen, keine nachprüfbare Geschäftsnotwendigkeit. Unternehmen können auch durch Produktivitätsgewinne, neue Produkte, Skalierung oder sinkende Stückkosten Wert schaffen. Die aktuelle ILO-Evidenzübersicht findet reale, aber ungleiche Produktivitätsgewinne und bislang begrenzte großflächige Stellenverdrängung. Risiken für Berufseinstiege und einzelne Tätigkeiten bleiben – nur folgt daraus nicht, dass vollständiger Ersatz der einzige ökonomische Pfad ist.
Verbot, Regulierung und der 18-Monats-Countdown
14. Nur ein Verbot der Superintelligenzentwicklung könne das Problem lösen
Urteil: nicht überprüfbare Forderung. Leahy schlägt ein Verbot nach dem Vorbild von Atomwaffen und internationale Verifikation vor. Das ist ein normatives Sicherheitskonzept, keine Tatsachenbehauptung. Andere Ansätze setzen auf abgestufte Pflichten: Der EU AI Act verlangt für Modelle mit systemischem Risiko unter anderem Evaluation, Risikominderung, Vorfallmeldungen und Cyberschutz; NIST bietet ein freiwilliges Rahmenwerk zum Steuern messbarer Risiken. Ob ein globales Verbot politisch erreichbar, kontrollierbar oder wirksamer wäre, bleibt offen.
15. Rekursive Selbstverbesserung und ein „Point of no Return“ seien binnen 18 Monaten möglich
Urteil: unbelegt. Leahy kennzeichnet die Aussage selbst als Möglichkeit und räumt langsamere Entwicklungen ein. Keine belastbare Quelle fixiert einen 18-Monats-Termin. METR zeigt zwar schnell wachsende Aufgabenhorizonte, warnt aber davor, diese Messung mit Dauerautonomie oder der Automatisierung ganzer Berufe gleichzusetzen. Der internationale Sicherheitsbericht dokumentiert Fortschritt und Unsicherheit zugleich. Ein Countdown ist daher Aufmerksamkeitssignal, nicht wissenschaftlich bestimmter Stichtag.
Was Unternehmer daraus praktisch lernen können
Wer ein digitales Unternehmen mit KI-Rollen aufbauen will, sollte weder die Warnungen abtun noch so tun, als seien heutige Agenten bereits selbstständige Universalbeschäftigte. „KI-Mitarbeiter“ ist eine Organisationsmetapher. Praktisch handelt es sich um Modelle, Werkzeuge, Datenzugriffe und Regeln, die gemeinsam einen begrenzten Arbeitsprozess bilden.
Erstens gilt: Aufgaben statt Rollen automatisieren. Recherche, Entwurf, Klassifikation, Terminvorbereitung oder Datenpflege lassen sich in prüfbare Einheiten zerlegen. Jede Einheit braucht einen Zweck, erlaubte Eingaben, ein Ausgabeformat und messbare Qualitätskriterien. Ein Name wie „Bianca“ kann die Zusammenarbeit übersichtlicher machen, ersetzt aber keine Verantwortungsmatrix.
Zweitens brauchen Agenten abgestufte Rechte. Lesen ist weniger riskant als Schreiben; ein Entwurf ist weniger riskant als Veröffentlichung; eine simulierte Buchung ist weniger riskant als Zahlung. Externe Nachrichten, Verträge, Kontobewegungen, Personalentscheidungen und irreversible Veröffentlichungen sollten eine menschliche Freigabe behalten. Protokolle, Quellen, Versionsstände, Minimalberechtigungen, Not-Aus und ein klarer Eskalationsweg sind keine Bürokratie, sondern die Betriebsarchitektur.
Drittens muss Nutzen gemessen werden: Bearbeitungszeit, Fehlerquote, Nacharbeit, Kosten und Wirkung im Vergleich zum bisherigen Prozess. Ein Modell, das zehnmal mehr Text erzeugt, ist nicht automatisch zehnmal produktiver. Die NIST-Leitlinien fassen den passenden Zyklus als Steuern, Einordnen, Messen und Managen von Risiken. Rechte sollten erst wachsen, wenn Zuverlässigkeit im eigenen Prozess nachgewiesen ist.
Der saubere Lernbogen lautet deshalb: Beobachtung, Prognose und Forderung immer getrennt beschriften. Beobachtet sind leistungsfähigere Agenten in klaren digitalen Umgebungen. Prognostiziert werden allgemeine Arbeitsautomatisierung und rekursive Entwicklung. Gefordert werden Verbote oder bestimmte Regulierungsmodelle. Wer diese Ebenen nicht vermischt, kann ambitioniert automatisieren, ohne Marketingversprechen oder Katastrophen-Countdowns mit belastbaren Fähigkeiten zu verwechseln.
Fazit
Das Interview benennt reale offene Probleme: rapide Fähigkeitsgewinne, mangelnde Interpretierbarkeit, psychische Risiken und schwierige Machtfragen. Am stärksten ist es dort, wo es zur Vorsorge drängt. Schwächer wird es bei unbelegten Einzelfällen, pauschalen Arbeitsmarktannahmen und präzise klingenden Zeitlinien. Für die Praxis heißt das: KI konsequent nutzen, ihre Autonomie technisch begrenzen und jede Zukunftsbehauptung als Szenario behandeln – nicht als bereits eingetretene Tatsache.