Im Gespräch bei {ungeskriptet} by Ben beschreibt Dominic von Proeck ein Unternehmen mit benannten KI-Rollen für Content, Assistenz, Qualität und Buchhaltung. Das klingt wie ein digitaler Personalstamm. Technisch sind es jedoch konfigurierte Modelle, Speicher, Datenquellen, Werkzeuge und Automationen – kein Personalstamm im rechtlichen Sinn. Dieser Faktencheck prüft 19 konkrete Aussagen und übersetzt sie in eine belastbare Praxisfrage: Wie baut man administrative KI-Arbeit auf, ohne Marketingbegriffe mit Belegen zu verwechseln?
Was geprüft wurde
Das Video wurde am 15. Juli 2026 veröffentlicht und laut Beschreibung am 10. Juni aufgezeichnet. Grundlage sind vollständiger Originalton, vollständiges deutsches Transkript und Primärquellen zu Preisen, Schnittstellen, Datenschutz und KI-Einführung. Eigene Unternehmensangaben werden als Selbstauskunft behandelt. Zukunftsbilder sind keine Fakten. Bei Rechtsfragen beschreibt der Artikel Anforderungen, ersetzt aber keine Einzelfallberatung.
Rollenbild und versprochene Leistung
1. Ein Unternehmen mit überwiegend „KI-Mitarbeitern“
Kontext fehlt. Die Unternehmensseite nennt mehr als 50 KI-Assistenten neben rund zehn Menschen. Das bestätigt die eigene Benennung, nicht 50 Beschäftigungsverhältnisse oder Vollzeitäquivalente. Praktisch kann eine Rollenfigur zudem mehrere Workflows bündeln – oder ein Workflow mehrere Rollen bedienen.
2. Hansi erledigt Content-Arbeit seit zweieinhalb Jahren
Urteil: nicht überprüfbar. Die eigene Teamseite schreibt Hansi LinkedIn-Posts und Bilder zu. Laufzeit, Autonomie, Fehlerquote und tatsächlicher Arbeitsanteil sind nicht extern dokumentiert. Für ein eigenes System sollte deshalb jede Rollenbeschreibung messbare Ein- und Ausgaben statt nur einen Namen enthalten.
3. Verwaltung automatisieren, Beziehungen erhalten
Urteil: überwiegend richtig. Klar begrenzte Vor- und Nachbereitung – Recherche, CRM-Pflege, Entwürfe – ist ein plausibler Start. Ob ein Kontakt menschlich bleiben muss, hängt von Erwartung und Risiko ab. Verkaufsabschluss, Beschwerden und sensible Beratung brauchen regelmäßig erkennbare Verantwortung und Eskalation.
APIs, Organisationszahlen und Studien
4. Eine Google-Flights-API bucht Tickets
Unbelegt. Google erklärt, dass Flights gewöhnlich zur Buchung bei Airline oder Vermittler weiterleitet; die öffentlich dokumentierte Travel-API liefert Emissionsdaten. Eine private Partnerintegration oder Browsersteuerung ist denkbar. Die behauptete, von Google bereitgestellte Buchungs-API ist so aber nicht belegt. Googles Buchungshinweise widersprechen der einfachen Darstellung.
5. Sechs bis acht direkte Unterstellte seien Forschungskonsens
Urteil: irreführend. Veröffentlichte Managementspannen reichen je nach Aufgabe von sechs bis 30. Coachingbedarf, Erfahrung, Standardisierung und Komplexität entscheiden. Auch für Agenten ist „maximal acht“ höchstens eine interne Faustregel. Besser sind Lasttests, Fehlerraten und klar definierte Übergaben.
6. Microsoft belege siebenfach erfolgreichere KI-Einführung
Falsch. Der Work Trend Index 2025 spricht von digitalen Kollegen und einem „Thought Partner“-Mindset, enthält aber keine Siebenfach-Kennzahl für diese Gegenüberstellung. Eine ähnliche Zahl stammt von Prosci zu exzellentem Change Management – andere Quelle, andere Messung.
Warum ein Agent kein zuverlässiger Automat ist
7. KI halluziniert und kann Vorurteile verstärken
Überwiegend richtig. Das NIST-Risikoprofil führt Konfabulation und schädliche Verzerrungen ausdrücklich auf. Stärke und Richtung hängen aber von Modell, Daten, Sprache und Test ab. Daraus folgt: Prüfkriterien müssen aus dem Geschäftsfall kommen, nicht aus dem Selbstvertrauen der Ausgabe.
8. Derselbe Prompt kann andere Antworten liefern
Urteil: richtig. Generative Systeme arbeiten probabilistisch; Sampling, Modellversion und Systemkontext beeinflussen Ergebnisse. Niedrige Zufallseinstellungen können Schwankungen reduzieren. Für Rechnungen, Rechtevergabe oder Statuswechsel sollte deshalb deterministischer Code prüfen, was gültig ist.
9. Schema-F-Prozesse brauchen oft keinen Agenten
Urteil: überwiegend richtig. Wenn Eingang, Regeln und Ergebnis feststehen, ist klassische Automation leichter testbar und begrenzbar. Ein Agent lohnt eher bei variablen Texten, Recherche oder Auswahl unter mehreren Wegen. Auch dann sollte er nur eng definierte Werkzeuge aufrufen dürfen.
Daten, Souveränität und Beschäftigte
10. Europäische Tools schaffen Souveränität trotz US-Modellen
Kontext fehlt. Eine austauschbare Orchestrierung kann Lock-in und Ausfälle reduzieren. Der Sitz des Workflow-Tools entscheidet jedoch nicht, wohin Prompts, Anhänge, Logs und Backups fließen. Verträge, Modellendpunkt, Hostingregion, Unterauftragnehmer, Löschung und Drittlandtransfer müssen pro Datenweg geprüft werden.
11. Ein Slack-Agent verarbeitet Krankmeldungen automatisch
Kontext fehlt. Technisch ist das möglich; rechtlich sind Krankheitsangaben besonders geschützte Gesundheitsdaten. Die DSGVO, deutsches Beschäftigtendatenschutzrecht und mögliche Mitbestimmung verlangen Zweck, Erforderlichkeit, Minimalzugriff, Schutz und Löschung. Eine nette Genesungsmail rechtfertigt kein dauerhaftes Lesen aller Kanäle.
Onboarding, Tests und Erfolgszahlen
12. Eine Stunde bauen, zehn Wochen bis zur Qualität
Urteil: nicht überprüfbar. Als Projekterfahrung ist die Zahl plausibel, aber nicht belegt. Die Lehre trägt trotzdem: Ein Demo-Setup ist kein Produktionsprozess. Gute und schlechte Beispiele, klare Ausschlüsse, Berechtigungen, Testfälle und Feedbackschleifen machen aus einem Prompt erst ein betreibbares System.
13. Drei KI-Prüfer testen Sicherheit und Qualität
Teilweise richtig. Spezialisierte Angriffs-, Fakten- und Markenprüfungen sind sinnvoll. Der Evals-Leitfaden von OpenAI warnt aber sinngemäß vor einer reinen KI-Prüfkette: Domänenexperten sollen Grader regelmäßig auditieren und Logs selbst prüfen. Mehr Agentennamen sind noch keine Unabhängigkeit.
14. Vierzehnfacher Umsatz und eine Million Euro pro Kopf
Urteil: nicht überprüfbar. Die Million-pro-Kopf-Angabe steht auch auf einer Werbeseite des Unternehmens. Ohne testierte Zahlen, klare Perioden- und Kopfdefinition ist sie Selbstauskunft, kein Produktivitätsnachweis. Umsatz ist zudem nicht Gewinn und sagt nichts über Fehler-, Dienstleister- oder Modellkosten.
15. Ersteller und Prüfer müssen immer getrennte KI sein
Urteil: teilweise richtig. Rollentrennung reduziert Selbstbestätigung und schafft klarere Rubriken. „Nie dieselbe KI“ ist zu absolut: Ein Modell kann in einem getrennten Durchlauf verbessern. Wichtiger sind unabhängige Testdaten, eindeutige Kriterien, Stichproben und ein menschlicher Entscheider bei folgenreichen Fällen.
Der belastbare Bauplan hinter der Metapher
16. Prozesse, Standards und Kultur schlagen Toolwahl
Überwiegend richtig. KI-Nutzen hängt stark von Aufgabe, Kompetenz, Qualitätsmaß und Aufsicht ab. Das passende Modell bleibt für Preis, Datenschutz und Leistungsgrenze wichtig. Ein Toolkauf ohne dokumentierten Ablauf, Verantwortliche und Lernroutine ist jedoch noch keine Transformation.
17. Vom Schmerzpunkt statt vom Tool starten
Urteil: überwiegend richtig. Der Startfall sollte häufig, messbar und rückholbar sein. Vor dem Bau werden Basiszeit, gewünschtes Ergebnis, Fehlerbudget, Eskalation und Abbruchregel festgelegt. Erst dann entscheidet das Team, ob Vorlage, Automation, Assistent oder handelnder Agent die kleinste passende Lösung ist.
18. Buchhaltungs-KI liest alle Postfächer ohne Sichtprüfung
Urteil: Kontext fehlt. Belege erkennen und ablegen lässt sich automatisieren. Vollzugriff auf alle Mailboxen widerspricht schnell dem Minimalprinzip und öffnet indirekten Anweisungen in E-Mails eine Tür. OWASP empfiehlt minimale Funktionen, Rechte und Autonomie. GoBD-Kontrollen und nachvollziehbare Ausnahmen bleiben Pflicht.
19. Das Modell kostet fünf Cent pro Million Tokens
Urteil: teilweise richtig. GPT-5 nano kostete zum Aufzeichnungszeitpunkt 0,05 US-Dollar je Million Eingabetokens, aber 0,40 Dollar für Ausgabetokens. Orchestrierung, Speicher, Abrufe, Tests und Betrieb kommen hinzu. Ein Inputpreis ist deshalb keine Kostenrechnung für einen KI-Arbeitsplatz.
So wird daraus ein administratives KI-Team
Sichere Reihenfolge: Erstens einen eng begrenzten Prozess wählen. Zweitens eine Rolle mit Auftrag, Eingaben, Ausgabeformat und Verboten beschreiben. Drittens nur nötiges Wissen und minimale Rechte geben. Viertens Übergaben als strukturierte Daten statt freie Chats definieren. Fünftens ein Gedächtnis mit Herkunft, Löschfrist und Korrekturmöglichkeit bauen. Sechstens eine Prüfkette aus Regeln, separater Evaluation und menschlichen Freigaben einrichten. Siebtens reale Fälle, Fehler und Kosten protokollieren. Achtens nur bei nachgewiesenem Nutzen skalieren. So können später benannte Ressorts wie Recherche, Redaktion, Finanzen oder Assistenz entstehen, ohne dass die Metapher technische Verantwortung verdeckt.
Eine saubere Rollenakte hält dafür mindestens neun Dinge fest: Geschäftsziel, zuständige menschliche Person, erlaubte Eingaben, gewünschte Ausgabe, Wissensquellen, Werkzeuge, Rechte, Qualitätsmaß und Eskalationsweg. „Memory“ ist kein magisches Langzeitgedächtnis, sondern gespeicherter Kontext mit Quelle und Lebensdauer. Falsche oder veraltete Einträge müssen korrigierbar sein. Jede Übergabe erhält ein Schema, eine Empfangsbestätigung und einen Fehlerzustand; sonst reden Agenten zwar flüssig miteinander, aber niemand weiß, ob der Auftrag vollständig ankam.
Human Gates gehören vor Zahlungen, Veröffentlichungen, Vertragszusagen, Personalentscheidungen und den Zugriff auf besonders sensible Daten. Niedrigrisiko-Schritte können nach bestandenen Tests automatisiert laufen. Das Team beobachtet dann nicht jeden Normalfall, sondern Stichproben, Ausnahmen, Kosten und Veränderungen nach Modellupdates. Ein benannter Prozessverantwortlicher entscheidet über Freigabe, Rücknahme und Abschaltung. Genau diese unspektakuläre Betriebsdisziplin trennt einen nützlichen KI-Kollegen von einer überzeugenden Demo.
Fazit
Das Gespräch enthält einen brauchbaren Kern: administrative KI braucht spezialisierte Rollen, Prozesswissen, Feedback und Qualitätsstandards. Überzogen oder unbelegt sind die Microsoft-Siebenfachzahl, die Google-Flights-Buchungs-API und die nicht testierten Wachstumswerte. Für ein hochwertiges KI-Unternehmen zählt daher weniger, wie menschlich ein Agent heißt, als wer seine Rechte begrenzt, seine Ergebnisse misst und im Zweifel stoppt.