The NeWoS | Lagebesprechung | Oktober 2026

Kuratiert von:  Dr. Anja C. Wagner | FROLLEINFLOW - Institut für kreative Flaneure

Diese Ausgabe steht unter der Frage:
Woran merkt eine KI, dass sie falsch liegt?

Seit Juli sammelt ununi.TV Vorträge und Gespräche über KI, jeweils mit zwei Sätzen zur Einordnung. In den letzten Wochen waren wir als virtuelle Flaneure vor allem abseits der üblichen Bühnen unterwegs: weniger auf Podien zur Zukunft der Arbeit, mehr in Laboren, auf Äckern, am Meer und in der Sozialarbeit.

Das ist keine systematische Erhebung, erweitert aber den Blick. Aufgefallen ist uns vor allem, wie anders dort über KI gesprochen wird. In der deutschen Debatte schaut man meist vom Schreibtisch aus auf die Technik. Von einem Acker aus sieht sie anders aus.

Ab dieser Ausgabe erscheint The NeWoS zweimal im Monat: am ersten Dienstag die Lagebesprechung, zwei Wochen später ausgewählte Zahlen aus KI-Radar, Lagebild und ununi.TV.

Geprüft wird, wo etwas zurückkommt

Ob KI etwas taugt, zeigt sich am deutlichsten dort, wo die Wirklichkeit widersprechen kann. Ein Medikament muss im Körper wirken. Eine junge Koralle muss im Riff anwachsen. Eine Ertragsprognose muss sich an der Ernte messen lassen. Hier hat die Maschine einen Gegenspieler, den auch die schlüssigste Antwort nicht beeindruckt: die Wirklichkeit.

Jennifer Doudna, Nobelpreisträgerin und Miterfinderin der Genschere CRISPR, beschreibt in einem Gespräch vom Juni, wo KI in der Biomedizin heute hilft: Sie fasst Daten zusammen und schreibt Berichte. Neue Entdeckungen kommen nach ihrer Erfahrung weiterhin von Menschen. Einen Körper vollständig am Computer zu simulieren, hält sie für unrealistisch. Dafür sei die Biologie zu komplex. Zudem fehlten Daten darüber, wie der Körper auf Medikamente reagiert. Auch im Labor liegt eine Stärke der KI also zunächst im Umgang mit Text. In der Sozialarbeit zeigt sich eine ähnliche Grenze: Fallakten zusammenzufassen verspricht Entlastung. Über Menschen zu urteilen ist eine andere Aufgabe.

In der Wissensarbeit ist der Widerspruch der Wirklichkeit oft schwerer zu erkennen. Ob ein Strategiepapier, eine Marktanalyse oder eine Stellungnahme etwas taugt, zeigt sich womöglich erst Monate später. Dann haben längst hundert andere Einflüsse mitgewirkt. Bis dahin wird Text an Text gemessen: Passt die Analyse zur Präsentation? Klingt die Empfehlung plausibel? Was schlüssig klingt, geht leicht als richtig durch. Genau darin sind Sprachmodelle gut.

Das führt zu einer merkwürdigen Verkehrung. Das Büro gilt als der Ort, an dem KI besonders weit ist. Hier wird sie häufig genutzt, hier setzen viele Schulungen an, hier werden Produktivitätsgewinne gemeldet. Doch häufige Nutzung und schnelle Ergebnisse sagen noch wenig darüber aus, ob diese Ergebnisse stimmen. Ein Strategiepapier kann längst beschlossen sein, bevor sich seine Annahmen überprüfen lassen. Ein Medikament muss erst zeigen, dass es wirkt.

Daphne Koller, die mit ihrer Firma insitro mithilfe von KI nach Medikamenten sucht, macht deutlich, warum das einen Unterschied macht. Bei einem erzeugten Bild kann ein überzeugendes Ergebnis genügen. Ein Medikament dagegen greift in einen Körper ein. Ob es die erhoffte Wirkung hat, zeigt sich erst nach Wochen in der Zellkultur oder nach Jahren in klinischen Studien. Hier lernt auch die beste KI nur so schnell, wie die Wirklichkeit antwortet. Wo diese Antwort ausbleibt, kann sie Gewissheit in Serie produzieren, ohne dass jemand den Irrtum bemerkt.

Für Organisationen wird daraus eine unbequeme Frage: Wie viele Entscheidungen beruhen auf Dokumenten, deren Annahmen nie außerhalb dieser Dokumente überprüft wurden? Das Problem gab es schon vor KI. Neu ist das Tempo, mit dem solche Papiere entstehen. Die Zahl der Analysen, Konzepte und Empfehlungen wächst schneller als die Zeit, sie sorgfältig zu prüfen.

Die entscheidende Frage ist deshalb, wie Wissensarbeit organisiert sein muss, damit die Wirklichkeit wieder zu Wort kommt. Woran lässt sich erkennen, dass eine Analyse falsch war, eine Empfehlung nicht trägt, eine Strategie scheitert? Solange darauf die Antworten fehlen, könnte ausgerechnet das Büro der Ort bleiben, an dem KI am häufigsten genutzt wird – und am seltensten beweisen muss, dass sie etwas taugt.

„Anwendungsfall“

Fast jede KI-Einführung beginnt mit der Suche nach Anwendungsfällen, im Projektjargon: Use Cases. Gesucht wird eine Aufgabe, die sich beschleunigen lässt, ein Ablauf, den die Maschine übernehmen kann. In Workshops werden sie gesammelt, in Strategiepapieren gezählt. Anbieter liefern ganze Kataloge.

Dabei bleibt oft offen, was nach der Nutzung kommt. Das System hat die Aufgabe erledigt. Aber stimmt das Ergebnis? Woran würde ein Fehler auffallen? Und wem? So entstehen lange Listen, in denen genau das fehlt. Sie sehen aus wie ein Plan, beschreiben aber nur, wo KI zum Einsatz kommen soll – nicht, wie ihre Ergebnisse geprüft werden.

Für uns ist ein Anwendungsfall deshalb erst vollständig, wenn neben der Aufgabe zwei Dinge geklärt sind: Woran erkennen wir, dass das Ergebnis falsch ist? Und wer prüft es, bevor jemand darauf vertraut und danach handelt? Ohne diese Angaben ist die Liste der Anwendungsfälle vor allem eines: eine Liste ungeprüfter Möglichkeiten.

Wir raten davon ab, KI zuerst dort einzuführen, wo niemand merkt, ob das Ergebnis stimmt.

Verführerisch ist der Einstieg dort, wo alles leicht geht. Protokolle, Zusammenfassungen, Entwürfe, Recherchen: keine Maschinen anzuschließen, wenig technischer Aufwand und eine Zeitersparnis, die am eigenen Schreibtisch sofort spürbar wird. Schon nach wenigen Wochen lassen sich erste Erfolge melden. Solange niemand genauer hinsieht, gilt ein überzeugendes Ergebnis schnell als ein gutes. Wer die Einführung verantwortet, braucht Erfolgsmeldungen. Wo eine Prüfung fehlt, steht ihnen wenig im Weg.

Auf Dauer lernt die Organisation dabei vor allem eines: sich auf ungeprüfte Ergebnisse zu verlassen. Diese Gewohnheit nimmt sie in die nächsten Einsatzfelder mit – auch dorthin, wo Fehler teuer werden. Geübt wird die Bedienung, nicht die Prüfung. Dabei hätte es von Anfang an etwas zu prüfen gegeben. Wenn später etwas schiefgeht, fehlt deshalb beides: ein fester Punkt im Ablauf, an dem der Fehler auffallen müsste, und Menschen, die es gewohnt sind, genauer hinzusehen.

Hinzu kommt: Die frühen Erfolge setzen den Maßstab. Was anfangs als gelungen galt, wird zur Messlatte für alles Weitere. Wer zunächst nur fragt, wie viel schneller eine Aufgabe erledigt ist, muss später erst begründen, warum das allein nicht genügt. Die Prüfung wirkt dann wie ein zusätzlicher Aufwand, obwohl sie von Anfang an dazugehört hätte.

Annahme: Wo KI am häufigsten genutzt wird, ist sie am weitesten.

Gültig: als Faustregel seit Ende 2022, als das Büro zum Hauptschauplatz der KI-Nutzung wurde.

Prüfung: abgelaufen. Häufigkeit misst Nutzung. Wie weit KI ist, zeigt sich dort, wo ihre Ergebnisse geprüft werden.

Weiterhin offen, Prüfung folgt: Wer Einstiegsarbeit automatisiert, spart Kosten.

Jennifer Doudna im Gespräch mit Emily Chang: *Why AI Hasn't Cured Anything...Yet.* Bloomberg Originals, The Circuit, Juni 2026, 24 Minuten. https://youtu.be/n-hWHV2ZKOA

Über KI spricht Doudna nur wenige Minuten. Aufschlussreicher ist eine Passage am Ende des Gesprächs: Wo sie den Einsatz der Genschere befürwortet, hängt davon ab, wie gut Ursache und Wirkung verstanden sind. Krankheiten mit eindeutiger genetischer Ursache zu behandeln, hält sie für richtig. Bei Merkmalen wie Intelligenz, an denen Tausende Gene zusammenwirken, zieht sie eine Grenze. Darin liegt eine Parallele zum Gedanken dieser Ausgabe: Entscheidend ist, wie verlässlich wir die Folgen eines Eingriffs beurteilen können. Eine fertige Handlungsanleitung ergibt sich daraus noch nicht. Wohl aber ein Maßstab.

LinkedIn News DACH hat Ende September zehn KI-Expertinnen vorgestellt, denen man auf LinkedIn folgen kann. Ich bin dabei, mit der Frage, was KI-Systeme für uns entscheiden dürfen.

Lesenswert ist die Liste wegen der anderen neun: Sie reicht von KI im öffentlichen Sektor bis zur Entlastung kleiner Unternehmen bei Steuern und Compliance. Zur Liste →

Zur Transparenz: Unsere Texte werden nicht von KI geschrieben. Aber mit ihr gedacht.

Weitergeleitet bekommen?
The NeWoS erscheint zweimal im Monat und ist kostenlos.

Der NeWoS entsteht bei FROLLEINFLOW — seit 2011 unbequem, konsequent unangepasst, und in eurer Inbox, weil es sonst niemand schreibt.

Wir beschäftigen uns mit der Frage, die die meisten Organisationen umtreiben: Wie bleibt man urteilsfähig, wenn Systeme das Urteilen abtrainieren?

Wer nicht nur lesen, sondern denken will - antwortet einfach auf diese Mail.

Schreibt uns gerne

frolleinflow@gmail.com

Copyright © 2026 FROLLEINFLOW, All rights reserved. | Ihr mögt diese E-Mails nicht mehr? Hier abbestellen