Kuratiert von: Dr. Anja C. Wagner | FROLLEINFLOW - Institut für kreative Flaneure
|
Diese Ausgabe steht unter der Frage:
Was verliert eine Organisation, die nur noch Fehler korrigiert?
|
Den Papst lese ich nicht aus religiösem Interesse — aber ich lese, was Menschen schreiben, wenn sie KI ernsthaft durchdenken, ohne dabei etwas zu verkaufen. Wer keinen Produktplan hat, sieht manchmal klarer. Die *Magnifica Humanitas*, die Leo XIV. Mitte Mai veröffentlicht hat, ist das ausführlichste nicht-technische Dokument zu KI, das in diesem Jahr erschienen ist. Ein Satz ist hängen geblieben — §128. Dem geht diese Ausgabe nach.
|
Die Architektur der Korrektur
§128 lautet: »Für einen Algorithmus ist ein Fehler etwas, das korrigiert werden muss — für einen Menschen kann er der Beginn einer tiefgreifenden Veränderung sein.«
Die erste Hälfte dieses Satzes beschreibt genau das, was Organisationen gerade bauen. Automatisierte Feedback-Schleifen in Lernplattformen, KI-gestütztes Performance-Management, Fehlerrate als KPI. Das ist rational — KI erkennt Abweichungen schneller und konsistenter als jeder Mensch, und dass Organisationen das als Skalierungshebel begreifen, versteht sich von selbst. Die zweite Hälfte des Satzes ist es, die Schwierigkeiten macht.
Was Menschen wirklich können, entsteht selten durch schnelle Korrektur — es entsteht in dem Moment, in dem etwas nicht stimmt und man trotzdem weitermacht, bis sich das Denken neu ordnet. Das kostet Zeit und Unbehagen, die Bereitschaft, kurz mit dem falschen Gefühl zu sitzen. Automatisierte Korrektur liefert das Ergebnis ohne diesen Moment. Sie spart die Zeit — und spart dabei das, was aus dem Ausharren entstehen könnte.
Was hier passiert, folgt einer konsequenten Optimierungslogik: Was sich messen lässt, wird gemessen. Was sich beschleunigen lässt, wird beschleunigt. Fehlerrate sinkt, Durchlaufzeit sinkt, Compliance-Nachweise steigen. Dieselben Organisationen, die im Mai 76 KI-Events gebucht haben und jetzt Grundlagenkurse nachschulen, deployen gleichzeitig automatisierte Feedback-Schleifen in ihrer Lernarchitektur. Beide Züge sind vernünftig. Beide optimieren die sichtbare Seite des Lernens, während sie die unsichtbare nicht berühren.
§99 der Enzyklika hält fest, dass KI keine Erfahrungen macht, nicht in Beziehungen reift, nicht von ihrem Inneren her weiß, was Verantwortung bedeutet. Das ist keine theologische Aussage — es ist eine funktionale Beschreibung des Unterschieds zwischen Korrektionslogik und Reifungslogik. §102 zieht daraus den Schluss, dass sensible Entscheidungen nicht vollständig Systemen überlassen werden dürfen, die Mitleid, Barmherzigkeit und die Offenheit für Veränderung strukturell nicht kennen. Kein Moralappell. Systemdiagnose — von jemandem, der KI von außen beschreibt, ohne ein Produkt damit zu verkaufen.
»Die Zukunft eines Menschen ist nicht berechenbar.«
Die Frage ist nicht, ob KI Fehler besser erkennt als Menschen — das tut sie, und daran ist nichts auszusetzen. Die Frage ist, ob Organisationen noch Bedingungen schaffen können, unter denen ein Fehler als das erfahrbar bleibt, was §128 beschreibt: als Anfang, nicht als Endpunkt.
|
Fehler
In KI- und Tech-Kontexten ist ein Fehler eine Abweichung vom erwarteten Output — messbar, loggbar, korrigierbar. Der AI Act schreibt Zuverlässigkeit und Fehlerminimierung vor. Diese Logik wandert still in Lern- und Performancesysteme: Fehler werden zu Metriken, Lernziele zu Fehlerraten, und was sich nicht messen lässt, fällt aus dem Bild.
Was dabei verloren geht: »Fehler« als Datenpunkt überschreibt »Fehler« als Erfahrung. In Lernprozessen ist der Fehler nicht das, was korrigiert werden muss — er ist der Auslöser für den Moment, in dem jemand neu nachdenkt. Diese Funktion verschwindet, wenn Korrektur so schnell kommt, dass der Fehler nicht sitzen kann.
Wie wir den Begriff verwenden: Fehler als Ereignis, das das Selbstbild verändern kann — und damit etwas anderes meint als verbesserte Outputs. Das setzt voraus, dass der Fehler in einem Kontext stattfindet, der ihn wiegen lässt: Verantwortung, Beziehung, Konsequenz. Ein Fehler im Sandbox-Modus bleibt eine Korrekturmöglichkeit. Erst wenn er Gewicht hat, kann er Ausgangspunkt sein.
Dieses Verständnis entwickelt sich nicht von selbst — und es entwickelt sich auch nicht, wenn das, was Schule jahrelang eingeübt hat, unwidersprochen bleibt. Wer gelernt hat, dass der falsche Lösungsweg den Rotstift anzieht, ohne dass jemand fragt, was das Denken dahinter war, und wer via Multiple Choice gelernt hat, Wissen für eine Prüfung zu speichern und danach wieder loszulassen, hat ein präzises Modell davon erworben: Ein Fehler ist etwas, das man beseitigt. Dieses Modell sitzt tiefer als jedes Lernangebot, das es später korrigieren will.
|
Wir raten davon ab, Fehler-Feedback in Lernprozessen vollständig an automatisierte Systeme zu delegieren.
KI-Feedback ist sofort verfügbar, konsistent, skalierbar und datendicht — neutral im Ton, nicht erschöpft, nicht ungeduldig. Für Lernende ohne direkten Zugang zu MentorInnen oder Peers ist es oft tatsächlich besser als nichts, und in Lernplattformen gilt das längst als Standard — die Frage, ob es funktioniert, wird nicht gestellt.
Die Neutralität ist das Problem. Feedback, das keine Konsequenz hat, erzeugt keinen Widerstand — und ohne Widerstand keine Restrukturierung. Wer jedes Mal sofort eine Korrektur bekommt, lernt, Korrekturen zu verarbeiten, aber nicht, mit einem Fehler zu sitzen, bis er etwas bedeutet. Das eine verbessert Outputs, das andere entwickelt Urteilsvermögen — und im Maßstab bedeutet das, dass Organisationen schneller in der Fehlerbehebung werden und langsamer in der Urteilsbildung. Das fällt nicht auf, weil Korrektionsgeschwindigkeit messbar ist und Urteilskraft nicht.
Die Entscheidung darüber, ob Fehler in einer Organisation Gewicht haben dürfen, trifft jede Organisation selbst. Die meisten treffen sie stillschweigend, indem sie sie nicht treffen.
|
*Magnifica Humanitas*, Leo XIV., 2026 — vatican.va
Drei Paragraphen als Einstieg für den Kontext dieser Ausgabe: §99 (was KI strukturell nicht kann), §102 (Entscheidungen und Verantwortung), §128 (Fehler als Veränderungsanfang). Nicht als Glaubensdokument lesen, sondern als die bislang präziseste Außenperspektive auf die strukturellen Konsequenzen von KI in Bildung, Arbeit und Gesellschaft — geschrieben von jemandem, dem der institutionelle Auftrag zur Langsamkeit nicht als Mangel gilt. Der Text ist zu lang für eine Lektüre am Stück, aber diese drei Absätze stehen für sich. Nicht als Handlungsanleitung.
|
Zur Transparenz: Unsere Texte werden nicht von KI geschrieben. Aber mit ihr gedacht.
|
Diese Mail weitergeleitet bekommen?
|
WOMIT WIR UNS SONST BESCHÄFTIGEN
|
Der NeWoS entsteht bei FROLLEINFLOW — seit 2011 unbequem, konsequent unangepasst, und in eurer Inbox, weil es sonst niemand schreibt.
Wir beschäftigen uns mit der Frage, die die meisten Organisationen umgehen: Wie bleibt man urteilsfähig wenn Systeme das Urteilen abtrainieren?
Wer nicht nur lesen, sondern denken will - antwortet einfach auf diese Mail.
|
Copyright © 2026 FROLLEINFLOW, All rights reserved. | Ihr mögt diese E-Mails nicht mehr? Hier abbestellen
|
|
