AI Act ab Sonntag: gekennzeichnet heißt nicht verantwortet

Anjas ueberflow, Blog (DE), Künstliche Intelligenz / Von /

Donnerstags-Diagnose #12

Am 2. August treten die Transparenzpflichten des AI Act in Kraft. Die Europäische Kommission veröffentlichte dazu am 21. Juli Leitlinien. Vier Tage später unterzeichnete Google den zugehörigen Verhaltenskodex und warnte, dass zusätzliche regulatorische Komplexität Europas Wettbewerbsfähigkeit beeinträchtigen und die Menschen verwirren könnte, denen die Regeln helfen sollen. Damit stehen zwei Erzählungen bereit, die die nächste Zeit prägen werden: endlich Klarheit oder erneut Bürokratie.

Wer den Satz verantwortet

Interessanter ist allerdings aus unserer Sicht, was Artikel 50 der neuen EU-Verordnung tatsächlich besagt – und was nicht darunterfällt.

Absatz 4 verpflichtet Betreiber, KI-generierte Texte zu kennzeichnen, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Diese Pflicht entfällt, wenn der Inhalt menschlicher Überprüfung oder redaktioneller Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Zwei identische Texte, beide aus derselben Maschine. Beim ersten hat jemand ihn gelesen, geändert und seinen Namen daruntergesetzt. Beim zweiten hat niemand hineingeschaut. Der erste braucht kein Etikett. Der zweite schon.

Das Etikett zeigt also nicht, dass eine Maschine beteiligt war. Es zeigt nurmehr, dass niemand die Verantwortung übernimmt.

Wie gut diese Regelung funktioniert, zeigte der Juni. Die ZEIT berichtete, dass Reden und Gastbeiträge von Bundesdigitalminister Karsten Wildberger nach einer Analyse mit der Software Pangram weitgehend von einer KI stammten: ein Handelsblatt-Beitrag vom April fast vollständig, ein Beitrag in der Frankfurter Allgemeinen Sonntagszeitung vom März überwiegend. Gegenüber den Redaktionen wurde der Einsatz nicht offengelegt. Die Zeitung nannte als Erkennungsmerkmale Gedankenstriche, Dreiklänge und Verneinungen, was jeden, der selbst mit diesen Werkzeugen schreibt, an die eigene Zeichensetzung denken lässt.

Das Ministerium verteidigte sich mit einer Formulierung, die den Gesetzestext fast wörtlich vorwegnimmt. Inhalt und Verantwortung lägen zu hundert Prozent beim Menschen, der prüfen, ändern und entscheiden müsse; KI sei ein unterstützendes Werkzeug in einem von Menschen geführten Prozess. Eine gesonderte Offenlegung sei nicht erfolgt, weil man über dieses Werkzeug nicht anders Rechenschaft ablege als über eine Textverarbeitung.

Wäre das zutreffend gewesen, müsste das Ministerium ab dem 2. August nichts kennzeichnen. Die Ausnahme wäre erfüllt. Die Redaktionen glaubten es jedoch nicht. Die FAS nahm den Beitrag offline, die FAZ hatte eine Woche zuvor einen Gastbeitrag von Mario Voigt gelöscht, das Handelsblatt prüfte nach, stellte den Text wieder online und setzte einen Hinweis darauf, dass er mit KI-Hilfe entstanden war. Drei Häuser, drei Entscheidungen, und in keinem der Fälle war strittig, ob eine Maschine beteiligt gewesen war. Strittig war, ob jemand den Text gelesen und für sich beansprucht hatte.

Die Grenze, an der die Pflicht beginnt, ist im Gesetz technisch formuliert und im Alltag unscharf. Absatz 2 nimmt Systeme aus, die eine unterstützende Funktion für Standardbearbeitung erfüllen oder die Eingabedaten nicht wesentlich verändern; die Leitlinien nennen Rechtschreib- und Grammatikkorrektur als Beispiel. Zwischen der korrigierten Kommasetzung und dem Satz, für den jemand einsteht, liegt die gesamte Wissensarbeit der letzten drei Jahre. Von außen ist dieser Abstand nicht messbar, auch von Pangram nicht: Die Software erkennt die Maschine, nicht die Verantwortung. Er entsteht in dem Moment, in dem jemand einen Vorschlag liest und entscheidet, ob er ihn meint.

In derselben Woche fiel ein zweites Transparenzversprechen. Am 24. Juli erschien der Aufruf „Open Weights and American AI Leadership”, unterzeichnet von über siebzig Organisationen, darunter Google, Microsoft, Meta, OpenAI, Mistral, Nvidia, Hugging Face, IBM, die Linux Foundation, Mozilla, Palantir und SpaceX. Das Argument: Offene Gewichte, also Modelle, die jede Organisation herunterladen, prüfen, verändern und auf eigener Infrastruktur betreiben kann, bringen KI in die Fläche, halten den Wettbewerb offen und geben KundInnen die Kontrolle über ihre Daten zurück. Offenheit sei zudem der bessere Sicherheitsweg, weil viele Teams Schwachstellen finden, die in geschlossenen Systemen unentdeckt bleiben.

Das ist plausibel, und für Organisationen, die ihre Daten nicht an eine amerikanische Schnittstelle geben dürfen oder wollen, ist es die praktisch brauchbarste Antwort, die derzeit zu haben ist. Sie setzt allerdings voraus, dass die Organisation eigene Server betreiben und absichern kann.

Trotzdem lohnt es, die beiden Transparenzversprechen dieser Woche nebeneinanderzulegen. Sie meinen verschiedene Dinge. Das Gesetz will, dass man dem fertigen Text ansieht, wie er entstanden ist; über das Modell dahinter sagt es nichts. Der Aufruf will das Modell offenlegen; über das, was damit erzeugt wird, sagt er nichts.

Praktisch heißt das: Ein heruntergeladenes Modell läuft im eigenen Haus, lässt sich verändern und kennt keinen Anbieter, dem sich eine Markierungspflicht zuweisen ließe. Wer es betreibt, wird sein eigener Anbieter. Das britische AI Security Institute beschreibt die Folge nüchtern: Dieselbe Offenheit, die den Nutzen trägt, schließt die Maßnahmen aus, mit denen AnbieterInnen geschlossener Modelle Missbrauch erkennen, Schutzmechanismen nachbessern, Zugang steuern und ein Modell zurückziehen können. Nach der Freigabe sind diese Möglichkeiten dauerhaft verloren, Schutzmechanismen lassen sich entfernen, und Kopien laufen auf privaten Systemen jenseits jeder Beobachtung. Beide Versprechen sind ernst gemeint, und an der Stelle, an der Durchsetzung stattfinden müsste, entziehen sie einander die Grundlage.

Dazu kommt das Vokabular. Der Aufruf spricht von institutioneller und von amerikanischer Souveränität und sagt schon im Titel, wessen Führung gemeint ist. Die Unterzeichnerliste sagt es noch einmal: Von den genannten Organisationen sitzt die große Mehrheit in den USA, und die Ausnahmen lassen sich aufzählen. Mistral in Frankreich, Cohere in Kanada, AI21 in Israel, Sakana AI in Japan, Black Forest Labs in Deutschland.

Souveränität ist dasselbe Wort, mit dem europäische Debatten die Unabhängigkeit von genau den Anbietern beschreiben, die hier unterschrieben haben. Das entkräftet das Argument nicht. Es heißt, dass hier ein amerikanisches Verbreitungsinteresse formuliert wird, das ein europäisches Problem nebenbei mitlöst, und nicht umgekehrt.

Verschenkt wird dabei wenig. Für die meisten Unterzeichner ist das Modell Vorprodukt und nicht Produkt: Verdient wird an Rechenzeit, Hosting und Werkzeugen, und wer Zugang zu Spitzenmodellen verkauft, hält die Spitze geschlossen.

Drei Tage später hat das einzige große Labor geantwortet, das nicht unterschrieben hat. Dario Amodei stellt für Anthropic klar, nie ein Verbot offener Gewichte gefordert zu haben, und nennt offene Modelle ohne gefährliche Fähigkeiten ein öffentliches Gut. Nebenbei liefert er den Anlass, den der Aufruf selbst nicht nennt. In Washington wird erwogen, US-Unternehmen die Nutzung chinesischer offener Modelle zu verbieten.

Der Aufruf beantwortet damit nicht die Frage, ob Modelle offen sein sollten, sondern die engere, ob dieses eine Verbot kommen soll. Das erklärt auch die Unterzeichner: Getroffen würde, wer chinesische Modelle hostet, in Produkte einbaut oder günstig einkauft. Adressat ist Washington. Was daraus für europäische Organisationen folgt, steht nicht darin.

Der Streit ist kleiner, als die Lagerbildung vermuten lässt. Bestritten werden genau zwei Sätze des Aufrufs: dass Offenheit das Absichern erleichtere, und dass breiter Zugang zu Fähigkeiten den Verteidigern mehr helfe als den Angreifern. Amodei hält beides für ungeklärt und will es vor der Freigabe geprüft sehen, statt es vorauszusetzen. Wer also wissen möchte, ob offene Modelle sicherer sind, findet zwei Lager und eine offene empirische Frage. Beantwortet hat sie niemand.

Beide Antworten haben dieselbe Lücke. Ein Etikett sagt, dass eine Maschine beteiligt war, und sagt nichts darüber, ob jemand den Text durchdrungen hat. Ein offenes Modell darf jede Organisation herunterladen, und es nützt nur derjenigen, die jemanden hat, der es beurteilen kann. Herunterladbar heißt nicht durchschaubar, und gekennzeichnet heißt nicht verantwortet.

Was am 2. August beginnt, ist deshalb weniger eine Kennzeichnungspflicht als eine Beweislastverteilung. Wer sich auf die Ausnahme beruft, behauptet, den Prozess zu haben, den sie verlangt: dass ein Mensch gelesen, geprüft und entschieden hat, und dass eine benennbare Person dafür einsteht. Diese Behauptung lässt sich nachfragen. Das Ministerium hat sie im Juni aufgestellt, und drei Redaktionen haben ihr nicht geglaubt.

Für Organisationen ist das unbequemer als die Anschaffung eines Icons. Sie müssen wissen, wer bei ihnen einen Satz verantwortet, und diese Person muss dazu in der Lage sein. Werkzeuge lösen das nicht, die Rechtsabteilung auch nicht. Die Frage ist, ob im Haus jemand sitzt, der einen KI-Vorschlag lesen und begründet ablehnen kann. Wer das nicht hat, klebt am 2. August ein Etikett auf ein Problem, das er sonst nicht bemerkt hätte.

Quellen

Blog-Abo

Neue Beiträge direkt im Postfach.

Blog abonnieren

Nach oben scrollen