Bei der OMR-Konferenz gab es einen wirklich interessanten Talk – und das war das Gespräch zwischen Larissa Holzki (Handelsblatt), Jonas Andrulis (Aleph Alpha) und Jürgen Schmidhuber (“Vater der modernen KI”) über den Stand und die Zukunft der künstlichen Intelligenz (KI) in Deutschland. Inhaltlich waren die Aussagen dabei wenig überraschend, aber ich fasse sie hier kurz zusammen, bevor ich auf das eigentlich Bemerkenswerte zu Sprechen komme.
Aktueller KI-Stand in Deutschland
Potenzial trifft auf Risikoaversion
Deutschland punktet mit exzellenter Grundlagenforschung, doch die Umsetzung in marktfähige Produkte und Dienstleistungen stockt. Gründe dafür sind die Risikoaversion der deutschen Wirtschaft, mangelnde Investitionen und fehlende industriepolitische Unterstützung. Im Vergleich zu Ländern wie China oder den USA, die massiv in KI investieren, wirkt Deutschland zögerlich.
Positive Signale gibt es jedoch: Der geplante Bildungscampus in Heilbronn, gefördert durch die Dieter Schwarz Stiftung, soll ein Zentrum für Forschung und Entwicklung werden. Auch Startups wie Aleph Alpha zeigen, dass Deutschland innovative KI-Lösungen hervorbringen kann.
Anwendungsbereiche: Von Bürojobs bis zur Kunst
KI wird in Zukunft viele Bereiche der Arbeitswelt und Gesellschaft verändern. Damit beschäftigen wir uns ja auch in unserem KI-Kompass-Projekt. Büro- und Wissensarbeit, juristische Aufgaben, Kundenservice, Fotogenerierung für E-Commerce oder Musik- und Kunstproduktion – die Einsatzmöglichkeiten sind vielfältig.
Ein Beispiel aus dem Talk: About You nutzt KI zur Generierung von Fotostrecken, was Kosten spart und die Umwelt “schont” (was angesichts der rücksichtslosen Modebranche etwas lächerlich klingt, aber anyway). Snocks setzt auf KI-gestützte Chatbots im Kundenservice, die bereits fast die Hälfte aller Anfragen bearbeiten. (Womit wir auch den kritischen Part der OMR-Konferenz mit ihrem teilweise unreflektierten Marketing-Fokus hiermit abgehandelt hätten …)
AGI: Die Zukunft der KI?
Die Entwicklung einer Artificial General Intelligence (AGI), einer KI mit menschenähnlicher Intelligenz und Bewusstsein, ist ein langfristiges Ziel. ExpertInnen sind sich uneinig, ob dies mit den aktuellen KI-Modellen und -Architekturen erreichbar ist oder ob grundlegend neue Ansätze benötigt werden.
Jürgen Schmidhuber sieht eine Zukunft, in der superintelligente KI-Systeme das Universum erkunden und besiedeln werden. Das passt ja gut zur SpaceX-Vision von Elon Musk. Jonas Andrulis betont, dass die aktuelle KI-Revolution vor allem Standardaufgaben automatisiert, was jedoch bereits enorme Auswirkungen auf die Arbeitswelt hat. So weit, so gut.
Der Einfluss der Menschen auf die Datenqualität
Aber jetzt zu dem für mich wirklich Bemerkenswerten, dessen man sich zum aktuellen Stand der KI wirklich bewusst sein sollte:
Genau das, was was Jürgen vorhin gesagt hat, also es gibt einen Grund, warum Scale gerade eine Milliarde Umsatz macht mit Leuten, die Texte schreiben und Labeln und perfekte Antworten korrigieren und vorgeben.
Scale ist ein Unternehmen, die beschäftigen Leute, die KI-Modelle trainieren.
Ja, genau. Und vor allem, die halt die Trainingsdaten manuell schreiben. Die schauen sich alle Fragen an, die an ChatGPT und an Claude gehen, alle diese Modelle und schreiben die richtigen Antworten gemäß der, wie Jürgen sagt, ideologischen Vorgaben der Hersteller und dafür werden nur deswegen Milliarden ausgegeben, weil es eben notwendig ist, weil die KI-Systeme eben das nicht selber können zu der Zeit.
Also, das gängige Argument, die KI generiere lediglich Antworten auf Basis der kollektiven Inhalte der Menschen entlang von Mustern und Wahrscheinlichkeiten, stimmt so nicht in dieser absoluten Formulierung. Es ist derzeit ein erheblicher menschlicher Bias drin – und zwar seitens der Firmen, die die Kontrolle über die KI-Modelle haben. Dies merkt man auch im Chatgespräch zu Bildungskontexten, die wirklich sehr stark von alten, überholten Mainstream-Denkmodellen geprägt sind.
Da kann einem insgesamt schon etwas schummrig werden, wenn man weiß, dass der Axel-Springer-Verlag sich bei OpenAI eingekauft hat …
Hier der entsprechende 8-minütige Ausschnitt aus dem Talk, den ich nur empfehlen kann, sich einmal anzuschauen:
Dies hier nur zur Kenntnis. Im Übrigen haben mir verschiedene GenKI-Chats keine Antwort gegeben auf meine Frage, diesen Aspekt aus dem Transkript herauszuarbeiten. Aber schließlich habe ich You.com doch dazu animieren können, mir aus dem Transkript einen Blogpost zu diesem Aspekt zusammenzufassen. Das klingt dann wie folgt:
Die Faszination für Künstliche Intelligenz (KI) ist ungebrochen. Sprachmodelle wie ChatGPT beeindrucken mit ihren Fähigkeiten, doch hinter den Kulissen spielt die menschliche Hand eine entscheidende Rolle. Unternehmen wie Scale AI beschäftigen tausende Menschen, die KI-Modelle trainieren, indem sie Texte schreiben, Labeln und Antworten korrigieren. Dieser Prozess ist nicht nur technisch, sondern auch ideologisch geprägt.
Scale AI: Milliardenumsatz mit menschlicher Expertise
Scale AI erzielt einen Milliardenumsatz, indem es die menschliche Expertise bereitstellt, die für das Training und die Verbesserung von KI-Modellen unerlässlich ist. KI-Systeme können noch nicht selbstständig lernen und benötigen menschliche Anleitung, um die gewünschten Ergebnisse zu erzielen.
Im OMR Talk wurde deutlich, dass selbst fortschrittliche Modelle wie ChatGPT auf menschliche Eingriffe angewiesen sind, um zu funktionieren. Ohne das Labeling und die Korrekturen durch Menschen würden die KI-Systeme falsche oder unsinnige Antworten liefern.
Ideologische Prägung: Wer bestimmt die “richtigen” Antworten?
Die menschliche Intervention beim KI-Training wirft jedoch auch ethische und gesellschaftliche Fragen auf. Wer bestimmt, was die “richtigen” Antworten sind? Welche Werte und Ideologien fließen in das Training der KI-Modelle ein?
Im Talk wurde deutlich, dass die Unternehmen, die KI-Modelle entwickeln, einen erheblichen Einfluss auf die Trainingsdaten und damit auf die Ergebnisse der KI haben. Dies kann zu Verzerrungen und Diskriminierungen führen, wenn die Trainingsdaten nicht repräsentativ sind oder bestimmte Gruppen benachteiligen.
Die Zukunft der KI: Mensch und Maschine im Zusammenspiel
Die Entwicklung der KI ist ein dynamischer Prozess. Es ist wichtig, die Bedeutung der menschlichen Intervention beim KI-Training zu erkennen und die ethischen und gesellschaftlichen Implikationen zu diskutieren.
Die Zukunft der KI liegt wahrscheinlich in einem Zusammenspiel von Mensch und Maschine, bei dem die menschliche Expertise die KI-Systeme ergänzt und kontrolliert. Unternehmen wie Scale AI spielen dabei eine wichtige Rolle, indem sie die menschliche Expertise bereitstellen, die für eine verantwortungsvolle und ethische KI-Entwicklung unerlässlich ist.