Künstliche Intelligenz – unsere Auseinandersetzung in 4 Akten

Ok, jetzt habe ich mich als Boomer geoutet, aber umso besser, mit KI kann ich mein Aussehen, meine Sprache und jetzt auch meine Texte verbessern lassen. Oder viel besser: Texte, Bilder und Videos gleich an meiner Stelle kreieren lassen. Das wäre auch superpraktisch, weil beim Videocall um 8:00 Uhr mein echtes Gesicht sowieso noch nicht so eloquent dynamisch daher kommt.

Aber geschenkt, persönliche Eitelkeiten sind nur ein Randthema, bleiben wir beim Gamechanger „ChatGPT“: Ist es nicht großartig, dass wir jetzt Anträge und Berichte automatisieren können? Klar, die ewigen Skeptiker:innen fragen sich, wer dann noch Spaß am Lesen von generischen Anträgen hat, aber in ein paar Monaten wird es sowieso eine KI für das Auswerten von Anträgen geben. So wie es jetzt auch schon KIs für das Auswerten von Bewerbungsschreiben gibt. Gut, so weit sind wir bei Social Impact noch nicht, aber beeindruckend, was jetzt alles möglich ist!

Eine KI-Flotte gegen eine andere, ein bisschen wie Krieg der Sterne zwischen Computern. Am Anfang, d.h. so ungefähr vor 4 Monaten habe ich mich mit den Eingaben für die KIs noch etwas schwergetan: Die Megatexte kamen immer aus den ChatGPTs der anderen. Bis mir unsere KI-Nerds (liebe Kolleg:innen, nicht despektierlich, sondern bewundernd gemeint, krass was ihr immer herausfindet, bevor es irgendwo geschrieben steht!) mir gezeigt haben, dass es für die guten Eingaben (Prompts) natürlich auch schon KIs in Form von Eingabegeneratoren wie z.B. „Prompt Genius“ gibt.

Wahnsinn, diesmal nicht KI gegen KI, sondern KI für KI. Allen, denen das jetzt ein bisschen unheimlich wird, soll gesagt werden, dass es nun auch neue Berufe für Menschen gibt, wie z.B. Prompt-Engeneers. Heute gibt es Webshops, in denen ich Prompts für Text- oder Bildgestaltung kaufen kann.

Eigentlich verrückt das Ganze: Wenn ich vor 30 Jahren talentfrei zum Bildermalen war, war die Sache erledigt. Vor 20 Jahren war ich auch dann erledigt, wenn ich kein Malprogramm beherrscht habe. Vor 10 Jahren war ich erledigt, wenn ich keinen Super-Mac gehabt habe, weil die leistungsfähigen Programme so viel Rechenpower brauchten. Vor 1 Jahr war ich psychisch erledigt, weil ich eingesehen habe – Technik hin oder her – dass Talentfreiheit nun mal nicht gegen Professionalität ankommt.

Bis vor 3 Monaten, als ich entdeckt habe, dass (künstlerisch) talentfreie Menschen KIs beauftragen, um passende KI-Eingabeaufforderungsgeneratoren zu finden, um dann mit den weiter verarbeiteten KI-Promts dann eine Bildergenerierungs-KI wie z.B. „Midjourney“ zu füttern und dann die erstellten Bilder mit einer Skalierungs-KI für den hochauflösenden Ausdruck für den Verkauf auf der millionenfach genutzten DIY-Plattform „etsy“ im schönen Bilderrahmen zu verkaufen.

Das ist zwar nicht unser Business, doch erstaunlich, was KI nun auch für musisch talentfreie Menschen möglich macht. Trotz aller Faszination, vielleicht dann doch eine KI zu viel für uns. Für unseren betrieblichen Alltag begeistern uns fortgeschrittene ChatGPTs mehr, wie z.B. „AgentGPT“.

Hier schreibt sich die KI Fragen und Antworten gleich selbst in einem Rutsch. Wer hier die Begeisterung nicht teilen kann, dem/der sei „mixo“ empfohlen: Hier wird der Text nicht nur automatisch kreiert, sondern gleich als Website erstellt. Hier waren auch die Teilnehmenden in unserem Workshop Innovationsgestalter:in beeindruckt: Ein Satz zur Innovationsidee in den Prompt und 30 Sekunden später ist der Prototyp, sprich die Landingpage online. Einschließlich vorgeschlagenem Projektnamen, Logo, Bilder, Testimonial und SEO. Prototyping von 150 Minuten (Baukasten Wordpress) auf 1 Minute im letzten halben Jahr, da dürfen wir begeistert sein, oder?

An dieser Stelle soll erwähnt werden, dass wir keine Werbeverträge mit hier genannten Tools haben. Doch wir wollen unsere Euphorie hier nachvollziehbar machen und hinterlassen deshalb unsere konkreten Triggerspuren.

Früher – also so vor einem Jahr – hätte ich mein Standbild im Videocall noch heimlich mit Photoshop aufgehübscht (kann ich hier natürlich nicht öffentlich zugeben), aber Dank KI könnte ich jetzt selbst meine Videos unauffällig verschönern. Manchmal hat dann mein Ohr zwar eine Muschel mehr oder weniger, aber hier wollen wir aufgrund der rasanten KI-Verbesserungen im Wochentakt nicht so kleinlich sein.

Es ist auch von Vorteil, dass wir mit KI jetzt unsere bei facebook oder google mehr oder weniger freiwillig abgegebenen Daten auswerten können. Das kann ChatGPT in der Version 4 mit Webbrowsing jetzt für 20 € im Monat. Welch ein Fortschritt in den letzten Monaten.

Wenn ich damals Social Impact gGmbH eingegeben hatte, hat die KI nur mit Daten aus ihrer Fütterzeit bis September 2021 aus den Wikis dieser Welt gearbeitet, mit der webbrowsenden KI bin ich jetzt am digitalen Puls der Zeit! Aber das kann die Microsoft Suchmaschine Bing schon länger! Und als Teams-Nutzer:innen werden wir mit dem Softwareupdate diesen Winter die KI als „Copilot“ in Teams und Office integriert haben. Irgendwie muss sich das milliardenschwere Investment von Microsoft bei OpenAI auszahlen.

Eigentlich müsste sich OpenAI aufgrund der Transparenzlücken nun in ClosedAI umbenennen. Der Name stammt noch aus ihrer Zeit vor 2019, als sie ihren Nonprofit-Status aufgegeben haben. Bezahlen würden wir aber vielleicht die angekündigte Buchhaltungs-KI.

Wenn es wirklich so kommt, dass die KI Belege und Geschäftsvorfälle erkennt und automatisch verbucht, wäre vielen Unternehmen geholfen. Aber wahrscheinlich ist es keine Frage der technischen Entwicklung mehr, sondern eine Frage des Datenschutzes. Wahrscheinlich hätte das Finanzamt dann auch eine KI zur Auswertung des Jahresabschlusses, dann sind wir wieder bei Krieg der Sterne, siehe oben. Aber vielleicht sollten wir, was die Einführung digitaler Tools beim Finanzamt angeht, unsere Euphorie etwas bremsen.

2. Akt: Zweifel

Nach ungefähr 3 Wochen frohes Ausprobieren von KI-Anwendungen begannen in unseren Teams die Diskussionen über Ziele und Arbeitsweisen von KI-Anwendungen hinter den digital-kreativen Feuerwerken. Unsere „Euphorie-Fraktion“ wurde ja von Anfang an genau von unserer Skeptiker-Fraktion beäugt. Wir waren die große Gesellschaft im Kleinen, vielleicht noch etwas polarisierter, weil wir uns als innovationsaffin, aber gleichzeitig auch als verantwortungsvoll verstehen. Insbesondere haben uns folgende Themen beschäftigt:

Transparenz:
Bei KI handelt es sich um Algorithmen, von denen wir nicht wissen, aus welchen Quellen sie sich bedienen, wie sie Informationen rekombinieren und unsere Datenfütterung weiterverwenden. Zwar ist die Grundfütterung bei z.B. ChatGPT zu 80% bekannt: Common Crawl als gemeinnütziger Datendienstleister für jedermensch und wikipedia als open source Quelle klingen erst einmal sehr unverfänglich. Doch spätestens mit dem add-on Webbrowsing wird die ursprüngliche Datenbasis zunehmend irrelevanter. Für uns als Sozialunternehmen ist Transparenz ein hohes Gut.

Trainingsdaten:
Durch die verwendeten Trainingsdaten von KI würden oftmals existierende gesellschaftliche Ungleichheiten und Ungerechtigkeiten, wie z.B. Vorurteile und Rassismus, reproduziert und durch den Einbau in „scheinbar neutrale“ Entscheidungssysteme fortgeschrieben, sagt Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg. Eine sehr interessante Reportage hierzu findet sich aktuell in der ZDF-Mediathek unter dem Titel „Programmierte Ungerechtigkeit“. Hier müssen wir dann wohl genauer hinschauen, wenn uns ChatGPT wieder einen gefühlt grandiosen Text präsentiert.

Ergebnisverwendung:
In den letzten Monaten haben wir gelernt, dass die Ergebnisse von Text- und Bild-KIs nicht immer der Wahrheit entsprechen. Die gefakten Bilder von der Verhaftung von Donald Trump im April haben uns gezeigt, wie neue vermeintliche Wirklichkeiten geschaffen werden können. Klar, es gab schon immer retuschierte Bilder und fragwürdige Zeitungsartikel, aber die Geschwindigkeit und Vollumfänglichkeit der Medienbearbeitung mit KI hat eine neue Diskussion zu Wahrheit und (Deep)Fake entbrannt.

Rechtlicher Rahmen:
In der ersten Euphorie auf der Suche nach dem besten Prompt haben wir uns manchmal vom digital-technischen Feuerwerk blenden lassen. Gefühlt waren die Ein- und Ausgaben der KI-Anwendungen immer unsere eigenen Werke. Aber was passiert mit unseren Daten, die wir einspeisen? Bekommen diese andere Nutzer:innen vielleicht mal als Antwort auf ihre Prompts ausgespuckt? Laut Open AI werden in ChatGPT und Dall-E Daten nur zu Trainingszwecken gespeichert. Aber wer glaubt das schon, wenn das Geschäftsmodell aus Datenaufbereitung und -rekombination besteht? Zentrale Rechtsnormen für unsere Auseinandersetzung sind hier der Datenschutz und das Urheberrecht.

Ökologie:
Sowohl für das Training der KIs als auch für den Betrieb der riesigen Serverparks wird viel Strom benötigt. Wir gehen davon aus, dass dieser mehrheitlich nicht regenerativ erzeugt wird. Allein das Training von GPT-3 soll rund 1,287 Gigawattstunden benötigt haben (etwa so viel wie 120 US-Haushalte in einem Jahr), wie aus einem von Bloomberg zitierten Forschungspapier von 2021 hervorgeht. Vielleicht müssen wir uns bei KI die gleiche Frage wie bei der Autofahrt (zumindest aus der häufig motorisierten Boomer-Perspektive) stellen: Brauche ich für den kurzen Text oder die kurze Fahrt wirklich die Automation oder geht es auch zu Fuß?

1. 3. Akt: Frust
   

Der Sozialunternehmer Mohammad Yunus ist seit dem Erhalt des Friedensnobelpreises vor gut 15 Jahren ein Held in unserer Community. Umso mehr interessierte mich, wie er die aktuellen Entwicklungen der KI im Kontext unserer Gesellschaft einschätzt. Hierzu ein verkürzter Auszug aus einem Interview mit dem Magazin Spiegel vor 3 Wochen:

Yunus: Meine Formel für den notwendigen Wandel in der Welt für jeden Einzelnen heißt: null globale Erwärmung, null Vermögenskonzentration und null Arbeitslosigkeit respektive null künstliche Intelligenz.

SPIEGEL: Bevor wir zu den anderen Punkten kommen, warum null künstliche Intelligenz?

Yunus: Weil die künstliche Intelligenz uns töten wird, bevor der Klimawandel uns umbringt. Sobald dieses Monster den Käfig verlassen hat, kann es niemand mehr einfangen.

SPIEGEL: Was genau meinen Sie?

Yunus: Sie haben wahrscheinlich schon einmal Chat GPT genutzt und den Eindruck, dass das eher harmlos ist. Sie täuschen sich gewaltig. Unsere gesamte Vorstellung von der Welt wird nach und nach von künstlicher Intelligenz übernommen werden. Auch die Arbeit von euch Journalisten wird dann plötzlich weithin nutzlos sein.

SPIEGEL: Kann künstliche Intelligenz kreative Arbeit wirklich ersetzen?

Yunus: Es geht gar nicht so sehr um die Arbeit, sondern um die Herrschaft über das Narrativ, über den Geist, über unsere Vorstellung von der Wirklichkeit: In welcher Welt leben wir? Was ist unsere Philosophie? Welche Religion haben wir? Was sind die Werte? Die künstliche Intelligenz wird unsere Vorstellungen von diesen Fragen übernehmen, auf so überzeugende Art und Weise, dass kein Mensch damit konkurrieren kann.

Yunus geht davon aus, dass die KI massiv zu Arbeitsplatzabbau führen wird. Hier habe ich ein Déjà-vu zur Einführung der PCs in den 80er Jahren. Glücklicherweise ist es nicht soweit gekommen, die Beschäftigtenzahlen sind mit der Digitalisierung gestiegen. Trotzdem ist Yunus nicht der einzige skeptische Experte. Geoffrey Hinton, ehemals Mitarbeiter von google, auch bekannt als der „Godfather of KI“, hat sich in einem Interview mit der „New York Times“ besorgt über die möglichen Risiken von Künstlicher Intelligenz (KI) geäußert. Er sieht ebenso das Potenzial für massive Jobverluste und die Verbreitung von gefälschten Informationen im Internet. Selbst Technik-Enthusiasten, wie das Netzwerk Techopedia posteten im Mai: „Die Integration von KI und IoT in Smart Cities könnte zur Verdrängung von Arbeitsplätzen führen, insbesondere für diejenigen, die über geringe technische Fähigkeiten in Sektoren wie der Verkehrsherstellung oder der Logistik verfügen. Dies kann die Einkommensungleichheit weiter verstärken und dazu führen, dass eine große Zahl von Arbeitnehmern nicht angemessen unterstützt wird.“

Hier sind wir meines Erachtens am wahren Kern des Problems. Es ist empirisch betrachtet unwahrscheinlich, dass in der Summe Arbeitsplätze durch den Einsatz von KI wegfallen. Natürlich werden durch die Digitalisierung immer Jobs aufgrund ersetzbarer Qualifikation wegfallen. Es werden aber auch neue Jobs mit höherer Qualifikation dazukommen. Nach dem Trend der letzten 20 Jahre in Deutschland ist es eher wahrscheinlich, dass bei gleichbleibenden Arbeitslosenzahlen die Vermögens- und Einkommensungleichheiten zunehmen werden. Das volkswirtschaftliche Maß hierfür, der gini-Koeffizient, drückt das empirisch aus, was viele Menschen in unserer Gesellschaft fühlen. Ausgrenzung, fehlende Teilhabe, kaum Perspektiven. Die Konsequenzen sehen wir bei den Ergebnissen in aktuellen Landtagswahlen, aber auch bei sozialen Unruhen in unserer Gesellschaft, aber auch in Frankreich, den USA u.a.

Eine politische Konsequenz wäre eine stärkere sozialpolitische Begleitung der unteren Einkommensschichten bei der digitalen Transformation. Die Ideen liegen auf dem Tisch: von der Verbesserung der Bildungsstandards (einschließlich der Aus- und Weiterbildung) über Investitionen in Zukunftsindustrien bis hin zu gerechten Mechanismen für die Verteilung der Fortschrittsgewinne.

Was mich hier am meisten frustriert, ist, dass die (nicht-)handelnden politischen Institutionen keine Lösungen für neben dem Klima vielleicht unser größtes Problem finden können/wollen. Oder neue Baustellen eröffnen. So warnten erst kürzlich Hunderte Forschende und Unternehmer, darunter auch Elon Musk, vor den Risiken der künstlichen Intelligenz. Sie forderten ein sechsmonatiges Moratorium, das dazu genutzt werden soll, über ein Regelwerk nachzudenken. Wie bitte? Ist Elon Musk nicht der Mensch, der seine Autos am liebsten nur mit KI fahren lassen möchte? War er nicht Mitgründer von OpenAI?

Mit böser Zunge könnte Mensch sagen: "Clever! Mit ChatGPT und Dall-E zwei Platzhirsche auf den Markt bringen und dann die Pole Position dadurch sichern, dass jetzt alle Wettbewerber bitte mal sechs Monate nicht aufholen sollen."

Die Aufforderung löst auch bei Sandra Wachter, Professorin Recht und Ethik an der Universität Oxford, einen Zwiespalt aus. „Einerseits finde ich es gut, dass wir uns darüber Gedanken machen, was KI mit unserer Gesellschaft macht und wie wir damit umgehen wollen. Andererseits habe ich das Gefühl, dass vieles an der Kritik utopisch und unrealistisch ist“. Ebenso pragmatisch findet die Bereichsleiterin für Künstliche Intelligenz beim Branchenverband Bitkom, Merle Uhl: „Die Vorteile zu ermöglichen, ohne dabei die Risiken aus dem Blick zu verlieren - es ist ein Balance-Akt, den die Politik versucht.“

Eine erste Orientierung im Umgang mit KI hat die deutsche Instanz für ethische Fragen, der Deutsche Ethikrat mit Schwerpunkt KI in der Medizin, in einer Broschüre veröffentlicht. Die Kernfrage für unsere Gesellschaft formuliert die Vorsitzende Alana Buyx so: „Wo wollen wir das und wo nicht, und warum“.

Fast schon eine entspannte Haltung zur KI hat der deutsche Experte, Jürgen Geuter, alias Tante bei seiner keynote auf der republica 2023: „Die Gefahr ist nicht, dass “KI” so gut ist wie Menschen, die Gefahr ist, dass das deinem Boss egal ist“. Er rückt hier also nicht die technische sondern die Haltungsfrage insbesondere bei Unternehmen in den Mittelpunkt. Und damit sind wir also wieder bei uns und versuchen den

1. 4. Akt: Aufbruch

2. Bei Social Impact sind wir uns einig, dass wir KI für unsere Organisation und Services nutzen möchten. Es gibt noch positive Nachwehen aus unserer Euphoriephase, wir sind uns aber darüber bewusst, dass wir für uns Verhaltensregeln für den betrieblichen Umgang mit KI aufstellen müssen. Somit wollen wir größtmögliche Transparenz, sorgfältige Nutzung und effizientes Arbeiten erreichen. Mangels bisheriger Erfahrungen aus anderen Organisationen und noch fehlender politischer Vorgaben haben wir uns entschlossen, eine interdisziplinäre Arbeitsgruppe aufzustellen. Das Ziel ist innerhalb von 4 Wochen ein Regelwerk mit ethischen, technischen und rechtlichen Vorgaben für die Social Impact zu erstellen. Die Organisation war recht einfach und erfolgte nach Interesse. Bereits im ersten Akt hat sich bei uns eine informelle Austauschgruppe zu KI-Anwendungen gebildet. Hier nahmen aus Interesse zeitweise 50% aller Mitarbeitenden teil. Aus dieser Gruppe hat sich dann selbstorganisiert unsere Arbeitsgruppe für unser Regelwerk, der Social Impact KI-Compliance gebildet.

In den Diskussionen hat sich gezeigt, dass es schwieriger ist, als es sich anhört, Werte wie Transparenz, Verantwortlichkeit oder auch Wirtschaftlichkeit handlungsorientiert zu definieren. Die Spannbreite bei der Transparenz z.B. ging von „wir müssen jedem Kunden in jeder Situation sagen, dass wir KI Tools wie ChatGPT oder Midjourney o.a. benutzt haben“ bis dahin, Kunden „nur grundsätzlich zur Nutzung von KI bei Social Impact“ zu informieren. Beim Thema Verantwortung war uns selbst nicht klar, inwiefern wir Verantwortung für die Ergebnisse und Nutzung von KI-Anwendungen selbst übernehmen können. Wir können Ergebnisse nur über die Prompts verändern, was wir aber festlegen können ist die Verantwortung für die Verwendung. Uns ist es immer wichtig, dass wir die Ergebnisse kontrollieren und uns z.B. fragen, ob wir hier diskriminierende Texte, Bilder oder andere Medien transportieren. Jede Person, die KI einsetzt, ist selbst für die Kontrolle verantwortlich.

Unsere Arbeitsgruppe hat tatsächlich innerhalb der 4 Wochen unsere Compliance erstellt und in 3 Schleifen mit unserem Rechtsanwalt, unserer Kommunikation und der Geschäftsleitung verabschiedet. Insgesamt haben wir 10 Merkmale für die Nutzung von KI definiert: missionsorientiert, transparent, verantwortungsvoll, wirtschaftlich, kontrolliert, dynamisch, qualifiziert, Datenschutz konform, nicht diskriminierend, dialogisch. Aktuell sind wir beim Ausprobieren, ob die Regeln uns die notwendigen Freiheiten geben, um KI pragmatisch einsetzen zu können und gleichzeitig Rahmen zu setzen, um Kunden, Mitarbeitende und Stakeholder zu schützen. Wir haben bereits Workshops mit sozialen Organisationen zum Thema KI und Compliance durchgeführt und schätzen den Austausch in der Community sehr.

So, wir sind jetzt nach erster Euphorie, zunehmenden Zweifel und temporärem Gesellschaftsfrust im Aufbruch angekommen. Und zum Schluss haben wir ja noch eine offene Frage: Darfst du bei deinem Bewerbungsschreiben an uns ChatGPT einsetzen?

Nun, du hast 3 Möglichkeiten: 1. Du nutzt ChatGPT so professionell und gut, dass wir das gar nicht merken und deine Frage wäre somit irrelevant. 2. Du nutzt ChatGPT so unprofessionell, dass es gleich auffällt, wahrscheinlich würden wir dich dann nicht einladen. Und 3. Du hast ChatGPT benutzt und kommunizierst, warum du es benutzt hast. Wahrscheinlich wäre es die beste Bewerbung, weil du zeigst, dass du mit Zukunftstechnologien umgehen möchtest, aber auch gleichzeitig bereit bist diese zu reflektieren.

Die Social Impact KI Compliance findet ihr hier: https://socialimpact.eu/ki-compliance

PS: Dieser Text ist komplett ohne ChatGPT geschrieben!