ChatGPT: Von erhöhten Erwartungen und besseren Narrativen.

Als ich mich für die diesjährige re:publica angemeldet habe (Vorfreude!), fiel mir mein Rückblick zur #rp22 wieder ein und ich glaube, gerade ist ein passender Zeitpunkt ihn nochmal hervorzuholen – ChatGPT lässt grüßen. Der rote Faden durch drei Tage Digitalkonferenz war 2022 für mich das Thema Narrative. Welche Erzählungen von technologischem Fortschritt teilen wir miteinander? Sind diese realistisch oder überhöhte Erwartungen? Wofür/Für wen sind sie hilfreich?

Wann rede ich über das, was ist und wann über Science Fiction?

Jürgen Geuter alias tante

Der ChatGPT-Hype: Von erhöhten Erwartungen zum Produktivitätsplateau

Im Sommer letzten Jahres war ChatGPT noch kein öffentliches Thema und so ging es bei der re:publica um Web3-Technologien oder Künstliche Intelligenz im Allgemeinen. Die Talks und Aussagen finde ich dennoch sehr anschlussfähig zur aktuellen Entwicklung rund um den Chatbot von OpenAI. Um die Entwicklung einer Technologie eher sachlich einzuschätzen, bietet sich ein Blick auf den Gartner Hype Cycle an. Mit dem Hype Cycle bietet die IT-Marktforschungsberatung Gartner eine grafische Darstellung für die “maturity, adoption, and social application of specific technologies”. Aktuell befinden wir uns wohl in der Nähe vom Peak of Inflated Expectations, der Einbruch und Weg zum Produktivitätsniveau stehen uns demnach noch bevor. 

Die Narrative digitaler Pioniergemeinschaften

In seinem sehenswerten Talk über Pioniergemeinschaften spricht Andreas Hepp unter anderem über technologische Disruption und ihr Heilsversprechen, das Leben nennenswert zu verbessern. Dieses vorwegeilende Versprechen bewege Kapital und führe zu einer Verstärkung des Wettbewerbgedankens bezüglich technologischer Entwicklungen. Jürgen Geuter nannte das in Bezug auf Web3-Technologien “gefährlichen Innovation Speak”.  

Im Moment fällt mir auf, wie viele unkritische Anwendungsszenarien hervorgerufen werden. Auch die IT-Nachrichten-Website Heise konstatiert, dass ChatGPT kaum kritisch reflektiert wird: „Ein tieferes Problem bei den GPT3-Modell besteht darin, dass es nicht möglich ist, nachzuvollziehen, welche Quellen wann und wie in die jeweilige Aussagen eingegangen sind.“ (Ute Schmidt, Professorin für Angewandte Informatik)

Mein Beispiel hierzu: Ich habe ChatGPT nach “Vordenkerinnen im Personalmanagement” gefragt. Die Antwort zählte drei Weiße US-Amerikanerinnen auf: Mary Parker Follett, Anne M. Mulcahy und Susan Peters.  “Artificial Intelligences learn everything from us. Prejudices included,” fasst es dieser Spot von Wired passend zusammen. 

Man darf es eben nicht als Suchmaschine verwenden. Dann wird er Ihnen irgendetwas zusammen halluzinieren.

Prof. Dr. Katharina Zweig

Start getting involved

Auch Mira Murati, CTO bei Open AI, stellt in einem Interview mit dem TIME Magazine fest: “This is a unique moment in time where we do have agency in how it shapes society. And it goes both ways: the technology shapes us and we shape it. … It’s very important for everyone to start getting involved, given the impact these technologies are going to have.” 

Diese Handlungsverantwortung sieht sie dabei vor allem bei der Gesellschaft und Regierungen, es brauche Diskurs und Regulierung. Ich wünsche mir ebenfalls mehr konstruktiven, kritischen UND technologieoptimistischen Diskurs in der Gesellschaft, bei Unternehmen und in der internationalen Politik. 

Folgende Fragen sollten wir meiner Meinung nach diskutieren:

• Welches Geschäftsmodell steht hinter einer neuen Technologie? Wer verdient Geld mit der Nutzung? (Im Juni schließt sich dann bestimmt auch der Kreis zur re:publica 23 mit dem Motto “Cash”. Ich werde berichten!)
• Wie wirkt sich die Qualität der Trainingsdaten/Quellen von Chatbots auf die produzierten Ergebnisse aus? Wie viel Transparenz hierüber brauchen die Nutzer*innen und wie kann diese gewährleistet werden?
• Welche Einsatzmöglichkeiten sind sinnvoll, welche nicht? (Wir sollten “Abstand halten davon, KI für etwas zu verwenden, wozu es Gerechtigkeit braucht,” meint Katharina Zweig.)
• In welchen Bereichen kann ein Einsatz Gutes bewirken? (Mira Murati sieht für ChatGPT große Chancen im Bereich des personalisierten Lernens)
• In welchen Bereichen wollen wir bewusst darauf verzichten, eine einfache Lösung zu haben und lieber in einem kreativen Prozess sein?  (“Aber wollen wir als Mensch SEIN, dann sollten wir zusehen, dass wir selber im „aktiven Tätigsein“ bleiben, wie Erich Fromm es ausdrückt,” meint z.B. Hendrik Zaborowski in diesem interessanten Thread.)
• Wie lassen sich neue Kreativitätsformen unter Nutzung von KI mit Persönlichkeitsrechten, Urheberrecht & Datenschutz vereinbaren? (Aktuelles Beispiel: David Guettas Song mit künstlich erzeugtem Eminem-Intro).
• Welche Narrative wollen wir nutzen, um über Künstliche Intelligenz zu sprechen? 
• Wer hat Zugang zu KI-Systemen? Wie können bestehende Ungleichheiten bezüglich der Verfügbarkeit technologischer Entwicklungen nicht verschärft oder besser noch abgebaut werden?

Beim Thema KI sollten wir nicht blind vor Begeisterung sein. Denn hier kommt nicht einfach nur Technik, hier verändern sich die Grundfesten von gesellschaftlichem Zusammenleben, von Staatsformen, von Gesundheitssystem, von Macht-Zentren.

Marc Raschke, auf LinkedIn

Empfehlenswerte Quellen zur weiteren Auseinandersetzung mit den Themen KI und ChatGPT:

• „ChatGPT versteht nichts über die Welt“. ZEIT Online Podcast: Ist das eine Blase?
• “Nimmt mir eine künstliche Intelligenz den Job weg, Frau Zweig?” ZEIT Online Podcast: Frisch an die Arbeit
• “Richard Socher, was denken Maschinen?” ZEIT Online Podcast: Alles gesagt.
• “Wegweisende Vordenker oder kalifornische Ideologie?” Talk auf der re:publica 2022 von Andreas Hepp
• “Hello World: Was Algorithmen können und wie sie unser Leben verändern.” Buch von Hannah Frey. Buchbesprechung im Podcast “Zwischen zwei Deckeln”.
• “Ein Algorithmus hat kein Taktgefühl: Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können.” Buch von Prof. Dr. Katharina Zweig
• “Die Algorithmen lernen zu schreiben. Ist das das Ende der Lyrik?” Talk auf der re:publica 22: .txt
• “Wie ChatGPT das Schreiben verändert.” Corporate Influencer Podcast

Habt ihr weitere Informationsquellen zu Künstlicher Intelligenz und ChatGPT?

Kennt ihr Initiativen oder öffentliche Diskussionen, die sich mit den gesellschaftlichen, politischen und unternehmerischen Auswirkungen von Künstlicher Intelligenz konstruktiv auseinandersetzen?

Teilt eure Empfehlungen gerne mit uns in den Kommentaren.