Direkt zum Inhalt

»Co-Intelligence«: Die KI sollte immer mit am Tisch sitzen

Es ist sinnvoll, so zu tun, als sei ChatGPT eine Person, sagt Ethan Mollick in diesem englischsprachigen Buch. Man könne die Software auf verschiedenste Weise nutzen, aber der Mensch müsse Teil des Prozesses bleiben.

ChatGPT ist ein sehr seltsamer Gesprächspartner. Er (Sie? Es?) antwortet auf jeden Text, den ein Nutzer irgendwo auf der Welt in den Computer tippt, in grammatisch korrekten, wohlformulierten Sätzen. In aller Regel ist die Antwort auch sachlich zutreffend. Spätestens wenn sich ein richtiger Dialog entspinnt, bekommt man den Eindruck, es mit einer echten Person zu tun haben.

Dabei ist ChatGPT ebenso wie die anderen »large language models« (LLMs) nichts weiter als ein – sehr großes – Stück Software. Allerdings ist es nicht programmiert, sondern hat sich seine Fähigkeiten durch Lernen erworben. Lernmaterial ist zunächst alles, was das Internet an Texten hergibt. Hat es ausgelernt, so liefert es zu einer gegebenen Wortfolge, sei es die Frage des Nutzers oder auch der bisher selbst produzierte Text, das Wort, das die größte Wahrscheinlichkeit hat, als Nächstes zu kommen.

Die neuen Möglichkeiten nutzen, ohne sich ihnen auszuliefern

Mehr steckt angeblich nicht dahinter. Allerdings folgt dem rohen Lernen ein sehr aufwendiges »Feintuning«: Heerscharen unterbezahlter Hilfskräfte bewerten die Ausgaben des Systems und bringen es durch dieses Feedback dazu, gefälliger zu werden. Weitere Maßnahmen werden ergriffen, um kriminelle, rassistische oder pornografische Äußerungen, die ChatGPT getreulich aus dem Lernmaterial wiedergeben würde, zu unterdrücken.

So ausgerüstet, schreibt das System weitgehend perfekte Schulaufsätze zu beliebigen Themen, liefert brauchbare Zusammenfassungen vorgelegter Texte, schreibt Gedichte, Computerprogramme und leistet noch weitere Dinge, die bisher – in Industrieländern hochbezahlten – Menschen vorbehalten schienen. Da müssen sich nicht nur die Lehrer umstellen; vielleicht werden wir bei einer telefonischen Anfrage bei einer Firma oder Behörde nicht mehr von einer vorab aufgenommenen Stimme in der Warteschleife beschwatzt, sondern gleich von einer künstlichen Intelligenz abgefertigt. Ob den nächsten Zeitungsartikel ein Mensch oder eine Software geschrieben hat, ob ein Bild eine echte Fotografie oder nur gut manipuliert ist: Das werden wir nur noch mühsam oder gar nicht unterscheiden können.

Ethan Mollick, Professor für Management an der renommierten Wharton Business School der University of Pennsylvania, kennt die LLMs im Wesentlichen aus der Nutzerperspektive, das aber sehr intensiv. »Gehe davon aus, dass diese künstliche Intelligenz die schlechteste ist, die du je nutzen wirst«, lautet einer der vier knackigen Merksätze, in denen er seine reichhaltigen Erfahrungen zusammenfasst. Schon das gegenwärtige Sprachmodell ChatGPT-4 ist ein gewaltiger Fortschritt gegenüber dem nur wenig älteren Vorgänger mit der Versionsnummer 3.5. Und ein Ende der Entwicklung ist nicht abzusehen.

Ein weiterer Merksatz: »Always invite the AI to the table«: Versuche nicht, der künstlichen Intelligenz aus dem Wege zu gehen. Die Entwicklung birgt zweifellos erhebliche Gefahren; aber den Geist wieder in die Flasche stopfen zu wollen, ist aussichtslos. Also nutze die neuen Möglichkeiten, statt dich von ihnen überrollen zu lassen. Statt bei den Hausaufgaben zu schummeln, können Lernende durch gezielte Fragen Wissen erwerben oder auf neue Ideen kommen, die ihnen sonst verschlossen geblieben wären. Nach Mollicks Erfahrungen profitieren leistungsschwächere Nutzer mehr davon als diejenigen, die es auch ohne maschinelle Hilfe geschafft hätten. Insgesamt ergebe sich eine Nivellierung auf höherem Niveau – nicht unbedingt eine schlechte Sache.

Der dritte Merksatz: »Behandle die künstliche Intelligenz wie eine Person (aber sage ihr, was für eine Person sie sein soll).« Verzichte also auf tiefsinnige philosophische Überlegungen, ob dein Gegenüber zum Denken oder sogar zur Einfühlung fähig ist, aber sei darauf gefasst, dass es völlig anders tickt als du. Der Zusatz in Klammern spielt auf eine der Stärken an. Wer die Maschine bittet, eine gewisse Rolle einzunehmen – Spaßmacher, Lehrer, Dichter, zum Beispiel Shakespeare –, bekommt passende Antworten. Angeblich werden die Resultate sogar besser, wenn man »Das ist wichtig für meine Karriere« dazuschreibt.

Der letzte Merksatz ist vielleicht der wichtigste, obwohl Mollick ihn schon an Platz 2 bringt: »Be the human in the loop.« Nutze die künstliche Intelligenz, aber delegiere nicht alles an sie, auch wenn die Verführung umso größer wird, je besser die Systeme werden. Wenn wir uns alle darauf verlassen, dass die Maschine es schon richtig machen wird – und es auf den ersten Blick auch noch so aussieht –, dann reden auf beiden Seiten nur noch künstliche Intelligenzen miteinander, und wir werden mit den Ergebnissen wahrscheinlich nicht glücklich sein.

Von den dystopischen Visionen, in denen die Maschinen den Menschen überlegen sein und sie daraufhin beherrschen oder gar versklaven werden, hält Mollick nicht viel. Der Ausblick in die Zukunft bleibt notwendig vage; aber warum sollten künstliche Intelligenzen, die explizit darauf getrimmt wurden, uns zu gefallen, von ganz allein ins Gegenteil verfallen?

Eine griffig formulierte Momentaufnahme eines rasant verlaufenden Prozesses mit großen gesellschaftlichen Auswirkungen.

Kennen Sie schon …

Spektrum der Wissenschaft – Vielfältige Quanten

Wir tauchen ein in die Welt der Quanten, die uns noch immer zahlreiche Rätsel aufgibt. Forscher entwickeln ständig neue Modelle und hinterfragen Grundlegendes, wie beispielsweise das Konzept der Zeit. Gleichzeitig macht die Entwicklung neuer Quantencomputer große Fortschritte und könnte unsere Verschlüsselungssysteme bedrohen. Experten arbeiten an neuen Methoden, um unsere Daten zu schützen. Erfahren Sie, wie diese Herausforderungen gemeistert werden und ob Kryptografen den Wettlauf gegen die Zeit gewinnen können.

Spektrum - Die Woche – Süßes Gift?

Entdecken Sie die Vorteile und Risiken einer zuckerfreien Ernährung in unserem Artikel »Süßes Gift«. Plus: Erfahren Sie in unserer Kolumne, warum im amerikanischen Wahlsystem nicht immer die Partei mit den meisten Stimmen gewinnt. Jetzt mehr erfahren!

Spektrum - Die Woche – Wie Computer das Lernen lernen

Die Nobelpreise in Medizin oder Physiologie, Physik und Chemie sind vergeben! Erfahren Sie, wie bahnbrechende Forschungen zu microRNA, neuronalen Netzen und Proteinen die Welt verändern.

Schreiben Sie uns!

Beitrag schreiben

Wir freuen uns über Ihre Beiträge zu unseren Artikeln und wünschen Ihnen viel Spaß beim Gedankenaustausch auf unseren Seiten! Bitte beachten Sie dabei unsere Kommentarrichtlinien.

Tragen Sie bitte nur Relevantes zum Thema des jeweiligen Artikels vor, und wahren Sie einen respektvollen Umgangston. Die Redaktion behält sich vor, Zuschriften nicht zu veröffentlichen und Ihre Kommentare redaktionell zu bearbeiten. Die Zuschriften können daher leider nicht immer sofort veröffentlicht werden. Bitte geben Sie einen Namen an und Ihren Zuschriften stets eine aussagekräftige Überschrift, damit bei Onlinediskussionen andere Teilnehmende sich leichter auf Ihre Beiträge beziehen können. Ausgewählte Zuschriften können ohne separate Rücksprache auch in unseren gedruckten und digitalen Magazinen veröffentlicht werden. Vielen Dank!

Partnerinhalte

Bitte erlauben Sie Javascript, um die volle Funktionalität von Spektrum.de zu erhalten.