In Filmen und Serien mögen übermenschenkluge Maschinen wie der Terminator seit Jahrzehnten unter den Menschen leben. Viele Experten wie Yann LeCun, der bei Facebook die Forschung an künstlicher Intelligenz (KI) leitet, sehen hingegen noch einen weiten Weg bis Maschinen selbst "die einfachsten Dinge der Welt so lernen können, wie Menschen oder Tiere das tun". Zweifellos jedoch werden bereits in naher Zukunft immer mehr Entscheidungen von Maschinen getroffen werden. Algorithmen empfehlen schon heute Lieder, Bücher und sogar Liebespartner auf Grundlage von Datenanalysen. Autonome Autos werden eigenständig und schneller als jeder Mensch festlegen, ob sie bremsen oder ausweichen, wenn ein Unfall droht. Automatische Waffensysteme könnten in den Kriegen der Zukunft völlig ohne menschliches Zutun über Leben und Tod richten.

Um sich derlei Problemen zu stellen, haben sich Ende 2016 sechs der größten Unternehmen im Bereich künstliche Intelligenz – Amazon, Apple, Facebook, Google, IBM und Microsoft – in der "Partnership on AI" (PAI) zusammengeschlossen. Mittlerweile gehören mehr als 80 namhafte Institutionen dem Konsortium an, darunter auch Menschenrechtsorganisationen wie Amnesty International und Human Rights Watch. Aus Deutschland sind SAP und das Fraunhofer Institut für Arbeitswissenschaft und Organisation in Stuttgart dabei.

Am 23. und 24. Oktober trafen sich in Berlin nun erstmals alle Partner. Die Wahl fiel auf die deutsche Hauptstadt, um die globale Perspektive von PAI zu betonen, erklärt die neu eingesetzte Geschäftsführerin Terah Lyons. Vor ihrem Job bei PAI hat sich Lyons im US-Wissenschafts- und Technologierat der Regierung von Barack Obama mit künstlicher Intelligenz und maschinellem Lernen befasst. Sie war bei einem Bericht der US-Regierung über die Zukunft der KI federführend, der im Oktober 2016 veröffentlicht wurde. Spektrum.de hat aus diesem Anlass mit Terah Lyons eines der ersten Interviews über ihre neue Aufgabe geführt.

Frau Lyons, was sind nach diesem ersten großen Treffen in Berlin die dringlichsten Fragen, die sich die Partnership on AI (PAI) stellen muss?

Terah Lyons: Eines der Ergebnisse dieses Treffens ist, dass wir uns etwas Zeit nehmen müssen, um darüber nachzudenken, was die dringlichsten Fragen sind. Aber es ist klar, dass es innerhalb der sieben thematischen Säulen, die wir aufgestellt haben, einige Schwerpunkte geben wird (Anm. der Redaktion: Die Säulen lauten: sicherheitskritische KI; faire, transparente und verantwortliche KI; Zusammenwirken von Menschen und KI-Systemen; KI, Arbeit und Wirtschaft; soziale und gesellschaftliche Einflüsse von KI; gesellschaftlicher Nutzen von KI; Sonderinitiativen). Teil der Überlegungen zur Priorisierung war es, darüber nachzudenken, wo der Querschnitt zwischen der Tiefe der Auswirkungen unserer Arbeit mit den einmaligen Fähigkeiten unserer Organisation am größten ist.

Ich denke, es gibt einige einzigartige Aspekte bei PAI. Zum einen wurden wir von den Chefentwicklern der sechs weltgrößten Technologieunternehmen gegründet. Viele der Menschen, die die Technologie tatsächlich entwickeln, haben von Anfang an daran mitgewirkt, dass wir Grundprinzipien und Werte in den Mittelpunkt stellen. Zum anderen sind wir eine Organisation mit Interessengruppen aus verschiedenen Sektoren: Wir haben Menschen aus der Zivilgesellschaft, der Industrie, dem Nonprofitsektor, Bürgerrechtsgruppen und akademische Mitglieder. Die Partner bringen sehr unterschiedliche Fachkenntnisse, Erfahrungen und Schwerpunkte in der Entwicklung und Verbreitung von KI-Technologie mit. Das gibt uns eine einmalige Färbung. Ich denke, wir haben die richtige Struktur um Verantwortung einfordern zu können.

Werden Sie Arbeitsgruppen einrichten, die sich auf die verschiedenen Themen konzentrieren, die ganz oben auf der Liste stehen?

Es wird jedenfalls einen Mechanismus geben müssen, mit dem wir die Ergebnisse unserer Organisation vorantreiben. Das Treffen hier in Berlin hat uns viel mehr an Daten geliefert, wie wir das auf effektive Art und Weise machen können. Letztendlich werden wir als Organisation gemeinsam über die Forschung, die wir finanzieren möchten, die Bereiche, über die wir mehr erfahren wollen, und die Entwicklung von "Best Practices" und Governance-Modellen für bestimmte Themenbereiche entscheiden.

Es gibt Hinweise darauf, dass bei der automatischen Gesichtserkennung bestimmte ethnische oder demografische Gruppen schlechter erkannt werden als andere. Wäre das ein Beispiel für eines der Themen, mit denen sich die Partnerschaft befassen wird?

Es fällt mir im Moment noch schwer als Einzelperson die genauen Prioritäten zu artikulieren, die wir später gemeinsam festsetzen werden. Aber das ist ein Beispiel für die Art von Fragen, über die wir sicherlich nachdenken. Wenn man sich unsere Säulen anschaut, wird klar, welche Schwerpunkte dahinterstecken. In den Gesprächen hier in Berlin ist sehr deutlich geworden, dass es viele Vermischungen zwischen den verschiedenen Themen gibt: Ich war zum Beispiel in einem Team, das sich mit sicherheitskritischer künstlicher Intelligenz beschäftigt hat. Viele der Fragen dort wirken sich auch auf Fragen der Rechenschaftspflicht und Transparenz sowie auf die Ethik von KI aus, die in anderen Gruppen behandelt wurden. Es ist an uns, einzelne Kategorien zu definieren, um unsere Aufmerksamkeit zu fokussieren. Aber es besteht zweifellos ein Interesse daran, dass Unternehmen, die KI-Technologien entwickeln, sich öffentlich dazu äußern, wie sie diese Technologien nutzen oder weiterentwickeln. Die genauen Konturen müssen sich noch ergeben, aber ich glaube, das ist etwas, was PAI auf einzigartige Weise ermöglichen kann.

"Die Konsensbildung wird anspruchsvoll werden"
Terah Lyons

Sie müssen Konsens zwischen einer großen Anzahl von Interessengruppen und Unternehmen erreichen, von denen einige im harten Wettbewerb miteinander stehen. Wie wollen Sie das anstellen?

Der Prozess der Konsensbildung wird sehr anspruchsvoll werden. Das ist er bei jeder Organisation. Doch bei einer unserer Größe und Diversität ist das eine zentrale Herausforderung. Es ist seit der Gründung ein integrales Merkmal, dass PAI unabhängig bleibt. Und wir müssen nicht unbedingt einen perfekten Konsens unserer konstituierenden Mitglieder erzeugen. Wir können und werden wahrscheinlich auch Erklärungen abgeben, mit denen einige unserer Partner nicht völlig einverstanden sind. Diese Art von kritischer Spannung macht uns wirklich interessant und überhaupt erst funktionsfähig, um ehrlich zu sein. Das wird einige spannende öffentliche Gespräche über die anstehenden Fragen erzwingen.

Kritiker könnten einwenden, dass Ihre Organisation nicht wirklich unabhängig ist, sondern ein Mittel zur Lobbyarbeit einiger großer KI-Player, um ihren Ruf zu verbessern.

Wir sind keine Lobbyorganisation, das möchte ich festhalten. Für Leitung und Vorstand hat es hohe Priorität, dass wir weder ein Feigenblatt für die Unternehmen sind, die diese Organisation gegründet haben, noch dass wir als Lobbyisten agieren, die sich im Namen einiger weniger Unternehmen für deren spezifische Interessen einsetzt.

Aber PAI wird doch von den Mitgliedern finanziert, oder?

Wir werden von den gewinnorientierten Partnern in unserer Organisation gemeinsam unterhalten, das ist unser Finanzierungsmodell. Das bedeutet auch, dass wir über die Gründungsunternehmen hinaus vielfältig unterstützt werden. Es sind nicht nur sechs Unternehmen, die für den Betrieb aufkommen, es ist ein kollektives Unterfangen.

"Es gab ein großes Zögern der NGOs, sich zu beteiligen"
Terah Lyons

PAI hat Human Rights Watch, Amnesty International, UNICEF und andere NGOs als Partner. Die würden wohl aussteigen, wenn sie sich dazu missbraucht sehen würden, einige Milliardenunternehmen moralisch reinzuwaschen.

Das stimmt. Es ist offen gesprochen auch erwähnenswert, dass es anfangs ein großes Zögern seitens dieser Organisationen gab, sich zu beteiligen. Das ist völlig verständlich. Es ist lebenswichtig für sie, eine skeptische Haltung zu verkörpern. Es ist nun an uns zu beweisen, dass sie ihre Zeit und Energie nicht umsonst in dieses Projekt stecken. Aber wenn diese NGOs das Bedürfnis verspüren, dann werden sie uns auch verlassen. Und das wiederum würde ein sehr starkes öffentliches Statement über eine Organisation wie die unsere aussenden. Die Stimme der NGOs wird genauso ernst genommen werden wie jede andere Stimme bei uns – vielleicht sogar noch ernster, wenn man sich die Perspektive vergegenwärtigt, die diese Organisationen haben.

Wie mächtig wird PAI am Ende wirklich sein? Glauben Sie zum Beispiel, dass es verbindliche Selbstregulierungen geben wird, die jeder der Partner mit erlässt und dann auch einhält?

Das ist eine weitere gute Frage, und auch bei dieser ist die Antwort noch nicht klar. Meine Erfahrung als Regierungsberaterin in den Vereinigten Staaten sagt mir, dass eine Organisation wie PAI zum momentanen politischen Zeitpunkt einzigartig aufgestellt ist, um bei der Entwicklung und Verbreitung von Governance-Modellen für ihre Mitglieder äußerst einflussreich zu sein. Die Mitglieder verstehen die Technologie, an der sie arbeiten, im Moment besser als die Regierungen und haben daher unvergleichliche Einblicke in die Herausforderungen, die sie vor sich haben. Ich denke auch, dass wir eine sammelnde Kraft haben, die einer Regierung womöglich fehlt. Wir können all die unterschiedlichen Stimmen und die multinationale Perspektive auf die Probleme einbringen, die wir als globale Gemeinschaft in diesem Themenbereich lösen müssen. Wie man die Unternehmen dann auf diese Governance-Modelle verpflichten kann, ist eine ganz andere Frage. Aber weil sie das Ergebnis eines gemeinsamen und von den Unternehmen selbst angetriebenen Engagements sein werden, hoffe ich, dass sie die Grundsätze, die sie beschließen werden, ernst nehmen und sich ihnen verschreiben.

"Wir wollen auch Politiker über den Stand der Technik informieren"
Terah Lyons

Es wäre ja auch ziemlich heuchlerisch, wenn Sie das nicht täten, und stattdessen anders agieren würden.

Eben. Wir wollen außerdem die Politik informieren. Wir sind keine Lobbyorganisation, aber ich denke es gibt viele Ressourcen, die PAI einbringen kann, um politische Entscheidungsträger über den Stand der Technik in der künstlichen Intelligenz und die damit anstehenden Themen aufzuklären.

Was werden nun die nächsten Schritte von PAI sein?

Die Veranstaltung in Berlin war für uns sehr hilfreich. Es ist das erste Mal, dass wir alle Mitglieder einberufen haben. Fast alle Partner waren auch hier, wir waren mehr als 80 Leute. Das ist für uns ein erster Schritt, um Antworten auf viele der offenen Fragen zu finden, die wir hier angerissen haben – und auf weitere Fragen darüber hinaus. Es wird meine Aufgabe als neue Geschäftsführerin sein, mit unserem Vorstand zusammen ein Führungsteam um diese Organisation aufzubauen, um einige der Dinge, über die wir in den letzten Tagen nachgedacht haben, umzusetzen und um herauszufinden, welche Ressourcen wir dazu für unsere Mitglieder bereitstellen müssen. Hoffentlich werden wir schon bald erste Antworten auf einige der drängendsten Probleme in der Erforschung und Anwendung künstlicher Intelligenz liefern können.