Als Frederick Klauschen auf den Link in der E-Mail klickt, erscheint eine Website, auf der groß ein Versprechen prangt: »Wir wollen den Krebs bis 2025 besiegen. Unsere Waffe ist die künstliche Intelligenz.« Der Oberarzt am Institut für Pathologie an der Charité Universitätsmedizin Berlin schüttelt ratlos den Kopf. Klar, das klingt toll. »Aber ich weiß nicht, ob ich mich überhaupt mit denen treffen soll.« Das Start-up hinter der Website hat sich an ihn gewandt, die Gründer wollen ihn treffen und vielleicht mit ihm zusammenarbeiten. Doch Klauschen weiß zu genau, wie unrealistisch dieses Versprechen ist: Es ist ein schöner Traum, mittels künstlicher Intelligenz alle Zusammenhänge von Leben, Tod und Krankheiten aufzuklären. Die Realität sieht noch ganz anders aus.

Denn so spannend die Möglichkeiten der Technologie des maschinellen Lernens sind, so ernst zu nehmen sind ihre Beschränkungen. Die Idee – die auch hinter Ansätzen wie dem des oben zitierten Start-ups steht – ist gut: KI soll das Profil bestimmter Krankheiten und die Mutationsmuster von Krebsarten auslesen und auch gleich noch die perfekte medizinische Behandlung zum individuellen Krankheitsbild liefern. Manche träumen gar davon, die Formel für das ewige Leben zu finden.

Dem steht vor allem eines entgegen: die Komplexität unserer genetischen Basis. Denn »eine kausale Kette zwischen Krankheit und Gen gibt es nur in wenigen Fällen«, erklärt Klauschen: »Nämlich dann, wenn eine einzelne Veränderung in einem Gen mit der Krankheit zusammenhängt.« Das ist beispielsweise bei Mukoviszidose der Fall oder bei monogenetischen Veränderungen und Syndromen wie etwa Trisomie 21. Doch die meisten mutationsbedingten Krankheitsgeschehen sind weit komplexer. Und ob eine entsprechende Disposition auch zu einer realen Krankheit führt, hängt von noch wesentlich mehr ab, beispielsweise von der Lebensweise und der Umwelt, die über epigenetische Prozesse einwirken können.

»Man kann allein anhand der Mutationen nicht vorhersagen, welche Gene in welchem Organ wann aktiv werden«, fasst Klauschen zusammen. Aus seiner Sicht führt demnach die blinde Suche nach Korrelationen von Genmutationen und Krankheiten zu nichts. »Vielleicht kann man in Zukunft gewisse Risikofaktoren erkennen«, sagt der Mediziner vorsichtig. »Aber dass wir das Genom eines Menschen sequenzieren und dann sagen können, in welchem Alter er an Diabetes erkrankt oder wann er den ersten Herzinfarkt bekommt – diese Vision ist unrealistisch.«

Mehr Realismus in die Vision

Dennoch gibt es Hoffnungen für die Krebsforschung, wenn auch in sehr viel bescheidenerem Maß. Denn KI kann eben helfen, Korrelationen zwischen einzelnen Genmutationen und der Wirkung von Medikamenten bei Krebs zu erkennen – womöglich sogar solche, die Menschen bislang verborgen geblieben sind. »Je mehr Gene man betrachtet, desto individueller werden die Tumoren«, sagt Klauschen. »Man untersucht gerade, ob das für die Behandlung eine Rolle spielt.«

Aber nützt es überhaupt, viele Korrelationen zu kennen? Immerhin haben die neuen maschinellen Lernverfahren damit noch keine Kausalitäten aufgedeckt: Sie erkennen nicht, ob sie auf etwas medizinisch wirklich Relevantes gestoßen sind. Und sie sagen auch nichts darüber aus, ob ein neu entdeckter Zusammenhang am Ende die Behandlung von Patienten entscheidend verbessern kann.

Dennoch: KI hilft in speziellen Szenarien der Medizin schon jetzt ganz praktisch – zum Beispiel in der visuellen Diagnostik. Wenn ein Hautarzt Proben zu Pathologen wie Klauschen schickt, untersuchen diese zunächst deren Architektur. Sie machen einen Mikroschnitt und schauen sich unter dem Mikroskop die morphologischen Veränderungen an. Auf der Grundlage dieser visuellen Untersuchung stellen sie eine Diagnose – und erst dann folgt, eventuell, eine genetische Untersuchung. Dieses alte Verfahren, das im Grunde schon Rudolf Virchow vor mehr als 100 Jahren erdacht hat, kann durch neue Technologie verbessert werden: Künstliche Intelligenz ist schließlich sehr gut darin, Muster in Bilddaten zu finden.

Und tatsächlich gibt es auf diesem Feld schon Erfolgsmeldungen. Wie gut Deep-Learning-Algorithmen Hautkrebs erkennen helfen, dokumentierte beispielsweise Holger Hänßle von der Uniklinik Heidelberg mit Kollegen aus Deutschland, Frankreich und den USA: Bei einer Art Wettkampf zwischen Mensch und Maschine erkannten die Algorithmen 95 Prozent der gefährlichen Melanome, Dermatologen dagegen 86 Prozent, berichten die Forscher im Fachblatt »Annals of Oncology«. Die Forschergruppe hatte das Netzwerk zuvor mit mehr als 100 000 von menschlichen Experten annotierten Bildern darauf trainiert, gefährliche Hautveränderungen von gutartigen Muttermalen zu unterscheiden. Anschließend trat der Computer gegen 58 Dermatologen aus 17 Ländern an – und siegte.

Insgesamt habe die KI nicht nur weniger Fälle von schwarzem Hautkrebs übersehen, sondern auch seltener gutartige Leberflecke als Krebs identifiziert, so die Forscher – ein zweiter wichtiger Faktor bei der Beurteilung solcher Ergebnisse. Denn »falsch positive« Fehlalarme verursachen schließlich nicht nur Sorgen bei Ärzten und Patienten, sie treiben auch die Kosten in die Höhe, wenn am Ende unnötig operiert wird.

Aber was bedeutet das alles?

KI kann also ein nützliches Werkzeug für eine schnellere, einfachere Diagnose von Hautkrebs sein, fasst Hänßle zusammen – jedoch sei es unwahrscheinlich, dass ein Computer einen Arzt komplett ersetzen werde. Das ist auch aus Klauschens Sicht ein Irrglaube: »Künstliche Intelligenz kann helfen, Hypothesen besser zu formulieren.« Doch sie ersetzt nicht die dann notwendigen Folgeexperimente, mit denen man die kausalen Zusammenhänge hinter den gefundenen Mustern aufklären muss. Dafür ist es allerdings wichtig, dass die neue Technologie interpretierbar ist. Mediziner wie Klauschen müssen verstehen, welche Faktoren eines Bildes die KI, nicht aber der Arzt erkannt hat – um darauf neue Hypothese zu gründen oder bisher nicht entdeckte Zusammenhänge aufzudecken.

»Künstliche Intelligenz kann helfen, Hypothesen besser zu formulieren«
Frederick Klauschen, Universitätsmedizin Berlin

Diese Interpretierbarkeit von künstlicher Intelligenz ist auch jenseits des medizinischen Bereichs ein wachsender Forschungszweig. Denn egal in welchem Zusammenhang eine KI eingesetzt wird: Stets müssen Experten nachvollziehen können, an welchen Merkmalen sie sich orientiert, um Entscheidungen zu verstehen und überprüfen zu können. Daran arbeitet auch Wojciech Samek, der Leiter der Machine Learning Group vom Berliner Fraunhofer Heinrich-Hertz-Institut mit seinen Kollegen. Überall, wo es um die Analyse von Bildern geht, »gibt es enorme Fortschritte, denn darin sind die KI-Algorithmen schon sehr gut«, sagt Samek. Und somit könnten Mediziner in der Radiologie, Dermatologie und Pathologie aus seiner Sicht schon jetzt enorm von den neuen Technologien profitieren – gäbe es da nicht das Problem, dass häufig undurchschaubar ist, ob Bilderkennungsalgorithmen sinnvolle Kriterien für ihre Aufgabe gewählt haben.

Eben das kann schiefgehen. Sameks Gruppe zeigte beispielsweise, wie ein neuronales Netz, das sehr gut darin war, Pferde auf Bildern zu erkennen, besonders glücklich falschlag: Es hatte sich gar nicht auf spezifische Merkmale eines Pferdes gestützt, sondern lediglich die Copyright-Angabe am Rand der Bilder ausgewertet, die allesamt aus einem Pferdeforum stammten. Diese Gemeinsamkeit war den Forschern zunächst nicht aufgefallen.

Das Forscherteam hat nun eine der ersten Methoden entwickelt, mit der die Entscheidungen der neuronalen Netze nachzuvollziehen sind. Sie lassen dafür ein Netz zur Bilderkennung rückwärtslaufen und können so sehen, an welchem Punkt eine Gruppe von Neuronen welche Entscheidung getroffen hat und welches Gewicht diese für das Endergebnis bekam. So konnten sie etwa demonstrieren, dass sich eine Software bei Fotos von Zügen an den Gleisen und an der Bahnsteigkante orientierte – den Zug selbst hatte das Netz nicht für besonders wichtig erachtet.

Die gleiche Methode hilft nun Medizinern, wenn sie eine KI zur Unterstützung ihrer Bildanalyse heranziehen. »Mediziner sind sehr vorsichtig, sie verwenden keine Dinge, die sie nicht verstehen«, erklärt Samek. »Jetzt können Neurologen beispielsweise Hirnscans anschauen, und wir können ihnen sagen, welche Voxel eines solchen Bildes besonders ausschlaggebend für die Entscheidung der KI waren.« Dank der Methode des Zurückrechnens können sie also sehen, welche Kriterien das Netz für eine bestimmte Diagnose als wichtig eingestuft hat. Dann erst entscheiden sich die Experten auf der Basis ihrer Erfahrung, ob der Weg der KI Sinn ergibt – oder ob sie gar auf einer neuen Spur ist und einen von Menschen noch nicht entdeckten Zusammenhang aufgedeckt hat. »Es geht in der Forschung ja auch darum, Mechanismen zu verstehen«, so Samek.

Klauschen und Kollegen hat die künstliche Intelligenz tatsächlich bereits auf erste Korrelationen aufmerksam gemacht, die Menschen bis dahin entgangen waren, bestätigt der Pathologe: »Das maschinelle Lernen förderte Merkmale zu Tage, die ich nicht mit klinischen Informationen in Verbindung gebracht hatte.« Er arbeitet gerade an einer Studie über diese KI-Funde, die noch mit Experimenten überprüft werden müssen. Offenbar gibt es einen bislang unbekannten Zusammenhang zwischen der Überlebensdauer von Patienten und bestimmten Faktoren ihres Immunsystems.

Dass KI manche genetischen Veränderungen tatsächlich aus Bilddaten vorhersagen kann, haben Forscher derweil durch Experimente schon bestätigen können. Bei einem Test gelang es, 8000 von 60 000 solcher Veränderungen korrekt herzuleiten. Das alles klappt aber nur, weil die KI in diesem Fall eben keine unverstandene Blackbox ist: Sie gibt Auskunft, worauf ihre Entscheidungen beruht. »Gerade dieses interpretierbare maschinelle Lernen kann uns Hinweise darauf geben, was im Gewebe relevant mit klinischen Informationen korreliert.«

Wo es haken dürfte

Es gibt noch andere Probleme. Deutlich machen kann man sie an Foundation One, einer vom Pharmakonzern Roche gestarteten Initiative. Sie macht zunächst mit deutlich weniger markigen Sprüchen auf sich aufmerksam als das Start-up, das den Krebs gleich ganz besiegen will: Die Foundation wirbt mit ihrem »molekularen Profiling-Service«, der Mutationen in krebsassoziierten Genen detektiert »und ein umfassendes molekulares Tumorprofil erstellt«. Dieses werde nach dem aktuellen Stand der Wissenschaft herangezogen, um geeignete Therapieoptionen für den jeweiligen Patienten zu identifizieren.

Auf mehr als 300 für Krebs typische Genmutationen verspricht Foundation One zu sequenzieren – was in der Tat mehr ist, als die Universitätskliniken üblicherweise tun, erklärt Klauschen. Doch der Nutzen sei für den Patienten kaum größer, denn: »Gegen einen Großteil der genetischen Veränderungen gibt es kein Medikament.« Und während die Universitätskliniken sich vor allem auf solche konzentrieren, die für eine Behandlung relevant sein könnten, testet Foundation One ein paar hundert mehr – ohne das gewonnene Wissen dann direkt für den Patienten einsetzen zu können. Für die Patienten kommt das zunächst zwar auf das Gleiche raus, sagt Klauschen, oder: »Es schadet ihnen zumindest nicht.«

Doch es könnte der Wissenschaft schaden. Denn hinter Phänomenen wie Foundation One verbirgt sich ein größeres Problem als übertriebene Marketingversprechen: der Kampf um die Patientendaten. Alle sind sich ausnahmsweise einig. Damit künstliche Intelligenz Zusammenhänge erkennen kann, braucht es eine Unmenge an Trainingsdaten. Gesundheitsdaten sind ein hochprivates Gut, so dass es für Privatunternehmen in der Regel – zu Recht – schwer ist, an diese heranzukommen. Man kann also durchaus vermuten, dass der Service, den Foundation One noch dazu nach Insiderinformationen recht günstig anbietet, vor allem der Datensammlung dient und der privaten Forschung eines Unternehmens. In den Universitätskliniken sieht man das nicht gern, schließlich wandern die Daten in die private Schatzkiste eines Unternehmens. »Es ist ein Nachteil für die Öffentlichkeit, wenn solche Technologien aus den Unis herausgedrängt werden«, sagt Scherer. Ein Blick in die USA zeige, wie weit das gehen kann: »Wenn Patienten dort an einer Studie von Roche teilnehmen wollen, ist die Bedingung, dass sie von Foundation One untersucht werden.«

Vor dem Datenproblem dürfte auch das eingangs erwähnte Start-up stehen. So unrealistisch das Versprechen ohnehin ist, den Krebs mittels KI bis 2025 zu besiegen, der erste Schritt hierzu wäre nach Klauschens Schätzung, mindestens alle auf der Welt vorhandenen klinischen Daten zum Thema Krebs zu haben. Doch die sind wunderbar verteilt.