Aleph Alpha: Heidelberger Start-up meldet Durchbruch bei Sprach-KIs

Aleph Alpha: Heidelberger Start-up reklamiert Durchbruch bei Sprach-KIs für sich

Sprachmodelle wie ChatGPT sind intransparent und liefern mitunter falsche Informationen. Das Heidelberger Unternehmen Aleph Alpha will diese Schwachstelle bei seinem System Luminous nun ausgemerzt haben.

Sprechblase mit unleserlichem Computertext auf schwarzem Grund — © Just_Super / Getty Images / iStock (Ausschnitt)
Woher ein Chatbot seine Informationen nimmt, weiß meist nur der Chatbot selbst.

Das Heidelberger KI-Start-up Aleph Alpha hat nach eigenen Angaben erstmals einen Meilenstein auf dem Weg zu inhaltlich korrekter, erklärbarer und vertrauenswürdiger künstlicher Intelligenz erreicht. Eine nun verfügbare Erweiterung des hauseigenen Sprachmodells Luminous sei in der Lage, Zusammenhänge in Informationen und faktische Korrektheit auf Basis von gesicherten Fakten nachzuvollziehen, erklärte das Unternehmen am Donnerstag. Gleichzeitig sei das System in der Lage, darzustellen, welche Textstellen in einer Quelle die generierte Antwort verursacht haben oder im Widerspruch dazu stehen.

Sollten sich die Angaben von Aleph Alpha in unabhängigen Tests bestätigen, wäre dem Heidelberger Unternehmen ein wichtiger Schritt gelungen, eine systematische Schwäche von Sprachmodellen wie ChatGPT auszumerzen. Bislang ist nämlich häufig nicht klar, warum die Programme schreiben, was sie schreiben. Anwender beklagen auch, dass Systeme wie ChatGPT häufig falsche Informationen liefern.

Das Thema der »erklärbaren KI« (»explainable AI« oder kurz XAI) beschäftigt seit geraumer Zeit auch Wissenschaftlerinnen und Wissenschaftler, die KI transparenter machen wollen. Die neu eingeführte Funktion basiere auf neuesten Forschungsergebnissen von Aleph Alpha und Forschern des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), die zu Beginn dieses Jahres unter dem Namen »AtMan« wissenschaftlich veröffentlicht wurde. Bisher waren XAI-Ansätze für generative Modelle nicht möglich, da sie durch ihre Funktionsweise sehr viel Speicherplatz erfordern. Der im Januar 2023 vorgestellte Ansatz namens AtMan bietet eine Lösung für dieses Problem und lässt sich somit auch mit großen Sprachmodellen kombinieren.

Die Transparenz und Nachvollziehbarkeit von KI-generierten Inhalten werde »den Einsatz generativer KI für kritische Aufgaben im Rechts-, Gesundheits-, und Bankenwesen ermöglichen«, sagte Firmengründer Jonas Andrulis. Aleph Alpha ist mit seinem KI-Projekt ein Hoffnungsträger der deutschen Softwareindustrie. Luminous kann derzeit über eine Schnittstelle (API) benutzt werden. Außerdem können Nutzer die KI auf einer Art »Spielwiese« ausprobieren.(dpa/dam/mbi)

Korrektur: In einer früheren Version dieser Nachricht hieß es fälschlicherweise: »Im Gegensatz zu großen US-Unternehmen wie OpenAI, Microsoft und Google bietet das baden-württembergische Unternehmen allerdings keine eigene Plattform an, auf der das System direkt ausprobiert werden kann.« Wir bitten den Fehler zu entschuldigen.