Forschungsprojekt MUHAI will die KI für den Menschen verstehbar machen
Hausaufgaben, Programmcode, Beziehungsratgeber – es gibt keinen Bereich, in dem sich ChatGPT nicht auskennt. Die künstliche Intelligenz hat in den letzten Wochen in den Medien von sich reden gemacht und wird von vielen Menschen in Alltagssituationen eingesetzt.
Aber sie hat ihre Fehler. Sie ist confidently incorrect – sie gibt selbstbewusst auch völlig falsche Antworten, die oftmals nur von Expertinnen und Experten als unsinnig eingestuft werden können. Sie versteht nicht, wovon sie spricht, sondern trägt nur hochkomplex Inhalte aus dem Internet zusammen. Meistens ziemlich gut, aber nur meistens.
Auftritt von Rainer Malaka und Robert Porzel. Die beiden Wissenschaftler der Universität Bremen sind Teil des Projekts MUHAI – „Meaning and Understanding in Human-centric AI“. Hinter der Bezeichnung verbirgt sich ein neuer Ansatz künstlicher Intelligenz: „Wir wollen der KI eine menschliche Perspektive geben und der Schlüssel dazu ist das Verstehen von Sprache“, so Prof. Rainer Malaka, Geschäftsführender Direktor des Technologiezentrums Informatik und Informationstechnik (TZI).
Der Papagei, der nichts versteht
Um zu begreifen, was sie damit meinen, muss man etwas ausholen. KIs wie ChatGPT sind eine Form des maschinellen Lernens. Aus einem Satz an bestehenden Daten lernen sie eigenständig, ein Muster zu erkennen und dieses Muster dann auf neue Sachverhalte anzuwenden. Je mehr Daten sie haben, desto besser werden sie. ChatGPT nutzt Abermilliarden an Texten aus dem Internet, um daraus Antworten zu formen. Diese Antworten sind neu – das Programm kopiert nicht einfach Texte von irgendwoher – aber sie beruhen immer zwangsläufig auf existierenden Daten.
„Eine KI wie diese kann aber nicht erklären, warum sie eine Antwort gibt, selbst wenn sie richtig ist“, so Malaka. Denn diese Antwort liegt in ihrer Programmierung, im Zusammenspiel Tausender von Codezeilen, die durch das Training ein bestimmtes Muster erlernt haben, das sie nun wiedergeben.
„Sie ist im Grunde ein statistischer Papagei“, gibt er ein Beispiel. „Ich kannte einmal einen Papagei, der bei jedem Haustürklingeln ‚Ich komme gleich!‘ rief, weil das seine Besitzerin häufig in dieser Situation sagte. Diese Antwort war faktisch korrekt, aber der Papagei wusste nicht, warum er das sagte. Und er sagte es auch, wenn niemand zu Hause war.“
Wie der Papagei können KIs wie ChatGPT richtige Antworten plappern, ohne die Bedeutung hinter den Worten zu kennen.
Ein Papagei mit Schirmmütze, Mantel und Pfeife
Und genau hier setzt MUHAI an. Das Acht-Millionen-Euro-Projekt greift dabei unter anderem auf einen derzeit aus der Mode gekommenen Ansatz zurück: Die symbolische KI. Diese Form der KI lernt nicht eigenständig aus Trainingsdaten ein Muster (dies wird auch subsymbolisch genannt), sondern nutzt logische Schlussfolgerungen, die auf einem gegebenen Satz an Daten beruhen. Sie ist wie Sherlock Holmes, der aus bekannten Fakten richtige Schlüsse zieht.
MUHAI geht aber noch weiter. Denn die KI kann nicht nur Fakten in Beziehung setzen, sie kann daraus eine Simulation echter Ereignisse generieren, anhand derer sie Rückschlüsse über ihre Umgebung macht.
Was damit gemeint ist lässt sich gut anhand von Kochrezepten veranschaulichen, einem von zwei Bereichen, die sich das europäische Forschungsprojekt MUHAI als Erprobungsfeld vorgenommen hat.
In sogenannten Knowledge-Graphs werden Beziehungen von Objekten zueinander dargestellt, Bild: MUHAI
Was kocht eine KI? Buchstabensuppe!
„Kochrezepte sind für die KI eine Herausforderung“, sagt Dr. Robert Porzel, wissenschaftlicher Mitarbeiter der Arbeitsgruppe Digitale Medien und Teil von MUHAI an der Uni Bremen. „Denn sie setzen Allgemein- und Alltagswissen sowie Physikverständnisse voraus, die nicht Teil der Rezeptbeschreibung sind.“
Ein Beispiel: In einem Kuchenrezept könnte stehen: Butter, Zucker, Milch, Eier und Mehl vermischen. Den Teig in eine Kastenform gießen. 20 Minuten bei 175 Grad backen. Menschen verstehen die Anweisungen sofort, KIs kapitulieren. Wo kommt Teig plötzlich her? Dieser steht nicht in der Zutatenliste. „Auch ist nicht klar, wer hier was wo backen soll. All das ist Wissen, was das Rezept voraussetzt“, so Porzel.
Die MUHAI-KI kann diese Anweisungen verstehen, indem sie die einzelnen Schritte in ein komplexes Sprachmodell gibt, das herausfindet, in welcher Beziehung die einzelnen Wörter zueinander stehen und dieses Ergebnis dann in eine Computersimulation gibt, die das Kochrezept in einer Art Computerspiel nachkocht.
„Indem der Computer das Rezept in einer realistischen Umgebung tatsächlich kocht, versteht er, was da passiert. Steht im Rezept Topf bedecken, damit keine Hitze entweicht, aber es ist kein Topfdeckel da, könnte er zum Beispiel einen Teller nutzen oder einen Pfannenwender. In der Simulation merkt er aber, dass bei einem Pfannenwender die Hitze entweicht und nur ein Teller funktioniert. Also hat er etwas Neues herausgefunden, was er beim nächsten Mal direkt anwenden kann“, so Porzel weiter. Die KI sei somit robuster als reine subsymbolische KI, die aufgibt oder unsinnige Daten produziert, wenn sie mit Situationen konfrontiert werden, die nicht zu den Trainingsdaten passen.
Diese Kombination aus Sprachmodell und Simulation setzt natürlich entsprechende Datenbanken voraus, die Begriffe und Beziehungen enthalten. MUHAI nutzt dazu eine Datenbank aus Amsterdam, die zehn Milliarden Fakten und Beziehungen dieser untereinander enthält. Zudem kann das System mit subsymbolischer KI – neuronalen Netzwerken wie etwa ChatGPT – kombiniert werden, was ihr eine noch breitere Datenbasis gibt.
Ein neuer Schritt für die KI
Auf diese Weise wird die KI auch für den Menschen verstehbar. Porzel: „Ich kann die KI fragen: Warum hast du den Teller genutzt? Und die KI antwortet: Weil sie verhindert, das Dampf entweicht. Das ist ein Riesenschritt.“ Und auch das Ziel von MUHAI: Eine für den Menschen verstehbare KI zu schaffen.
Das Wissenschaftsteam glaubt so, künstlicher Intelligenz näherzukommen. Denn das Verstehen unserer Umgebung über Sprache ist eine zentrale Funktion unseres Bewusstseins. Wir wissen, was Wörter meinen – Computer hingegen nicht. MUHAI will diese Barriere einreißen. „Das ist völliges Neuland, das wir hier betreten, eine neue Art des Verstehens für eine KI, die lange unlösbar schien“, so Porzel.
In ganz Europa sitzt das Team hinter MUHAI, Bild: MUHAI
In realen Küchen angewendet
Wofür ist das nun nützlich? Das rund 40-köpfige Team mit Wissenschaftlerinnen und Wissenschaftlern in Bremen, Venedig, Amsterdam, Brüssel, Paris und Barcelona bringt der KI das Kochen nicht aus purer Neugier bei. Teil des Forschungsprojekts ist das Unternehmen apicbase aus Belgien. Das möchte mit der KI Lebensmittelverschwendung reduzieren. „Die Software kommt in Restaurants zum Einsatz, wo sie Rezepte erlernt und mit den Lebensmitteleinkäufen in Verbindung setzt und anhand dessen errechnet, wieviel Lebensmittel künftig eingekauft werden müssen oder welche Rezepte man aus Resten machen kann. So müssen Restaurants weniger wegwerfen“, so Porzel.
Im Kampf gegen Desinformation und Fake News
Ein weiteres Anwendungsgebiet von MUHAI sind die sozialen Netzwerke, genauer gesagt: Twitter. „Tweets zu analysieren fällt herkömmlichen KIs schwer, denn die Kurznachrichten beziehen sich aufeinander, ohne dass das explizit erwähnt wird, sie haben eine verkürzte Sprache und es gibt dauernd neue, dynamische Sachverhalte, auf die KIs nicht trainiert wurden“, weiß Malaka.
Subsymbolische Systeme können schlecht auf sich schnell verändernde, völlig neue Sachverhalte reagieren oder mit einmaligen Fragen umgehen, zu denen es keine Beispiele oder Ähnlichkeiten zu vorherigen Ereignissen gibt.
Auch hier kommt das Sprachmodell von MUHAI zum Tragen, das Äußerungen auf Twitter in Bestandteile zerlegt, analysiert und in Beziehung zueinander setzt. Indem die KI Tausende oder Millionen von Tweets analysiert, könne sie Strömungen und Muster erkennen, die zu komplex sind, als dass sie ein Mensch erkennen könnte. „Es ist so etwa möglich, gezielte Desinformationskampagnen oder Netzwerke aufzudecken, in denen radikale Inhalte geteilt werden. So kann man besser verstehen, wie und wo Beeinflussung stattfindet“, prognostiziert Malaka.
Das Forschungsteam möchte bis zum Projektende 2024 eine Reihe von Tools, Softwarekomponenten und Anleitungen veröffentlichen, die dann etwa von Journalistinnen und Journalisten kostenlos genutzt und weiterverarbeitet werden können.
„Wir ersetzen nicht die subsymbolische KI, sondern haben ein Add-on, das Probleme lösen kann, die jetzt noch nicht lösbar sind. Wir haben einen Weg aufgezeigt, wie man mit einer Kombination aus symbolischen und subsymbolischen Verfahren Architekturen baut, um das tiefe Verstehen menschlicher Sprache zu simulieren. Darauf können andere dann aufbauen“, wünscht sich Porzel.
Bremen als idealer Ausgangspunkt europäischer Zusammenarbeit
MUHAI wird im Rahmen des europäischen Forschungsprogramms Horizon 2020 gefördert. Koordiniert aus Bremen, gehören zu den Projektpartnern die Internationale Universität Venedig, die Freie Universität (FU) Amsterdam, die FU Brüssel, das Sony Computer Science Laboratory Paris und das Unternehmen apicbase.
Das Projekt passe perfekt in die Schwerpunkte der KI-Forschung am Standort Bremen, so Malaka. „Durch die Simulation haben wir starke Bezüge zum Bremer KI-Schwerpunkt Robotik, aber auch zu den Medien- und Kommunikationswissenschaften, die hier an der Uni vertreten sind. Das Projekt reiht sich zudem in die Bremer KI-Strategie ein, die ganz bewusst die menschliche KI in den Vordergrund stellt. Also eine KI, die dem Menschen nützt und ihn nicht als Datenpunkt betrachtet.“
Die MUHAI-KI brauche keine Datenmengen, die von Facebook, Amazon und co. gesammelt würden, denn sie könne Entscheidungen auf Basis von Fakten aus ihrer realen Umgebung treffen, indem sie diese verarbeite und verstehe, was sie erlebt.
Malaka kann sich künftig auch eine engere Beziehung zur Industrie vorstellen. So gäbe es erste Anknüpfungspunkte zum KI-Transferzentrum Bremen, dass es sich zur Aufgabe gesetzt hat, den Wissenstransfer zwischen Forschung und Industrie zu ermöglichen. Gerade die Lebensmittelindustrie könne von der neuen KI profitieren, so Malaka. Und schließt: „Das Projekt ist eine Auszeichnung für den Standort Bremen, das zeigt, dass man auch mit ungewöhnlichen Ansätzen überzeugen kann.“
Lesen Sie auch:
Kontakt
Inis Ehrlich
Die Senatorin für Wirtschaft, Arbeit und Europa
Projektkoordination und Leitung Transferzentrum BREMEN.AI
T +49 (0) 421 361 94185
inis.ehrlich@wae.bremen.de
www.wirtschaft.bremen.de
www.transferzentrum-bremen.ai