Vertrauenswürdige KI made in Mannheim

Wie können mit Künstlicher Intelligenz (KI) nachvollziehbare medizinische Entscheidungen getroffen werden? Damit beschäftigt sich ein neues Projekt an der Universität Mannheim, das vom Bundes­ministerium für Bildung und Forschung (BMBF) eine Förderzusage erhielt.

Wissensgraphen beeinflussen täglich unser Leben und doch sind sie in der Öffentlichkeit wenig bekannt. Wer beispielsweise auf einer Streaming-Plattform nach Filmempfehlungen sucht, hat die Antwort oft ihnen zu verdanken. Wissensgraphen stellen einen wesentlichen Aspekt der Künstlichen Intelligenz (KI) dar und beschreiben allgemein ein Modell, anhand dessen Informationen gesucht und miteinander verknüpft werden.

Ziel des von Prof. Dr. Heiko Paulheim geleiteten Forschungs­projekts LAVA ist es, Wissensgraphen, die in KI eingebaut werden, automatisiert zu erstellen und zu verbessern. Paulheim ist Inhaber des Lehr­stuhls für Data Science an der Universität Mannheim und LAVA steht für „Lösungen für die Automatisierte Verbesserung und Anreicherung von Wissensgraphen“. Das Projekt setzt der Mannheimer Informatiker in Zusammenarbeit mit der Karlsruher Firma medicalvalues GmbH um, mit der er bereits seit 2023 in einem Projekt zur KI-basierten Erkennung von Diabetes kooperiert. Medicalvalues spezialisiert sich auf KI-Lösungen für medizinische Diagnostik in Laboren und Kliniken. Anders als bei Filmempfehlungen ist es auf diesem Gebiet unabdingbar, dass die eingesetzte KI verlässlich und vertrauenswürdig funktioniert.

Gemeinsames Projektziel von LAVA ist ein zertifiziertes Medizinprodukt, das es Ärzt*innen künftig erleichtern soll, schnelle und präzise Diagnosen zu erstellen.

Im Falle einer seltenen Krankheit sollen künftig beispielsweise Daten wie Röntgenbilder, Blutwerte und weitere relevante Messungen zusammengeführt und mit Hilfe eines Wissensgraphen verknüpft werden, um dem behandelnden Mediziner oder der Medizinerin die Entscheidung über weitere Schritte zu erleichtern. Das Team um Paulheim steuert dazu Softwarebausteine bei, die es erlauben, diesen Wissensgraph stets aktuell und fehlerfrei zu halten.

„Unser Ziel ist es, wiederverwendbare, gut dokumentierte Komponenten für White-Box KI zur Verfügung zu stellen“, erklärt Paulheim. White-Box KI bezeichnet Modelle, die transparent machen, wie Entscheidungen zustande kommen – etwa durch die Nutzung von Wissensgraphen, die auch für Menschen verständlich sind. Die Nutzenden können also verstehen, welche Daten einer Entscheidung zugrunde liegen – anders als bei Black-Box Modellen wie Chat GPT, bei denen es nicht möglich ist, die Antworten nachzuvollziehen. „Eine KI ist erst dann vertrauenswürdig, wenn der Mensch jede Entscheidung nachvollziehen und bei Fehlentscheidungen eingreifen kann“, so Paulheim weiter. So solle es bei medicalvalues möglich sein, dass die KI künftig Erweiterungen des Wissensgraphen vorschlägt, jede dieser Erweiterungen aber von medizinischem Personal überprüft und gegebenenfalls korrigiert werden kann.

Mit seiner Idee konnte sich der Mannheimer KI-Entwickler bei einem DATIpilot-Pitch in Darmstadt unter 600 Teilnehmenden durchsetzen. Das Projekt erhält eine Förderung des Bundes­ministeriums für Bildung und Forschung (BMBF) in Höhe von insgesamt 300.000 Euro für die kommenden 18 Monate.

Zu DATIpilot
Die neue Förderlinie DATIPilot des BMBF zielt darauf ab, Innovationen in Verbindung mit Forschung zu fördern. Sie wendet sich an Akteur*innen aus Wissenschaft und Gesellschaft, die transfer­orientierte Projektideen zur Bewältigung aktueller gesellschaft­licher Herausforderungen realisieren möchten.

Für das Modul „Innovations­sprint“ der Förderlinie, bei dem eine konkrete, kreative Transfer- oder Innovations­idee entwickelt wird, hatten sich insgesamt 3.000 Projekte mit einer Kurzskizze beworben. 600 dieser eingereichten Projektideen wurden als förderwürdig eingestuft und zu einem der deutschland­weit in acht Städten stattfindenden Pitch-Verfahren eingeladen – dar­unter in Darmstadt. Die dort vorstellenden Projektteams fungierten gleichzeitig als Jury und wählten ca. 25 Prozent der Projektideen für eine Förderung aus.

Bild Prof. Dr. Heiko Paulheim bei der Vorstellung seines Projekts Copyrights: BMBF

Quelle Universität Mannheim