Technisch einfach erklärt: Was ist das Projektziel von PETAI?

Lukas FischerIn PETAI geht es darum, wie personenbezogene Daten im Gesundheitsbereich, die natürlich geschützt werden müssen, dennoch für die Entwicklung von KI-Modelle verwendet werden können. Der Hintergrund: Derzeit können KI-Modelle, etwa zur Krankheitserkennung, in Krankenhäusern zwar mit Patient:innendaten trainiert werden, aus Datenschutzgründen aber nicht mit den Daten von anderen Krankenhäusern. Es gibt also große Datenmengen, und somit sehr viele wichtige medizinische Informationen, die nicht global verwendet werden können.

Warum ist das überhaupt problematisch?

Lukas FischerFür Genauigkeit und Zuverlässigkeit müssen maschinelle Lernmodelle mit möglichst umfangreichen und diversen Datensätzen trainiert werden, was aktuell durch eingeschränkte Verfügbarkeit schwierig ist.

Welchen Lösungsansatz liefert das Forschungsprojekt?

Lukas FischerZukünftig sollen nicht die Rohdaten, sondern die in den Modellen kodierten Informationen – die Modellgewichte – geteilt werden. Zusätzlich schützt man die medizinischen Daten durch eine Art Rauschen und Verschlüsselungsalgorithmen. Ein Kompromiss zwischen Sicherheit und Genauigkeit der Modelle ist jedoch immer notwendig.

Vor welche Herausforderungen stellt PETAI die Forschenden?

Lukas FischerDie Verfügbarkeit medizinischer Daten stellt eine große Herausforderung dar. Es gibt keine zentrale Erfassung oder einen Gesamtüberblick über die Datenlage in Österreich und schon gar nicht EU- oder Weltweit. Synthetische Daten, wie simulierte Herzkurven oder Bilder generativer KI, bieten hier teilweise Abhilfe.

Je mehr die Sicherheit priorisiert wird, desto weniger genau werden die Modelle – insbesondere im Gesundheitsbereich also ein besonders sensibler Trade-off?

Lukas FischerJa, definitiv. Am Ende des Tages liegt es in der Hand und in der Verantwortung des medizinischen Fachpersonals die Notwendigkeit der Datensicherheit gegenüber der benötigten Vorhersagegenauigkeit der Modelle zu beurteilen. Vermutlich würde diese Entscheidung im Zweifel in Richtung höherer Genauigkeit ausfallen.

Wie ist das Projekt zustande gekommen?

Lukas FischerPETAI ist ein Verbundprojekt mit einem deutschen Konsortium, angeführt von der Universität Lübeck im Rahmen des deutschen Hauptprojekts KI-SIGS. Dank einer bilateralen Forschungsförderung der FFG wurde diese länderübergreifende Kooperation ermöglicht. Diese bilateralen Projekte sind ein idealer Weg um grenzübergreifende hochkarätige Forschung betreiben zu können, wofür ich der FFG sehr dankbar bin.