QualitätssicherungLaufend
TEF-Health
Test- und Experimentiereinrichtung für KI und Robotik im Gesundheitswesen
Hintergrund
Die technologischen Fortschritte im Bereich der Künstlichen Intelligenz (KI) bieten neue Möglichkeiten, um Arbeitsabläufe in der Gesundheitsversorgung zu unterstützen. Um dieses Potential zu realisieren, muss allerdings zunächst die Sicherheit und Nutzbarkeit dieser KI-basierten Medizinprodukte sichergestellt werden. Derzeit fehlt es jedoch noch an standardisierten Prozessen und Infrastruktur, um diese Produkte ausreichend zu testen und zertifizieren.
Das EU-Projekt TEF-Health hat das Ziel, diese Lücke zu schließen, und gründet eine europäische Test-Experiment-Einrichtung (TEF), um eine sichere digitale Transformation in unserem Gesundheitssystem sicherzustellen, von der alle profitieren können. In diesem Projekt kommen mehr als 50 interdisziplinäre Partner aus Europa zusammen, um diese neuen regulatorischen Test-Prozesse zu entwickeln. Zu den Aufgaben gehören insbesondere die Entwicklung von standardisierten Test-Protokollen und die Erstellung einer technischen Infrastruktur-Einrichtung, um diese Technologieprodukte in realen oder realistischen Umgebungen zu testen. Diese neuen Test-Ressourcen sollen anschließend der Industrie in Form von kostenpflichtigen Services zur Verfügung gestellt werden.
Im Projektteam Verantwortungsvolle Algorithmen am BIH QUEST Center tragen wir zum TEF-Health Projekt bei, indem wir Services zur Einhaltung ethischer Leitlinien für die Entwicklung von vertrauenswürdiger medizinischer KI entwickeln. Insbesondere fokussieren wir uns hierbei auf die Entwicklung von Services, die Unternehmen dabei helfen sollen, die ethischen Prinzipien wie Transparenz und Robustheit zu erfüllen.
Mehr Informationen zum TEF-Health Projekt gibt es hier und hier.
Zielsetzung
Zu den TEF-Health Zielen gehören:
- Das Bereitstellen und Ausführen von Tests und Experimenten von KI-Lösungen in realen oder realistischen Umgebungen.
- Die Implementierung von Evaluierungs-Prozessen, um den Marktzugang für vertrauenswürdige intelligente Lösungen zu vereinfachen, jedoch unter Einhaltung von regulatorischen Vorgaben.
Zu den Zielen des QUEST Centers im TEF-Health Projekt gehören:
- Bereitstellung von Services für Unternehmen, um die Voraussetzung von Transparenz für vertrauenswürdige KI durch Berichte zu erfüllen. Insbesondere wollen wir Unternehmen dabei unterstützen, verständliche Informationen für medizinische Benutzer:innen und Privatpersonen zur Verfügung zu stellen, die zeigen, wie ethische Standards wie Robustheit und Fairness erfüllt wurden und überwacht werden.
- Entwicklung von standardisierten Prozessen, um zu evaluieren, inwiefern ethische Voraussetzungen erfüllt werden. Diese Prozesse sollen prüfenden Einrichtungen zur Verfügung gestellt werden, die die Qualität und Sicherheit von medizinischen KI-Produkten überprüfen.
Methodik
Die Methodik, um die Transparenz von medizinischen KI-Produkten zu verbessern, basiert auf einem Fragebogen zur Berichterstattung. Der Fragebogen sammelt Informationen über den Verwendungszweck, technische Elemente (Daten & Algorithmen), ethische Überlegungen, Validierungs-Studien und Warnungen zur Benutzung. Dieser Fragebogen kann in einen Service integriert werden, in dem Firmen über ihre KI-Produkte berichten, die anschließend darauf geprüft werden können, ob ethische Standards wie Robustheit und Fairness eingehalten werden. Ein Prototyp dieses Services wurde in der Vergangenheit mit drei Unternehmen getestet. Die Ergebnisse gibt es hier.
Erwartete Ergebnisse / Implikationen / Perspektiven
Alle in TEF-Health entwickelten Evaluierungsprozesse und Ressourcen werden der Industrie in der Form von Services zukünftig zur Verfügung gestellt.
Förderer und Kooperationspartner
Das TEF-Health-Projekt wird von der Europäischen Kommission im Rahmen ihres Programms "Digitales Europa" und von nationalen Fördereinrichtungen finanziert.
