Hands on Session: KI-gestützte Anwendungen in der Medizin – Chancen und Herausforderungen

Im Rahmen der Veranstaltung „Gesundheitsversorgung: Was KI heute kann und morgen leisten könnte“ beteiligt sich der Health.AI Hub mit einem interaktiven Partizipationsangebot. Der Einbezug zivilgesellschaftlicher Perspektiven ist für eine nachhaltige Entwicklung der Gesundheits-Projekte elementar.

In der Hands-On-Session wurden vier KI-gestützte Lösungen aus den Health.AI Projekten zur Unterstützung der medizinischen Diagnostik, Prävention und Patientenaufklärung vorgestellt und mit den Teilnehmenden kritisch diskutiert. Die Teilnehmenden sprachen sowohl aus ihrer persönlichen, privaten Perspektive als Patient:innen oder An- und Zugehörige als auch aus der beruflichen wie z.B. aus der Perspektive des Pflegers, der Krankenhausleitung, der Patient:innenvertretung. Ziel war es, die Akzeptanz, Bedenken und Erwartungen gegenüber technologiebasierten Gesundheitsinnovationen zu verstehen. Die Teilnehmenden äußerten sich zu vier verschiedenen Projekten, die sich mit neurotechnologischem Gesundheitsmonitoring, Demenzfrüherkennung, Aneurysmadetektion und der informierten Einwilligung in die Kinderonkologie befassten.

„Ich frage nochmal beim Arzt nach“ - Haupterkenntnisse aus der Hands-On-Session

1. Technologie als unterstützendes, aber nicht ersetzendes Element
Über alle Projekte hinweg zeigte sich, dass KI gestützte Lösungen als wertvolle Ergänzung zur ärztlichen Diagnostik und Beratung wahrgenommen werden, jedoch nicht als deren Ersatz. Viele Teilnehmende betonten die Notwendigkeit persönlicher (ärztlicher) Gespräche, insbesondere bei schwerwiegenden Diagnosen wie Krebs oder Aneurysmen.

2. Vertrauen und Transparenz als zentrale Faktoren
Die Akzeptanz digitaler Gesundheitslösungen hängt maßgeblich von der Transparenz der Datennutzung und der Vertrauenswürdigkeit der Technologie ab. In mehreren Diskussionen wurde die Frage nach der Datenweitergabe, der Anonymität und möglichen Nachteilen für die Betroffenen aufgeworfen. Hier besteht ein großes Bedürfnis nach klarer und verständlicher Kommunikation.

3. Angst vor Fehldiagnosen und emotionaler Belastung in Ausnahmesituationen
Besonders beim neurotechnologischen Gesundheitsmonitoring und der Aneurysmadetektion wurde deutlich, dass medizinische Warnhinweise während alltäglicher Situationen (z. B. Autofahren) zu Unsicherheiten und Ängsten führen können. Teilnehmende äußerten, dass sie in solchen Momenten eine empathische Kommunikation und eine klare Handlungsanweisung benötigen, um Panik zu vermeiden.

4. Motivation zur Nutzung digitaler Präventionsmaßnahmen
In Bezug auf präventive Anwendungen (z. B. Demenzfrüherkennung) zeigte sich, dass eine regelmäßige Nutzung durch Anreize wie spielerische Elemente, Erfolgserlebnisse und eine einfache Handhabung gefördert werden kann. Teilnehmende betonten, dass langfristige gesundheitliche Vorteile allein oft nicht ausreichen, um eine konsequente Nutzung sicherzustellen.

5. Bedarf an verständlicher und individuell zugeschnittener Information
In der Diskussion zur informierten Einwilligung in die Krebsbehandlung wurde deutlich, dass Betroffene sowohl leicht verständliche als auch medizinisch präzise Informationen benötigen. Eine Kombination aus Text, Bildern, Statistiken und persönlichen Gesprächen wurde als ideal angesehen. Zudem wurde der Wunsch nach ergänzenden Ressourcen wie Selbsthilfegruppen und Patientenforen geäußert.

Fazit und Handlungsempfehlungen

Die Ergebnisse der Hands-On-Session zeigen, dass KI gestützte, digitale Technologien großes Potenzial haben, medizinische Prozesse zu verbessern und Patient:innen sowie Ärzt:innen zu unterstützen. Entscheidend für die Akzeptanz bei den Nutzenden/Betroffenen sind jedoch eine transparente Kommunikation, der Schutz persönlicher Daten, eine empathische Vermittlung von Diagnosen und eine intuitive, motivationsfördernde Gestaltung der Anwendungen.

Für die weitere Entwicklung und Implementierung von Gesundheitslösungen sollten folgende Aspekte berücksichtigt werden:

– Klare Kommunikation und Aufklärung über die Funktionsweise und Grenzen der Technologie

– Datenschutz und Transparenz bei der Nutzung und Weitergabe sensibler Gesundheitsdaten

– Integration digitaler Lösungen in bestehende ärztliche Strukturen statt vollständigem Ersatz der persönlichen Beratung

– Berücksichtigung emotionaler und psychologischer Aspekte bei der Gestaltung von Warn- und Diagnosesystemen

– Motivationsstrategien für präventive Anwendungen, um eine langfristige Nutzung sicherzustellen

Die Hands-On-Session hat verdeutlicht, dass technologische Innovationen in der Medizin nicht isoliert betrachtet werden dürfen, sondern immer in den Kontext menschlicher Bedürfnisse, Emotionen und ethischer Fragestellungen eingebettet sein müssen. Diese Nutzer:innenzentriertheit ist ständig in aller Munde, aber es ist immer schwierig, sie entsprechend in Forschungs- und Entwicklungsprojekten zu berücksichtigen. Die Meinungen, Kommentare und kontroversen bis emotionalen geführten Diskussionen der Teilnehmenden zu den hier Vorgestellten „What-if“-Szenarios (hier anhand der beschriebenen Beispiele aus der Projektarbeit) sind hier ein Schlüsselelement.

Unsere Aufgabe ist es nun, die Inhalte im Rahmen der weiteren Begleitung der F&E-Projekte an die Forscher:innen weiter zu geben und diese so in den Prozess zu integrieren. Im Namen des Projekt Health.AI HUB und für das Health.AI Netzwerk bedanken wir uns herzlich bei allen Teilnehmenden an der Hands-On-Session.

Eine Veranstaltung in Kooperation mit der Landeszentrale für politische Bildung des Saarlandes (LpB), des gemeinnützigen Vereins Algoright e.V. für interdisziplinäre Wissenschaftskommunikation für gute Digitalisierung, Center for European Research in Trusted AI (CERTAIN) sowie der Forschungsgruppe Verantwortungsvolle KI und Maschinenethik (RAIME) des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Health.AI Hub und Health.AI-ELI.

Das Center for European Research in Trusted AI (CERTAIN) wird gefördert durch das saarländische Ministerium für Wirtschaft, Innovation, Digitales und Energie und dem Europäischen Fonds für regionale Entwicklung (EFRE).