HEALTH.AI

ELI

Das wissenschaftliche Begleitprojekt „Health.AI – Ethical and Legal Implications“ (Health.AI – ELI) wird einen Beitrag dazu leisten, den Health.AI – Gesundheitsdatenraum im Interesse der gesamten Gesellschaft so zu gestalten, dass wirtschaftliche und gemeinwohlfördernde Potenziale ausgeschöpft und durch das regionale Innovationsnetzwerk genutzt werden. Hierbei profitiert es von den Herausforderungen, die sich den einzelnen F&E-Projekten im Netzwerk stellen und wird diese gleichzeitig unterstützen, die rechtlichen und ethischen Probleme zu bewältigen, die sich bei Projektrealisierungen stellen. Health.AI – ELI ermöglicht es dem F&E-Netzwerk, rechtssichere, ethisch und medizinisch vertretbare Lösungen, Innovationen und Präventionsstrategien zu entwickeln.

Konsortium

reuschlaw gehört zu den führenden Wirtschaftskanzleien im Produkthaftungsrecht und berät seit 2004 national und international tätige Unternehmen sowie die öffentliche Hand. Die Schwerpunkte der Kanzlei liegen im Produktsicherheits- und Produkthaftungsrecht, Data Protection und Cyber Security, Rückrufmanagement, Versicherungsrecht, Compliance Management und Vertragsrecht. Neben den beiden Standorten in Deutschland ist reuschlaw über ein breit aufgestelltes Netzwerk in mehr als 30 Ländern aktiv.

In das Forschungsprojekt Health.AI-ELI bringt reuschlaw nicht nur seine langjährige Erfahrung in der spezialisierten Rechtsberatung ein, sondern auch einzigartiges Know-how aus früheren und laufenden Forschungsprojekten, der universitären Lehre sowie der Entwicklung und Anwendung von Legal-Tech-Lösungen. Die interdisziplinär aufgestellte Kanzlei vereint die juristische Expertise von Rechtsanwält:innen, Wirtschaftsjurist:innen und wissenschaftlichen Mitarbeitenden mit umfassender technischer Kompetenz und Projektpraxis im Bereich neuer Technologien.

Diese Kombination ermöglicht eine ganzheitliche Betrachtung komplexer rechtlicher Fragestellungen. Die Mitarbeitenden von reuschlaw zeichnen sich durch ihre fundierte Erfahrung in der praktischen Mandatsarbeit aus, insbesondere im Umgang mit hochspezialisierten und technologisch geprägten Sachverhalten. Die Erkenntnisse aus der kontinuierlichen Begleitung technischer Partner in rechtlichen und organisatorischen Fragen sowie aus der Erschließung bislang unerforschter Spannungsfelder fließen direkt in den Forschungsauftrag von Health.AI-ELI ein und machen reuschlaw zu einem wertvollen Partner in diesem Innovationsvorhaben.

Im Rahmen des ELI-Projekts übernimmt Algoright die Aufgabe, sich mit den ethischen Herausforderungen des KI-Einsatzes in der Medizin auseinanderzusetzen. Dazu gehört insbesondere die wissenschaftliche Analyse relevanter ethischer Fragestellungen, die Sichtung und Bewertung bestehender Leitlinien sowie die aktive Auseinandersetzung mit aktuellen fachlichen und gesellschaftlichen Debatten.
Konkret unterstützt Algoright andere Forschungs- und Entwicklungsprojekte im Netzwerk in drei zentralen Bereichen:

Individueller Austausch

Wir stehen Projektpartnern bei konkreten ethischen Fragestellungen beratend zur Seite – etwa bei Zweifeln an der Fairness von Trainingsdaten („Werden durch mein Modell bestimmte Patientinnengruppen benachteiligt?“) oder bei Fragen zur Nachvollziehbarkeit der Empfehlungen („Können Patientinnen verstehen, wie die KI zu ihrer Entscheidung kommt?“).

Bereitstellung von Materialien

Im Projektverlauf entwickeln wir praxisnahe Materialien, z. B. Leitfäden zur informierten Einwilligung aus ethischer Perspektive. Diese Dokumente werden den Partnerprojekten im Netzwerk proaktiv oder auf Anfrage zur Verfügung gestellt und fortlaufend ergänzt.

Vorträge und Workshops

Algoright beteiligt sich mit Fachvorträgen und interaktiven Workshops an Veranstaltungen des Health-AI-Netzwerks. Darüber hinaus prüfen wir gern, ob maßgeschneiderte Formate auch in direkter Zusammenarbeit mit einzelnen Projekten angeboten werden können.

 

Das Deutsche Institut für Demenzprävention (DIDP) ist eine der drei Gründungsorganisationen von Health.AI, befasst sich vor allem mit den Aspekten  der Gesundheit, vertritt das Health.AI-Netzwerk im Rahmen des wissenschaftlichen Begleitprojektes, stellt die kontinuierliche Verbindung zu den F&E-Projekten her und bereitet bereits die Datensammlung als Basis für die in der Anschlussphase geplanten Folgeprojekte mit sozialwissenschaftlichem Fokus vor, sodass diese Informationen aus der Anfangszeit für spätere Auswertungen zugänglich bleiben.

Dokumente

Checkliste zur Einwilligungserklärung:

Bitte beachten:
Sie verlassen bei Klick auf die Titel diese Seite und gelangen direkt zu den Dokumenten auf der HIZ-Cloud der Universität des Saarlandes.

  1. Orientierungshilfe zum Begriff Rechtsberatung“: Rechtliche Grenzen der zulässigen Beratungstätigkeit im Rahmen des Forschungsprojekts.
  1. Datenschutz und Cybersicherheit von medizinischen Produkten: Ein Aufsatz über die Datenschutz und Cybersicherheitsanforderungen, die medizinische Produkte erfüllen müssen.
  2. Datenschutzrechtliche Herausforderungen bei der Verwertung von Daten vernetzter Medizinprodukte: Der Beitrag skizziert die datenschutzrechtlichen Probleme, die sich daraus für die Entwickler vernetzter Medizinprodukte ergeben können und zeigt mögliche Lösungsansätze auf.
  3. Datenschutzrechtliche Verantwortlichkeit in der Forschung – zum Spannungsverhältnis zwischen der Forschungsfreiheit und der DSGVO“: Der Beitrag behandelt die Fragestellung, wer für Verarbeitungen von personenbezogenen Daten in der Forschung rechtlich verantwortlich ist. Diskutiert wird die Rolle der Forscher selbst sowie die Beurteilung ihres Verhältnisses zu den Forschungsinstitutionen. Zudem wird die Verantwortlichkeit in institutionsübergreifenden Forschungsprojekten thematisiert.

  4. Datenschutzrechtliche Verantwortlichkeit bei Cloud-Diensten“: Der Beitrag analysiert die datenschutzrechtlichen Rollen und Verantwortlichkeiten bei der Nutzung von Cloud-Diensten. Der Schwerpunkt liegt dabei auf der Unterscheidung zwischen gemeinsamer Verantwortlichkeit und Auftragsverarbeitung.
  5. Musterlöschkonzept“: Dieses Dokument stellt ein Muster für ein Löschkonzept für die Verarbeitung personenbezogener Daten und insbesondere Gesundheitsdaten in einem Gesundheitsdatenraum dar. Das Muster wurde im Einklang mit den Datenschutzgesetzen, insbesondere der Datenschutz-Grundverordnung (DSGVO), erstellt und soll als Grundlage für die Umsetzung eines Löschkonzepts dienen und den verantwortungsvollen Umgang mit personenbezogenen Daten und deren Schutz im Rahmen von Gesundheitsdatenräumen gewährleisten.
  6. Cybersicherheit für Hochrisiko-KI-Systeme“: Nach der KI-Verordnung sind Anbieter von Hochrisiko-KI-Systemen verpflichtet, Cybersicherheit zu gewährleisten. Dieser Beitrag erläutert die technischen Grundzüge von cybersicherer KI sowie die gesetzlichen Anforderungen der KI-Verordnung. Darauf aufbauend werden Maßnahmen zur praktischen Umsetzung der Anforderungen und zur Vertragsgestaltung vorgestellt. Abschließend wird aufgezeigt, unter welchen Voraussetzungen die Anforderungen haftungsrechtliche Konsequenzen haben.
  1. Checkliste Prüfung AVV“: Eine Checkliste zum Abschluss eines datenschutzkonformen Auftragsverarbeitungsvertrag vom Berliner Beauftragten für Datenschutz und Informationsfreiheit
  2. Orientierungshilfe der DSK zum Thema Künstliche Intelligenz und Datenschutz“: Eine Orientierungshilfe der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder zum datenschutzkonformen Einsatz von KI-Anwendungen.
  3. Auftragsvereinbarungsvertrag Muster“: Ein Mustervertrag vom Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg
  4. Checkliste zum Einsatz LLM-basierter Chatbots“: Die Checkliste vom hamburgischen Beauftragten für Datenschutz und Informationssicherheit dient Unternehmen und Behörden als Leitfaden zur datenschutzkonformen Nutzung von Chatbots.
  5. Datenschutzkonforme Künstliche Intelligenz“: Die Checkliste vom bayerischen Landesamt für Datenschutzaufsicht stellt datenschutzrechtliche Anforderungen an die Entwicklung und den Einsatz von Anwendungen der Kategorie „Künstliche Intelligenz“ dar.
  6. Good Practice bei technischen und organisatorischen Maßnahmen“: Die Checkliste vom bayerischen Landesamt für Datenschutzaufsicht dient insbesondere dazu, kleinen und mittleren Unternehmen eine Auswahl an TOM anzubieten, die bei geläufigen Verarbeitungstätigkeiten innerhalb eines Betriebs verwendet werden können.
  7. Cybersicherheit für medizinische Einrichtungen“: Die Checkliste vom bayerischen Landesamt für Datenschutzaufsicht und dem bayerischen Landesbeauftragten für den Datenschutz bietet einen Überblick einiger Praxismaßnahmen zur Cybersicherheit für medizinische Einrichtungen – inklusive eines Themenblocks speziell für Labore – entsprechend den geltenden gesetzlichen Datenschutzvorgaben.
  8. Künstliche Intelligenz und Datenschutz“: Die Orientierungshilfe von der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder bietet einen Überblick über datenschutzrechtliche Kriterien, die für die datenschutzkonforme Nutzung von KI-Anwendungen zu berücksichtigen sind.
  9. Diskussionspapier: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher Intelligenz“: Dieses Diskussionspapier vom Landesbeauftragten für Datenschutz und Informationsfreiheit Baden Württemberg soll verantwortlichen Stellen helfen, sich mit Rechtsgrundlagen auseinanderzusetzen, da das Datenschutzrecht für den Einsatz von KI-Systemen vorsieht.
  10. Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen“: Diese Orientierungshilfe von der DSK soll Hilfestellung bei der datenschutzkonformen Entwicklung von datenschutzkonform einsetzbaren KI-Systemen bieten.
  11. Interplay between the Medical Devices Regulation (MDR) & In vitro Diagnostic Medical Devices Regulation (IVDR) and the Artificial Intelligence Act (AIA)“:  Diese Veröffentlichung des europäischen Gremiums für Künstliche Intelligenz nach Art. 65 AIA untersucht die regulatorische Schnittmenge zwischen dem MDR, dem IVDR und dem AIA. 
  1. Checkliste: Privacy by Design: Diese Checkliste soll einen Überblick über die in Art. 25 DSGVO statuierten Vorgaben an „Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen“ bieten. Die Fragen werden ergänzt durch Informationen basierend Rechtsprechung, rechtswissenschaftlicher Literatur und Stellungnahmen deutscher und europäischer Aufsichtsbehörden.
  2. Checkliste Einwilligungserklärung im Gesundheitssektor“: Die vorliegende Checkliste soll eine Orientierung bieten basierend auf Rechtsprechung, rechtswissenschaftlicher Literatur und Stellungnahmen deutscher und europäischer Aufsichtsbehörden werden die Anforderungen an eine wirksame Einwilligung in die Verarbeitung von Gesundheitsdaten in Form eines Leitfadens/einer Checkliste dargestellt.
  3. Datenschutzkonforme Künstliche Intelligenz“: Checkliste mit Prüfkriterien nach DS-GVO“: Die in diesem Dokument enthaltene Checkliste stellt Anforderungen an die Entwicklung und den Einsatz von Anwendungen der Kategorie „Künstliche Intelligenz“ dar. Dieses Dokument widmet sich der Fragestellung, welche datenschutzrechtlichen Anforderungen bei dem Einsatz von Künstlicher Intelligenz von zentraler Bedeutung sein können.
  4. Mustervertrag über die Nutzung von bereitgestellten Daten. Ein Datenlizenzvertrag wird dann erforderlich, wenn Daten nicht frei nutzbar sind, sondern eine Partei bestimmte Rechte oder Pflichten regeln muss. Nach dem Data Act darf der Dateninhaber die ohne Weiteres verfügbare nicht-personenbezogener Daten nur verwenden, wenn er einen entsprechenden Vertrag mit dem Nutzer abgeschlossen hat.
  5. Standardvertragsklauseln zur Auftragsverarbeitung: Erfolgt eine Datenverarbeitung im Auftrag des Verantwortlichen, so ist ein Auftragsverarbeitungsvertrag zwischen den Parteien mit dem zwingenden Inhalt aus Art. 28 Abs. 3 DSGVO abzuschließen
  6. Mustervereinbarung zur Auftragsverarbeitung: Eine Mustervereinbarung über einen Auftragsverarbeitungsverhältnis. Zur Verfügung gestellt von der Bundesbeauftragten für den Datenschutz und die Informationssicherheit
  7. Muster zur Information der Betroffenen Person nach Art. 26 Abs. 2 S.2 DSGVO: Demnach sind die betroffenen Personen bezüglich der Vereinbarung, welche im Rahmen von Art. 26 Abs. 1 abzuschließen ist, zu informieren. Zur Verfügung gestellt durch den Landesbeauftragten für Datenschutz und Informationssicherheit Baden-Württemberg
  8. Vertragsmuster zur gemeinsamen Verantwortlichkeit gemäß Art. 26 Abs. 1 S.1 DSGVO: Diese Vereinbarung regelt die Rechte und Pflichten der Verantwortlichen bei der gemeinsamen Verarbeitung personenbezogener Daten. Zur Verfügung gestellt durch den Landesbeauftragten für Datenschutz und Informationssicherheit Baden-Württemberg 

 

  1. Whitepaper: „Löschkonzepte und deren Umsetzung“: Das regelmäßige Löschen personenbezogener Daten ist eine der Grundlagen der datenschutzrechtlichen Compliance. Dies gilt insbesondere im Gesundheitskontext, da hierbei regelmäßig besondere Kategorien personenbezogener Daten verarbeitet werden. Dieses Whitepaper soll einen Überblick sowie erste Umsetzungshinweise bieten.
  2. Whitepaper: „Management von Betroffenenrechten: Die Datenschutz-Grundverordnung (DSGVO) räumt betroffenen Personen eine Vielzahl von Rechten zum Schutz ihrer Daten ein. Im Rahmen ihrer Datenschutz-Compliance müssen Forschungsprojekte diese beachten. In diesem Whitepaper werden die einzelnen Betroffenenrechte erläutert und Tipps zur Erstellung und Einhaltung rechtskonformer Compliancestrukturen gegeben.
  3. Whitepaper: „Cybersecurity und Data Protection by Design: Dieses Whitepaper soll einen rechtlichen Überblick über die Cybersicherheitsanforderungen bei der Produktentwicklung geben. Diese sind auch im Rahmen von Forschungsprojekten von hoher Relevanz.
  4. Whitepaper: „Medizinprodukte und Künstliche Intelligenz (KI): In diesem Whitepaper wird die regulatorische Schnittstelle zwischen Medizinprodukten, In-vitro-Diagnostika und KI-Algorithmen beleuchtet.
  5. Whitepaper: „Sustainability-Anforderungen an Medizinprodukte und IVD: Auch in der Medizintechnikbranche wird Nachhaltigkeit zunehmend zur regulatorischen und wirtschaftlichen Notwendigkeit. In diesem Whitepaper erhalten Sie einen Überblick über Umwelt- und Nachhaltigkeitsvorgaben, die über die der MDR oder IVDR hinausgehen.
  6. Whitepaper: „C5-Testat bei Cloud-Diensten im Gesundheitswesen: Im Gesundheitswesen gelten hohe Anforderungen an den Datenschutz und die Datensicherheit. Das hat lange Zeit zu einer Zurückhaltung bei der Nutzung von Cloud-Diensten geführt. Mit dem Digitalgesetz (DigiG), das Anfang 2024 in Kraft getreten ist, wurde jedoch festgelegt, dass Cloud-Anbieter ein aktuelles C5-Testat vorlegen müssen. Dies wirft insbesondere bei der Nutzung von Drittanbieter-Technologien wie Software as a Service (SaaS) praktische Fragen auf. Das Whitepaper zeigt, wer zur Vorlage eines C5-Testats verpflichtet ist und wie dieses erlangt werden kann. 

 

  1. OnePager: „Datenschutz-Folgenabschätzung erfolgreich durchführen“: Ein Kurzüberblick zum datenschutzkonformen Einsatz neuer Technologien.
  2. OnePager: „Accessibility by Design: Barrierefreiheit von Produkten“: Ein Kurzüberblick über das Barrierefreiheitsstärkungsgesetz (BFSG).
  3. OnePager: „Die KI-Verordnung: Rahmenbedingungen für KI-Systeme“: Ein Kurzüberblick über die KI-Verordnung.
  4. OnePager: „Cyber Resilience Act“: Ein Kurzüberblick über den Cyber Resilience Act.
  5. OnePager: „Data Act – Die EU-Datenverordnung“: Ein Kurzüberblick über den Data Act. 
  1. Grafik: „Rechtliche Anforderungen an die KI-Entwicklung im Bereich des Gesundheitswesens”: Es handelt sich um eine Grafik, die die zu berücksichtigenden Rechtsgebiete bei der Entwicklung von KI-Anwendungen im Gesundheitswesen aufzeigt.
  2. Grafik: „KI-Risiko-Schema“: Es handelt sich um eine Grafik, die den relativen Anteil der reglementierten KI-Systeme in Kombination mit den KI-Pflichten und der KI-Risiko-Logik der KI-Verordnung darstellt.
  3. Grafik: „Risikopyramide“: Eine Grafik über das Risikoverständnis der KI-VO.
  4. Grafik: „Medizinprodukte“: Eine Grafik über den Entscheidungsbaum zur Einordnung eines Medizinproduktes i.S.d. MDR.
  5. Grafik: „Medizinproduktesoftware“: Eine Grafik über den Entscheidungsbaum zur Einordnung als Medizinproduktesoftware i.S.d. MDR. 

Sie verlassen beim Klick unsere Seite und gelangen direkt zur HIZ-Cloud der Universität des Saarlandes.