nach oben

Die Innere Medizin

Erschienen in:

19.10.2023 | Künstliche Intelligenz | Schwerpunkt: Künstliche Intelligenz in der Inneren Medizin

Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin

Von Datenschutz und Regulatorik, Erstattungs- und Haftungsfragen

verfasst von: Dr. Anna Haftenberger, Prof. Dr. med. Dr. iur. Christian Dierks

Erschienen in: Die Innere Medizin | Ausgabe 11/2023

Einloggen, um Zugang zu erhalten

Zusammenfassung

Künstliche Intelligenz (KI) eröffnet in der Inneren Medizin neue Möglichkeiten zur Verbesserung der medizinischen Versorgung. Rechtsunsicherheiten bei der Anwendung von KI stellen ein Hindernis für deren Integration in den Alltag der Inneren Medizin dar. Um Klarheit zu schaffen, bietet dieser Aufsatz einen Überblick über die rechtlichen Aspekte im Zusammenhang mit KI und zeigt, welche Rahmenbedingungen einzuhalten sind, um die Vorteile von KI auszuschöpfen, ohne dabei die Rechte und den Schutz der Patienten zu vernachlässigen. Es werden zunächst datenschutzrechtliche Fragen beantwortet, die sich bei der Verarbeitung sensibler Gesundheitsdaten durch KI ergeben. Anschließend werden die wichtigsten regulatorischen Anforderungen für die Nutzung von KI in der Inneren Medizin erörtert. Da die Etablierung von KI in der Praxis auch von einer ausreichenden Finanzierung abhängt, werden zudem erstattungsrechtliche Fragen thematisiert. Schließlich wird beleuchtet, welche Besonderheiten beim Einsatz von KI zu beachten sind, um arzthaftungsrechtliche Konsequenzen zu vermeiden.

Niederée C, Nejdl W (2020). In: Ebers M, Heinze C, Krügel T, Steinrötter B (Hrsg) Künstliche Intelligenz und Robotik. C. H. BECK, § 2 Rn. 95.

Neben der DSGVO sind auch das Bundesdatenschutzgesetz (BDSG) sowie die Datenschutz- und Krankenhausgesetze der Länder zu beachten.

Art. 4 Nr. 7 DSGVO.

Jungkind V, Koch S (2022). In: Chibanguza K, Kuß C, Steege H (Hrsg) Künstliche Intelligenz. Nomos, § 4 D. Rn. 14 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 50.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 67.

Schreitmüller Z (2023) Regulierung intelligenter Medizinprodukte. Nomos, S 221.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 69.

ErwG 33, 159 DSGVO. Für die Zulässigkeit im Einzelfall Schreitmüller Z (Fn. 7), S 221 f.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 60.

Die Datenverarbeitung muss dabei auf einer unions- oder nationalrechtlichen Norm oder auf einem Vertrag mit einem Angehörigen der Gesundheitsberufe beruhen.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 85.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 88.

Ausführlich Schreitmüller Z (Fn. 7), S 241 ff.

Dazu Krügel T, Pfeiffenbring J (Fn. 1), § 11 Rn. 71 ff.

S. dazu unten, Abschn. „Ärztliches Berufs- und Strafrecht“.

Dierks C, Gollrad M (2022) Künstliche Intelligenz in der Zahnmedizin – Datenschutz als „Deal breaker“? Quintessenz Zahnmed 858:859

Ähnlich Eichelberger J (Fn. 4), § 4 D. Rn. 52, 59.

Schürmann K (2022) Datenschutz-Folgenabschätzung beim Einsatz Künstlicher Intelligenz. ZD 316, 320 ff.

Vgl. Martini M (2021). In: Paal B, Pauly D (Hrsg) DSGVO/BDSG. C. H. BECK, Art. 35 DSGVO Rn. 30.

Vgl. §§ 630a, 613 BGB, § 19 Abs. 1 MBO‑Ä und entsprechende Umsetzung der Landesärztekammern, §§ 15 Abs. 1 S. 1, § 28 Abs. 1 SGB V; Wagner G (2023). In: Säcker J et al. (Hrsg) Münchener Kommentar. C. H. BECK, § 630a BGB Rn. 100 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 40 f.; anders wohl Eichelberger (Fn. 4), § 4 I. Rn. 31.

Riehm T (2020) Nein zur ePerson, RDi 42 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 41.

Kardasiadou Z (1998) Die Produkthaftung für fehlerhafte medizinische Expertensysteme. Nomos, S 236

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 55.

Art. 2 Nr. 1 MDR.

Art. 2 Nr. 1 MDR: „allein oder in Kombination“.

Zur Konformitätsbewertung Gassner U, Juknat U (2022). In: Rehmann W, Tillmann C (Hrsg) E‑Health. C. H. BECK, Kap. 3 Rn. 397 ff.

Dazu Kern B (2019). In: Laufs A, Kern B, Rehborn M (Hrsg) Handbuch des Arztrechts. C. H. BECK, § 57 Rn. 1 ff.

Europäische Kommission, AI Act, COM(2021) 206 final.

https://www.europarl.europa.eu/news/de/press-room/20230609IPR96212/parlament-bereit-fur-verhandlungen-uber-regeln-fur-sichere-und-transparente-ki. Zugegriffen: 15. Juli 2023.

Allein Medizinprodukte der Klasse I fallen nicht unter die Hochrisikogruppe. Da Software wegen der weiten Regel 11 in Anhang VIII der MDR aber mindestens Klasse IIa angehört, sind kaum KI-basierte Medizinprodukte denkbar, die nicht als Hochrisikosystem einzustufen sind, Heil M (2022) Die neue KI-Verordnung (E) – Regulatorische Herausforderungen für KI-basierte Medizinprodukte-Software, MPR 6 f.

Zur mögl. Überregulierung Schreitmüller Z (Fn. 7), S 294 ff.

Zur Pflicht des Herstellers zu Sicherheitsvorkehrungen gegen unzureichenden Input. In Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 171.

S. Art. 29 Abs. 4 sowie Art. 65 des KI-VO‑E.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 21.

BGH v. 15.10.2019, Az. VI ZR 105/18 Rn. 14.

Eichelberger J (Fn. 4), § 4 I. Rn. 12.

Dazu und zum Folgenden Eichelberger J (Fn. 4), § 4 I. Rn. 41.

Vgl. auch Europäische Kommission, Haftungsbericht, COM (2020) 64 final, S 8, 2, 19.

BGH v. 17.03.2009, Az. VI ZR 176/08; zu Medizinprodukten Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 101 ff.; anders wohl Katzenmeier/Voigt (2020) ProdHaftG. ESV § 3 ProdHaftG Rn. 40.

Eichelberger J (Fn. 4), § 4 I. Rn. 42.

BGH v. 22.05.2017, Az. VI ZR 35/06 Rn. 19.

Wagner G (Fn. 20), § 630a BGB Rn. 158.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 41.

Vgl. BGH v. 07.07.1970, Az. VI ZR 223/68 zur Anforderung an Ärzte bei Druckfehlern in medizinischen Werken; zum Verhältnis Hersteller- und Arzthaftung Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 265 ff.

Droste W (2018) Intelligente Medizinprodukte, MPR 109, 112.

Spindler G (2023). In: Gsell B et al. (Hrsg) BeckOGK BGB. C. H. BECK, § 823 BGB Rn. 856.

BGH v. 26.11.1991, Az. VI ZR 389/90.

BGH v. 22.09.1987, Az. VI ZR 238/86; Spindler G (Fn. 47), § 823 BGB Rn. 854.

Krit. Spindler G (Fn. 47), § 823 BGB Rn. 854.

Wagner G (Fn. 20), § 630e BGB Rn. 11 ff.; zu autonomer Technik Rehmann W (Fn. 27), Kap. 3 Rn. 161 ff.

Wagner G (Fn. 20), § 630e BGB Rn. 35 ff.

BGH v. 13.06.2006 – VI ZR 323/04 – Robodoc.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 23.

So Eichelberger J (Fn. 4), § 4 I. Rn. 22.

Dazu Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 23 ff.

Horner S, Kaulartz M (2016) Haftung 4.0, CR 8 f.

Titel: Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin
Von Datenschutz und Regulatorik, Erstattungs- und Haftungsfragen
verfasst von: Dr. Anna Haftenberger
Prof. Dr. med. Dr. iur. Christian Dierks
Publikationsdatum: 19.10.2023
Verlag: Springer Medizin
Schlagwörter: Künstliche Intelligenz
Innere Medizin
Erschienen in: Die Innere Medizin / Ausgabe 11/2023
Print ISSN: 2731-7080
Elektronische ISSN: 2731-7099
DOI: https://doi.org/10.1007/s00108-023-01598-8

Leitlinien kompakt für die Innere Medizin

Mit medbee Pocketcards sicher entscheiden.

^{Seit 2022 gehört die medbee GmbH zum Springer Medizin Verlag}

Kostenlos registrieren

Neu im Fachgebiet Innere Medizin

„Jeder Fall von plötzlichem Tod muss obduziert werden!“

17.05.2024 Plötzlicher Herztod Nachrichten

Ein signifikanter Anteil der Fälle von plötzlichem Herztod ist genetisch bedingt. Um ihre Verwandten vor diesem Schicksal zu bewahren, sollten jüngere Personen, die plötzlich unerwartet versterben, ausnahmslos einer Autopsie unterzogen werden.

Hirnblutung unter DOAK und VKA ähnlich bedrohlich

17.05.2024 Direkte orale Antikoagulanzien Nachrichten

Kommt es zu einer nichttraumatischen Hirnblutung, spielt es keine große Rolle, ob die Betroffenen zuvor direkt wirksame orale Antikoagulanzien oder Marcumar bekommen haben: Die Prognose ist ähnlich schlecht.

Schlechtere Vorhofflimmern-Prognose bei kleinem linken Ventrikel

17.05.2024 Vorhofflimmern Nachrichten

Nicht nur ein vergrößerter, sondern auch ein kleiner linker Ventrikel ist bei Vorhofflimmern mit einer erhöhten Komplikationsrate assoziiert. Der Zusammenhang besteht nach Daten aus China unabhängig von anderen Risikofaktoren.

Semaglutid bei Herzinsuffizienz: Wie erklärt sich die Wirksamkeit?

17.05.2024 Herzinsuffizienz Nachrichten

Bei adipösen Patienten mit Herzinsuffizienz des HFpEF-Phänotyps ist Semaglutid von symptomatischem Nutzen. Resultiert dieser Benefit allein aus der Gewichtsreduktion oder auch aus spezifischen Effekten auf die Herzinsuffizienz-Pathogenese? Eine neue Analyse gibt Aufschluss.

Update Innere Medizin

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.

Newsletter bestellen

Die Highlights vom Kongress des American College of Cardiology 2024

Springer Medizin

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu diesem Inhalt zu erhalten

Weitere Artikel der Ausgabe 11/2023

Rückblick – BDI Hauptstadtforum

Digitale Rheumatologie

Tiefe Heilung – ein Kommentar zu ethischen Risiken und Chancen der künstlichen Intelligenz

Künstliche Intelligenz in der Medizin

Anwendung von „large language models“ in der Klinik