Deutscher Röntgenkongress
Kongressberichte aus Wiesbaden und vom RöKo Digital
RöKo Digital 2025 – KI und Recht: Aufklärung und Dokumentation sind das Wichtigste
| 12.04.2025 |
|---|---|
| kf/ktg |
| Prof. Dr. iur. Bernd Halbe, Fachanwalt für Medizinrecht, Universität Köln |
| RöKo Digital 2025 |
Grundsätzlich hinkt das Recht den Entwicklungen der Künstlichen Intelligenz (KI) immer hinterher, so Bernd Halbe, Fachanwalt für Medizinrecht, Köln. Derzeit ist KI-basierte Software als Medizinprodukt (Art.2 Nr.1 Medical Device Regulation MDR) einzuordnen, egal, ob sie am menschlichen Körper wirkt oder nicht. Den Zweck der Software bestimmt der Hersteller.
Wer haftet?
Spezielle Haftungsregeln für die KI gibt es bisher nicht. Am 12. Februar 2025 hat die EU mit dem EU AI Act eine weltweit beachtete Richtlinie zum KI-Haftungsrecht zurückgezogen. Ziel war, Haftungsfragen bei KI-Anwendungen vor allem dort zu klären, wo die Entscheidungshoheit menschlicher Akteure durch automatisierte Prozesse ersetzt wird.
Ohne spezielle KI-Haftungsregeln bleibt nun ungeklärt, wer im Schadensfall haftet, wenn Software autonom handelt oder aufgrund undurchschaubarer Algorithmen entscheidet. Man könne davon ausgehen, dass wirtschaftlicher Druck zu dem Rückzug geführt habe – die EU habe europäische Unternehmen nicht schwächen wollen, so Halbe.
Was tun?
Ein wesentlicher Schutz vor Haftungsproblemen bei KI-Nutzung ist die persönliche Aufklärung der Patient:innen durch die Ärzt:in und die Dokumentation der Aufklärung in der Patientenakte (§ 630f Abs.2 BGB).
Unbedingt zu dokumentieren sind:
- die Tatsache, dass aufgeklärt wurde,
- Ort und Zeitpunkt der Aufklärung,
- wesentliche Inhalte des Aufklärungsgesprächs.
Wird ein standardisierter Aufklärungsbogen benutzt, muss er der Patientenakte beigefügt werden. Verzichtet eine Patient:in von sich aus auf die Aufklärung muss auch dies unbedingt dokumentiert werden – passiert dies nicht, wird sonst bei einem Haftungsprozess aufgrund der geltenden Beweislastregelungen (§ 630h Abs. 5 BGB) in der Regel nicht zugunsten der Ärzt:in entschieden.
Derzeit gilt KI-Software in der Medizin noch als sogenannte Neulandmethode. Patient:innen müssen darüber aufgeklärt werden, dass die neue Methode unbekannte Risiken bergen kann und sie müssen in die Lage versetzt werden, eine Nutzen-Risiko-Abwägung zwischen der herkömmlichen und der neuen Methode zu treffen. Ohne diese Aufklärung würde die Ärzt:in derzeit wegen eines Aufklärungsfehlers haften. Auch diese Risikoaufklärung bedarf der Dokumentation.
„Ist die Aufklärung okay, liegt das Risiko beim Patienten“, so Halbe.
Derzeit greifen weiter die bestehenden Haftungsregeln.
In der Medizin sind vor allem vier Haftungsarten wichtig:
- Haftung durch Behandlungsfehler
- Haftung durch Aufklärungsfehler
- Haftung des Betreibers einer medizinischen Einrichtung („Organisationsverschulden“)
- Produkthaftungsrecht
Ärzt:innen trifft die primäre Pflicht zur sorgfältigen Behandlung. Benutzt ein Arzt oder eine Ärztin ein KI-basiertes Medizinprodukt zur Diagnose oder Therapie und erleidet die Patient:in einen Schaden, kann dies zum Schadensersatz nach Vertrag (Behandlungsvertrag §280 Abs. 1 in Verbindung mit § 630a ff. BGB) oder nach Deliktsrecht (§ 823 BGB) führen.
Trifft ein Gerät Entscheidungen allerdings völlig autonom, ist dies für die Ärzt:in in der Regel weder steuerbar noch erkennbar. In diesem Fall trifft ihn oder sie kein Verschulden, ein Behandlungsfehler liegt nicht vor. Die Grenze ist allerdings ein Graubereich.