Informationen der EKQMB zum Einsatz von Systemen der Künstlichen Intelligenz (KI) in der medizinischen Begutachtung
Die Eidgenössische Kommission für Qualitätssicherung in der medizinischen Begutachtung (EKQMB) hat sich im Frühjahr 2023 eingehend mit der rechtlichen Unsicherheit der Verwendung von Künstlicher Intelligenz (KI) als Hilfsmittel in der medizinischen Begutachtung befasst und im Mai 2023 beschlossen, ein Rechtsgutachten in Auftrag zu geben, um die rechtlichen Grundlagen für den möglichen Einsatz von KI-Tools als Hilfsmittel bei der Erstellung von medizinischen Gutachten zu klären.
In die Überlegungen der Kommission flossen dabei folgende Punkte ein: Gemäss Art. 44 ATSG obliegt dem Gutachter im Rahmen eines medizinischen Gutachtenauftrages die Pflicht, das Gutachten persönlich zu erstellen. Dies schliesst jedoch nicht aus, dass der Gutachter für gewisse Hilfsaufgaben eine Hilfsperson beizieht, die nach seinen Weisungen und unter seiner Aufsicht handelt. In diesem Zusammenhang stellt sich zunehmend die Frage, inwieweit die Ärzteschaft bei der Erstellung von Gutachten und Arztberichten auf weitere Werkzeuge der Künstlichen Intelligenz (im Folgenden: KI) zurückgreifen könnte. Diskutiert wurden in der EKQMB u.a. der Einsatz von KI-gestützten Schreibprogrammen, die Generierung und Zusammenfassung medizinischer Texte, aber auch der Einsatz im Rahmen der medizinischen Diagnostik etc. Neben den Vorteilen dieser Systeme wurden auch ethische und datenschutzrechtliche Herausforderungen sowie Risiken und Grenzen des Einsatzes diskutiert.
Im Rahmen des erwähnten Rechtsgutachtens sollte sodann folgende Frage beantwortet werden: Welche rechtlichen Aspekte sind zu beachten, wenn der Einsatz von künstlicher Intelligenz im Rahmen der Erstellung eines medizinischen Gutachtens nach Art. 44 ATSG abzuklären ist?
Das Gutachten von Prof. Dr. iur. Ueli Kieser kommt zu folgenden Schlussfolgerungen: Soweit mit der KI eine Hilfstätigkeit bei der Erstellung von medizinischen Gutachten ausgeübt wird (Recherchearbeiten und dergleichen), sind keine besonderen Abgrenzungen oder Schritte notwendig. Wird mit KI eine Tätigkeit ausgeübt, die den (eng abzugrenzenden) Rahmen der Hilfstätigkeit verlässt, handelt es sich um den Einsatz eines Instruments, das der Hinzuziehung einer weiteren sachverständigen Person gleichzustellen ist. Daher sind bei einem solchen Einsatz zusätzliche verfahrensrechtliche Anforderungen zu erfüllen, insbesondere im Hinblick auf
- die Grundlagen und die technische Basis der einzusetzenden KI-Systeme
- die Fähigkeiten der KI-Systeme
- deren Einsatzgrenzen sowie
- den Umfang und die Ergebnisse der durchgeführten Sicherheitstests.
Die Zustimmung des Auftraggebers zum Einsatz von KI ist zwingend erforderlich. Darüber hinaus muss im Gutachten transparent gemacht werden, welche Teile mit Unterstützung von KI erstellt wurden. Die Regelung dieser Aspekte sollte beispielsweise in der Verordnung zum Allgemeinen Teil des Sozialversicherungsrechts (ATSV) oder jedenfalls in einer Weisung der zuständigen Bundesbehörde erfolgen.
Da die Schlussfolgerungen des Rechtsgutachtens damit über die gesetzlich definierten Kompetenzen der Eidgenössischen Kommission für Qualitätssicherung in der medizinischen Begutachtung hinausgehen, sieht diese zum jetzigen Zeitpunkt von einer formellen Empfehlung ab. Stattdessen konzentriert sich die Kommission darauf, die Öffentlichkeit umfassend über die Ergebnisse des Rechtsgutachtens zu informieren.
Letzte Änderung 14.03.2024
