Künstliche IntelligenzIn nahezu allen Bereichen der Medizin bewirkt die Künstliche Intelligenz (KI) einen tiefgreifenden Wandel. Mit der Broschüre «Künstliche Intelligenz im ärztlichen Alltag» gibt die FMH einen umfassenden Überblick für die Ärzteschaft über die wesentlichen Aspekte und stellt Forderungen an KI-Anwendungen in der Medizin.
Künstliche Intelligenz (KI) hat das Potenzial, alle Lebensbereiche grundlegend zu verändern. Als ein Puzzleteil der digitalen Transformation bedingt ihr Einsatz in allen wesentlichen Lebensbereichen und ihr Umgang eine Gestaltung, die national diskutiert wird. Beispielweise wurde im Jahr 2022 vom Bund das nationale Kompetenznetzwerk für künstliche Intelligenz (CNAI) geschaffen (https://cnai.swiss/). Das CNAI soll über die Grenzen der Bundesverwaltung hinaus den Einsatz von KI und das Vertrauen in diese Technologie schnell und nachhaltig fördern.
Zu den angesprochenen Lebensbereichen gehört wesentlich unsere Gesundheit. Auch hier ist vorstellbar, dass KI-Anwendungen den Menschen von seiner Entstehung bis zum Tod in allen Belangen seiner Gesundheit begleiten. Dies dürfte einen tiefgreifenden Wandel in der Medizin bewirken (siehe Abbildung 1).
Die FMH möchte diesen Wandel in der Medizin von Anfang an begleiten und mitgestalten und hat deshalb die Broschüre «Künstliche Intelligenz im ärztlichen Alltag» erarbeitet. Die Broschüre gibt einen umfangreichen Überblick über KI im ärztlichen Alltag, fasst die für die Ärzteschaft wesentlichen Aspekte zusammen und enthält einen Forderungskatalog an KI-Anwendungen in der Medizin. Die Broschüre soll helfen, die Ärzteschaft proaktiv über KI in der Medizin zu informieren und sie für die damit einhergehenden Herausforderungen zu sensibilisieren.
Bis heute existiert keine allgemeingültige Definition von KI [1]. Beschreiben aber lässt sich KI, beziehungsweise die intelligente Maschine, als computerbasiertes System (KI-System), das für einen vom Menschen definierten Zweck Vorhersagen, Empfehlungen oder Entscheidungen treffen kann, und so reale Umgebungen beeinflusst [1]. Dafür bedient sich das KI-System verschiedener Methoden. Historisch hat die KI-Forschung zwei Ansätze unterschieden, die symbolische KI und die statistische KI [1]. Heute liegt der Fokus auf statistischer KI, bei der komplexe Probleme mit mathematischen Modellen und statistischen Verfahren gelöst werden. Beispielsweise sind im Bereich der statistischen KI die Methoden des Machine Learning angesiedelt. Dabei lernt der Computer – ohne explizite Programmierung – aus Daten Vorhersagen zu treffen.
KI-Anwendungen gibt es bereits heute in fast allen Bereichen der medizinischen Fachdisziplinen, beispielsweise der Radiologie, Pathologie, Dermatologie, Ophthalmologie, Kardiologie, Gastroenterologie, Chirurgie, Psychiatrie-Psychotherapie. Für die Integration von KI-Systemen in den klinischen Alltag oder den Alltag einer Fach-, respektive Hausarztpraxis ist die Akzeptanz der Ärzteschaft essenziell. Ein wesentlicher Aspekt hierfür ist der Nutzen der KI-Anwendung. Ärztinnen und Ärzte sehen den Nutzen von KI primär in technischen und methodischen Optimierungen von Entscheidungen, die vor, während und nach einer Behandlung getroffen werden müssen. Zudem sind Ärztinnen und Ärzte der Ansicht, dass die persönliche Beziehung zwischen Arzt und Patient auch in einer von KI geprägten Welt im Mittelpunkt stehen muss [2]. Wird KI in der Medizin eingesetzt, eröffnet dies neue Möglichkeiten, bringt aber auch Herausforderungen mit sich [3]. Die Frage, nach welchen Kriterien KI-Systeme zu bewerten sind, ist Gegenstand politischer, gesellschaftlicher und wissenschaftlicher Debatten [4]. Für einen vertrauenswürdigen Einsatz von KI-Systemen in der Medizin werden die Herausforderungen entlang der Bereiche Fairness, Autonomie und Kontrolle, Transparenz, Verlässlichkeit, Sicherheit und dem Datenschutz transparent adressiert. Beispielsweise muss im Bereich Autonomie und Kontrolle für das jeweilige KI-System die angemessene und verantwortungsvolle Aufgabenverteilung zwischen Mensch/Nutzer und KI-System definiert werden [5, 6]. Um die mit dem Einsatz von KI verbundenen Herausforderungen besser zu meistern, hat die FMH aus Sicht der Ärzteschaft zehn Forderungen formuliert.
Forderungskatalog der FMH
Die zehn Forderungen beziehen sich auf diejenigen KI-Systeme, die zu diagnostischen, respektive therapeutischen Zwecken herangezogen werden und damit das Potenzial haben, ärztliche Kerndienstleistungen zu ersetzen.
In die Forderungen einbezogen wurden die folgenden bestehenden oder vorgeschlagenen Gesetze, Regularien und Leitfäden: MDR [7], MepV [8], IVDR [9], Gesetz über KI [10], Leitfaden zur KI bei Medizinprodukten [11] sowie die Guiding Principles for Good Machine Learning Practice for Medical Device Development [12].
Abbildung 1: Mögliche Anwendungen von künstlicher Intelligenz entlang des menschlichen Lebens
A) Prävention und Diagnostik
B) Diagnose
C) Behandlung
D) Patientenmonitoring/Nachsorge
1. Embryo Selektion bei In-vitro Befruchtung 2. Genomanalyse und Genominterpretation bei Neugeborenen 3. Herzfrequenzmessung via Smartwatch
4. Diagnose eines Herzinfarktes oder Schlaganfalls 5. Prävention von Erblindung bei Diabetischer Retinopathie 6. Auswertung von medizinischer Bildgebung
7. Identifikation von unerwünschten Wechselwirkungen zwischen verschiedenen Arzneimitteln 8. Unterstützende Behandlung von Depression oder Angstzuständen über Chatbots oder Apps 9. Extrem präzise Ausführung von Operationen durch Roboter
10. Tägliche Check-ups, z.B. nach schwerer Krankheit, und Dokumentation des Therapiefortschritts mittels Apps 11. Verbesserung der Patientensicherheit: Warnung an Ärztinnen und Pflegepersonal, wenn Messgrössen ausserhalb des Normbereichs liegen 12. Vorhersage des Todeszeitpunkts im Krankenhaus mit dem Ziel, die Massnahmen von Palliative Care entsprechend auszurichten.
Das KI-System muss im Sinne einer Post-Market-Surveillance regelmässig überprüft werden. Dabei geht es insbesondere darum, neue Risiken zu identifizieren oder die Leistungsfähigkeit sowie das Nutzen-Risiko-Verhältnis in der realen klinischen Umgebung zu überprüfen und falls notwendig kontinuierlich zu verbessern. Zum Beispiel kann ein KI-System belastbare Vorhersagen nur für eine Patientenpopulation mit einer Anzahl von Eigenschaften treffen, für die es trainiert, getestet und validiert wurde.
Solange KI-Systeme – beispielsweise in Form von elektronischen Personen (E-Person [15, 16] – keine Rechtspersönlichkeit besitzen, stehen diejenigen in der Verantwortung, die es konzipieren und professionell nutzen, also auch Gesundheitsfachpersonen.
Selbst bei «Out of the loop» Systemen, bei denen menschliches Eingreifen nicht mehr erforderlich ist, kann der Nutzer noch entscheiden, ob er das KI-System einsetzen möchte oder nicht, auch wenn er die Vorhersagen und Entscheidungen dieses autonomen KI-Systems selbst nicht mehr beeinflussen kann.
Die «Gebrauchsanleitung» muss alle erforderlichen Informationen zur einwandfreien Verwendung des KI-Systems beinhalten. Sie muss Ärztinnen und Ärzte in die Lage versetzen, den Betrieb des KI-Systems zu verstehen, zu überwachen und bei Bedarf auch zu übersteuern. Der Hersteller muss sicherstellen, dass Ärztinnen und Ärzte bei der Verwendung des KI-Systems ihren Informations- und Sorgfaltspflichten nachkommen können.
Die «Gebrauchsanleitung» muss klar aufzeigen …
… welche Rolle der Ärztin oder dem Arzt beim Betrieb des Systems zukommt.
Definiert werden müssen zum Beispiel die Nutzerkompetenzen bei «In the Loop»- oder «On the Loop»-Systemen.
… für welchen Zweck bzw. für welches Krankheitsbild das KI-System eingesetzt werden darf und für welche Anwendungsfälle nicht.
… wie das KI-System zu verwenden ist.
Speziell muss aufgezeigt werden, welche Daten wie eingegeben werden müssen, wie Fehlfunktionen und besondere Vorfälle erkannt werden können, woran erkannt werden kann, dass das System einwandfrei funktioniert, und wie das System übersteuert werden kann.
… auf welcher Methodik das KI-System basiert.
Zu beachten und umzusetzen sind die Grundprinzipien und Goldstandards der Datenkompetenz.
Dazu gehören beispielsweise ein sinnvolles transparent deklariertes und nachvollziehbares Datenkonzept oder eine dem Konzept angepasste Datenerhebung und Datenverarbeitung.
… wie das KI-System trainiert, getestet und validiert wurde.
Anzugeben sind insbesondere die jeweils verwendeten unabhängigen Datensätze und deren Charakteristika wie Grösse, Verteilung Geschlecht, Alter usw. Des Weiteren sind die Eignung der Datensätze aus statistischer und medizinischer/klinischer Perspektive inklusive Beschreibung der Tests auf mögliche Verzerrungen (Bias) und Fehler anzugeben. Aufzuführen sind ausserdem die Kennzahlen zur Genauigkeit der Leistung und der klinischen Wirksamkeit des KI-Systems, auch im Vergleich zu bestmöglichen alternativen Methoden und KI-Modellen.
… wie das KI-System den Datenschutz und die Sicherheit gewährleistet.
Insbesondere ist darzulegen, wo und in welcher Form die Personen- und Metadaten gespeichert werden, wie diese vor Sicherheitsrisiken angemessen geschützt werden und wie die Sicherheit des KI-Systems gewährleistet wird.
… an welche Kontaktstelle sich Nutzerinnen und Nutzer wenden können.
Es ist sicherzustellen, dass die Ärztin oder der Arzt im Falle von Fragen oder Problemen kompetente Hilfestellung erhält.
Das medizinische Ausbildungssystem muss angehenden und praktizierenden Ärztinnen und Ärzten das Werkzeug in die Hand geben, um im ärztlichen Alltag mit KI und modernen Techniken sinnstiftend und kompetent umzugehen. Dies schliesst die Auseinandersetzung mit rechtlichen und ethischen [17] Rahmenbedingungen ebenso mit ein wie die Befähigung, kompetent mit Daten umzugehen und die verschiedenen Aspekte der datengetriebenen Medizin zu verstehen und zu begleiten [18, 19, 20, 21]. Damit ein informierter Umgang mit KI möglich wird, ist es beispielsweise unabdingbar, dass grundlegende Begriffe der Datenanalyse auch in Bezug auf das Machine Learning verinnerlicht werden.
Damit die Wirkungsziele der Nutzerinnen und Nutzer erreicht werden können, ist insbesondere zu spezifizieren, welche medizinischen Fragestellungen mit dem KI-System gelöst werden sollen, worin die medizinischen Probleme liegen und in welchem Kontext das KI-System verwendet werden soll.
Denkbar sind KI-Systeme, die im Hintergrund die Qualität der ärztlichen Arbeit überwachen.
KI-Systeme müssen auf die lokale Datensituation angepasst werden (siehe Forderung 4). Dazu braucht es Datensätze, die die jeweilige zu testende lokale Patientenpopulation repräsentieren und die unter Beachtung des Datenschutzes und der Datensicherheit erhoben, verarbeitet und gespeichert werden.
Wichtig ist in diesem Zusammenhang ein zertifiziertes Qualitätsmanagement und ein zertifiziertes Annotieren der verwendeten und gesammelten Daten.
Darüber hinaus braucht die Schweiz Zugang zu internationalen Datenplattformen. Als Beispiel sei das Vereinigte Königreich angeführt, wo im CPRD Netzwerk Daten von Hausärzten gesammelt werden [22]. Die Schweizerische Ärzteschaft kann sich hier auch auf neue Lösungen, wie etwa die des föderierten Lernens, abstützen, die ein dezentrales Lernen von Daten ermöglichen.
Wandel des ärztlichen Berufsbildes
Ohne Zweifel gibt es Aufgaben, die intelligente Maschinen wesentlich besser bewältigen können als der Mensch. KI kann bereits heute Tumore schneller erkennen als Ärztinnen und Ärzte, indem sie automatisierbare Prozesse schnell und präzise erledigt [23].
Der Mensch und die künstliche Intelligenz können sich gut ergänzen, wenn die Voraussetzungen stimmen.
Zwischenmenschliche Beziehungen ersetzen kann diese Technologie (noch) nicht, weswegen KI die ärztlichen Rollen kaum je vollumfänglich übernehmen wird [24]. Vorstellbar ist aber, dass Ärztinnen und Ärzte sich in naher Zukunft eher auf jene Bereiche ihrer neuen oder veränderten Rollen konzentrieren dürfen, die KI-Systeme nicht übernehmen können. Damit dies gelingen kann, muss die KI fester Bestandteil der medizinischen Lehrpläne sowie der ärztlichen Weiter- und Fortbildung sein [18]. Ärztinnen und Ärzte sollten diesen tiefgreifenden Wandel des ärztlichen Berufsbildes aktiv mitgestalten und sich ihm mit einer positiven Grundhaltung stellen. Dafür steht die Broschüre «Künstliche Intelligenz im ärztlichen Alltag» der FMH bereit, die sich intensiv mit dem Thema KI auseinandersetzt.
3 EU. Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung. (2020) doi: 10.1787/ab757416-en.
4 Bærøe K, Miyata-Sturm A, Henden E. How to achieve trustworthy artificial intelligence for health. Bull World Health Organ. 2020 Apr 1;98(4):257-262.
6 Fraunhofer IAIS. Vertrauenswürdiger Einsatz von künstlicher Intelligenz. (2019).
7 EU. Verordnung (EU) 2017/745 des Europäischen Parlaments und Rates über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates. (2017).
10 EU. Verordnung des Europäischen Parlaments und Rates. Zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und Änderung bestimmter Rechtsakte der Union. https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206 (2021).
18 Bonvin R., Buhmann J., Cotrini Jimenez C., Egger M., Geissler A., Krauthammer M., Schirlo C., Spiess C., Steurer J., Vokinger K. N., Vogt J. Neue Lernziele für das Medizinstudium erarbeitet: Studierende auf den Einsatz von maschinellem Lernen vorbereiten. Schweizerische Ärztezeitung (2022), 4, S. 98–101.
19 Buhmann J., Felix J., Gächter T., Kowatsch T., Lehmann R., von Lutterotti N., Schedler K., Steurer J., Wolfrum C. (2018) Digitalisierung der Medizin: Konsequenzen für die Ausbildung. Schweizerische Ärztezeitung, 99 (42). 1441–4.
20 Schüller, K., Busch, P. & Hindinger, C. Future Skills: Ein Framework für Data Literacy - Kompetenzrahmen und Forschungsbericht. (2019).
21 Misra, A., Jütting, J. & Kuonen, D. Advancing data literacy in the post-pandemic world. (2021).
22 CPRD. Clinical Practice Research Datalink. www.cprd.com.
23 Mell E. Was willst du bei uns, Dr. Algorithmus? Schweizerische Ärztezeitung (2022), 103(24):826–8.
24 Goldhahn J., Rampton V., Spinas G. A.. Could artificial intelligence make doctors obsolete? Schweizerische Ärztezeitung (2019), 100(08):242–4.
