Coverstory

«Auch Maschinen sind nicht perfekt»

DOI: https://doi.org/10.4414/saez.2022.21174
Veröffentlichung: 02.11.2022
Schweiz Ärzteztg. 2022;103(44):12-16

Interview: Adrian Ritter

Latsis-PreisKerstin Noëlle Vokinger forscht an der Schnittstelle von Medizin, Recht und Technologie. Ihre Arbeit ist in der Schweiz einzigartig und wurde nun ausgezeichnet. Im Gespräch erklärt sie, weshalb es sich lohnt, auf künstliche Intelligenz zu setzen und wie ihre Forschung den Zugang zur Medizin für alle verbessert.

Frau Vokinger, herzliche Gratulation! Am 3. November wird Ihnen der mit 100 000 Franken dotierte Wissenschaftspreis Latsis überreicht (siehe Kasten). Was bedeutet er Ihnen?

Vielen Dank! Mein Team und ich freuen uns riesig darüber. Als ich den Anruf erhielt, war ich völlig überrascht. Ich wusste gar nicht, dass ich nominiert bin. Die Auszeichnung motiviert uns sehr, mit unserer Forschung weiterzumachen. Und vielleicht motiviert das ja auch andere junge Menschen, ungewohnte Wege in der Forschung und im Beruf einzuschlagen.

Ihr Weg war in der Tat ungewöhnlich. Sie haben gleichzeitig Rechtswissenschaften und Medizin studiert. Warum?

Ich wollte schon als achtjähriges Kind Anwältin werden – inspiriert von einem Rechtsfall, bei dem ein Anwalt meinen Vater unterstützt hatte. Die Medizin fand ich ebenfalls sehr faszinierend. Im ersten Semester entsprach das juristische Studium inhaltlich gar nicht meinen naiven Erwartungen. Zudem hatte ich grosse Mühe damit, dass Recht und Gerechtigkeit nicht das Gleiche sind und man als Anwältin Interessen vertritt, die einen persönlich nicht überzeugen. Ich haderte und glaubte, dass es in der Medizin diese Konflikte nicht gibt und meldete mich für den Numerus Clausus an. Als mir im zweiten Semester das Jura-Studium deutlich besser gefiel, beschloss ich, die beiden Fächer zu kombinieren.

Heute sind Sie Forscherin. Wie kam es dazu?

Mein Interesse an der gesundheitsrechtlichen Forschung wurde geweckt, als ich im dritten Semester Hilfsassistentin an der Universität Zürich wurde. Mein Professor förderte mich und zeigte mir den akademischen Weg auf. Im praktischen Studienjahr der Medizin in den USA erlebte ich zudem mit onkologischen Patientinnen und Patienten hautnah, wie wichtig etwa Fragen des Zugangs zu Therapien und deren Finanzierung sind. Während meines Studien- und Forschungsaufenthalts in Harvard haben mich meine betreuenden Professoren in Bezug auf die interdisziplinäre Forschung gefördert. Das motivierte mich, diesen Weg auch zurück in der Schweiz weiterzuverfolgen.

Sie haben dann in Rechtswissenschaften und Medizin promoviert und konnten an der Universität Zürich eine Forschungsgruppe aufbauen. Kann man Ihre interdisziplinäre Forschung «Medizinrecht» nennen?

Ich würde es nicht so bezeichnen. Mit Medizinrecht ist die disziplinäre rechtliche Analyse einer Herausforderung in der Medizin beziehungsweise im Gesundheitswesen gemeint. Mein Team und ich gehen im Rahmen unserer interdisziplinären Tätigkeit anders vor: Wir werten zum Beispiel medizinische Daten aus – etwa zum Nutzen neuartiger Therapien – und überlegen uns darauf basierend, welche rechtliche Folgen unsere Befunde haben. Dabei geht es uns um die Beantwortung der Grundsatzfrage: Wie können wir den Zugang der Gesellschaft zur Medizin und zu innovativen Technologien verbessern? Das geht über eine rein juristische Fragestellung hinaus und bedarf Wissen aus der Medizin, der Statistik und weiterer Disziplinen. Entsprechend ist mein Team sehr interdisziplinär aufgestellt. Es besteht aus Wissenschaftlerinnen und Wissenschaftlern unter anderem aus Medizin, Rechtswissenschaften, Ökonomie, Statistik und Informatik.

Aber schlussendlich geht es auch beim Zugang zu Medizin oder neuen Technologien darum, wie etwas gesetzlich reguliert ist?

Nach einer je nach Fragestellung medizinischen, ökonomischen, statistischen und juristischen Analyse erfolgt die Entwicklung von regulatorischen Folgen. Wobei das Wort Regulierung nicht einseitig als «Einschränkung» verstanden werden darf. Es stimmt zwar, dass kaum ein Bereich heute so stark reguliert ist wie die Medizin. Aber regulieren kann auch heissen, etwas zu fördern. Wir haben in unserer Forschung kürzlich verschiedene Länder hinsichtlich ihrer Absichten zur Regulierung der künstlichen Intelligenz – KI – untersucht [1]. Dabei haben wir gesehen, dass die USA zwar viel regulieren wollen, aber dabei stärker als etwa die Europäische Union auch auf die Förderung von KI setzen. Deshalb ist es wichtig, dass wir bei neuen Technologien nicht nur die Gefahren, sondern auch die Chancen analysieren. Gerade in der Medizin finden enorme technologische Fortschritte statt. Ich will mit meinem Team den Blick auch nach vorne richten: Was sind die potenziellen Herausforderungen von morgen, für welche wir rechtliche Lösungen finden müssen – und wo genügt die bereits vorhandene Gesetzgebung?

Bleiben wir beim Beispiel künstliche Intelligenz. Welche Chancen für die Medizin sehen Sie darin?

Ich sehe Chancen auf verschiedenen Ebenen. Der administrative Aufwand in der Medizin hat stark zugenommen. Ich hoffe, KI kann hier Entlastung bringen. Damit sich Ärztinnen und Ärzte wieder mehr ihrer Kernaufgabe widmen können, der Interaktion mit den Patientinnen und Patienten. Gleichzeitig kann künstliche Intelligenz potenziell zur Qualitätssicherung beitragen, etwa bei der Bildanalyse. Und KI hat das Potenzial, beispielsweise die Suche nach neuen Wirkstoffen zu beschleunigen. Wobei wir realistisch bleiben sollten: Derzeit herrscht ein KI-Hype. Wie diese in Zukunft die Medizin tatsächlich verändern wird, lässt sich heute noch kaum einschätzen.

Was denken Sie persönlich? Werden Arzt und Ärztin eines Tages ersetzbar?

Es ist zum Teil heute schon so, dass Chatbots einfache Anfragen beantworten können. Bei dieser Diskussion muss uns bewusst sein: Wenn KI eine Gesundheitsfachperson gänzlich ersetzen könnte, dann könnte sie alle möglichen Berufe ersetzen. Mittelfristig ist das nicht realistisch. Die medizinische Behandlung ist die Kernkompetenz von Arzt und Ärztin, das kann nicht einfach delegiert werden – auch weil Ärzte und Patienten dies nicht wünschen. Aber wie gesagt: Das ist der heutige Stand des Wissens. Wie die Zukunft aussieht, hängt davon ab, welche Entwicklungen in der KI noch möglich sind.

Welche Gefahren sehen Sie beim Einsatz von KI in der Medizin?

Auch Maschinen sind nicht perfekt, man darf sich nicht vollständig auf sie verlassen. So ist KI heute noch zu oft eine Blackbox, bei der nicht nachvollziehbar ist, aufgrund welcher Kriterien sie zu Entscheidungen gelangt. Sie kann unter anderem Verzerrungen enthalten und entsprechend Diskriminierungen verstärken. Ein Beispiel: Wenn eine Krankheit primär anhand der Symptome von Männern untersucht wurde und KI mit diesen Daten trainiert wird, kann dies im grossen Stil zu Fehlinterpretationen bei Frauen führen. Diese Gefahr besteht auch ohne künstliche Intelligenz, wenn beispielsweise im Medizinstudium die Symptome von Männern im Vordergrund stehen. Doch sie wird durch künstliche Intelligenz weiter verstärkt.

Wissenschaftspreis Latsis

Der mit 100 000 Franken dotierte Schweizer Wissenschaftspreis Latsis [5] wird vom Schweizerischen Nationalfonds jährlich an Nachwuchsforschende bis zum Alter von 40 Jahren vergeben. Die Preisträgerin 2022 Kerstin Noëlle Vokinger [6] hat Rechtswissenschaften und Medizin studiert. Die Professorin an der Universität Zürich wird dafür geehrt, die Schnittstelle von Recht, Technologie und Medizin mit interdisziplinären Ansätzen zu erforschen, die in der Schweiz bisher einzigartig sind. Damit hat sich die 34-Jährige gemäss Laudatio in kürzester Zeit ein markantes Forschungsprofil erarbeitet – mit Themen von hoher wissenschaftlicher und gesellschaftlicher Relevanz. Dazu gehören die Preisgestaltung bei Arzneimitteln und die Regulierung innovativer Technologien.

Was bedeutet das für die Regulierung von KI?

Die Grundfrage aus rechtlich-politischer Sicht lautet: Welche Aufgaben soll die künstliche Intelligenz in der Medizin übernehmen? Inwiefern sollen Kompetenzen der Gesundheitsfachpersonen an sie delegiert werden? Je nachdem, auf welche Antworten wir uns als Gesellschaft einigen, wird die Regulierung und Förderung anders aussehen. Denn bisher ist unser Rechtssystem in der Medizin grundsätzlich darauf ausgerichtet, dass der Mensch handelt, nicht eine Maschine.

fullscreen
Kerstin Noëlle Vokinger beobachtet die weltweiten Diskussionen rund um die Regulierung von künstlicher Intelligenz in der Medizin.
© Reto Schlatter

Eine spezifische KI-Regulierung besteht bisher noch in keinem Land?

Soweit ersichtlich nicht. Die Länder arbeiten daran. Aber die künstliche Intelligenz wird trotzdem nicht in einem rechtsfreien Raum angewandt. Es kommen bestehende Regulierungen zur Anwendung – etwa die Grundrechte oder die Datenschutzgesetzgebung. Je nachdem, wie wir die erwähnten Grundfragen beantworten, reicht diese Regulierung für die Zukunft oder eben nicht. Diese Frage wird derzeit weltweit diskutiert. Die USA und die EU sind dabei schon etwas weiter als die Schweiz. Hierzulande läuft derzeit der Dialog [2] zwischen dem Bund, den Universitäten, der Zivilgesellschaft und weiteren Akteuren. Deshalb ist jetzt der richtige Zeitpunkt, dass sich auch Ärztinnen und Ärzte in die Diskussion einbringen. Ihre Einschätzung ist wichtig, was den Einsatz von KI in der Medizin anbelangt.

Die FMH hat kürzlich entsprechende Empfehlungen [3] formuliert. Was sagen Sie dazu?

Ich begrüsse diesen Diskussionsbeitrag. Die FMH formuliert darin eine mögliche Sichtweise: KI soll die Beziehung zwischen Ärztin oder Arzt und Patientin oder Patient stärken, nicht ersetzen. Aus rechtlicher Sicht würde das bedeuten: Die Verantwortung und die Kompetenzen liegen weiterhin beim Arzt oder der Ärztin.

So wie KI heute beispielsweise in der Radiologie schon eingesetzt wird?

Genau, in der Radiologie, Pathologie, Dermatologie und zunehmend auch Kardiologie. Die künstliche Intelligenz hat dabei eine Hilfsfunktion, insbesondere bei der Bildanalyse. Zu Beginn wurde die Befürchtung geäussert, gewisse Berufe könnten dadurch überflüssig werden. Das hat sich bisher nicht bewahrheitet. Die Radiologinnen und Radiologen etwa haben sich früh mit KI zu beschäftigen begonnen, haben vorausgeschaut und nutzen diese Technologie jetzt zu ihrem Vorteil, nämlich zur Unterstützung ihrer Arbeit. Meine Einschätzung ist: Wenn man die Digitalisierung komplett ablehnt, wird das eher zum Nachteil für eine Disziplin.

Abgesehen von künstlicher Intelligenz, was sind die drängendsten Fragen, für die Sie und Ihr Team nach Lösungen suchen?

Eine drängende Frage in der Schweiz und weltweit ist, wie die Zulassung und Preisfestsetzung von neuartigen Therapien ausgestaltet werden soll – neben Onkologika insbesondere Gentherapien und Medikamente für seltene Krankheiten. Ein drängendes Problem sind darüber hinaus in der Schweiz die steigenden Kosten im Gesundheitswesen. Auch hier können wir die künstliche Intelligenz als Beispiel nehmen. Immer wieder ist da von möglichen Einsparungen die Rede. Aber man darf nicht vergessen: Die entsprechende Software ist zum Teil sehr teuer – ob diese Rechnung schlussendlich aufgeht, ist noch offen.

Ein wichtiges Thema Ihrer Gruppe ist die Preisgestaltung – hauptsächlich bei Krebsmedikamenten. Was haben Sie in Ihrer Forschung dazu herausgefunden?

Wir konnten unter anderem aufzeigen [4], dass die Kosten für Arzneimittel, insbesondere Krebsmedikamente, in den letzten Jahren zugenommen haben. Die Behandlungen weisen nur zu einem Teil einen hohen therapeutischen Nutzen auf. Immer öfter liegen bei einer Zulassung erst wenig entsprechende Daten vor. Ausserdem werden die tatsächlichen Preise zunehmend geheim gehalten und nur noch so genannte Schaufensterpreise veröffentlicht. Diese neuen Entwicklungen stellen Herausforderungen dar für die gegenwärtig gesetzlich vorgegebenen Preisfestsetzungskriterien von Arzneimitteln.

Was sind Ihre Empfehlungen?

Wo die Datenlage dünn ist, sollte dies im Arzneimittelpreis reflektiert werden, bis der potenziell hohe oder tiefe Nutzen nachgewiesen ist – danach kann der Preis entsprechend angepasst werden. Und es braucht mehr Transparenz bei der Preisfestsetzung. Patienten und Ärzte haben das Recht zu wissen, wie teuer eine Behandlung ist. Ebenso die Gesellschaft, denn sie beteiligt sich im Rahmen der Prämien an den Gesundheitskosten. Die Forderungen der pharmazeutischen Unternehmen gehen in Richtung Intransparenz, sprich Geheimrabatte. Das ist weder den Patienten noch der Gesellschaft dienlich.

Bei all der Forschung, die Sie durchführen: Vermissen Sie manchmal die praktische klinische Tätigkeit wie damals in der Onkologie in den USA?

Meine berufliche Tätigkeit als Wissenschaftlerin und Professorin erfüllt mich sehr. Der Patientenkontakt ist etwas Wunderschönes. Auch in meiner Tätigkeit komme ich mit Patienten in Kontakt und das Ziel meiner Forschungstätigkeit ist, dass wir den Menschen ebenfalls helfen können. Dies, indem wir mit unseren Forschungsergebnissen und unserer Tätigkeit für Behörden und internationale Organisationen hoffentlich zu Verbesserungen auf der Systemebene beitragen. Im Sinne eines verbesserten Zugangs zur Medizin für alle.

fullscreen
Kerstin Noëlle Vokinger studierte an der Universität Zürich parallel Rechtswissenschaften und Humanmedizin. Seit November 2022 ist sie Doppelprofessorin für Medizin und Rechtswissenschaften an der Universität Zürich – und daneben affiliiertes Fakultätsmitglied an der Harvard Medical School.
© Reto Schlatter

Literatur

1 www.ncbi.nlm.nih.gov/pmc/articles/PMC7611759/

2 www.digitaldialog.swiss/de/

3 www.fmh.ch/themen/ehealth/trends-neue-technologien/kuenstliche-intelligenz.cfm

4 Diverse Studien des Teams um Prof. Vokinger zu Medikamentenpreisen sind hier verlinkt:

www.ius.uzh.ch/de/staff/professorships/alphabetical/vokinger/vokinger.html

5 www.snf.ch/de/ZsCZuO5EfyWR8yIy/seite/schweizer-wissenschaftspreis-latsis

6 www.ius.uzh.ch/de/staff/professorships/alphabetical/vokinger/vokinger.html

Verpassen Sie keinen Artikel!

close