Maike Janssen hat sich mit Nierentransplantationen beschäftigt, aber eine Ärztin ist sie nicht. Die Soziologin und Medienwissenschaftlerin interessiert, wie sich mit der Digitalisierung der Medizin die Beziehung zwischen Arzt und Patienten verändert. Wenn die Behandelten nach einer OP etwa das Krankenhaus mit einem Implantat verlassen, dann sind sie früher nach Hause gegangen und nur bei Komplikationen in die Klinik gekommen, erzählt sie. Oft war es dann aber zu spät:

"Jetzt bricht man mit der Situation und sagt, nee, wir wollen den Patienten als Datenkörper eigentlich dauerhaft in der Klinik behalten, wir wollen seine Daten dauerhaft überwachen", so Janssen. "Nicht 24 Stunden am Tag, aber doch innerhalb unserer normalen Geschäftszeiten, sitzt da jemand und guckt sich den ganzen Tag Datenkörper an und beurteilt, ob die jetzt gerade einer medizinischen Norm entsprechen oder nicht."

Mit Datenkörper ist das digitale Abbild der Patientinnen und Patienten gemeint. Werte und Maße, die Aussagen über den Zustand des jeweiligen physischen Körpers machen und die von einer Software nicht nur gespeichert und abgebildet, sondern auch interpretiert werden, wie Meike Janssen erklärt:

"In dem Moment aber, wo die Software anfängt, Sachen zu filtern, zum Beispiel zu sagen, dieser Patient hat überdurchschnittlich viel Gewicht zugelegt, das könnte auf Komplikationen hinweisen – also, jede Filterung gilt halt schon als Entscheidungsunterstützung, es geht weiter mit Ausflaggung von kritischen Patienten, also kritisch zu markieren, hier dieser Patient ist rot, er leuchtet. Achtung, Achtung, unbedingt kontaktieren. In dem Moment ist das vielleicht für den Patienten gut, es schließt aber natürlich auch andere Patienten aus, die in dem Moment nicht leuchten. Es gibt einen neuen Protagonisten."

An der Behandlung von Patientinnen und Patienten sind damit nicht nur Pfleger und Ärztinnen beteiligt. Mit der neuen Software kommen auch Entwickler, Rechtswissenschaftlerinnen, Unternehmen usw. ins Spiel, die medizinische Grenzwerte mitbestimmen und beeinflussen, nach welchen Parametern gefiltert wird. Die Frage, die sich hier also stellt, ist: Wer entscheidet überhaupt alles mit bei der Behandlung meines Körpers? Und was wollen wir an menschlicher Entscheidungsfähigkeit einer Software überlassen?

Die gemeinnützige Organisation "AlgorithmWatch" berichtet in ihrem Atlas der Automatisierung, wie sehr sich automatisierte Entscheidungssysteme auch in Europa und Deutschland verbreiten. Auch im Bereich der Medizin. Matthias Spielkamp, Mitgründer von Algorithm Watch, findet es prinzipiell gut und sinnvoll, dass komplexe Systeme etwa bei der Diagnose von Krankheiten helfen. Es sei aber wichtig, dass diejenigen, die diese Software entwickeln und nutzen, sich darüber im klaren sind, wo die Grenzen solcher Systeme sind:

"Dass also zum Beispiel nur, weil etwas selbstlernend ist, das nicht bedeutet, dass es die richtigen Analysen trifft oder die richtigen Angaben macht. Dass man das hinterfragt", sagt Spielkamp.

"Und dann ist eine ganz wichtige Entscheidung: Aus welchen Gründen möchte ich überhaupt solche Systeme einsetzen? Passiert das vor allem deshalb, weil ein scharfer Sparkurs gefahren wird, einfach nicht genug Geld da ist für Ärztinnen und Ärzte oder andere Diagnosemethoden? Dann sollte man das auf jeden Fall schon mal kritisch betrachten. Und dann geht es natürlich darum, dass das Ganze gut überwacht wird, überwacht im Sinne von: es sollte Aufsichtsbehörden- oder Institutionen geben, die sich immer wieder anschauen, ob die Systeme so, wie sie eingesetzt werden, eigentlich ihren Zweck erfüllen."

Bisher werde die Aufsicht allerdings nur unzureichend wahrgenommen, schreibt Algorithm Watch in seinem Bericht. Nicht weil die Regulierungen fehlen, sondern weil es an Ausstattung mangelt oder schlicht an Kompetenz, derart komplexe Systeme angemessen zu prüfen. Was bedeutet das alles nun für die Entscheidungen, die Patientinnen und Patienten treffen müssen, bevor sie im Krankenhaus einer OP oder einer bestimmten Therapie zustimmen?

Auch Maike Janssen findet, dass die Systeme, die Ärztinnen und Ärzte verwenden, auf Basis ethischer Grundlagen entwickelt und überprüft werden müssen. Und trotzdem müsse eine informierte Einwilligung mehr sein, als nur über den Ablauf und die Risiken des leiblichen Eingriffs aufzuklären:

"Und da ist Komplexität eigentlich die große Herausforderung. Also, ich muss nicht mehr Kausalität erklären, sondern Komplexität. Und das eben nicht nur im übertragenen Sinne, sondern ganz konkret runtergebrochen in informierte Einwilligung, also dem Patienten zu übersetzen, nicht ich tue das eine und dann könnte das andere passieren, sondern dein Körper ist Teil von einem extrem verwobenen Gefüge", betont Janssen. "Es ist ein komplexes System für sich, aber es ist auch eingebunden in andere Komplexitäten. Und ich glaube, wir haben noch überhaupt keine Sprache gefunden, um das zu erzählen."

Und auch noch keine Antworten. Die Datenethikkommission der Bundesregierung befindet sich noch immer im Diskussionsprozess – etwa über ethische Grenzen und Notwendigkeiten von automatisierten Entscheidungssystemen. Kann es hier etwa sowas geben wie "Ethics by Design" und wenn ja, wie könnte das kontrolliert werden? Auch wenn es scheint, als wäre das Bild von mündigen Patientinnen und Patienten kaum realistisch: immerhin das Bewusstsein darüber und die Fähigkeit nachzufragen, auf welcher Basis Entscheidungen getroffen wurden, bringt uns dem ein Stück näher.