Als im März 2020 die mittlerweile geschichtsträchtigen Bilder der nächtlichen Kolonne von mit Särgen beladenen Lkw im italienischen Bergamo um die Welt gingen, und die Intensivstationen an Covid-19-Leidende abweisen mussten, erhielt ich wenige Tage später an einem Freitagnachmittag die Nachricht, dass ab Montag alle Lehrveranstaltungen online abzuhalten sind.

Ich arbeite nämlich an der Universität der italienischen Schweiz in Lugano im Tessin. In manchen Studienprogrammen kommen mehr als die Hälfte der Studierenden aus Italien, insbesondere aus den grenznahen Regionen wie Como, Varese, Mailand oder eben Bergamo. Insofern war ich sehr früh und sehr heftig – gleichwohl zum Glück nur indirekt – mit der ersten Welle der Pandemie konfrontiert. Einige Studierende wollten oder mussten sich um erkrankte Familienangehörige kümmern – oder um Verstorbene.

Aus einem als Selbstverständlichkeit gewohnten Normalzustand wurde schnell die "besondere Lage", eine juristisch mildere Form des Ausnahmezustands. Es dauerte nicht lange, da zog eine Vokabel aus dem Militärischen in die Alltagssprache ein: die Triage. Sie reduziert das Drama um Leben und Tod in Ausnahmesituationen auf eine Nutzenkalkulation. Wer hat die größte Chance zu überleben? Zeitdruck und unzureichende Kapazitäten einerseits und viele Schwerstkranke andererseits zwangen Ärztinnen und Ärzte, täglich über Leben und Tod zu entscheiden.

Die Coronapandemie hat die Frage nach Triage wenn schon nicht neu, so aber in einer medialen Heftigkeit erneut gestellt. Als ob es mit dem moralischen Dilemma der Priorisierung nicht genug wäre, kommen die digitale Transformation und damit die technische Möglichkeit der Automatisierung von Entscheidungen auf der Grundlage großer Datenmengen hinzu. Und hier setzt der Gesetzesentwurf des Bundesgesundheitsministeriums ein, der eine durch Algorithmen gestützte Entscheidung über die vor- oder nachrangige Behandlung von Patientinnen und Patienten der Intensiv- und Notfallmedizin vorsieht.

Triage als Extremfall algorithmisch geleiteter Entscheidungsfindung verdeutlicht das Dilemma der Delegation von Verantwortung an Systeme der künstlichen Intelligenz in extremis. Aus ethischer Sicht haben wir es dabei mit einer statistisch glattbügelnden Übersteigerung eines reduktionistisch-utilitaristischen Denkansatzes zu tun, der in letzter Konsequenz Urteile über lebenswertes Leben fällen würde.

Ethische und juristische Grundlinien wie der Gleichheitsgrundsatz, Selbstbestimmung, Recht auf Leben, Vermeidung von Eugenik oder soziale Selektion würden touchiert – oder sogar gerissen. Es droht eine datenbasierte Mechanisierung der Entscheidung über Leben oder Tod.

In der gegenwärtigen KI-Ethik ist die Einbeziehung des Menschen in Entscheidungsprozesse zwar ein wichtiger Baustein. "Human in the loop" nennt man das. Doch es ist davor zu warnen, dass die menschliche Urteilskraft medizinisch ausgebildeten Personals lediglich zu einer juristischen oder rein haftungspolitischen Instanz verkommt.

Dies wäre etwa der Fall, wenn die Triage-Entscheidung eines Arztes am Ende nur noch das vorherige Ergebnis der künstlichen Intelligenz bestätigt würde. Man denke etwa analog an die Zustimmung von Nutzungsbedingungen im Internet a la "mit dem Nutzen des Internetangebots stimmen Sie den Geschäftsbedingungen zu".

Die ironisch-dystopische Übersteigerung dieser Entscheidungsparadoxie, die im juristischen Sinne, aber nicht im Sinne der Wahlfreiheit eine Entscheidung ist, findet sich beispielsweise in dem Roman "QualityLand" von Marc-Uwe Kling: Dort lautet die Antwort auf alle vom Computer generierten Fragen nur noch OK. Nein, Triage-Software. Das ist nicht OK.