"Da kommen wir in eine kritische ethische Grauzone"
05:36 Minuten
Im Kampf gegen die Verbreitung des Coronavirus wird der Einsatz einer App diskutiert, die menschliche Kontakte abbilden kann. Solche Daten sollten grundsätzlich das Endgerät des Nutzers nicht verlassen, sagt der Wissenschaftler Björn Schuller.
Ute Welty: Können Infektionen mit dem neuartigen Coronavirus eingedämmt werden per App? Österreich versucht das schon, Deutschland erwägt es. Es geht vor allem darum, mögliche Kontakte im Falle einer positiven Testung zu ermitteln. Die App schickt in einem solchen Fall automatische und anonymisierte Hinweise an alle Menschen, die in den zurückliegenden zwei Wochen in Kontakt gestanden haben, das Ganze auf freiwilliger Basis.
Björn Schuller ist einer der führenden Experten für den Zusammenhang von Informatik und Medizin. Er lehrt, forscht und unterrichtet als Professor in Augsburg, in London und in Harbin, das liegt im Nordosten von China. Für Sie sind Datenspenden in der Medizin fast genauso wichtig wie Blutspenden. Was genau meinen Sie damit?
Björn Schuller: Wir hoffen natürlich, dass die Menschen weiterhin Blut spenden, aber für unsere Lernverfahren – und damit sie besonders effizient sind – brauchen wir vor allen Dingen Daten. Da kommen wir in eine kritische ethische Grauzone, aber letzten Endes braucht Künstliche Intelligenz (KI) - oder maschinelle Lernverfahren - einfach Daten, aus denen sie analysieren und lernen kann.
Björn Schuller ist einer der führenden Experten für den Zusammenhang von Informatik und Medizin. Er lehrt, forscht und unterrichtet als Professor in Augsburg, in London und in Harbin, das liegt im Nordosten von China. Für Sie sind Datenspenden in der Medizin fast genauso wichtig wie Blutspenden. Was genau meinen Sie damit?
Björn Schuller: Wir hoffen natürlich, dass die Menschen weiterhin Blut spenden, aber für unsere Lernverfahren – und damit sie besonders effizient sind – brauchen wir vor allen Dingen Daten. Da kommen wir in eine kritische ethische Grauzone, aber letzten Endes braucht Künstliche Intelligenz (KI) - oder maschinelle Lernverfahren - einfach Daten, aus denen sie analysieren und lernen kann.
Gefahr, dass Menschen verunsichert werden
Welty: Jetzt soll die App anonym über die Kontakte der letzten zwei Wochen informieren, wenn jemand positiv auf Corona getestet wird, um eben Infektionsketten zu verhindern, zu unterbrechen. Aber werden da nicht womöglich Unzählige in Panik versetzt?
Schuller: Das kann sehr leicht passieren. Ich habe gerade die ersten Bewertungen, die es dazu gibt, gesehen. Da sind auch Fehler in der App anscheinend noch drin, dass man sich unabsichtlich infiziert gemeldet hat, das nicht mehr zurücknehmen kann. Die Gefahr ist also klar da, dass man auf diese Art und Weise tatsächlich Leute verunsichert.
Schuller: Das kann sehr leicht passieren. Ich habe gerade die ersten Bewertungen, die es dazu gibt, gesehen. Da sind auch Fehler in der App anscheinend noch drin, dass man sich unabsichtlich infiziert gemeldet hat, das nicht mehr zurücknehmen kann. Die Gefahr ist also klar da, dass man auf diese Art und Weise tatsächlich Leute verunsichert.
Welty: Wie wird das denn verhindert, dass jemand aus Versehen oder vielleicht sogar aus böser Absicht den Alarmknopf drückt?
Schuller: Da haben Sie einen sehr guten Punkt getroffen: böse Absicht. Da ist natürlich immer auch die Frage, wie kann so etwas missbraucht werden? Verhindern, dass jemand einen Fehler macht, kann man wahrscheinlich nur durch gute Benutzerführung. Aber wichtig ist dann natürlich entsprechend, dass man das auch vorhersieht, dass man den Status auch zurücknehmen kann.
Welty: Sie selbst arbeiten seit Jahren an einer App, die jetzt auch bei der Corona-Diagnose helfen könnte. Dabei erkennt künstliche Intelligenz die Krankheitssymptome einer Erkältung. Unter welchen Umständen geht das auch bei Corona, die Symptome sind ja durchaus ähnlich oder können ähnlich sein.
Schuller: Wir stellen uns vor, dass wir weniger aus kurzen Audioaufnahmen oder Beobachtungen von Sensordaten direkt eine Aussage treffen können, sondern dass wir vielmehr sogenannte Histogramme über die Zeit brauchen, das heißt Häufigkeitsverteilungen. Und dann merken wir zum Beispiel grob gesagt, ob jemand eher viel hustet und wenig niest, wie schnell die Symptome sich entwickeln. Das heißt, in Wirklichkeit sind es natürlich mehr Symptome, die kennt man teilweise aus Tabellen in Magazinen in verschiedenen Varianten gerade. Aber im Wesentlichen geht es eben einfach darum, dass wir dann mit beobachten müssten, wie sich Entwicklungen von Symptomen über die Zeit ergeben.
Schuller: Da haben Sie einen sehr guten Punkt getroffen: böse Absicht. Da ist natürlich immer auch die Frage, wie kann so etwas missbraucht werden? Verhindern, dass jemand einen Fehler macht, kann man wahrscheinlich nur durch gute Benutzerführung. Aber wichtig ist dann natürlich entsprechend, dass man das auch vorhersieht, dass man den Status auch zurücknehmen kann.
Welty: Sie selbst arbeiten seit Jahren an einer App, die jetzt auch bei der Corona-Diagnose helfen könnte. Dabei erkennt künstliche Intelligenz die Krankheitssymptome einer Erkältung. Unter welchen Umständen geht das auch bei Corona, die Symptome sind ja durchaus ähnlich oder können ähnlich sein.
Schuller: Wir stellen uns vor, dass wir weniger aus kurzen Audioaufnahmen oder Beobachtungen von Sensordaten direkt eine Aussage treffen können, sondern dass wir vielmehr sogenannte Histogramme über die Zeit brauchen, das heißt Häufigkeitsverteilungen. Und dann merken wir zum Beispiel grob gesagt, ob jemand eher viel hustet und wenig niest, wie schnell die Symptome sich entwickeln. Das heißt, in Wirklichkeit sind es natürlich mehr Symptome, die kennt man teilweise aus Tabellen in Magazinen in verschiedenen Varianten gerade. Aber im Wesentlichen geht es eben einfach darum, dass wir dann mit beobachten müssten, wie sich Entwicklungen von Symptomen über die Zeit ergeben.
Künstliche Intelligenz kann Husten erkennen
Welty: Muss man bei Ihrer App dann auch mal probehusten?
Schuller: Das wäre sicher gut, um die KI mehr an Sie zu gewöhnen sozusagen, ist aber nicht nötig. Die Erkennungsraten sind dort hoch genug, um die Huster zu erkennen sozusagen.
Welty: Sie haben Kontakte nach Wuhan, in die chinesische Stadt, in der das Coronavirus offenbar zuerst ausgebrochen ist. Welche Erkenntnisse können von da aus zugeliefert werden?
Schuller: Das ist richtig. Wir arbeiten dort mit Medizinern und Leuten zusammen, die im Einsatz dort sozusagen helfen. Die nüchterne Einsicht für uns ist erst einmal, dass wir nicht zu viele Hoffnungen haben, dass wir aus den Messdaten, die wir aus einer App bekommen könnten, leicht, schnell, direkt eine Aussage treffen können. Sondern dass wir uns eben über so einen größeren Zeitraum bewegen müssen, wo wir Häufigkeitsverteilungen beobachten.
Die andere Einsicht, die wir so ein bisschen haben in der Zusammenarbeit, ist, dass es ihnen weniger um die Diagnose geht, sondern auch um den Verlauf der Genesung sozusagen. Das heißt, dass man auch mit Apps mitverfolgen kann - automatisch -, gerade in der überlasteten Krankenhaussituation, wie der Genesungsverlauf sich entwickelt.
Welty: Die Hoffnung ist eine Gewöhnung der Menschen an eine medizinische digitale Zukunft. Aber ist nicht gleichzeitig höchste Skepsis angebracht, weil es der Überwachung Tür und Tor öffnet, auch was Blutdruck, Zuckerwerte oder Gewicht angeht?
Schuller: Das ist völlig richtig. Und genau deswegen ist die Ethik oder Fragen zum "societal impact", also wie sich das auf die Gesellschaft auswirkt, bei uns immer ganz stark im Vordergrund. Wir versuchen deswegen normalerweise, dass alle Daten grundsätzlich nicht das Endgerät des Nutzers verlassen, sondern wirklich die Auswertung direkt auf dem Gerät erfolgt. Bei der Stopp-Corona-App ist es auch zum Beispiel weitestgehend versucht worden, vom österreichischen Roten Kreuz, die Sie ansprachen.
Trotz allem ist eine Verbindung zum Internet erforderlich und trotz allem werden Daten an einen Server geschickt. Das ist genau das, was wir normalerweise eben versuchen, zu vermeiden. Es ist aber immer die Frage, wenn man erst mal solche Apps geschaffen hat: Wann entdecken Krankenkassen, Politiker oder andere Interessensgruppen Mittel, um die Daten dann doch anzufordern?
Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandfunk Kultur macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.
Schuller: Das wäre sicher gut, um die KI mehr an Sie zu gewöhnen sozusagen, ist aber nicht nötig. Die Erkennungsraten sind dort hoch genug, um die Huster zu erkennen sozusagen.
Welty: Sie haben Kontakte nach Wuhan, in die chinesische Stadt, in der das Coronavirus offenbar zuerst ausgebrochen ist. Welche Erkenntnisse können von da aus zugeliefert werden?
Schuller: Das ist richtig. Wir arbeiten dort mit Medizinern und Leuten zusammen, die im Einsatz dort sozusagen helfen. Die nüchterne Einsicht für uns ist erst einmal, dass wir nicht zu viele Hoffnungen haben, dass wir aus den Messdaten, die wir aus einer App bekommen könnten, leicht, schnell, direkt eine Aussage treffen können. Sondern dass wir uns eben über so einen größeren Zeitraum bewegen müssen, wo wir Häufigkeitsverteilungen beobachten.
Die andere Einsicht, die wir so ein bisschen haben in der Zusammenarbeit, ist, dass es ihnen weniger um die Diagnose geht, sondern auch um den Verlauf der Genesung sozusagen. Das heißt, dass man auch mit Apps mitverfolgen kann - automatisch -, gerade in der überlasteten Krankenhaussituation, wie der Genesungsverlauf sich entwickelt.
Welty: Die Hoffnung ist eine Gewöhnung der Menschen an eine medizinische digitale Zukunft. Aber ist nicht gleichzeitig höchste Skepsis angebracht, weil es der Überwachung Tür und Tor öffnet, auch was Blutdruck, Zuckerwerte oder Gewicht angeht?
Schuller: Das ist völlig richtig. Und genau deswegen ist die Ethik oder Fragen zum "societal impact", also wie sich das auf die Gesellschaft auswirkt, bei uns immer ganz stark im Vordergrund. Wir versuchen deswegen normalerweise, dass alle Daten grundsätzlich nicht das Endgerät des Nutzers verlassen, sondern wirklich die Auswertung direkt auf dem Gerät erfolgt. Bei der Stopp-Corona-App ist es auch zum Beispiel weitestgehend versucht worden, vom österreichischen Roten Kreuz, die Sie ansprachen.
Trotz allem ist eine Verbindung zum Internet erforderlich und trotz allem werden Daten an einen Server geschickt. Das ist genau das, was wir normalerweise eben versuchen, zu vermeiden. Es ist aber immer die Frage, wenn man erst mal solche Apps geschaffen hat: Wann entdecken Krankenkassen, Politiker oder andere Interessensgruppen Mittel, um die Daten dann doch anzufordern?
Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandfunk Kultur macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.