Wie weit darf KI gehen?

Ob als fahrender Roboter, der Senioren im Pflegeheim die richtigen Medikamente bringt, als Roboterarm, der Ärzte während Operationen unterstützt, oder als Smartphone-App, die Hautkrebs erkennen kann – Künstliche Intelligenz (KI) hält zunehmend Einzug in unser Gesundheits- und Pflegesystem. Zwar sind noch nicht alle Anwendungen ausgereift, doch langfristig erhofft man sich vom Einsatz dieser und ähnlicher KI-Systeme sowohl eine Entlastung der Pflegekräfte als auch präzisere Behandlungen und Diagnosen.

Doch trotz aller potenziellen Vorteile gibt es auch Bedenken, wenn Patienten und Pflegebedürftige plötzlich mit Maschinen anstatt mit Menschen interagieren. Insbesondere in der Pflege, wo zwischenmenschlicher emotionaler Kontakt zwischen Patienten und Pflegern essentiell ist, wird der Einsatz von Maschinen teils skeptisch betrachtet. Oliver Bendel, der am Institut für Wirtschaftsinformatik der FHNW in der Schweiz lehrt und sich bereits seit vielen Jahren mit den Beziehungen zwischen Menschen und Maschinen beschäftigt, teilt diese Sorge nicht: „Pflegeroboter unterstützen und entlasten zunächst einmal Pflegekräfte. Diese werden bis auf weiteres nicht ersetzt. Man arbeitet in der Regel im Tandem zusammen. Von daher fällt der menschliche Kontakt nicht weg.“

Bisher werden Roboter nur in wenigen Heimen eingesetzt. An mangelnder Akzeptanz liegt dies jedoch nicht. Ganz im Gegenteil: Eine aktuelle Feldstudie der Universität Basel legt sogar nahe, dass Menschen, die besonders auf Hilfestellung angewiesen sind, Roboter überwiegend positiv aufnehmen, da sie von deren Unterstützung profitieren. „Manche Patienten möchten sogar in bestimmten Angelegenheiten lieber einen Roboter bei sich haben als einen Menschen, etwa bei Waschungen im Intimbereich“, sagt Bendel. „Der eigentliche Grund, warum die Roboter, an denen bereits seit vielen Jahren geforscht wird, noch nicht stärker eingesetzt werden, ist das Geld“, sagt Karsten Weber vom Institut für Sozialforschung und Technikfolgenabschätzung an der OTH Regensburg. Weder Kranken- noch Pflegeversicherungen würden momentan die Kosten für solche Assistenzsysteme tragen, weshalb die Patienten selbst dafür aufkommen müssten.

Ein Problem, das in der Zukunft jedoch nur noch eine untergeordnete Rolle spielen sollte. Wie bei anderen technischen Geräten auch, ist es wahrscheinlich, dass die Preise für KI-gestützte Pflegeroboter im Laufe der Jahre sinken. So könnte es schlussendlich gerade mit Hinblick auf den demographischen Wandel und den Mangel an Pflegekräften aus wirtschaftlichen Gründen doch dazu kommen, dass Roboter Pfleger ersetzen. „Ich gehöre damit zwar zu einer starken Minderheit, aber meine Prognose ist, dass es irgendwann ein Luxusgut sein wird, von einem Menschen gepflegt zu werden“, sagt Weber. Auch Bendel sieht dieses Szenario als eine Möglichkeit, betont jedoch, dass in einem reichen Land wie Deutschland wirtschaftliche Gründe nur vorgeschoben seien. „Jeder Patient sollte selbst darüber verfügen können, in welchem Ausmaß und auf welche Weise er von Maschinen gepflegt wird. Um das festzulegen, würde sich am besten eine Patientenverfügung eignen“, sagt er.

Eine große Herausforderung sehen beide Experten beim Thema Datenschutz. Roboter haben Kameras und Mikrofone und sammeln unzählige Daten. „Prinzipiell könnten sich Pflegekräfte oder auch Unbefugte zum Beispiel Zugang zu den Kameras verschaffen und die Patienten beobachten“, sagt Bendel. Er sieht zudem noch ein weiteres Problem: „Wenn wir Roboter humanoid gestalten, äußerlich und in Bezug auf die Stimme, werden sie zu Quasipersonen. Als solche wecken sie Emotionen. Man mag sie, man hasst sie, man denkt, man hat eine Beziehung mit ihnen. So etwas kann man als Missbrauch und Manipulation sehen. Wir sollten daher Roboter-Mensch-Beziehungen immer wieder aktiv stören.“ Dazu schlägt Bendel den sogenannten V-Effekt für Roboter vor und meint damit, dass diese immer wieder aktiv darauf hinweisen, dass sie nur eine Maschine sind.

Einheitliche und umfassende Regeln zum Umgang mit KI-Systemen im Bereich der Medizin und Pflege gibt es bisher nicht, auch wenn Expertengruppen weltweit darüber diskutieren. Um gemeinsame Regeln zu definieren, seien laut Weber jetzt vor allem Menschen aus der Praxis und der Wissenschaft gefragt: „Es wäre dringend notwendig, Auseinandersetzungen mit dieser Technik bereits in die Lehrpläne der entsprechenden Studiengänge und Berufsausbildungen einzubauen.“ Oliver Bendel, der Ethik innerhalb von Wirtschaftsinformatik lehrt, sieht jedoch andere in der Bringschuld: „Die Ethik ist eine wichtige Disziplin, aber endgültige Lösungen findet man mit ihr nicht unbedingt. Wir brauchen rechtliche Maßnahmen. Politik und Gesellschaft sollten entscheiden, wie weit der Einsatz gehen darf.“