Theologin: KI und Roboter können Menschen in der Pflege nicht ersetzen

Künstliche Intelligenz und Roboter halten mehr und mehr Einzug in den Alltag – auch in der Pflege wird deren Einsatz diskutiert und erprobt. Doch wie sinnvoll ist das aus ethischer Sicht? Damit hat sich die Theologin Alexandra Kaiser-Duliba in ihrer Doktorarbeit beschäftigt. Für "Personalisiert – Entpersonalisiert. Ethische Beurteilung des Einsatzes von Robotik und Künstlicher Intelligenz in der Pflege anhand des Personkonzepts von Paul Ricœur" erhielt sie in diesem Jahr den Kardinal-Wetter-Preis der Katholischen Akademie in Bayern. Im Interview spricht sie über ihre Forschung und die Bedeutung des Menschseins.

Frage: Frau Kaiser-Duliba, welche Anwendungsmöglichkeiten für Künstliche Intelligenz und Robotik gibt es in der Pflege?

Kaiser-Duliba: Datenbasierte Systeme, die sogenannte Künstliche Intelligenz, kann zum Beispiel in der Diagnostik eingesetzt werden. Zudem kann sie die nächsten Schritte in der Pflege vorschlagen und sie etwa aufgrund der Datenlage augenscheinlich individuell weiterentwickeln. Auch bei der Dienstplanung, Protokollierung und der Dokumentation für die elektronische Patientenakte kann sie eingesetzt werden. Mit Blick auf die Robotik können etwa Reinigungsroboter oder intelligente Pflegewagen zum Einsatz kommen, die erkennen, wenn zum Beispiel Medikamente entnommen wurden und dann selbstständig zum Lager fahren, um sich wieder bestücken zu lassen oder sich sogar selbst zu bestücken. Darüber hinaus existieren Pflegeroboter, die direkt Kontakt mit Pflegebedürftigen und Patienten, aber auch Angehörigen und Personal aufnehmen. Das kann vom Waschen von Patienten bis zu emotionalen Interaktionen reichen.

Frage: Welche dieser Möglichkeiten sind denn aus ethischer Sicht sinnvoll?

Kaiser-Duliba: Aus einer christlichen Ethik heraus würde ich sagen: Wo Fürsorgeaspekte im Vordergrund stehen, wo es um Zwischenmenschliches geht, sollte es keinen Einsatz durch datenbasierte Systeme und Robotik geben. Large Language Models können schon ziemlich gut Emotionen und sprachliche Eigenheiten imitieren – aber sie imitieren halt nur. Das Wohl der Patienten ist ihnen egal. Gerade vulnerable Gruppen wie Demenzerkrankte können oft nicht mehr unterscheiden, ob sie mit einem Menschen oder mit einer Maschine reden. Deshalb sollte in diesem Bereich der Fokus auf der zwischenmenschlichen Fürsorgearbeit liegen.

Frage: Wo wäre dieser Einsatz denn möglich?

Kaiser-Duliba: Wo es etwa um große Dokumentationsleistungen geht oder Botendienste wie etwa bei dem intelligenten Pflegewagen. Auch einen Putzroboter halte ich für sinnvoll. Wenn es darum geht, dass Menschen so lange wie möglich in den eigenen vier Wänden wohnen können, kann Robotik da ganz entscheidend unterstützen. Aber immer dann, wenn es um Zwischenmenschliches geht, sollten wir das nicht Robotern überlassen. Dazu zählen waschen, füttern und miteinander sprechen. Da sollte der Mensch im Fokus stehen.

Frage: Warum?

Kaiser-Duliba: Ich habe mich in meiner Arbeit auf das Personenkonzept des französischen Philosophen Paul Ricœur gestützt. Demnach drückt sich das Menschsein in der Auseinandersetzung mit dem Du aus, es geht also um Beziehung. Diese Beziehung ist in der Pflege aber asymmetrisch: Denn der pflegebedürftige Patient ist auf die pflegende Person angewiesen. Im Mittelpunkt der Konzepte für die Pflege sollte also stehen, dass durch Fürsorge und wechselseitige Anerkennung auch das Personsein der pflegebedürftigen Person anerkannt wird. Dieses asymmetrische Verhältnis kann zum Beispiel durch einen Appell des Pflegebedürftigen aufgebrochen werden: Er fragt die Fürsorge an. Darauf kann die Pflegekraft mit einer Gabe antworten. Das macht etwas mit beiden Personen: Die empfangende Person wird wertgeschätzt und ihr Bedürfnis wird befriedigt. Auch die fürsorgegebende Person verändert sich dadurch – es findet wechselseitige Anerkennung statt. Das passive Empfangen von Fürsorge wird aufgebrochen durch den Appell, nämlich die Bitte um Fürsorge. Wenn wir das durch Roboter ersetzen, gibt es diesen Transformationsprozess nicht, unter anderem deshalb ist das nicht personengerecht. Denn einer Maschine ist es noch nicht einmal egal, was mit dem Menschen geschieht – diesen Gedanken, diese Reflexivität hat sie nicht.

Frage: Welche weiteren Probleme sehen Sie?

Kaiser-Duliba: Insbesondere bei sogenannter Künstlicher Intelligenz gibt es oft große Verzerrungen, etwa bei der Diagnostik oder in der Planung weiterer Pflegeschritte. Denn diese Systeme sind nicht individuell, sie verarbeiten einfach nur große Datenmengen. Auch hier gilt wieder: Der Technik fehlt grundlegende menschliche Empathie. Zudem können KI-Systeme etwa Dokumentation auch überladen, anstatt sie zu vereinfachen. 

Frage: Bislang läuft die ethische Debatte der technischen Entwicklung ein gutes Stück hinterher. Welche allgemeinen ethischen Grundsätze konnten Sie bei Ihrer Arbeit mit KI und Robotik für künftige Entwicklungen herausarbeiten?

Kaiser-Duliba: Wir müssen den Fokus verschieben. Momentan schauen wir oft: Was ist technisch möglich und wo können wir das dann einsetzen? Wir müssen aber von der Basis her schauen: In welchen Pflegevorgängen brauchen wir Entlastung? Was brauchen die Fachkräfte, um den Fokus auf Fürsorgearbeit legen zu können? Bottom-up statt Top-down sollte da die Maxime sein. Wir können auch den Pflegeberuf wieder attraktiver machen, wenn es wieder mehr um wirkliche zwischenmenschliche Pflege geht und nicht mehr um Bürokratie. Das kann dazu führen, dass wir zwei unterschiedliche Pflegeausbildungen haben: Einmal mit einem technischen und einmal mit einem sozialen Fokus. Da muss die Pflege ausloten, in welche Richtung sie gehen will.

Frage: Sie plädieren für mehr Zwischenmenschlichkeit?

Kaiser-Duliba: Nötig sind sicher beide Aspekte – denn wenn wir mehr Technik zulassen, muss die auch jemand bedienen können und Angehörige schulen. Aber ja: Wir brauchen eine Stärkung der sozialen Seite.

Frage: Wo sehen Sie denn die Grenze: Wäre es okay, wenn der Roboter Essen ausgibt?

Kaiser-Duliba: Der Roboter darf das Tablett gern zum Zimmer bringen – aber die Übergabe sollte ein Mensch machen. Denn Essen ist immer auch Gemeinschaft. Alleine die kurze Aufmerksamkeit für die Patienten, ein kurzes "Guten Appetit" bedeutet schon viel! Außerdem sind solche kurzen Augenblicke auch immer Gelegenheit, sich zu versichern, ob bei den Patienten alles in Ordnung ist. Die Kontaktzeiten sind sowieso schon kurz, wir sollten sie nicht weiter beschneiden.

Frage: Besteht durch mehr Technik nicht auch die Gefahr, dass sich soziale Unterschiede vergrößern?

Kaiser-Duliba: Der Einsatz von sogenannter KI und Robotik kann zu einer sozialen wie wirtschaftlichen Spaltung führen: Die einen können sich menschliche Pflege leisten, die anderen nicht. Da sollten wir als Gesellschaft von Anfang an gegensteuern. Alle sollten gleichermaßen einen Zugang zu guter Pflege haben – immer mit der Kompetenz und Empathie echter Menschen.

Frage: Zwischenmenschliche Sorgearbeit ist enorm wichtig – aber wird in unserer Gesellschaft bis heute schlecht bezahlt. Daran müsste sich also auch etwas ändern?

Kaiser-Duliba: Unbedingt. Diese emotionale Komponente wird durch die Technisierung der Gesellschaft relevanter – weil das Maschinen schlicht nicht können. Denn einem Menschen ist es nicht egal, wie es seinem Gegenüber geht: Stimmungen erkennen, Entwicklungen voraussehen – all das sind konstitutive menschliche Fähigkeiten. Diese müssen gewürdigt und dementsprechend honoriert werden.