Wenn wir über Big Data, Maschinenlernen und Algorithmen sprechen, denken wir eher nicht an Gefühle, sondern an komplexe Projekte. Wie wir aus Daten neue Erkenntnisse für unsere reale Welt gewinnen können. Über konkrete Beispiele habe ich mit Thierry Buecheler, Head of Strategy & Innovation bei Oracle, vor ein paar Tagen in meinem Podcast gesprochen.
Ausgangspunkt waren Bots. Ich erinnere mich noch sehr gut an die Demo von Sundar Pichai vor ein paar Jahren, als eine Maschine einen Friseurtermin gebucht (sehr aktuelles Thema übrigens gerade) und einen Tisch im Restaurant reserviert hat. Durch Füllwörter (hm mm) entstand ein sehr menschliches Gespräch, es war nicht zu erkennen, dass hier eine Maschine am Telefon war. Thierry erklärte, dies sei der sogenannte “Empathy Layer”, der eine gewisse Vertrautheit erzeugen soll. Thierry beschrieb die Trust-Equation (Formel für Vertrauen):
Vertrauen = Glaubwürdigkeit + Zuverlässigkeit + Intimität / Selbstorientierung
Diese Formel hat mich zum Nachdenken gebracht, hier meine Überlegungen:
Zuverlässigkeit trauen wir Menschen einer künstlichen Intelligenz durchaus zu. Die Glaubwürdigkeit hängt wahrscheinlich vom Kontext ab, die meisten von uns würden einem Algorithmus wahrscheinlich durchaus ein gewisses Maß an Glaubwürdigkeit zusprechen. Schwierig wird es bei der Intimität. Und ich frage mich - wollen wir das überhaupt? Und wenn wir es wollen, wann wollen wir es?
Manchmal suchen wir die Emotionslosigkeit einer Maschine
Beim Gespräch mit Thierry kam mir direkt eine Studie von Oracle aus dem letzten Jahr in den Sinn: AI@Work . Einer der Hauptaussagen darin war, dass in den belastenden Zeiten der Pandemie viele Menschen mit Depressionen und/oder BurnOut zu kämpfen haben. Die überwiegende Mehrheit der Befragten würde sich lieber einer Maschine anvertrauen als ihrem Vorgesetzten. Für mich nicht überraschend, denn eine Maschine hat einen großen Vorteil gegenüber einem Menschen (besonders zu einem Vorgesetzten): sie wertet nicht.
Beim Beispiel der psychischen Erkrankung geht es um Scham. Ein starkes Gefühl, dass wir unter allen Umständen vermeiden wollen. Ein anderes Beispiel ist die Pflege: auch hier wollen viele Menschen gerade bei der Intimpflege lieber von einer Maschine umsorgt werden als von einem Menschen. Bei diesem Thema gibt es sozusagen eine doppelte Scham: die Pflege an sich als auch das Gefühl, anderen zur Last zu liegen.
Was Ammicht Quinn hier beschreibt, zeigt, dass wir noch viel zu wenig über das Zusammenspiel von Mensch und Maschine nachdenken. Wenn Pflegeroboter eingesetzt werden, würden keine Arbeitsplätze wegfallen, sondern sich die Tätigkeiten der Menschen verändern. Das was Menschen gut können, dafür haben sie dann mehr Zeit: Gespräche, Mitgefühl, Anteilnahme. Dies gilt nicht nur für die Pflege, sondern für alle Bereiche, in denen künstliche Intelligenz und Roboter eingesetzt werden. Immer wenn intelligente Maschinen eingesetzt werden, müssen wir uns über die neue Aufgabenverteilung Gedanken machen, wenn das Projekt ein Erfolg werden soll. Aber dazu mehr in im nächsten Artikel. Zurück zur Empathie. Kann eine Maschine einen menschliche Anteilnahme wirklich ersetzen?
Und wenn wir wirklich Empathie brauchen?
Ist “künstliche Empathie” nicht ein Widerspruch in sich? Schließlich bedeutet Empathie ja, dass ein anderer Mensch meine Gefühle spürt und teilt. Dazu wird eine Maschine niemals in der Lage sein. Maschinen können nur aus riesigen Mengen von Daten Signale erkennen und als passend erkannte Reaktionen als Antwort ausgeben und sogar selber den passenden Gesichtsausdruck “errechnen”. Reicht das aus? Ist es so einfach? Wir sind ja alle Individuen, jeder von uns empfindet anders, unsere Lebenserfahrungen sind einzigartig: das, was wir als Seele bezeichnen. Hinzu kommt all jenes, was zwischen Menschen geschieht: Stimmungen, Werte und Gefühle in der Gemeinschaft - also unsere Kultur.
Antonio Damasio bringt es auf den Punkt: Unsere Entscheidungen werden vor allem von komplexen Gefühlen gesteuert und nicht von rein kognitiven Erkenntnissen. Es scheint fast unmöglich, dass hier etwas maschinen-gesteuertes mithalten kann. Oder?
Wenn Bots nicht alleine, sondern mit Menschen im Team agieren
Kommen wir noch einmal zurück zu den Bots. Lösen wir uns vom “entweder/oder” Denken, sondern imaginieren wir ein “sowohl/als auch” Bild. Nehmen wir ein Beispiel aus meinem wahren Leben: Ich hatte eine Anfrage eines Kunden für die Durchführung eines Großevents und sollte innerhalb kürzester Zeit antworten. Bedingung war, dass ich die Technik selber bereitstelle. Ich war mir nicht sicher war, ob eine bestimmte Funktion in der Subscription meines Conferencing-Anbieters enthalten war oder nicht. Unter “Nehmen Sie Kontakt auf” landete ich bei einem Chat-Bot, der mich nicht verstand und mir sinnfreie Antworten gab. Ich war gestresst. Nach längerer Suche fand ich dann eine Möglichkeit, direkt den Support anzurufen, der mir innerhalb von wenigen Minuten die passende Antwort gab. Der Bot hat hier also nicht geholfen - eher im Gegenteil. Keine gute “Customer Experience”.
Stellen wir uns ein anderes Szenario vor:
Ein Bot mit menschlicher Mimik geht mit mir in einen Video-Dialog. Er stellt fest, dass er mir nicht direkt helfen kann, er erkennt an meinem Gesichtsausdruck meinen Stresslevel. Er setzt eine bedauernde und beruhigende Mimik ein und vermittelt direkt weiter an einen Menschen im Support. Das wäre eine wirklich gute Kundenerfahrung. Bei diesem Beispiel bekommen wir schon eine Ahnung davon, welchen Unterschied maschinelle Empathie machen könnte. Wir fühlen uns nicht so hilflos einer Maschine ausgesetzt, die nur vorgefertigte Regeln ausführt.
Deshalb an alle Entscheider da draußen: Überlegt sehr genau, wie Ihr welche Technik einsetzt. Nur wenn es für den Kunden ein Vorteil ist (und nicht für Eure Prozesse) zahlt sich der Einsatz aus.
Und wie sieht es bei ernsten Problemen aus?
Wechseln wir nun von den eher anonymen Support-Themen zum zutiefst Menschlichen: ernste Probleme, Verzweiflung, das Gefühl in der Sackgasse zu stecken: Die Ehe droht zu scheitern, das Kind wird in der Schule gemobbt - diese Liga an Problemen.
Hier gibt es ja heute schon online Communities wie Koko, in denen sich Menschen gegenseitig helfen. Freiwillige werden in den Grundlagen der Verhaltenstherapie geschult und helfen anderen, ihr Problem in einen anderen Kontext zu setzen, der zur Lösungsfindung beitragen kann. Der Vorteil: alle profitieren, auch die Helfer. Sie verändern durch die angewandten Prinzipien der Verhaltenstherapie ihren eigenen Umgang mit Problemen. Hier wird künstliche Intelligenz heute schon eingesetzt, um zu prüfen, ob ein Psychologe hinzukommen sollte. Dieser Bot verlinkt zudem hoch bewertete Antworten auf wiederkehrende Probleme direkt zum Fragesteller - als erste Hilfe sozusagen.
Digitalisierung heißt ja, unendliche Möglichkeiten durch Verknüpfung verschiedener Dienste und Services. Wechseln wir nun von der Community App Koko zum Messenger App Kik. Die App hatte schon lange einen Bot im Einsatz, der eigentlich nur als Brand Ambassador dienen sollte. Im Laufe der Zeit kamen mehr und mehr Anfragen zu persönlichen und teilweise sehr ernsten Problemen der Anwender. Was lag da näher, als in einer Kooperation mit Koko deren Bot zu integrieren und eine Einladung zur Koko Community vorzuschlagen, wo wiederum eine Begegnung mit Menschen möglich ist. Als erste Hilfe konnte der Bot Kik-Anwendern besonders hilfreiche Antworten aus der Koko-Community anzeigen.
Wenn wir das Szenario weiterdenken, könnte ein Video-Bot zusätzlich die Mimik des Gegenübers analysieren und entsprechend selber reagieren - statt eines Chats ein echtes Gespräch. Der Empathiefaktor würde dadurch noch erhöht - oder anders ausgedrückt: Die Anwender würden Erleichterung verspüren, weil sie sich verstanden fühlen. Wichtig ist, dass wir als Anwender wissen, ob wir gerade mit einer Maschine reden und dass die Möglichkeit zur menschlichen Begegnung offen steht.
Das Zitat von Zita Fontaine bringt auf den Punkt, auf was es ankommt: Geht es uns als Menschen dabei gut? Wenn ja, dann ist es auch gut. Wir stehen hier noch ganz am Anfang und sollten schauen, dass wir die richtige Mischung von Mensch und Maschine hinbekommen und uns bewusst sein, dass wir Zusammenarbeit neu denken müssen. Das gilt im Digitalen schon lange für die Menschen, die Aufgabenverteilung von Mensch und Maschine bietet für uns viele Chancen.
Digitalisierung heißt: der Mensch im Mittelpunkt
Über mich:
Ich mache Digitalisierung greifbar durch konkrete Geschichten: Zu Technologien, Menschen und Organisationen. Immer mit Fokus auf den Chancen. Die Herausforderungen kommen noch früh genug. Sprechen Sie mich einfach an: Für Keynotes und Workshops.
Wenn Sie den Artikel interessant fanden und mehr von mir lesen wollen, folgen Sie mir auf LinkedIn, Twitter oder besuchen Sie meine Webseite. Wenn Sie lieber hören, dann folgen Sie unserem Podcast Provokant Rosarot.
Dir gefällt, was Dorothee Töreki schreibt?
Dann unterstütze Dorothee Töreki jetzt direkt: