Zuletzt aktualisiert am
Künstliche Intelligenz
Künstliche Intelligenz hört Anrufe mit: Ein Bayreuther Experte klärt auf
Callcenter nutzen Künstliche Intelligenz, um Anrufe auszuwerten. Ein Bayreuther Universitätsprofessor erklärt, was das für den Anrufer bedeutet.
Künstliche Intelligenz steht derzeit in seiner Funktion als Emotions-Kenner in der Kritik. Juristische Unklarheiten sorgen für Probleme bei den Kunden.
Um ein klares Verständnis der derzeitigen Situation zu erlangen, hat das bt mit Dr. Jochen Koubek gesprochen. Er ist Professor für Digitale Medien an der Universität Bayreuth.
Künstliche Intelligenz in Callcentern
Künstliche Intelligenz (KI) wird bereits seit mehreren Jahren zur Erkennung der emotionalen Verfassung von Anrufern verwendet. Dabei werden die Anrufe in Echtzeit von der Künstlichen Intelligenz mitgehört. Diese kann anhand der Stimmmelodie Emotionen wie Wut, Freude oder Überraschung erkennen.
“Die KI wird mit Aufnahmen trainiert, denen durch menschliche Zuhörer Emotionen zugeordnet wurden”, erklärt Professor Koubek. Anhand dieser Datensätze und ausreichendem Training kann eine Software dann selbstständig Emotionen erkennen, ohne die Hilfe eines menschlichen Übersetzers.
Die Stimme von Anrufern kann so in Echtzeit analysiert werden. Die emotionale Verfassung von Kunden wird den Callcenter-Mitarbeitern anhand eines Smileys vermittelt. Der Zweck ist hierbei die Verbesserung des angebotenen Services, sowie die Steigerung der Kundenzufriedenheit. Lesen Sie auch: Landtagswahlen in Bayern: Das sind die Besonderheiten.
KI in der Kritik
Wie zuverlässig die jeweilige Software im Erkennen von Emotionen tatsächlich ist, ist fragwürdig. “Die Anbieter dieser Software sehen hohe Erkennungsraten, Kritiker sprechen von ‘Pseudowissenschaft'”, sagt Professor Koubek im Interview. Die Zuverlässigkeit der verschiedenen Programme auf dem Markt hängt zudem von der Qualität und dem Umfang der genutzten Trainingsdaten ab.
Die Stimme gehört zudem zu den biometrischen Daten einer Person. Sie lässt sich nur einer bestimmten Person zuordnen und zählt deshalb zu der Kategorie der personenbezogenen Daten. Anhand der Stimme können zudem auch Persönlichkeitsprofile von Individuen erstellt werden, sagt Professor Koubek.
Juristisch fraglich
Personenbezogene Daten unterliegen grundsätzlich besonderem rechtlichen Schutz. Daher ist die Verarbeitung und Speicherung dieser, ohne Einwilligung der betroffenen Person, untersagt. In Bezug auf die Verwendung von KI zur Erkennung menschlicher Emotionen anhand der Stimme gibt es jedoch bisher keine abschließenden Regelungen, so Koubek. Selbst bei Zustimmung zur Verarbeitung rechnen die wenigsten damit, dass dies maschinell geschieht.
“Mit dem aktuellen Interesse an dem Thema wird es sicherlich zu Prozessen und in ein paar Jahren auch zu höchstinstanzlichen Urteilen kommen”, sagt Professor Koubek. Urteile oder sogar Beschlüsse durch das Bundesverfassungsgericht oder den Europäischen Gerichtshof werden dann für mehr Klarheit sorgen.
“Nach meinem Rechtsverständnis decken die Datenschutzgesetze allerdings auch Fälle ab, bei denen eine Verarbeitung personenbezogener Daten ohne Speicherung erfolgt, woraus eine Aufklärungs- und Zustimmungspflicht entstünde”, erklärt Professor Koubek. Der Einsatz von Künstlicher Intelligenz zum Erkennen der emotionalen Verfassung ohne Einwilligung des Anrufers ist also theoretisch möglich ohne die Speicherung von personenbezogenen Daten. Hier stellt sich dennoch die Frage der Zulässigkeit.
Auch wenn ohne die Speicherung der Daten beispielsweise keine Persönlichkeitsprofile angelegt werden können, sollten Unternehmen, die die KI einsetzen, dennoch unter Auskunftspflicht stehen. Professor Koubek erinnert bei seinen Ausführungen daran, dass es klar sein muss, warum ein Unternehmen personenbezogene Daten verarbeiten möchte.
Selbstschutz vor der KI sinnvoll?
Gesetzliche Regelungen würden hier den Anrufern in Callcentern den meisten Schutz bieten. “Es ist aber auch nicht klar, ob es sich um eine Bedrohungslage handelt, vor der man sich schützen sollte”, erklärt Professor Koubek. Gesprächspartner, sei es privat oder in Callcentern, bewerten auch die emotionale Verfassung ihres Gegenüber, anhand der Stimme, Verhalten oder Körpersprache.
“Diese technischen Systeme versprechen, die menschliche Urteilskraft zu unterstützen, nicht sie zu ersetzen”, erläutert Koubek. Somit kann die Zufriedenheit von Anrufern gesteigert werden und Mitarbeiter, die weniger empfänglich für Emotionen in der Sprache sind, können unterstützt werden.
Dennoch sollten Anrufer aufmerksam bleiben und sich fragen, ob ein Unternehmen vertrauenswürdig ist, selbst wenn sie ausdrücklich keine Einwilligung zur Datenspeicherung gegeben haben. “Sofern ich aber vermute, dass diese Speicherung trotzdem geschieht, weil die Daten ja schonmal da sind, gehe ich ja auch davon aus, dass mein Gegenüber bewusst illegal handelt und sollte das Gespräch sofort abbrechen”, warnt Professor Koubek.
Ängste ernst nehmen
“Wie so oft bei neuen Technologien sollten Ängste ernst genommen werden, ohne gleich mit Verboten zu reagieren. Transparente Ankündigungen und einfache Wahlmöglichkeiten würde schon viel Aufregung aus der Diskussion nehmen. Im besten Fall begleitet von Aufklärungsangeboten, die dabei unterstützen, eine mündige Entscheidung zu treffen”, sagt Professor Dr. Koubek.
