Künstliche Intelligenz hört Anrufe mit: Ein Bayreuther Experte klärt auf

KI in der Kritik

Wie zuverlässig die jeweilige Software im Erkennen von Emotionen tatsächlich ist, ist fragwürdig. “Die Anbieter dieser Software sehen hohe Erkennungsraten, Kritiker sprechen von ‚Pseudowissenschaft'“, sagt Professor Koubek im Interview. Die Zuverlässigkeit der verschiedenen Programme auf dem Markt hängt zudem von der Qualität und dem Umfang der genutzten Trainingsdaten ab.

Die Stimme gehört zudem zu den biometrischen Daten einer Person. Sie lässt sich nur einer bestimmten Person zuordnen und zählt deshalb zu der Kategorie der personenbezogenen Daten. Anhand der Stimme können zudem auch Persönlichkeitsprofile von Individuen erstellt werden, sagt Professor Koubek.

Juristisch fraglich

Personenbezogene Daten unterliegen grundsätzlich besonderem rechtlichen Schutz. Daher ist die Verarbeitung und Speicherung dieser, ohne Einwilligung der betroffenen Person, untersagt. In Bezug auf die Verwendung von KI zur Erkennung menschlicher Emotionen anhand der Stimme gibt es jedoch bisher keine abschließenden Regelungen, so Koubek. Selbst bei Zustimmung zur Verarbeitung rechnen die wenigsten damit, dass dies maschinell geschieht.

“Mit dem aktuellen Interesse an dem Thema wird es sicherlich zu Prozessen und in ein paar Jahren auch zu höchstinstanzlichen Urteilen kommen”, sagt Professor Koubek. Urteile oder sogar Beschlüsse durch das Bundesverfassungsgericht oder den Europäischen Gerichtshof werden dann für mehr Klarheit sorgen.

“Nach meinem Rechtsverständnis decken die Datenschutzgesetze allerdings auch Fälle ab, bei denen eine Verarbeitung personenbezogener Daten ohne Speicherung erfolgt, woraus eine Aufklärungs- und Zustimmungspflicht entstünde”, erklärt Professor Koubek. Der Einsatz von Künstlicher Intelligenz zum Erkennen der emotionalen Verfassung ohne Einwilligung des Anrufers ist also theoretisch möglich ohne die Speicherung von personenbezogenen Daten. Hier stellt sich dennoch die Frage der Zulässigkeit.

Auch wenn ohne die Speicherung der Daten beispielsweise keine Persönlichkeitsprofile angelegt werden können, sollten Unternehmen, die die KI einsetzen, dennoch unter Auskunftspflicht stehen. Professor Koubek erinnert bei seinen Ausführungen daran, dass es klar sein muss, warum ein Unternehmen personenbezogene Daten verarbeiten möchte.

Selbstschutz vor der KI sinnvoll?

Gesetzliche Regelungen würden hier den Anrufern in Callcentern den meisten Schutz bieten. “Es ist aber auch nicht klar, ob es sich um eine Bedrohungslage handelt, vor der man sich schützen sollte”, erklärt Professor Koubek. Gesprächspartner, sei es privat oder in Callcentern, bewerten auch die emotionale Verfassung ihres Gegenüber, anhand der Stimme, Verhalten oder Körpersprache.

“Diese technischen Systeme versprechen, die menschliche Urteilskraft zu unterstützen, nicht sie zu ersetzen”, erläutert Koubek. Somit kann die Zufriedenheit von Anrufern gesteigert werden und Mitarbeiter, die weniger empfänglich für Emotionen in der Sprache sind, können unterstützt werden.

Dennoch sollten Anrufer aufmerksam bleiben und sich fragen, ob ein Unternehmen vertrauenswürdig ist, selbst wenn sie ausdrücklich keine Einwilligung zur Datenspeicherung gegeben haben. “Sofern ich aber vermute, dass diese Speicherung trotzdem geschieht, weil die Daten ja schonmal da sind, gehe ich ja auch davon aus, dass mein Gegenüber bewusst illegal handelt und sollte das Gespräch sofort abbrechen“, warnt Professor Koubek.

Ängste ernst nehmen

“Wie so oft bei neuen Technologien sollten Ängste ernst genommen werden, ohne gleich mit Verboten zu reagieren. Transparente Ankündigungen und einfache Wahlmöglichkeiten würde schon viel Aufregung aus der Diskussion nehmen. Im besten Fall begleitet von Aufklärungsangeboten, die dabei unterstützen, eine mündige Entscheidung zu treffen“, sagt Professor Dr. Koubek.