Leistungskontrolle durch KI am Beispiel des Affective Computing in Call-Centern (Mittel, CR 2023, 873)

Unternehmen haben aufgrund des erheblichen Wettbewerbsdrucks ein Interesse daran, ihre Leistungen, seien es Waren oder Dienste, auf einem qualitativ möglichst hohen Niveau zu erbringen. Gründe hierfür sind nicht zuletzt die Aufrechterhaltung der Konkurrenzfähigkeit und die Maximierung von Gewinnen. Zur Realisierung dieser Ziele bedienen sich Unternehmen einer Mannigfaltigkeit an Kontrollmechanismen, um die Leistung ihrer Arbeitnehmer ¹ zu überprüfen. So sorgte der Online-Versandhändler Zalando 2019 für Schlagzeilen, als publik wurde, dass Tausende Beschäftigte mit Zonar, einer Software, die eine permanente Bewertung, Überwachung und Sanktionierung ermöglicht, analysiert werden. ² Auch das Online-Versandhaus Amazon wertet mittels einer Software minutengenau und fortwährend die Qualität und Quantität von Arbeitsschritten aus, die die Angestellten mit Handscannern durchführen. ³

Mit der immer weiter voranschreitenden technischen Entwicklung wundert es kaum, dass nun auch Künstliche Intelligenz (KI) im Hinblick auf die Verhaltens- und Leistungskontrolle zum Einsatz kommt. Insbesondere Call-Center nutzen KI zur Auswertung von Kundengesprächen, aber auch zur Verhaltens- und Leistungskontrolle ihrer Agenten. Teleperformance, einer der weltweit größten Call-Center-Betreiber, tätig für namenhafte Energieversorger, setzt auf eine KI-Software, welche die Emotionen der Anrufer und der knapp Zweitausend Call-Center-Angestellten erkennen soll. Die KI wertet dabei in Echtzeit die Intensität, den Klang, den Rhythmus und die Sprachmelodie der Konversation aus. Auch das Call-Center-Unternehmen 11880 Internet Services AG, zu deren Kundenkreis Autohäuser, Leihanbieter von E-Scootern oder Wohnungsbaugesellschaften gehören, setzt KI zur Emotionserkennung ein und analysiert dabei mehr als 6.000 Parameter der Stimme. Ziel dieser Software ist es, Emotionen wie Wut, Verärgerung aber auch Freundlichkeit zu erkennen. Während der laufenden Konversation mit den Kunden werden den Call-Center-Agenten Emoticons auf dem Bildschirm angezeigt. Ein Smiley repräsentiert dabei die Emotionen des Anrufers, der andere die des Agenten. Auch letztere Emotionen werden kontinuierlich verfolgt und ausgewertet, um sicherzustellen, dass die Agenten freundlich bleiben. ⁴

Die Technik, durch Einsatz von KI menschliche Affekte und Emotionen durch Computer zu erkennen, wird als Affective Computing, Emotions-KI oder Sentimentanalyse bezeichnet. ⁵ Während Fürsprechende die Emotions-KI als Chance zur Fehlervermeidung, zur Anregung zum Lernen oder zur Stärkung der Eigenverantwortung begreifen, sehen Kritiker Risiken im Abbau von Arbeitsplätzen, in einer unverhältnismäßigen Kontrolle und nicht zuletzt in Gefahren für das Allgemeine Persönlichkeitsrecht und den Datenschutz. Die Frage, ob sich diese Art der Leistungskontrolle noch im Rahmen des rechtlich Zulässigen bewegt, bedarf daher einer kritischen Auseinandersetzung mit der aktuellen Rechtslage.