Die zunehmende Abhängigkeit von Banken von Chatbots zur Erledigung von Kundendienstaufgaben beunruhigt Verbraucherschützer

NEW YORK (AP) – Können Sie Erica, Sandi oder Amy vertrauen, dass sie zunehmend Teile Ihres Finanzlebens kontrollieren, ohne Ihnen ungenaue Informationen zu geben oder Geld an den falschen Ort zu schicken?

Das fragt das Consumer Financial Protection Bureau in einem am Dienstag veröffentlichten Bericht, in dem das Büro eine Reihe von Bedenken hinsichtlich des zunehmenden Einsatzes von Chatbots durch Banken zur Bearbeitung routinemäßiger Kundendienstanfragen zum Ausdruck bringt.

Die CFPB befürchtet, dass Banken oder Kreditdienstleister ihre Mitarbeiter im Kundenservice kürzen und immer mehr Routineaufgaben auf KI verlagern könnten. Darüber hinaus sagt die Regulierungsbehörde, dass schlecht konzipierte Chatbots gegen Bundesgesetze verstoßen könnten, die regeln, wie Schulden eingezogen werden oder wie persönliche Daten verwendet werden.

„Wenn Unternehmen diese Dienste schlecht bereitstellen, besteht ein großes Risiko für weitreichenden Kundenschaden“, sagte Rohit Chopra, Direktor des CFPB, in einem Interview mit The Associated Press.

Seit einigen Jahren bearbeiten Banken immer mehr Kundendienstanfragen mit Chatbots, oft mit weiblich klingenden Namen wie Sandi für Santander, Amy von HSBC oder Eno für Capital One.

Unter der Marke Erica betreibt die Bank of America den größten und erfolgreichsten Finanz-Chatbot. Erica – die letzten fünf Buchstaben in Amerika – bearbeitet mittlerweile Hunderte Millionen Anfragen pro Jahr von BofA-Kunden.

Ursprünglich wurden Bank-Chatbots für grundlegende Anfragen verwendet, etwa zum Ändern der Adresse oder Telefonnummer eines Kunden oder um einem Kunden mitzuteilen, wo sich die nächste Filiale befindet oder wie die Bankleitzahl auf seinem Konto lauten könnte. Doch da Banken Millionen in diese Dienste investiert haben, sind Chatbots besonders ausgereift geworden und in der Lage, ganze Sätze zu verstehen oder einem Kunden sogar dabei zu helfen, Geld zu bewegen oder eine Rechnung zu bezahlen.

Das CFPB schätzt, dass im vergangenen Jahr etwa vier von zehn Amerikanern mit einem Bank-Chatbot interagiert haben, eine Zahl, die voraussichtlich noch steigen wird.

Banken bereiten sich darauf vor, noch fortschrittlichere KI-ähnliche Dienste einzuführen. Berichten zufolge entwickelt JPMorgan Chase Pläne, ChatGPT und künstliche Intelligenz zu nutzen, um Kunden bei der Auswahl geeigneter Investitionen zu unterstützen. Banker der Bank of America können Erica nutzen, um Kundenprofile zu erstellen und diesen Kunden möglicherweise Produkte zu empfehlen.

Während diese Dienste Kunden Minuten oder Stunden ersparen können, in der Warteschleife zu warten, bis sie einen Menschen erreichen, der ihnen eine Routinefrage stellen kann, hat die Agentur Bedenken, ob diese Chatbots in der Lage sein werden, mit den Nuancen und der Komplexität der Verbraucherschutzgesetze umzugehen, ohne den Kunden ungenaue Informationen zu geben.

„Es gibt Bundesgesetze, die Kunden Rechte einräumen, wenn es um Schulden oder die Anfechtung einer Transaktion geht, und wenn Kundendienstmitarbeiter durch Chatbots ersetzt werden, kann das zu Problemen führen, wenn diese Software ihnen ungenaue Informationen liefert“, sagte Chopra.

Das Büro stellte außerdem fest, dass ältere Kunden oder Kunden, deren Hauptsprache nicht Englisch ist, möglicherweise in eine Kundendienstschleife geraten und keinen menschlichen Agenten erreichen können.

„Wir haben immer wieder Beschwerden darüber gefunden, dass Kunden in Zirkeldiskussionen mit einem Roboter stecken blieben oder falsche Informationen erhielten“, sagte er.

Chopra hat sowohl in seiner aktuellen Rolle als Direktor des CFPB als auch zuvor als Kommissar bei der Federal Trade Commission wiederholt Bedenken geäußert, dass Banken und Unternehmen gegen Verbrauchergesetze verstoßen könnten, wenn sie Algorithmen oder Software für künstliche Intelligenz schlecht implementieren. Es gab zahlreiche Berichte über Chatbots von Microsoft, Google und anderen Unternehmen, die auf Aufforderung hin eine voreingenommene Sprache verwendeten.