Fehlerquote bei KI-Finanzberatung wirft Fragen auf

Eine aktuelle Studie zeigt, dass Künstliche Intelligenz (KI) bei Finanzfragen in 57 Prozent der Fälle fehlerhafte Antworten liefert. Dies wirft für Dich als Anleger Fragen zu möglichen Risiken auf. Während Tech-Konzerne und Finanzdienstleister Milliarden in die Entwicklung und Implementierung von KI investieren, rücken Fragen der Datenqualität, des Datenschutzes und der regulatorischen Einordnung stärker in den Fokus.

Die Illusion der schnellen Finanzberatung

Die berichtete Fehlerquote von KI-Chatbots bei Finanzthemen verdeutlicht die Diskrepanz zwischen dem Potenzial generativer KI und ihrer aktuellen Praxistauglichkeit. Colin Bernatt von QuantumBoost, ein Financial Services Executive und Applied AI Practitioner, weist darauf hin, dass viele technisch beeindruckende Tools die operativen Realitäten der Finanzberatung nicht berücksichtigen. Anbieter konzentrieren sich oft auf Insellösungen, die sich nicht ohne Weiteres in bestehende Workflows einfügen lassen.

Berater benötigen laut Bernatt häufig nur einen Bruchteil der angebotenen Funktionen.

Parallel dazu finden sich Hinweise auf Probleme in der Datenqualität. Eine Umfrage der Beratungsfirma Neudata unter Käufern von Marktdaten, darunter Hedgefonds, ergab, dass ein Drittel eine Verschlechterung der Qualität extern gekaufter Daten beobachtet. Als Erklärung wird die verstärkte Nutzung von KI durch Datenanbieter zur Generierung oder Zuordnung der Daten genannt.

Dabei treten laut Neudata weiterhin sogenannte „Halluzinationen“ auf. Zudem nutzen Anbieter KI offenbar teilweise als Begründung, Personal für Datenqualität abzubauen oder anders einzusetzen.

Datenschutz und die Gefahr des unbeabsichtigten Wettbewerbs

Datenschutz bleibt ein zentrales Anliegen beim Einsatz von KI im Finanzbereich. Kundenstammdaten sind sensibel und müssen geschützt werden. Colin Bernatt fordert, dass Berater klären, ob die von ihnen genutzten KI-Plattformen Kundendaten zum Training ihrer Modelle verwenden.

Sollte dies der Fall sein oder unklar bleiben, könnte ein Unternehmen unbeabsichtigt dazu beitragen, dass Tools mit seinen proprietären Daten trainiert werden und dadurch seine Differenzierungsmerkmale verlieren.

Trotz dieser Bedenken schreitet die Integration von KI in Unternehmensprozesse voran. Der Versicherungsmakler MRH Trowe hat rund 400 Mitarbeitern den Zugang zu Self-Service-KI-Agenten ermöglicht. Dafür nutzt er unter anderem LibreChat zur Unterstützung von Sicherheit und Compliance.

Die Kosten pro Benutzerplatz lagen im ersten Produktionsmonat bei etwa 14 US-Dollar. Das Projekt nennt zudem ein Potenzial, die Infrastrukturkosten um rund 40 Prozent zu senken. Dies zeigt, dass Unternehmen Wege finden, KI-Assistenz in kontrollierter Form zu implementieren, während die Herausforderungen bei direkter Endkundenberatung bestehen bleiben.

Regulatorische Unsicherheiten und Marktvolatilität

Die europäische Aufsichtsbehörde ESMA stellte im Mai 2024 klar, dass die Nutzung von KI Finanzdienstleister nicht von der Pflicht entbindet, im besten Interesse des Kunden zu handeln. Die MiFID II definiert Anlageberatung als persönliche Empfehlung. Die Eignung eines Instruments kann auch implizit beurteilt werden, was bei KI-Anwendungen Fragen aufwirft.

Der AI Act der EU behandelt Risiken wie Kreditwürdigkeit oder die Preisgestaltung von Lebens- und Krankenversicherungen, schließt Anlageberatung und Portfoliomanagement jedoch aus.

Die Marktentwicklung gestaltet sich ambivalent. KPMG in India prognostiziert, dass die Akzeptanz von KI in indischen Finanzdienstleistungen innerhalb eines Jahres von 26 Prozent auf 65 Prozent steigen soll. Parallel dazu hat Anthropic das Produkt „Claude for Financial Advisors“ mit Partnern wie BlackRock, Vanguard und Charles Schwab eingeführt.

BlackRock verwaltet laut Berichten etwa 300 Milliarden US-Dollar in Modellportfolios, die Berater vermehrt standardisiert einsetzen. Jonathan Pelosi von Anthropic betont, dass Claude nicht dafür gedacht sei, explizit Anlageberatung zu erteilen, sondern Berater bei Research- und Verwaltungsaufgaben unterstützen soll.

Gleichzeitig warnt die Bank für Internationalen Zahlungsausgleich (BIS) vor einer Verwundbarkeit des KI-Marktmomentums. Frank Smets, Leiter der Wirtschaftsanalyse bei der BIS, äußert Bedenken über den raschen Anstieg von Schulden und die geringe Transparenz einiger Finanzierungen im KI-Bereich. Eine Szenarioanalyse, die in einem Forbes-Text diskutiert wird, kommt im „Severe Case“ zu Ergebnissen, bei denen vier große Hyperscaler etwa 5,9 Billionen US-Dollar an Börsenwert verlieren könnten und der S&P 500 um rund 28,5 Prozent zurückginge.

Solche Szenarien basieren auf Annahmen etwa zu niedriger Kapazitätsauslastung oder starken Preisrückgängen für KI-Dienste.

Ausblick: Zwischen Euphorie und notwendiger Skepsis

Die Studie zur Fehlerquote von KI-Chatbots bei Finanzfragen erscheint zu einem Zeitpunkt intensiver KI-Integration im Finanzsektor. Fehlende Methodendetails der Ursprungstudie – etwa eine klare Definition dessen, was als „falsche Antwort“ gilt – erschweren eine präzise Einordnung der 57-Prozent-Angabe. Breitere Befunde zur Datenqualität, zu regulatorischen Lücken und zu Datenschutzfragen deuten jedoch auf ein umsichtiges Vorgehen hin.

Während Tech-Konzerne und Finanzdienstleister weiterhin Milliarden in KI-Projekte investieren, werden Analysten und Aufseher genau beobachten, wie sich der Balanceakt zwischen technischer Umsetzung und Pflichten gegenüber Kunden entwickelt. Die kommenden Monate zeigen, ob die Erwartungen an KI im Finanzbereich bestätigt werden oder ob die identifizierten Schwachstellen zu vermehrter Regulierung und Anpassungen der Markterwartungen führen.