Den Puls in der Maschine bewahren: Das Plädoyer für menschenzentrierte KI-Offenlegungen

Künstliche Intelligenz ist nicht länger auf das Backoffice beschränkt. Von Chatbots, die komplexe Anfragen bearbeiten, bis hin zu Robo-Beratern, die Portfoliozusammenfassungen erstellen, fungiert KI zunehmend als primärer Kanal für die Kommunikation von Finanzinformationen. Während dieser Wandel Effizienz und Skalierbarkeit bringt, verwässert er die „menschliche Note" bei der Risikoerklärung – ein menschlicher Berater kann das Zögern eines Kunden einschätzen und nuancierte Hinweise geben, die eine auf Geschwindigkeit und Klarheit optimierte KI-Schnittstelle oft auslässt.

Im südafrikanischen Kontext entsteht dadurch ein Paradoxon. KI-gesteuerte Offenlegungen versprechen, den Zugang zu Finanzinformationen zu demokratisieren, führen jedoch undurchsichtige Risiken ein, die Fairness, Verbraucherschutz und systemische Stabilität bedrohen. Bei der Integration dieser Technologien darf Innovation nicht auf Kosten des Kundenschutzes gehen.

Die regulatorische Grundlage: POPIA, TCF und Governance

Der südafrikanische Regulierungsrahmen bietet eine robuste Grundlage für das Management von KI-Risiken, auch wenn er nicht mit maschinellem Lernen im Sinn entwickelt wurde.

Der Protection of Personal Information Act (POPIA) gilt direkt. Finanzielle KI-Modelle basieren auf umfangreichen Datensätzen, Kredithistorien, demografischen und Verhaltensdaten, und die Verarbeitung muss rechtmäßig, transparent und im Einklang mit dem ursprünglichen Zweck der Erhebung bleiben. Entscheidend ist, dass Abschnitt 71 Kunden das Recht einräumt, Entscheidungen anzufechten, die ausschließlich durch automatisierte Prozesse getroffen werden, wenn diese Entscheidungen rechtliche Konsequenzen haben. Da automatisierte Kreditbewertung und Underwriting zum Standard werden, müssen Institutionen einen klaren Weg für Kunden sicherstellen, eine menschliche Überprüfung anzufordern.

KI kann die Ergebnisse von Treating Customers Fairly (TCF) verbessern, indem sie eine konsistente Anwendung von Erschwinglichkeitsprüfungen gewährleistet. Wenn ein Modell jedoch auf historisch voreingenommenen Daten trainiert wird, kann es diskriminierende Ergebnisse produzieren und damit das Prinzip der fairen Behandlung von TCF verletzen. Die „Black Box"-Natur des Deep Learning erschwert zusätzlich Outcome 3 (klare Informationen) und Outcome 4 (geeignete Beratung) – wenn Institutionen nicht erklären können, wie ein Ergebnis erreicht wurde, wird eine aussagekräftige Offenlegung schwierig.

King V on Corporate Governance (Oktober 2025) verstärkt diese Verpflichtungen: Prinzip 10 macht deutlich, dass Vorstände sich mit den ethischen, rechtlichen und strategischen Konsequenzen automatisierter Entscheidungsfindung auseinandersetzen müssen. KI ist nicht nur eine IT-Angelegenheit.

Fairness, Transparenz und Schutz

KI-Modelle, die auf historischen südafrikanischen Daten trainiert wurden, riskieren die Reproduktion tief verwurzelter sozioökonomischer Ungleichheiten. Selbst wenn geschützte Merkmale wie die Rasse ausgeschlossen werden, können Proxy-Variablen – Postleitzahlen, Bildungsniveau, Beschäftigungsmuster – funktional ähnliche diskriminierende Ergebnisse liefern und den Zugang zu Krediten oder Versicherungen auf der Grundlage systemischer Faktoren statt individueller Verdienste einschränken.

Transparenz muss sinnvoll kalibriert werden. Die Offenlegung muss über einen einfachen Haftungsausschluss hinausgehen: Verbraucher verdienen klare Erklärungen darüber, wie KI Ergebnisse beeinflusst, die sie betreffen, zusammen mit Informationen über ihr Recht auf Rechtsmittel. Für Regulierungsbehörden verlagert sich der Fokus auf Governance und Interpretierbarkeit – Nachweise, dass ein Unternehmen die Logik des Modells und die vorhandenen Schutzmaßnahmen versteht.

Generative KI führt das zusätzliche Risiko von „Halluzinationen" ein – plausible, aber sachlich falsche Ausgaben. Ein für Lead-Konversion optimiertes KI-System kann Kunden unbeabsichtigt zu Hochrisikoprodukten drängen, indem es Risikowarnungen herunterspielt. Ausgabefilter müssen verhindern, dass KI obligatorische Risikooffenlegungen kürzt.

Das Finanzsystem stabil halten

Über individuelle Interaktionen hinaus beeinflusst KI die breitere systemische Stabilität. Sie hilft Regulierungsbehörden, riesige Datensätze sofort zu scannen, um Betrug oder Zahlungsunfähigkeit zu erkennen, und fungiert als schnelleres Frühwarnsystem als die menschliche Analyse allein. Sie kann auch komplexen Finanzjargon in zugängliche Sprache übersetzen und die Ausfallraten durch verbessertes Verbraucherverständnis senken.

Die übermäßige Abhängigkeit von einer kleinen Anzahl großer Sprachmodelle (LLMs) schafft jedoch Konzentrationsrisiken: Mehrere Institutionen können Marktsignale identisch interpretieren und gleichzeitig reagieren, was die Volatilität verschärft oder Flash Crashes auslöst. Ein KI-generierter Fehler in einer wichtigen öffentlichen Offenlegung kann sich sofort ausbreiten und automatisierte Handelsreaktionen auslösen, bevor Menschen die Aufzeichnung korrigieren können. Ein einzelner Bug in einem weit verbreiteten Kreditbewertungsmodell könnte gleichzeitig Millionen von Kunden bei verschiedenen Banken betreffen.

Überlegungen für südafrikanische Finanzinstitute

Während Institutionen von KI-Experimenten zu vollständiger Implementierung übergehen, müssen Governance-Rahmen sich weiterentwickeln. Human-in-the-Loop (HITL)-Protokolle sollten Folgendes umfassen:

• Obligatorische Überprüfung: Automatisierte Offenlegungen im Zusammenhang mit bindenden Verträgen oder folgenreichen Entscheidungen sollten eine obligatorische menschliche Überprüfung auslösen.
• Kill Switch: Operative Teams sollten befugt sein, KI-Tools sofort auszusetzen, wenn ein Muster von Halluzinationen erkannt wird.
• Fairness-Audits: Regelmäßige Tests mit synthetischen Personas, die Südafrikas Vielfalt widerspiegeln – Sprachen, Alter, Bildung und Einkommensniveaus –, um konsistente Klarheit und Ton zu gewährleisten.
• Outcome-Monitoring: Verfolgung von Leistungsmetriken über alle Demografien hinweg, nicht nur Beschwerderaten, angesichts digitaler Alphabetisierungslücken, die bestimmte Gruppen daran hindern können, Probleme zu melden.
• Verantwortlichkeit: Das „Lizenzinhaber"-Prinzip: Technologie-Outsourcing bedeutet nicht Haftungs-Outsourcing.
• Service Level Agreements: Lieferantenverträge sollten ausdrückliche Klauseln zur Modellerklärbarkeit und Haftung für Halluzinationen, die finanziellen Schaden verursachen, enthalten.

KI ist ein Werkzeug, kein Mensch. In Südafrika, wo finanzielle Inklusion und Kundenschutz von größter Bedeutung sind, muss KI die Finanzlandschaft klären, nicht trüben. Durch die Verankerung der Implementierung in POPIA-, TCF- und King V-Prinzipien und die Einbettung starker Governance und menschlicher Aufsicht können Finanzinstitute das Potenzial von KI nutzen, ohne Fairness oder Stabilität zu gefährden. Richtig eingesetzt, ersetzt KI nicht die menschliche Rolle, sie hebt sie an und ermöglicht es Fachleuten, sich auf das Urteilsvermögen, den Kontext und die Verantwortlichkeit zu konzentrieren, die Maschinen nicht replizieren können.

Ein Governance-Rahmen für verantwortungsvolle finanzielle KI-Implementierung

•  Nolwazi Hlophe | Senior Specialist: FinTech | FSCA  |  Dr Johann van der Lith | Senior Specialist: Regulatory Frameworks | FSCA

* Die Financial Sector Conduct Authority (FSCA) reguliert und überwacht das Marktverhalten von Finanzinstituten in Südafrika. Besuchen Sie www.fsca.co.za.