Die Diskussion um die regulatorische Aufsicht von Künstlicher Intelligenz (KI) im Finanzsektor gewinnt an Fahrt. Wie finanzen.hessen.de berichtet, plant die Bundesregierung einen Gesetzentwurf zur EU-KI-Verordnung. Dieser sieht eine geteilte Aufsicht zwischen der BaFin und der Bundesnetzagentur für beaufsichtigte Unternehmen vor. Hessen hat jedoch einen anderen Vorschlag ins Spiel gebracht und schlägt vor, die BaFin ausschließlich mit der Aufsicht zu betrauen.
Finanzminister Professor Dr. R. Alexander Lorz sieht in der geplanten Aufteilung Bedenken. Er argumentiert, dass klare Regeln und Zuständigkeiten für den Einsatz von KI unabdingbar seien, um Rechtssicherheit zu gewährleisten. Die Abgrenzung zwischen direkten und indirekten Zusammenhängen von KI-Systemen sei oftmals unklar und könnte sich mit dem technologischen Fortschritt ändern. Diese Unklarheiten, so Lorz, könnten Finanzinstituten schaden, da sie Planungs- und Rechtssicherheit benötigen und nicht in juristischen Grauzonen operieren sollten.
Schwerpunkte der Aufsicht
Ein zentrales Anliegen der hessischen Regierung ist es, Doppelstrukturen und Bürokratie, die als nachteilig für den Finanzstandort Deutschland erachtet werden, zu reduzieren. Die BaFin hat bereits KI-spezifische Aufsichtsstandards etabliert, und Hessen betont, dass die BaFin für alle KI-Systeme in beaufsichtigten Unternehmen zuständig sein sollte. Diese Forderung stößt auf Unterstützung in der Finanzbranche sowie bei der Deutschen Kreditwirtschaft, die sich einen zentralen Ansprechpartner für alle KI-Fragen bei der BaFin wünschen, um Zeit und Kosten zu sparen und widersprüchliche Vorgaben zu vermeiden.
Die Anwendung von Künstlicher Intelligenz in der Finanzbranche ist mittlerweile allgegenwärtig. Laut bafin.de setzen Finanzunternehmen KI Technologien entlang der gesamten Wertschöpfungskette ein, was jedoch erhebliche Risiken birgt. Insbesondere die Informations- und Kommunikationstechnologie (IKT) ist betroffen. Eine neue Orientierungshilfe soll unverbindliche Unterstützung für Finanzunternehmen bieten, insbesondere im Hinblick auf die Umsetzung der regulatorischen Anforderungen des Digital Operational Resilience Act (DORA) beim Einsatz von KI.
Orientierungshilfe und IKT-Risiken
Diese Orientierungshilfe richtet sich an Institute, die der Capital Requirements Regulation unterliegen, sowie an Versicherer, die nach Solvency II beaufsichtigt werden. Besondere Aufmerksamkeit liegt dabei auf dem IKT-Risikomanagement und dem Management von IKT-Drittparteienrisiken. Die Betrachtung der IKT-Risiken erfolgt entlang des gesamten KI-Lebenszyklus, einschließlich der Beschaffung von Daten, der Entwicklung von Modellen, der Bereitstellung der Modelle, dem laufenden Betrieb und der Stilllegung. Die Sicherheit und Resilienz von KI-Systemen muss in jeder dieser Phasen gewährleistet sein, was spezifische Schutzmaßnahmen für IKT-Assets erforderlich macht.
Zusammengefasst wird deutlich, dass der Finanzsektor vor bedeutenden Herausforderungen steht, wenn es um den umsichtigen Umgang mit KI geht. Die Überlegung in Hessen, die Aufsicht durch die BaFin zu zentralisieren, könnte als Schritt in die richtige Richtung betrachtet werden, um den Regulierungsrahmen für KI im Finanzsektor zu optimieren.