Die Eidgenössische Finanzmarktaufsicht FINMA veröffentlicht ihre Aufsichtsmitteilung zu Governance und Risikomanagement beim Einsatz von Künstlicher Intelligenz (KI). Darin macht sie auf Risiken bei der Nutzung von KI aufmerksam und beschreibt ihre Beobachtungen aus der laufenden Aufsicht.
Der Einsatz von KI im Finanzmarkt nimmt zu und somit auch die damit verbundenen, oft schwer abschätzbaren Risiken. Zu nennen sind hier vor allem operationelle Risiken, insbesondere Modellrisiken (z. B. mangelnde Robustheit, Korrektheit, Erklärbarkeit oder Bias), datenbezogene Risiken (z. B. Datensicherheit, Datenqualität, Datenverfügbarkeit), IT- und Cyberrisiken, eine steigende Abhängigkeit von Drittparteien sowie Rechts- und Reputationsrisiken.
Im Rahmen ihrer Aufsichtstätigkeit hat die FINMA beobachtet, dass die meisten Finanzinstitute noch am Anfang der Entwicklung stehen und sich die entsprechenden Governance- und Risikomanagement-Strukturen erst im Aufbau befinden. Vor diesem Hintergrund weist die FINMA die Beaufsichtigten auf die Notwendigkeit einer angemessenen Erfassung, Beurteilung, Steuerung und Überwachung der aus der Nutzung von KI resultierenden Risiken hin. Zudem informiert sie über entsprechende Massnahmen, die sie im Rahmen der laufenden Aufsicht beobachtet hat.
Dies soll die Reputation des Finanzplatzes stärken und die Institute unterstützen, ihre Geschäftsmodelle in einem von stetem Wandel geprägten Umfeld nachhaltig gegen Risiken abzusichern, indem sie in eine klare Geschäftsstrategie, eine starke Risikokultur und Governance sowie in ein proaktives Risikomanagement investieren.
