Am 13. März 2024 hat das EU-Parlament die EU-Verordnung für Künstliche Intelligenz (KI-Verordnung) mit der breiten Mehrheit von 534 Stimmen – bei 46 Gegenstimmen und 49 Enthaltungen – beschlossen. Der Kompromisstext (hier verlinkt als englischsprachige Ratsdrucksache) muss noch vom Rat beschlossen werden. Er durchläuft dann eine letzte sprachliche und juristische Prüfung, die zu formalen Änderungen führen kann. Eine Veröffentlichung im Amtsblatt wird vor Ende der Amtsperiode der aktuellen Kommission erwartet.

Die Endfassung berücksichtigt erwartungsgemäß für den Bereich von Lebensversicherungen Änderungen, die ähnlich lautend sowohl vom EU-Parlament als auch in der Verhandlungsposition des Rates vorgeschlagen wurden und über die die aba im Dezember 2023 bereits berichtet hatte. Nun gelten unter anderem folgende KI-Anwendungen als sog. „Hoch-Risiko-Systeme“ (im Sinne des Artikels 6 in Verbindung mit Anlage I): „AIl systems intended to be used for risk assessment and pricing in relation to natural persons in the case of life and health insurance”.

Für Hoch-Risiko-Systeme sieht die Verordnung umfangreiche Anforderungen vor: an das Risikomanagement (Art. 9), Daten und Daten-Governance (Art. 10), Technische Dokumentation (Art. 11), Aufzeichnungspflichten (Art. 12), Transparenz und Informationen (Art. 13), Menschliche Aufsicht (Art. 14), Genauigkeit, Robustheit und Cybersicherheit (Art. 15), Qualitätsmanagement (Art. 17) und Konformitätsbewertung (Art. 19). Für Finanzunternehmen im Anwendungsbereich der der DORA-Verordnung (EU) 2022/2554, die KI-Anwendungen im oben genannten Sinne nutzen, sind dann die Regelungen beider Verordnungen zu beachten.

Wichtig für andere Arten von KI-Anwendungen, die entlang bei bAV-Prozessen jetzt oder in Zukunft eingesetzt werden: auch hier trifft die Verordnung Regelungen. Beispielhaft genannt sei hier die Verpflichtung zur Herstellung von Transparenz beim Einsatz von KI (z.B. muss es gem. der Verordnung für Nutzer erkennbar sein, dass sie mit einer KI interagieren). Artikel 56 empfiehlt die Einführung freiwilliger Verhaltenskodizes mit weiteren konkretisierenden Regelungen.