EU AI Act und Salesforce: Was Finanzdienstleister jetzt wissen müssen
Kreditwürdigkeit und Versicherungspricing sind im AI Act ausdrücklich Hochrisiko. Was das für Agentforce und KI in Ihrer Salesforce-Org bedeutet und was Sie bis Dezember 2027 klären sollten.
Der EU AI Act ist eines der wenigen Gesetze, in denen Finanzdienstleister nicht nur mitgemeint, sondern ausdrücklich genannt sind. KI-Systeme, die die Kreditwürdigkeit von Privatpersonen bewerten, gelten als Hochrisiko. Dasselbe gilt für die Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung. Wer Salesforce mit Agentforce, Prompt Builder oder eigenen Modellen nutzt, sollte deshalb genau wissen, welche KI-Anwendungen in der Org in diese Kategorien fallen und welche nicht.
Kurz gesagt: Die meisten KI-Funktionen, die Finanzdienstleister heute in Salesforce einsetzen, etwa Gesprächszusammenfassungen, E-Mail-Entwürfe oder ein Service-Agent, sind keine Hochrisiko-Systeme. Für sie gelten vor allem Transparenzpflichten und die Pflicht, die KI-Kompetenz der Mitarbeitenden zu fördern. Hochrisiko wird es, sobald KI über die Kreditwürdigkeit von Verbrauchern oder über Tarife in der Lebens- und Krankenversicherung mitentscheidet. Diese Pflichten gelten nach aktuellem Stand ab dem 2. Dezember 2027.
Dieser Artikel ordnet den AI Act aus Sicht einer Salesforce-Org ein: Was die Verordnung regelt, wo Finanzdienstleister genannt sind, wer welche Rolle hat und welche Salesforce-Anwendungsfälle wie einzuordnen sind.
Was ist der EU AI Act?
Der AI Act, auf Deutsch KI-Verordnung, ist die Verordnung (EU) 2024/1689. Sie ist am 1. August 2024 in Kraft getreten und regelt KI-Systeme nach ihrem Risiko: Bestimmte Praktiken sind verboten, Hochrisiko-Systeme unterliegen strengen Anforderungen, für andere Systeme gelten vor allem Transparenzpflichten. Die Pflichten treffen nicht nur Hersteller von KI, sondern auch Unternehmen, die KI beruflich einsetzen.
Im Juli 2026 hat die EU den Zeitplan mit dem sogenannten Digital Omnibus, der Verordnung (EU) 2026/1744, angepasst. Seit dem 27. Juli 2026 gilt dieser Stand:
| Datum | Was gilt |
|---|---|
| 2. Februar 2025 | Verbotene Praktiken, Pflicht zur Förderung der KI-Kompetenz (Art. 4) |
| 2. August 2025 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, etwa große Sprachmodelle |
| 2. August 2026 | Transparenzpflichten nach Art. 50, Aufsicht durch nationale Behörden |
| 2. Dezember 2026 | Ende der Übergangsfrist für die Kennzeichnung KI-generierter Inhalte bei bestehenden Systemen |
| 2. Dezember 2027 | Pflichten für Hochrisiko-Systeme nach Anhang III, darunter Kreditwürdigkeit und Versicherungspricing |
| 2. August 2028 | Pflichten für KI in regulierten Produkten nach Anhang I |
Die Pflicht zur KI-Kompetenz hat der Omnibus entschärft, aber nicht gestrichen. Unternehmen müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Niveau je Person ist nicht mehr geschuldet.
Bei Verstößen drohen Bußgelder, deren Höhe nach Art des Verstoßes gestaffelt ist. Für verbotene Praktiken liegt die Obergrenze bei 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Wo der AI Act Finanzdienstleister ausdrücklich nennt
Anhang III der Verordnung listet Einsatzbereiche, in denen KI-Systeme als Hochrisiko gelten. Unter Nummer 5 („Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste“) stehen zwei Fälle, die Finanzdienstleister direkt betreffen:
- Kreditwürdigkeit (Anhang III Nr. 5 Buchst. b): KI-Systeme, die die Kreditwürdigkeit natürlicher Personen bewerten oder ihre Kreditpunktzahl ermitteln. Ausgenommen sind Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen.
- Lebens- und Krankenversicherung (Anhang III Nr. 5 Buchst. c): KI-Systeme für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen in der Lebens- und Krankenversicherung.
Dazu kommt ein Bereich, der jedes Unternehmen betrifft: KI im Personalwesen, etwa zur Vorauswahl von Bewerbungen oder zur Leistungsbewertung (Anhang III Nr. 4).
Wichtig sind zwei Details. Erstens geht es um natürliche Personen. Ein Scoring von Firmenkunden oder ein B2B-Lead-Scoring fällt nicht unter diese Nummern. Zweitens gibt es zwar eine Ausnahme für KI, die nur vorbereitende oder eng begrenzte Aufgaben übernimmt. Sie greift aber nicht, wenn das System Profiling natürlicher Personen betreibt. Ein Kreditscoring für Verbraucher ist deshalb in aller Regel Hochrisiko, auch wenn am Ende ein Mensch entscheidet.
Wer solche Systeme einsetzt, hat zusätzliche Pflichten:
- Grundrechte-Folgenabschätzung (Art. 27): Betreiber von Systemen nach Nr. 5 b und c müssen vor dem Einsatz bewerten, wie sich das System auf die Rechte der betroffenen Personen auswirkt.
- Recht auf Erklärung (Art. 86): Wer von einer Entscheidung betroffen ist, die auf einem Hochrisiko-System beruht, kann eine Erklärung verlangen, welche Rolle die KI dabei gespielt hat.
Für Kreditinstitute und andere beaufsichtigte Finanzunternehmen sieht die Verordnung außerdem vor, dass einzelne Pflichten über die bestehenden Governance-Anforderungen des Finanzaufsichtsrechts erfüllt werden können. Zuständige Marktüberwachungsbehörde ist in Deutschland für diese Unternehmen die BaFin, soweit es um KI im direkten Zusammenhang mit der regulierten Tätigkeit geht.
Wer ist wofür verantwortlich: Salesforce oder Sie?
Der AI Act unterscheidet vor allem zwei Rollen. Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen auf den Markt oder nehmen es in Betrieb. Betreiber setzen ein KI-System in eigener Verantwortung beruflich ein.
Bei Standardfunktionen ist die Aufteilung klar. Salesforce ist Anbieter von Agentforce und den eingebauten KI-Funktionen. Die Hersteller der zugrunde liegenden Sprachmodelle sind Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Ihr Unternehmen ist Betreiber.
Als Betreiber eines Hochrisiko-Systems müssen Sie unter anderem:
- das System gemäß der Gebrauchsanweisung des Anbieters einsetzen,
- die menschliche Aufsicht Personen übertragen, die dafür befähigt sind und die nötigen Befugnisse haben,
- dafür sorgen, dass die Eingabedaten, die Sie kontrollieren, für den Zweck relevant und repräsentativ sind,
- den Betrieb überwachen und Risiken oder schwerwiegende Vorfälle melden,
- die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren,
- betroffene Personen informieren, wenn ein Hochrisiko-System Entscheidungen über sie trifft oder dabei unterstützt.
Wann Sie selbst zum Anbieter werden
Heikel wird es, wenn Sie Salesforce-Werkzeuge für einen Zweck einsetzen, den der Anbieter nicht vorgesehen hat. Prompt Builder, Flows mit KI-Aktionen, eigene Agenten oder über Model Builder eingebundene Modelle sind allgemeine Werkzeuge. Nutzen Sie diese, um etwa die Kreditwürdigkeit von Verbrauchern zu bewerten, entsteht ein Hochrisiko-System, das es so bei Salesforce nicht gibt. Nach Art. 25 übernehmen Sie in solchen Fällen die Pflichten eines Anbieters: Risikomanagement, technische Dokumentation, Datenqualität, Protokollierung, Konformitätsbewertung und Registrierung.
Daraus folgt: Nicht das Produkt entscheidet über die Risikoklasse, sondern der Zweck, für den Sie es einsetzen.
Was Salesforce beisteuert
Salesforce stellt mit dem Einstein Trust Layer Funktionen bereit, die bei der Umsetzung helfen, etwa die Maskierung sensibler Daten in Prompts, Vereinbarungen mit den Modellanbietern, dass Daten nicht gespeichert oder für Training genutzt werden, sowie Protokolle über Prompts und Antworten. Diese Funktionen nehmen Ihnen die Pflichten als Betreiber nicht ab, liefern aber wichtige Bausteine für Dokumentation und Nachvollziehbarkeit.
Typische Salesforce-Anwendungsfälle und ihre Einordnung
Die folgende Übersicht zeigt, wie typische KI-Anwendungen in einer Salesforce-Org von Finanzdienstleistern in der Regel einzuordnen sind. Sie ersetzt keine Prüfung im Einzelfall, denn entscheidend ist immer der konkrete Zweck.
| Anwendungsfall in Salesforce | Typische Einordnung | Was gilt |
|---|---|---|
| Zusammenfassung von Kundengesprächen, E-Mail-Entwürfe für Berater | Kein Hochrisiko | KI-Kompetenz der Nutzer, interne Regeln zur Prüfung der Ergebnisse |
| Service-Agent oder Chatbot im Kundenportal | Kein Hochrisiko, aber Transparenzpflicht | Kunden müssen erkennen, dass sie mit einer KI sprechen (Art. 50) |
| Interne Wissenssuche, Assistent für Mitarbeitende | Kein Hochrisiko | KI-Kompetenz, Regeln für den Umgang mit Ergebnissen |
| Lead- oder Opportunity-Scoring im B2B-Vertrieb | Kein Hochrisiko | Keine Bewertung natürlicher Personen im Sinne von Anhang III |
| Dokumentenprüfung im Onboarding, Plausibilitätschecks, KYC-Vorbereitung | Meist kein Hochrisiko, Zweck genau prüfen | Wird daraus eine Bewertung der Kreditwürdigkeit, ändert sich die Einordnung |
| Betrugserkennung | Ausdrücklich ausgenommen von Anhang III Nr. 5 b | Allgemeine Pflichten, DSGVO |
| Kreditwürdigkeitsprüfung oder Scoring von Privatkunden, auch als Vorschlag für den Sachbearbeiter | Hochrisiko (Anhang III Nr. 5 b) | Volle Pflichten ab 2. Dezember 2027, ggf. Anbieterpflichten nach Art. 25 |
| Risikobewertung oder Tarifierung in der Lebens- und Krankenversicherung | Hochrisiko (Anhang III Nr. 5 c) | Volle Pflichten ab 2. Dezember 2027, Grundrechte-Folgenabschätzung |
| Vorauswahl von Bewerbungen im Recruiting | Hochrisiko (Anhang III Nr. 4) | Volle Pflichten ab 2. Dezember 2027 |
In der Praxis liegt die Grenze selten in der Technik und oft im Prozess. Ein Agent, der Unterlagen zusammenfasst, ist unkritisch. Derselbe Agent, der daraus eine Empfehlung „Kredit gewähren“ oder „ablehnen“ für einen Privatkunden ableitet, fällt in die Hochrisiko-Kategorie.
Was Finanzdienstleister jetzt tun sollten
Die Hochrisiko-Pflichten gelten zwar erst ab Dezember 2027. Ein Hochrisiko-System nachträglich mit Dokumentation, Datenqualität und menschlicher Aufsicht auszustatten, dauert aber deutlich länger, als es von Anfang an mitzudenken. Diese Schritte lohnen sich schon jetzt:
- KI-Inventar anlegen. Welche KI-Funktionen sind in Ihrer Salesforce-Org aktiv? Dazu gehören Agentforce-Agenten, Prompt-Templates, Flows mit KI-Aktionen, eingebundene externe Modelle und KI-Funktionen in AppExchange-Paketen.
- Zweck je Anwendung dokumentieren. Für jede Anwendung festhalten, wofür sie eingesetzt wird, wer die Ergebnisse nutzt und ob sie Entscheidungen über natürliche Personen beeinflusst.
- Risikoklasse bestimmen. Anhand von Anhang III prüfen, ob eine Anwendung Hochrisiko ist, und die Begründung festhalten, auch für die Fälle, die es nicht sind.
- Transparenz umsetzen. Chatbots und Agenten im Kundenkontakt müssen sich als KI zu erkennen geben. Das ist seit August 2026 Pflicht.
- KI-Kompetenz fördern. Schulungen und klare Nutzungsregeln für alle, die mit KI-Funktionen arbeiten, und die Maßnahmen dokumentieren.
- Menschliche Aufsicht im Prozess verankern. Wo KI Empfehlungen gibt, muss im Prozess klar sein, wer prüft, wer übersteuern darf und wie das dokumentiert wird. In Salesforce lässt sich das über Freigabeprozesse, Pflichtfelder und Feldhistorie abbilden.
- Protokolle sichern. Prompts, Antworten und Entscheidungen nachvollziehbar speichern, für Hochrisiko-Systeme mindestens sechs Monate.
- Eigene Entwicklungen kritisch prüfen. Bei jeder neuen KI-Anwendung vor dem Start klären, ob sie Sie in die Rolle des Anbieters bringt.
Zusammenspiel mit DORA, DSGVO und Finanzaufsicht
Der AI Act steht nicht allein. Für Finanzdienstleister greifen beim Einsatz von KI in Salesforce mehrere Regelwerke gleichzeitig:
- DORA: KI-Dienste sind IKT-Dienstleistungen. Agentforce, externe Sprachmodelle und KI-Funktionen in AppExchange-Paketen gehören ins Informationsregister, in die Risikobewertung und in die Verträge. Mehr dazu in unserem Artikel DORA und Salesforce.
- DSGVO: Für Entscheidungen, die ausschließlich automatisiert getroffen werden und Personen erheblich beeinträchtigen, gilt Art. 22 DSGVO. Dazu kommen Informationspflichten, Datenminimierung und gegebenenfalls eine Datenschutz-Folgenabschätzung.
- Finanzaufsicht: Anforderungen an Governance, Risikomanagement und Auslagerung gelten auch für KI. Die BaFin ist in Deutschland für beaufsichtigte Finanzunternehmen zugleich die zuständige Behörde für den AI Act, soweit es um KI im direkten Zusammenhang mit der regulierten Tätigkeit geht.
Für die Salesforce-Org heißt das: Ein KI-Inventar, ein sauberes Berechtigungskonzept und nachvollziehbare Protokolle zahlen auf alle drei Regelwerke ein. Es lohnt sich, sie gemeinsam zu denken statt in drei getrennten Projekten.
Schweiz: Der AI Act gilt grundsätzlich nur in der EU. Schweizer Unternehmen sind aber erfasst, wenn sie KI-Systeme in der EU anbieten oder wenn die Ergebnisse ihrer KI in der EU verwendet werden.
Wie Ailo-IT Sie unterstützt
Wir sind Salesforce-Partner mit Fokus auf Financial Services in der DACH-Region und setzen KI in Salesforce-Orgs von Finanzdienstleistern ein. Die rechtliche Einordnung bleibt bei Ihrer Compliance-Funktion oder Ihrer Rechtsberatung. Wir sorgen dafür, dass die Grundlagen dafür in der Org vorhanden sind und dass neue KI-Anwendungen so aufgesetzt werden, dass sie sich prüfen lassen.
KI-Inventar und Einordnung. Wir erfassen, welche KI-Funktionen in Ihrer Org aktiv sind, wofür sie genutzt werden und welche Daten sie verarbeiten. Das Ergebnis ist eine Übersicht, mit der Ihre Compliance die Risikoklassen bewerten kann.
KI-Anwendungen mit klarem Zuschnitt. Ob Agentforce, Prompt Builder oder externe Modelle: Wir definieren den Zweck einer Anwendung vor dem Start, legen menschliche Freigaben im Prozess fest und sorgen für Protokolle, die sich später auswerten lassen. Beispiele finden Sie bei unseren KI-Lösungen.
Berechtigungen und Nachvollziehbarkeit. Mit einem Berechtigungs- und Compliance-Konzept regeln wir, welche Nutzer und Agenten auf welche Daten zugreifen dürfen.
KI-Kompetenz im Team. Im KI-Sparring arbeiten wir mit Ihren Mitarbeitenden an konkreten Anwendungsfällen aus ihrem Alltag, nicht an abstrakten Schulungsfolien.
Für eine Finanzierungsplattform heißt das zum Beispiel: Ein Agent bereitet Unterlagen und Unternehmensdaten für die Bearbeitung vor, die Bewertung bleibt beim Menschen, und im Datensatz ist nachvollziehbar, was die KI geliefert und wer entschieden hat.
Nächster Schritt: Im Salesforce-Wachstumscheck schauen wir in 30 Minuten gemeinsam auf Ihre Org und klären, welche KI-Anwendungen bei Ihnen sinnvoll sind und wo Sie mit Blick auf den AI Act genauer hinschauen sollten.
Häufige Fragen zum EU AI Act und Salesforce
Nicht als solches. Ob ein KI-System Hochrisiko ist, hängt vom Zweck ab, für den Sie es einsetzen. Ein Agent für Gesprächszusammenfassungen ist es nicht. Ein Agent, der die Kreditwürdigkeit von Privatkunden bewertet, ist es.
Nach dem Digital Omnibus ab dem 2. Dezember 2027. Ursprünglich war der 2. August 2026 vorgesehen.
Die Hochrisiko-Kategorie in Anhang III Nr. 5 b betrifft die Kreditwürdigkeit natürlicher Personen. Ein Scoring von Unternehmen oder ein B2B-Lead-Scoring fällt nicht darunter. Bei Einzelunternehmern und Freiberuflern sollten Sie genauer hinschauen.
Ja. Seit dem 2. August 2026 müssen Personen erkennen können, dass sie mit einem KI-System interagieren, sofern das nicht ohnehin offensichtlich ist.
Für beaufsichtigte Finanzunternehmen ist die BaFin zuständig, soweit KI im direkten Zusammenhang mit der regulierten Tätigkeit eingesetzt wird. Im Übrigen ist die Bundesnetzagentur zuständig.
Ja. Der Digital Omnibus hat den Wortlaut entschärft: Unternehmen müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, aber kein bestimmtes Niveau garantieren.
KI-Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen, sind von der Kategorie Kreditwürdigkeit ausdrücklich ausgenommen.