SAP Certified Partner
Kontakt

SAP & EU AI Act: Zwischen Innovations-Turbo und Gesetzes-Leitplanken

Startseite
SAP & EU AI Act: Risiken & Pflichten

Künstliche Intelligenz ist in der SAP-Welt durch Joule und intelligente Cloud-Lösungen das neue Normal. Doch seit der EU AI Act am 1. August 2024 in Kraft getreten ist, gelten neue Spielregeln. Die Bundesregierung betont dabei die Balance zwischen dem Schutz unserer Grundrechte und der Förderung von Innovationen „made in Europe“.

Für Unternehmen, die SAP nutzen oder implementieren, bedeutet das: Sie müssen wissen, in welche Risikoklasse die Anwendungen fallen, um rechtssicher zu agieren.

Der EU AI Act verpflichtet SAP-Nutzer, ihre KI-Anwendungen nach Risiken zu bewerten und besonders im Personalwesen strenge Transparenzregeln einzuhalten. Seit Februar 2025 müssen Unternehmen zudem nachweisen, dass ihre Mitarbeiter kompetent mit KI umgehen (AI Literacy). Wer diese Regeln ignoriert, riskiert Bußgelder von bis zu 35 Millionen Euro.

Unsere SAP-Lösungen

Die smarte S/4 Transformation mit UBOTT
Starten Sie Ihre S/4 Transformation mit UBOTT & UNIORG – für eine reibungslose SAP Business One, SAP ECC und S/4 Ablösung und Transformation in die SAP S/4HANA Cloud Public Edition.
SAP S/4HANA Cloud
Mit der skalierbaren Cloud-Lösung dem digitalen Wandel mit Agilität und Flexibilität begegnen.

Was ist der EU AI Act und warum betrifft er SAP-Anwender?

Die EU-Mitgliedstaaten haben das weltweit erste Gesetz verabschiedet, das Künstliche Intelligenz umfassend reguliert. Das Ziel: Wir sollen KI-Systeme so nutzen, dass sie sicher sind und unsere Grundrechte wahren. Da SAP-Systeme oft das Herzstück kritischer Unternehmensprozesse bilden – von der Finanzplanung bis zum Personalmanagement –, greifen diese Regeln hier besonders tief.

In welche Risikoklassen teilt die EU Ihre KI-Systeme ein?

Das Gefühl teilen viele. SAP geht hier sehr konsequent vor: Wer Innovation will, muss in die Cloud. Aber SAP steht damit nicht allein – Microsoft, Salesforce, Oracle, alle fahren Cloud-first. Die Frage ist nicht mehr, ob Unternehmen sich mit der Cloud befassen müssen, sondern wann und wie. Entscheidend ist, den Weg selbstbestimmt zu gestalten und nicht nur auf äußeren Druck zu reagieren.

Kritiker sagen, komplexe SAP-Landschaften lassen sich nicht so einfach in die Cloud heben. Sehen Sie das ähnlich?

Der Gesetzgeber bewertet KI-Anwendungen danach, wie stark sie Menschen gefährden könnten. Für Sie als SAP-Nutzer ist diese Einteilung entscheidend, da sie Ihre rechtlichen Pflichten bestimmt:

  • Inakzeptables Risiko: Diese Systeme beeinflussen das menschliche Verhalten manipulativ oder vergeben Punkte für soziales Wohlverhalten (Social Scoring). Sie sind in der EU grundsätzlich verboten.

  • Hohes Risiko: Hierunter fallen Anwendungen, die über Karrieren oder Kredite entscheiden. Nutzen Sie SAP für die Bewerberauswahl oder zur Leistungsbewertung, unterliegen Sie strengen Auflagen.

  • Begrenztes Risiko: Das betrifft klassische Chatbots wie SAP Joule. Hier müssen Sie lediglich sicherstellen, dass Nutzer erkennen: „Ich spreche gerade mit einer Maschine“.

  • Minimales Risiko: Hierzu zählen einfache Spam-Filter oder KI-gestützte Suchen in S/4HANA. Für diese Anwendungen gibt es kaum gesetzliche Hürden.

Cloud-Migration wird oft nur als rein technisches Projekt gesehen

Die Transformation in die Cloud ist allerdings weit mehr als ein technischer Systemwechsel. Sie betrifft Prozesse, Rollen, Betriebsmodelle und letztlich auch die Unternehmenskultur. Unternehmen müssen sich fragen: Wie standardisiert wollen wir arbeiten? Wie schnell wollen wir Innovationen nutzen? Und wie verändern sich Governance und Verantwortung in einem Cloud-Betrieb? Wer diese Fragen früh klärt, tut sich bei der Migration deutlich leichter.

Erfahren Sie mehr

Welche SAP-Lösungen und Branchen stehen im Fokus des EU AI Acts?

Der EU AI Act trifft SAP-Anwender in der Produktion, Logistik und im Finanzmanagement besonders direkt. Hochrisiko-Einstufungen drohen überall dort, wo Predictive Analytics über Kredite entscheiden oder BTP-basierte KI-Module sicherheitskritische Prozesse in der Fertigung steuern. Unternehmen müssen in diesen Fällen für maximale Datenqualität sorgen und lückenlose Transparenz gegenüber Behörden garantieren.

Wo Predictive Analytics und Finanzmanagement zum Risiko werden

In Branchen wie dem Großhandel oder bei Konzernen sind automatisierte Entscheidungen Alltag. Doch die KI-Verordnung zieht hier klare Grenzen für Ihre SAP-Anwendungen:

  • Finanzmanagement & Predictive Analytics: Wenn Sie Algorithmen nutzen, um die Kreditwürdigkeit von Kunden zu prüfen, stuft die EU dies als Hochrisiko ein. Sie müssen hier sicherstellen, dass Ihre Modelle keine diskriminierenden Entscheidungsmuster aus historischen Daten übernehmen.
  • Logistik & Vertrieb: KI-Systeme, die Lieferketten für die kritische Infrastruktur (z. B. Energie oder Lebensmittel) verwalten, unterliegen strengen Sicherheitsauflagen. Hier müssen Sie technische Dokumentationen führen, die den autonomen Betrieb Ihrer Systeme in Logistik und Vertrieb nachvollziehbar machen.
  • Produktion & Fertigung: KI-Komponenten, die in Maschinen oder Sicherheitsbauteilen stecken, müssen ein hohes Maß an Robustheit und Cybersicherheit aufweisen. Ein menschlicher Aufseher muss diese Prozesse jederzeit stoppen oder korrigieren können.

CRM und Customer Experience: Kennzeichnung ist Pflicht

Commerce begegnen uns oft Chatbots oder personalisierte Empfehlungen.

  • Transparenzgebot: Nutzer müssen jederzeit wissen, dass sie mit einer KI interagieren. Dies gilt besonders für virtuelle Assistenten oder automatisierte Support-Ticketsysteme.
  • Kennzeichnung von Inhalten: Erzeugt Ihre KI Texte oder Bilder für das Marketing, müssen Sie diese eindeutig als „KI-generiert“ markieren.

 

Tipp für SAP-Nutzer: Prüfen Sie bei der Nutzung von SAP BTP oder spezifischen UNIORG-Add-Ons genau, welche KI-Funktionen aktiv sind. Während ein einfacher Spam-Filter kaum reguliert ist, erfordern intelligente Forecast-Tools oft eine detaillierte Risikobewertung.

Die wichtigsten SAP-Bereiche im Überblick

SAP-Anwendung

Risikoklasse (Beispiel)

Hauptpflicht

Finanzmanagement (Kreditprüfung)

Hochrisiko

Datenqualität & Bias-Prüfung

CRM / Joule (Chatbots)

Begrenzt

Kennzeichnungspflicht

Predictive Analytics (Wartung/Safety)

Hochrisiko

Menschliche Aufsicht

SAP ERP (Standard-Suche)

Minimal

Keine besonderen Auflagen

AI Literacy: Warum Ihr Team seit Februar 2025 einen „KI-Führerschein“ braucht

Wussten Sie, dass Sie gesetzlich verpflichtet sind, Ihre Mitarbeiter im Umgang mit KI zu schulen? Seit dem 2. Februar 2025 schreibt der EU AI Act die sogenannte AI Literacy (KI-Kompetenz) zwingend vor. Das Ziel: Jeder, der im Unternehmen mit KI-Systemen arbeitet, muss deren Funktionsweise, Grenzen und Risiken verstehen.

Was bedeutet das konkret für Ihre SAP-Anwender?

Es reicht nicht mehr aus, neue Funktionen wie SAP Joule oder intelligente Add-ons einfach nur freizuschalten. Sie müssen sicherstellen, dass Ihre Fachabteilungen die Ergebnisse der KI kritisch hinterfragen können.

  • Schulen Sie Ihre Mitarbeiter: Vermitteln Sie praktisches Wissen über die Risiken und Chancen von KI im Arbeitsalltag.
  • Klären Sie Verantwortlichkeiten: Legen Sie fest, wer welche KI-Tools nutzen darf und wer die Ergebnisse final prüft.
  • Vermeiden Sie Bußgelder: Wer keine ausreichenden Schulungsnachweise vorlegt, riskiert empfindliche Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes.

Ihr 3-Schritte-Plan: So machen Sie Ihre SAP-Landschaft fit für August 2026

Schritt 1: Inventur und Risiko-Check

Identifizieren Sie zunächst alle aktiven KI-Systeme in Ihrem Unternehmen – sowohl die SAP-Standardfunktionen als auch zugekaufte Drittanbieter-Lösungen. Dokumentieren Sie genau, wo Sie diese einsetzen (z. B. im Finanzmanagement oder Predictive Analytics) und ordnen Sie diese einer Risikoklasse zu.

Schritt 2: Governance und Verantwortlichkeiten festlegen

Bestimmen Sie klare KI-Verantwortliche oder ein Projektteam, das die Einhaltung der Regeln überwacht. Definieren Sie interne Prozesse: Wer prüft die Datenqualität? Wer dokumentiert die Entscheidungen der KI? Schaffen Sie hierbei enge Schnittstellen zu Ihren Datenschutz- und Compliance-Abteilungen.

Schritt 3: Lieferanten und Transparenz prüfen

Checken Sie Ihre Verträge mit KI-Anbietern auf Haftung und Compliance. Stellen Sie sicher, dass Ihre Partner den EU AI Act bereits vollumfänglich umsetzen.

Fazit: Verantwortung als echter Wettbewerbsvorteil

Der EU AI Act ist kein Innovationskiller, sondern ein echtes Gütesiegel für europäische Unternehmen. Wenn Sie Ihre SAP-Prozesse jetzt transparent und sicher gestalten, gewinnen Sie das wichtigste Gut der digitalen Ära: das Vertrauen Ihrer Kunden und Mitarbeiter. Handeln Sie jetzt, bevor die Übergangsfristen im August 2027 endgültig ablaufen.

Kontaktieren Sie uns jetzt über und lassen Sie uns gemeinsam Ihre SAP-Landschaft AI-Act-konform aufstellen.