einfach erklärt
WAS BEDEUTET EIGENTLICH ...
...EU AI Act?
Der EU AI Act ist der erste umfassende gesetzliche Rahmen zur Regulierung künstlicher Intelligenz weltweit. Mit der Verordnung schafft die Europäische Union verbindliche Vorgaben für die Entwicklung, den Vertrieb und den Einsatz von KI-Systemen. Innovationen sollen weiterhin ermöglicht werden, während gleichzeitig Sicherheit, Transparenz und die Grundrechte der europäischen Bevölkerung geschützt werden.
Die Regelungen treten schrittweise in Kraft. Seit dem 2. Februar 2025 gelten unter anderem Verbote bestimmter KI-Praktiken sowie Anforderungen an die KI-Kompetenz von Beschäftigten. Seit dem 2. August 2026 greifen zudem weitere Transparenzpflichten.
Zielsetzung des EU AI Act
Der EU AI Act verfolgt einen risikobasierten Ansatz: Je höher das mögliche Risiko eines KI-Systems für Menschen, Sicherheit oder Grundrechte ist, desto strenger sind die Anforderungen an Anbieter, Betreiber und einsetzende Unternehmen.
Dabei werden vier Risikostufen unterschieden:
- Minimales Risiko
Viele alltägliche Anwendungen wie Spamfilter, KI-gestützte Computerspiele oder einfache Empfehlungssysteme fallen in diese Kategorie. Für sie gelten in der Regel keine oder nur geringe zusätzliche Verpflichtungen. - Begrenztes Risiko
Bei diesen Systemen stehen Transparenzpflichten im Vordergrund. Nutzer müssen beispielsweise erkennen können, wenn sie mit einem Chatbot kommunizieren. Auch realistisch wirkende, künstlich erzeugte oder veränderte Inhalte können kennzeichnungspflichtig sein. - Hochrisiko-KI-Systeme
Hierzu gehören bestimmte Anwendungen in kritischen Infrastrukturen, im Personalwesen, im Bildungsbereich, im Gesundheitswesen oder bei sicherheitsrelevanten Produkten. Sie unterliegen umfangreichen Anforderungen, etwa an Risikomanagement, Datenqualität, Dokumentation, Protokollierung und menschliche Aufsicht. - Unzulässiges Risiko
Bestimmte Anwendungen sind vollständig verboten. Dazu zählen beispielsweise Social-Scoring-Systeme, manipulative KI-Praktiken und bestimmte Formen biometrischer Überwachung.
Auswirkungen auf Unternehmen
Der EU AI Act betrifft nicht nur Entwickler von KI-Lösungen. Auch Unternehmen, die Systeme wie Microsoft Copilot, Chatbots, Bewerbermanagement-Software oder KI-gestützte Analysewerkzeuge einsetzen, können als Betreiber regulatorische Pflichten übernehmen.
Unternehmen sollten deshalb dokumentieren, welche KI-Anwendungen genutzt werden, für welchen Zweck sie eingesetzt werden und welche Daten dabei verarbeitet werden. Ebenso wichtig sind interne Richtlinien, klar geregelte Verantwortlichkeiten und angemessene Schulungen der Beschäftigten. Verstöße können – abhängig von Art und Schwere – mit erheblichen Bußgeldern geahndet werden.