Der EU AI Act in Kürze:
Der EU AI Act (KI-Gesetz) ist ein Rechtsrahmen, der darauf abzielt, die Entwicklung, das Inverkehrbringen und die Nutzung von KI-Systemen in der Europäischen Union zu regulieren. Ziel ist es, die Chancen der KI zu nutzen und gleichzeitig Risiken zu minimieren, die Sicherheit und Grundrechte der EU-Bürger zu schützen und Innovationen zu fördern.
Zentrale Punkte des AI Act:
Risikobasierter Ansatz: KI-Systeme werden nach ihrem potenziellen Risiko für die Gesellschaft in verschiedene Kategorien eingeteilt:
- Inakzeptables Risiko: KI-Systeme, die als besonders gefährlich gelten (z.B. Echtzeit-biometrische Identifizierung im öffentlichen Raum), werden verboten.
- Hohes Risiko: KI-Systeme in sensiblen Bereichen wie Gesundheitswesen, Verkehr oder Justiz unterliegen strengen Anforderungen (z.B. Qualitätsstandards, Transparenz).
- Begrenztes Risiko: Für KI-Systeme mit geringerem Risiko (z.B. Chatbots) gelten weniger strenge Anforderungen, wie z.B. Transparenzpflichten.
- Minimales oder kein Risiko: Die meisten KI-Anwendungen, wie z.B. Spam-Filter, fallen in diese Kategorie und sind kaum reguliert.
Verbotene KI-Praktiken: Einige KI-Anwendungen, die als unannehmbar riskant gelten, werden vollständig verboten. Dazu gehören:
- KI-Systeme, die menschliches Verhalten manipulieren und Schaden anrichten.
- Social Scoring durch Regierungen.
- Biometrische Fernidentifizierung in Echtzeit in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden (mit begrenzten Ausnahmen).
Hochrisiko-KI-Systeme: KI-Systeme, die als "hochriskant" eingestuft werden (z. B. in kritischer Infrastruktur, Bildung, Beschäftigung, Finanzwesen, Strafverfolgung und Grenzkontrolle), unterliegen strengen Anforderungen:
- Risikobewertung und -minderung.
- Hohe Datenqualität.
- Transparenz und Rückverfolgbarkeit.
- Menschliche Aufsicht.
- Genauigkeit, Robustheit und Cybersicherheit.
- KI-Systeme mit beschränktem Risiko: Für bestimmte KI-Systeme mit begrenztem Risiko (z. B. Chatbots) gelten Transparenzverpflichtungen. Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren.
KI-Systeme mit minimalem Risiko: Die meisten KI-Systeme fallen in diese Kategorie und unterliegen keinen zusätzlichen Anforderungen.
- Anforderungen an KI-Systeme:
- Qualitätsstandards: Hochrisiko-KI-Systeme müssen hohe Qualitäts- und Sicherheitsstandards erfüllen.
- Transparenz: Bei bestimmten KI-Anwendungen muss offengelegt werden, dass es sich um KI handelt und wie sie funktioniert.
- Menschliche Aufsicht: Bei wichtigen Entscheidungen, die von KI-Systemen getroffen werden, muss eine menschliche Aufsicht gewährleistet sein.
- Diskriminierungsverbot: KI-Systeme dürfen nicht diskriminierend sein.
Zuständigkeiten:
Europäische Kommission: Sie ist für die Durchsetzung des AI Act zuständig und kann Sanktionen verhängen.
Nationale Behörden: Sie überwachen die Einhaltung des AI Act in den einzelnen Mitgliedstaaten.
Weitere Informationen:
Vollständiger Text des AI Act: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai1
Zusammenfassung des AI Act: https://artificialintelligenceact.eu/high-level-summary/
Wir unterstützen Sie bei der Anschaffung und Integration von KI-Systemen in allen Belangen des Datenschutzrechts. Wir beraten Sie bei der Wahl ihrer Vertragspartner und Vertragsgestaltung und führen Risikoanalysen nach DSGVO und EU AI Act durch.
