Der EU AI Act ist ein wegweisender Schritt in Richtung einer regulierten KI-Zukunft und klassifiziert KI-Modelle basierend auf ihrem Risikopotenzial in verschiedene Kategorien. Ein besonderes Augenmerk liegt dabei auf den sogenannten “High Risk”-Modellen, die aufgrund ihrer potenziellen Auswirkungen auf die Gesellschaft strengen Anforderungen unterliegen.
Diese “High Risk”-Modelle werden in zwei Unterklassen unterteilt:
- KI-Systeme in Produkten, die EU-Produktsicherheitsvorschriften unterliegen: Dazu gehören beispielsweise Spielzeuge, Autos, Luftfahrtprodukte, medizinische Geräte und Aufzüge. Diese Produkte müssen sicherstellen, dass die eingebetteten KI-Systeme den hohen Sicherheits- und Ethikstandards entsprechen.
- KI-Systeme in spezifischen Anwendungsbereichen: Dazu zählen biometrische Identifizierung, Verwaltung kritischer Infrastrukturen, Bildung, Beschäftigung, Zugang zu wesentlichen Dienstleistungen, Rechtsdurchsetzung, Verwaltung von Migration und Grenzkontrollen sowie die Unterstützung bei der Gesetzesauslegung. Diese Bereiche wurden aufgrund ihrer besonderen sozialen Bedeutung und des erhöhten Risikos für die Grundrechte der Bürger ausgewählt.
Um die Risiken zu minimieren und den Schutz der Verbraucher und Bürger zu gewährleisten, legt der EU AI Act spezifische Anforderungen fest:
- Hohe Qualität der Datensätze: Um Verzerrungen zu vermeiden, müssen die Daten, die zum Training von “High Risk”-KI-Systemen verwendet werden, repräsentativ, unvoreingenommen und hochwertig sein.
- Protokollierung der Aktivitäten: Alle Operationen der KI-Systeme müssen dokumentiert werden, um eine Rückverfolgbarkeit und Transparenz zu gewährleisten.
- Ausführliche Dokumentation: Jedes “High Risk”-KI-System muss eine detaillierte Dokumentation beinhalten, die Einblicke in die Trainingsdaten, Algorithmen und den Verwendungszweck des Systems gibt.
- Klare Informationen für den Benutzer: Nutzer müssen über die Funktionsweise und Entscheidungsfindung des KI-Systems aufgeklärt werden, um eine informierte Entscheidung über dessen Nutzung treffen zu können.
- Menschliche Aufsicht: Um Risiken zu minimieren, ist eine angemessene menschliche Kontrolle über die KI-Systeme erforderlich.
- Robustheit, Sicherheit und Genauigkeit: Die KI-Systeme müssen widerstandsfähig gegen Angriffe sein, die Privatsphäre der Nutzer schützen und präzise Ergebnisse liefern.
Phnx Alpha unterstützt Unternehmen dabei, die komplexen Anforderungen des EU AI Act zu navigieren. Mit unserer Expertise in der Validierung und Überwachung von KI-Modellen helfen wir Ihnen, Ihre KI-Systeme konform, sicher und effektiv zu gestalten.
Unsicher, wo Sie stehen?
Vereinbaren Sie einen kostenlosen Anruf, um Ihren aktuellen Stand der KI-Governance zu bewerten.
Get a free assessment
Für weitere Informationen über die Implementierung von “High Risk”-KI-Modellen und wie Phnx Alpha Ihr Unternehmen auf dem Weg zu einer zuverlässigen und transparenten KI unterstützen kann, kontaktieren Sie uns gerne.
