Der EU AI Act schafft einen umfassenden Regulierungsrahmen für KI-Modelle, wobei ein besonderes Augenmerk auf die Kategorie der “High Risk”-KI-Systeme gelegt wird. Diese Systeme sind aufgrund ihrer potenziellen Auswirkungen auf die Sicherheit oder Grundrechte besonders strengen Anforderungen unterworfen. Um ein besseres Verständnis zu gewährleisten, werfen wir einen genaueren Blick auf die zwei Unterklassen von “High Risk”-KI-Systemen, wie sie im EU AI Act definiert sind:
- KI-Systeme in Produkten: Diese Unterklasse umfasst KI-Systeme, die in Produkten integriert sind, welche den Produktsicherheitsvorschriften der EU unterliegen. Dies betrifft eine breite Palette von Produkten, darunter Spielzeuge, Autos, Luftfahrtprodukte, medizinische Geräte und Aufzüge. Die Integration von KI in solche Produkte erfordert eine sorgfältige Überprüfung, um sicherzustellen, dass sie den hohen Sicherheitsstandards der EU entsprechen.
- KI-Systeme in spezifisch definierten Bereichen: Der EU AI Act legt acht Bereiche fest, in denen “High Risk”-KI-Systeme einer regulierten Anwendung unterliegen. Dazu gehören biometrische Identifizierung und Kategorisierung von Personen, Verwaltung von kritischen Infrastrukturen, Bildung, Beschäftigung, Zugang zu wesentlichen Dienstleistungen, Rechtsdurchsetzung, Verwaltung von Migration und Grenzkontrollen sowie die Unterstützung bei der Auslegung und Anwendung von Gesetzen. In diesen sensiblen Bereichen ist eine strikte Regulierung erforderlich, um die Rechte und Sicherheit der Bürger zu schützen.
Die Einstufung als “High Risk” impliziert, dass KI-Systeme bestimmte Anforderungen erfüllen müssen, darunter die Sicherstellung hoher Datenqualität, die Protokollierung aller Aktivitäten, eine ausführliche Dokumentation des Systems, klare Informationen für die Benutzer und angemessene menschliche Aufsicht. Diese Maßnahmen sollen die Transparenz, Sicherheit und Genauigkeit der KI-Systeme gewährleisten.
Phnx Alpha bietet Lösungen, die Unternehmen dabei unterstützen, ihre KI-Systeme konform zum EU AI Act zu betreiben. Mit unserem AI Guard zur Qualitätsüberwachung und transparenten Nachvollziehbarkeit der Entscheidungsfindung von KI-Modellen können Unternehmen die Einhaltung der strengen Regulierungen sicherstellen. Unsere Experten im Bereich transparenter und zuverlässiger KI stehen bereit, um Sie bei der Implementierung und Überwachung Ihrer KI-Modelle zu unterstützen.
Unsicher, wo Sie stehen?
Vereinbaren Sie einen kostenlosen Anruf, um Ihren aktuellen Stand der KI-Governance zu bewerten.
Get a free assessment
