Mit dem Gesetzentwurf zum EU AI Act setzt die Europäische Union neue Maßstäbe für den verantwortungsvollen Umgang mit künstlicher Intelligenz (KI). Ziel ist es, die Risiken zu minimieren und gleichzeitig den Nutzen von KI-Technologien für die Gesellschaft zu maximieren. Der EU AI Act führt eine Klassifizierung von KI-Modellen in vier Risikokategorien ein, um ihren Einsatz sicher und verantwortungsvoll zu gestalten:
- Unakzeptables Risiko (Unacceptable risk): Anwendungen, die grundlegende Werte oder Menschenrechte verletzen, wie Social Scoring und kognitive Verhaltensmanipulation, werden verboten.
- Hohes Risiko (High risk): KI-Modelle, die Sicherheit oder Grundrechte beeinträchtigen könnten, müssen strengen Regulierungen und Überwachungen unterliegen. Sie werden weiter in zwei Subkategorien unterteilt: Produkte unter EU-Produktsicherheitsvorschriften und KI-Systeme in spezifischen Anwendungsbereichen.
- Generative KI: Modelle wie ChatGPT müssen Transparenzanforderungen erfüllen, einschließlich der Offenlegung, dass Inhalte von einer KI generiert wurden, sowie der Veröffentlichung einer Zusammenfassung der für das Training verwendeten Daten.
- Begrenztes Risiko (Limited risk): Diese Kategorie umfasst Anwendungen mit geringen oder keinen Risiken. Sie müssen minimale Transparenzanforderungen erfüllen, wie die Offenlegung der KI-Interaktion gegenüber dem Nutzer.
Der EU AI Act stellt sicher, dass KI-Modelle, insbesondere solche mit hohem Risiko, verantwortungsbewusst eingesetzt werden und den Schutz der Verbraucher und Bürger gewährleisten. Unternehmen, die KI-Modelle entwickeln oder einsetzen, müssen sich frühzeitig mit den Anforderungen auseinandersetzen, um Compliance sicherzustellen.
Phnx Alpha unterstützt Unternehmen dabei, ihre KI-Modelle im Einklang mit dem EU AI Act zu betreiben und zu überwachen. Mit unserem AI Guard zur Qualitätsüberwachung und transparenten Entscheidungsfindung von KI-Modellen sowie unserer Expertise im Bereich transparenter und zuverlässiger KI helfen wir Ihnen, Ihre Modelle effektiv in Geschäftsprozesse zu integrieren.
Unsicher, wo Sie stehen?
Vereinbaren Sie einen kostenlosen Anruf, um Ihren aktuellen Stand der KI-Governance zu bewerten.
Get a free assessment
