Qualitätsgesicherte und verlässliche KI im Bereich Kritischer Infrastrukturen
Hohe Anforderungen an die Sicherheit und Zuverlässigkeit von KI in KRITIS
Der Einsatz von KI im Bereich kritischer Infrastruktur bietet großes Potenzial hinsichtlich z.B. Zustandsüberwachung von Anlagen oder Stabilisierung von Netzen und Lastflüssen, birgt aber auch zusätzliche Herausforderungen. Es ist wichtig, diese Herausforderungen aktiv anzugehen, um die Vorteile von KI für die Sicherheit und Zuverlässigkeit der kritischen Infrastruktur zu nutzen ohne ein zusätzliches Risiko einzubringen.
Ein wichtiger Baustein ist dabei die verlässliche und transparente Überwachung der eingesetzten KI-Systeme, um abweichendes Verhalten zeitnah aufzudecken. Der AI Guard ermöglicht eine regelmäßige Überwachung laufender KI-Systeme und kann so deren verlässlichen Einsatz unterstützen.
KRITIS und Hochrisiko-KI-Systeme
Neben den Anforderungen aus bestehenden und bekannten Verordnungen nimmt eine zusätzliche Verordnung speziell für KI-Systeme Gestalt an: der AI EU Act. Nach Annahme der Regulierung in der EU (EU AI Act, 09.12.2023) mit voraussichtlichem Inkrafttreten 2024 steht neben den herkömmlichen Regularien eine Erweiterung in Bezug auf die Anwendung von KI-Systemen in z.B. großtechnische Anlagen zur Verfügung. Diese würden in die höchste Risikoklasse der in der EU erlaubten KI-Anwendungen fallen und entsprechend strengen Anforderungen unterliegen. Diese können entsprechend schon in der KI-Entwicklung durch passende Dokumentation und Prüfung berücksichtigt werden.
In der BSI-KRITIS-Verordnung bzw. gemäß EU-Richtlinie 2008/114/EG wird definiert, welche Einrichtungen, Anlagen oder Teile davon als Kritische Infrastruktur gelten. In diesen Bereichen eingesetzte KI-Systeme fallen unter die Kategorie der Hochrisiko-Systeme im Rahmen des AI Eu Act und müssen entsprechen hohen Anforderungen u.A. von einer initalen Bewertung bis hin zu einer Online-Überwachung genügen. Hier können sowohl der AI Guard als auch AI Comply helfen, den Anforderungen der neuen Regulierung gerecht zu werden und den Einsatz von KI in KRITIS unterstützen.
Sind Sie sich noch unsicher oder haben Fagen zum sicheren Einsatz von KI?
Vereinbaren Sie jetzt einen kostenlosen Termin mit uns.
Use Case
Energiegewinnung
Die Ausfallsicherheit ist bei Wasserkraftanlagen ist ein wichtiger Punkt, um die Energieerzeugung zu stabilisieren. An verschiedenen Komponenten der Anlage verbaute Sensoren erlauben die vielschichtige, datenbasierte Überwachung der gesamten Anlage. Systeme zur Anomalie-Detektion kommen zum Einsatz, um entstehende Probleme frühzeitig zu erkennen und so rechtzeitig vor Schäden zu warnen. Das eingesetzte KI-System wir fortlaufend überwacht und so die Leistungsfähigkeit über die Zeit sichergestellt.
Neben der Überwachung im laufenden Betrieb zählt auch die Nachvollziehbarkeit und Dokumentierbarkeit der durch das KI-System getroffenen Abschätzungen eine große Rolle. AI Insights unterstützt hier, um die Abschätzungen nachvollziehbarer zu machen und wichtige Einblicke zu ermöglichen.
Vor Inbetriebnahme können die gleichen Einblicke genutzt werden, um im Rahmen der entsprechenden Zertifizierung und für regelmäßig stattfindende Audits die notwendigen Inforationen zur Arbeitsweise der eingesetzten KI-Systeme zu liefern.
Energieversorgung
Auf der Stabilität eines Energienetzes liegt von je her ein Fokus im Bereich der Energieversorgung. Zusätzliche, energiehungrige Nutzer und zahlreiche (z.T. dezentrale), zusätzliche Energiequellen erschweren diese Aufgabe zunehmend und erfordern eine KI-basierte Auswertung zur Berechnung des Netzzustandes, um eine entsprechende Stabilität zu gewährleisten.
KI-basierte Systeme werden genutzt, um kurzfristige, zu starke Schwankungen in Echtzeit abzuschätzen und frühzeitig entsprechende Maßnahmen für die Netz-Stabilisierung einzuleiten. Über- oder unterschätzt das KI-System den aktuellen Netzzustand, kann es nicht nur seine Aufgabe nicht erfüllen, sondern kann selbst zur Quelle einer Instabilität werden. Um dies zu verhindern, kann der AI Guard eingesetzt werden, um die Einhaltung eine maximalen Fehlerrate zu überwachen. AI Insights ermöglicht dazu eine detaillierte Dokumentation und trägt so zur Transparenz des eingesetzten KI-Systems bei.
Use Cases
Energiegewinnung
Die Ausfallsicherheit ist bei Wasserkraftanlagen ist ein wichtiger Punkt, um die Energieerzeugung zu stabilisieren. An verschiedenen Komponenten der Anlage verbaute Sensoren erlauben die vielschichtige, datenbasierte Überwachung der gesamten Anlage. Systeme zur Anomalie-Detektion kommen zum Einsatz, um entstehende Probleme frühzeitig zu erkennen und so rechtzeitig vor Schäden zu warnen. Das eingesetzte KI-System wir fortlaufend überwacht und so die Leistungsfähigkeit über die Zeit sichergestellt.
Neben der Überwachung im laufenden Betrieb zählt auch die Nachvollziehbarkeit und Dokumentierbarkeit der durch das KI-System getroffenen Abschätzungen eine große Rolle. AI Insights unterstützt hier, um die Abschätzungen nachvollziehbarer zu machen und wichtige Einblicke zu ermöglichen.
Vor Inbetriebnahme können die gleichen Einblicke genutzt werden, um im Rahmen der entsprechenden Zertifizierung und für regelmäßig stattfindende Audits die notwendigen Inforationen zur Arbeitsweise der eingesetzten KI-Systeme zu liefern.
Energieversorgung
Auf der Stabilität eines Energienetzes liegt von je her ein Fokus im Bereich der Energieversorgung. Zusätzliche, energiehungrige Nutzer und zahlreiche (z.T. dezentrale), zusätzliche Energiequellen erschweren diese Aufgabe zunehmend und erfordern eine KI-basierte Auswertung zur Berechnung des Netzzustandes, um eine entsprechende Stabilität zu gewährleisten.
KI-basierte Systeme werden genutzt, um kurzfristige, zu starke Schwankungen in Echtzeit abzuschätzen und frühzeitig entsprechende Maßnahmen für die Netz-Stabilisierung einzuleiten. Über- oder unterschätzt das KI-System den aktuellen Netzzustand, kann es nicht nur seine Aufgabe nicht erfüllen, sondern kann selbst zur Quelle einer Instabilität werden. Um dies zu verhindern, kann der AI Guard eingesetzt werden, um die Einhaltung eine maximalen Fehlerrate zu überwachen. AI Insights ermöglicht dazu eine detaillierte Dokumentation und trägt so zur Transparenz des eingesetzten KI-Systems bei.