BSI veröffentlich Whitepaper zur Prüfbarkeit von KI-Systemen

Das Bundesamt für Sicherheit in der Informationstechnik (BSI), der TÜV-Verband und das Fraunhofer Heinrich-Hertz-Institut (HHI) erfassen regelmäßig den aktuellen Stand der Prüfbarkeit von KI-Systemen in sicherheitskritischen Bereichen. Das jetzt veröffentlichte Whitepaper „Towards Auditable AI Systems“ richtet sich an Entwickler, Prüfer und Entscheidungsträger in Industrie, Forschung und Behörden. Es stellt unter anderem eine Methode zur Erfassung der Prüfbarkeit der IT-Sicherheit und weiterer Aspekte von KI-Systemen vor und beschreibt exemplarisch Anwendungen.

Prüfbarkeitsdefizite einzelner KI-Systeme  erfassen

Die Autorinnen und Autoren schlagen die „Certification Readiness Matrix (CRM)“ als eine neue Methode vor. Die CRM ist nicht als formales Zertifizierungsschema für spezifische Rechtsakte konzipiert. Stattdessen dient sie einerseits dazu, Prüfbarkeitsdefizite einzelner KI-Systeme besser zu erfassen und zu kommunizieren. Andererseits ermöglicht sie, die Prüfbarkeit verschiedener KI-Systeme besser untereinander und über die Zeit zu vergleichen. Eine exemplarische Anwendung der CRM weist darauf hin, dass Prüfmethoden für bestimmte Aspekte, wie zum Beispiel das Risikomanagement, bereits gut entwickelt und verfügbar sind. In Bezug auf andere Aspekte wird jedoch noch ein wesentlicher Forschungs- und Entwicklungsaufwand benötigt, um eine hinreichende Prüfbarkeit von Regulierungsauflagen zu erreichen. Dies gilt insbesondere auch für die IT-Sicherheit.