47 DSD 3 | 2023 WIRTSCHAFT UND POLITIK vom Kernbereich eines Unternehmens, wie für die Früherkennung und Schadensüberprüfung in der Branddetektion und für die Alarmverifikation von Bedeutung. Die dafür erforderliche optische und messtechnische Sensorik ist KI-gesteuert. Rahmenbedingungen und Grenzen Um eine möglichst umfassende Unterstützung durch KI zu planen und diese Planung effizient und kostengünstig umzusetzen, bedarf der SDL informationstechnischer Kompetenz. Dazu muss er in aller Regel ein auf KI spezialisiertes IT-Sicherheitsunternehmen hinzuziehen. KI ist anfällig gegenüber kriminellen Angriffen mit dem Ziel der Manipulation von Daten oder des Diebstahls geistigen Eigentums. Das BSI hat in dem Leitfaden „sicherer, robuster und nachvollziehbarer Einsatz von KI“ 2021 Entwicklern und Nutzern eine Reihe von spezifischen Abwehrmaßnahmen empfohlen: eine Analyse des gesamten „Lebenszyklus“ des KI-Systems hinsichtlich relevanter Risiken und die Robustheit des Systems durch „Trainingsangriffe“ zu stärken; die verwendeten Metriken gegen zufällige oder gezielte Änderungen zu sichern; für Trainings- wie Testdaten ein professionelles Datenmanagement einzuführen und sie vor Manipulationen zu schützen; Anfragen an und Zugriffe auf das KI-System zu protokollieren und die Protokolle auf Anomalien zu prüfen; die korrekte Funktionsweise des KI-Systems regelmäßig zu überprüfen. Und das Fraunhofer-Institut für kognitive Systeme empfiehlt eine erweiterte Softwarearchitektur, die die KI überwacht und die getroffenen Entscheidungen auf Plausibilität überprüft sowie der KI durch den Ansatz eines „dynamischen Safety-Managements“ mehr Freiraum zu geben als durch klassische Safety-Ansätze, die immer vom Worst-Case-Szenario ausgehen. Am 19. Juli 2023 hat das DIN einen neuen Standard zur Förderung der Erklärbarkeit von KI veröffentlicht. Der neue Standard DIN SPED 92001-3 soll helfen, das Vertrauen in die Nutzung und die Sicherheit durch Erklärbarkeit von KI zu stärken. Prof. Norbert Pohlmann, Institut für Internet-Sicherheit, erläutert in GIT Sicherheit, 5/2023, S. 62 f., das Forschungsprojekt vertrauenswürdige Plattform für KI-Lösungen und Datenräume. Entwicklern von KI soll die Möglichkeit eröffnet werden, sowohl die Vertrauenswürdigkeit ihres Unternehmens als auch die ihrer KI-Lösungen und Datenräume im Rahmen einer Agenda zu dokumentieren. Am 2. Februar 2023 hat das BSI das Projekt 464 „Security of AI-Systems-Fundamentals“ vorgestellt, das den Stand der Forschung im Bereich der Sicherheit von KI-Systemen erfasst. Bild: # 1435014643 / istockphoto.com
RkJQdWJsaXNoZXIy Mjc4MQ==