KI-Sicherheit: Neue ISO-Norm soll KI-Systeme vor Angriffen schützen

Was geschehen ist – die Kernmeldung

Die internationale Organisation für Normung (ISO) steht kurz vor der Veröffentlichung eines neuen Standards, der die Sicherheit von Systemen der künstlichen Intelligenz (KI) maßgeblich erhöhen soll. Unter der Bezeichnung ISO/IEC 27090 wird ein Leitfaden bereitgestellt, der Organisationen dabei unterstützen soll, spezifische Bedrohungen für KI-Anwendungen zu identifizieren, zu verstehen und effektiv abzumildern. Die Norm befindet sich derzeit in den finalen Produktionsphasen, die laut offiziellen Angaben der ISO noch bis zu sieben Wochen in Anspruch nehmen können. Das Deutsche Institut für Normung (DIN) führt das Dokument bereits unter dem deutschen Titel „Leitfaden für den Umgang mit Sicherheitsbedrohungen und Fehlern in Systemen der künstlichen Intelligenz“. Mit dieser Initiative reagiert die Standardisierungsorganisation auf die zunehmende Verbreitung von KI-Technologien in kritischen Infrastrukturen und Unternehmensprozessen. Ziel ist es, einen einheitlichen Rahmen zu schaffen, der über klassische IT-Sicherheitsmaßnahmen hinausgeht und die besonderen Risiken adressiert, die mit dem Training und dem Betrieb von KI-Modellen einhergehen. Die Veröffentlichung markiert einen wichtigen Schritt, um das Vertrauen in KI-gestützte Systeme durch standardisierte Sicherheitsvorgaben zu stärken.

Die Einzelheiten – Zahlen, Namen und Hintergründe

Der neue Standard trägt die offizielle Bezeichnung ISO/IEC FDIS 27090 und wird beim DIN in der Ausgabe vom Juni 2026 geführt. Der Leitfaden ist als umfassendes Dokument konzipiert, das den gesamten Lebenszyklus eines KI-Systems abdeckt. Die ISO betont, dass sich der Standard an ein breites Spektrum von Anwendern richtet, darunter Unternehmen, staatliche Behörden sowie gemeinnützige Einrichtungen, die entweder selbst KI-Systeme entwickeln oder diese in ihre Betriebsabläufe integrieren. Ein zentraler Aspekt der Norm ist die detaillierte Beschreibung von Angriffsszenarien, die spezifisch für KI-Modelle sind. Hierbei werden insbesondere das sogenannte Data Poisoning sowie der Modelldiebstahl hervorgehoben. Beim Data Poisoning manipulieren Angreifer gezielt die Trainingsdaten, um das spätere Verhalten des Systems in eine bestimmte Richtung zu lenken. Beim Modelldiebstahl hingegen nutzen Kriminelle scheinbar harmlose Anfragen, um die Struktur oder die Gewichte eines Modells zu rekonstruieren und dieses somit zu entwenden. Die ISO warnt ausdrücklich davor, dass diese Angriffe oft schwer zu detektieren sind und selbst dann erfolgreich sein können, wenn bereits etablierte Standard-Sicherheitsmaßnahmen implementiert wurden.

Hintergrund – Der Weg zur neuen Norm

Die Entwicklung von ISO/IEC 27090 ist eine direkte Reaktion auf die technologische Evolution der letzten Jahre. Während klassische IT-Systeme durch etablierte Standards wie ISO/IEC 27001 und ISO/IEC 27002 bereits gut geschützt sind, wiesen diese Regelwerke bisher Lücken hinsichtlich der spezifischen Angriffsvektoren von KI auf. Die neue Norm wurde daher explizit als Ergänzung konzipiert. Sie baut auf den bestehenden Praktiken der Cybersicherheit auf, erweitert diese jedoch um die notwendigen Komponenten für den KI-Bereich. Die Notwendigkeit für diesen Schritt ergab sich aus der Beobachtung, dass KI-Systeme eine völlig neue Angriffsfläche bieten, da ihre Logik nicht mehr nur auf expliziten Programmiercodes basiert, sondern durch Daten gelernt wird. Die ISO hat erkannt, dass Sicherheitsausfälle in diesem Bereich nicht nur technische Probleme verursachen, sondern schwerwiegende Folgen für Unternehmen und Einzelpersonen haben können, insbesondere wenn es sich um sicherheitskritische Anwendungen handelt. Die Norm soll nun die Lücke zwischen allgemeiner IT-Sicherheit und der spezifischen Absicherung von KI-Modellen schließen, indem sie aufzeigt, wie Angreifer Schwachstellen ausnutzen und welche präventiven Maßnahmen dagegen helfen.

Die Beteiligten – Institutionen und Zielgruppen

An der Erarbeitung und Bereitstellung dieses Standards sind maßgeblich die ISO (International Organization for Standardization) sowie national agierende Institutionen wie das DIN (Deutsches Institut für Normung) beteiligt. Diese Organisationen fungieren als Koordinatoren, die Experten aus verschiedenen Bereichen zusammenbringen, um einen globalen Konsens über Sicherheitsstandards zu finden. Die Zielgruppe des Leitfadens ist äußerst heterogen. Er richtet sich an alle Akteure, die in den KI-Lebenszyklus involviert sind. Dazu zählen Entwicklerteams in der Softwareindustrie, IT-Sicherheitsverantwortliche in Behörden sowie Entscheidungsträger in gemeinnützigen Organisationen. Die Norm adressiert dabei nicht nur die technische Ebene, sondern bietet einen Rahmen für das gesamte Risikomanagement innerhalb einer Organisation. Durch die Einbindung des DIN ist sichergestellt, dass die internationalen Vorgaben auch für den deutschen Markt in einer präzisen und fachlich fundierten Form zur Verfügung stehen. Die Akteure sind angehalten, die Empfehlungen der Norm in ihre bestehenden Sicherheitskonzepte zu integrieren, um eine ganzheitliche Verteidigungsstrategie gegen die komplexen Bedrohungen der modernen KI-Landschaft aufzubauen.

Einordnung – Was das bedeutet

Einzuordnen ist das Erscheinen der ISO/IEC 27090 als notwendige Professionalisierung im Umgang mit Künstlicher Intelligenz. Den Berichten zufolge stellt die Norm sicher, dass Unternehmen nicht länger auf isolierte oder ad-hoc entwickelte Sicherheitslösungen angewiesen sind. Die Bedeutung dieses Standards liegt vor allem in seiner integrativen Natur. Er erkennt an, dass KI-Sicherheit kein isoliertes Thema ist, sondern untrennbar mit der allgemeinen Cybersicherheit verknüpft bleibt. Die Experten der ISO betonen, dass klassische Schutzmaßnahmen weiterhin essenziell sind, jedoch durch KI-spezifische Kontrollen ergänzt werden müssen. Diese Einordnung verdeutlicht, dass die Branche eine Reifephase erreicht hat, in der Sicherheit nicht mehr als optionales Feature, sondern als grundlegende Voraussetzung für den produktiven Einsatz von KI angesehen wird. Die Norm bietet hierfür eine notwendige Struktur, um das Verständnis für Bedrohungen wie Datenvergiftung zu schärfen. Es ist davon auszugehen, dass dieser Standard in absehbarer Zeit zu einer Referenz für Audits und Zertifizierungen wird, was den Druck auf Unternehmen erhöht, ihre KI-Systeme nach diesen neuen Vorgaben abzusichern.

Offene Fragen – Was der Text nicht beantwortet

Obwohl der Leitfaden einen umfassenden Rahmen bietet, bleiben einige Fragen im vorliegenden Text unbeantwortet. So wird nicht spezifiziert, welche konkreten technischen Werkzeuge oder Softwarelösungen zur Umsetzung der Norm empfohlen werden. Auch bleibt offen, wie die Einhaltung der Norm in der Praxis kontrolliert werden soll und ob es eine Zertifizierungspflicht geben wird, die über eine freiwillige Anwendung hinausgeht. Zudem nennt der Text keine konkreten Beispiele für bereits stattgefundene Angriffe, die als direkte Vorlage für die Erarbeitung der Norm dienten, sondern bleibt auf einer abstrakten, präventiven Ebene. Es wird nicht erläutert, wie sich die Norm bei rasanten technologischen Sprüngen in der KI-Entwicklung anpassen lässt, ohne selbst schnell zu veralten. Auch die Kostenfrage für Unternehmen, die ihre bestehenden Systeme an die neuen ISO-Vorgaben anpassen müssen, wird nicht thematisiert. Ebenso fehlen Informationen darüber, inwieweit kleinere Unternehmen mit begrenzten Ressourcen in der Lage sein werden, die komplexen Anforderungen der Norm vollumfänglich umzusetzen, oder ob hier eine Diskrepanz zwischen Theorie und praktischer Umsetzbarkeit entstehen könnte.

Wie es weitergeht – Zeitplan und nächste Schritte

Die unmittelbare Zukunft steht ganz im Zeichen der Finalisierung des Dokuments. Die ISO hat den Abschluss der letzten Produktionsschritte für einen Zeitraum von bis zu sieben Wochen angekündigt. Sobald dieser Prozess abgeschlossen ist, wird die Norm offiziell veröffentlicht und steht Organisationen weltweit zur Anwendung zur Verfügung. Für das DIN bedeutet dies, dass der Entwurf in die finale Fassung überführt wird, um den Anwendern die endgültige Version des Leitfadens zur Verfügung zu stellen. Unternehmen und Behörden sollten diesen Zeitraum nutzen, um sich mit den Inhalten des Entwurfs vertraut zu machen und ihre internen KI-Strategien auf die kommenden Anforderungen vorzubereiten. Nach der Veröffentlichung ist damit zu rechnen, dass die Norm in Fachkreisen intensiv diskutiert wird und erste Implementierungsprojekte starten. Die ISO wird zudem den weiteren Verlauf der KI-Entwicklung beobachten müssen, um bei Bedarf zukünftige Aktualisierungen oder Ergänzungen vorzunehmen, die den sich stetig wandelnden Bedrohungslagen Rechnung tragen. Der Zeitplan ist somit eng getaktet und markiert den Beginn einer neuen Phase der standardisierten KI-Sicherheit.