Management-Zusammenfassung

Die Konvergenz von Informationstechnologie (IT) und Operational Technology (OT) hat mit der Integration von Künstlicher Intelligenz (KI) eine kritische neue Phase erreicht. Während KI transformative Fortschritte in der vorausschauenden Instandhaltung, der Prozessoptimierung und dem Asset Management bietet, birgt sie auch tiefgreifende systemische Risiken, wenn sie ohne Sicherheitsbarrieren in deterministische, sicherheitskritische cyber-physische Systeme (CPS) integriert wird.

Dieser Artikel untersucht die strukturellen, betrieblichen, Governance- und Cybersicherheitsrisiken, die mit dem Einsatz von KI-Plattformen in industriellen Umgebungen verbunden sind. Unter Verwendung des öffentlichen technischen Profils von zukunftsweisenden KI-Architekturen wie Claude Mythos von Anthropic (eingeführt Anfang 2026) versuchen wir, zwischen den Schwachstellen, die jedem operativen KI-Modell inhärent sind, und den spezifischen Risikovektoren zu unterscheiden, die durch agentenbasierte, autonome Sicherheitsforschungsmodelle eingeführt werden, welche zur automatisierten Generierung von Exploits in der Lage sind. Für Asset-Eigentümer, Chief Information Security Officers (CISOs) und Werksleiter erfordert die Bewältigung dieses Wandels den Übergang von einem IT-zentrierten Sicherheitsmodell hin zu einem ingenieurtechnisch abgestimmten Zero-Trust-Ansatz für die industrielle KI-Governance.

Die Absicht ist nicht, den Einsatz von KI zu entmutigen, sondern die Risiken zu verstehen, damit eine entsprechende Risikominderungsstrategie implementiert werden kann.

Warum sich OT-Umgebungen grundlegend von der IT unterscheiden

Der grundlegende Fehler von IT-Sicherheitsteams bei der Bereitstellung moderner Software, einschließlich KI, besteht darin, eine Industrieanlage wie ein Unternehmensrechenzentrum zu behandeln. Die Betriebsparameter, Einschränkungen und Risikotoleranzen sind diametral entgegengesetzt.

In einer IT-Umgebung führt eine Fehlfunktion der Software oder eine unerwartete Ausgabe zu einem Absturz der Anwendung, einem blockierten Prozess oder einer Datenkorruption, die oft durch einen automatisierten Neustart oder die Wiederherstellung eines Backups behoben werden kann. In einer OT-Umgebung kann unerwartetes Verhalten auf Level 2 (Steuerung) oder Level 1 (Sensorik/Aktuatorik) des Purdue-Modells einen physischen Prozess über seine sicheren Betriebsgrenzen hinausführen. Dies kann zu Anlagenschäden, katastrophalen physischen Ausfällen oder einer Gefährdung der menschlichen Sicherheit führen.

Die wachsende Rolle der KI in industriellen Prozessen

Industriebetreiber nutzen KI zunehmend in zwei verschiedenen Bereichen:

• Operative KI-Engines: Implementiert innerhalb von oder direkt angebunden an Manufacturing Execution Systems (MES), Distributed Control Systems (DCS) und Daten-Historians, um massive Telemetrieströme zu analysieren. Diese Plattformen optimieren beispielsweise das Brennstoff-Luft-Verhältnis in Turbinen, prognostizieren Ventilausfälle und passen chemische Dosierungen in Echtzeit an.

• Fortschrittliche agentenbasierte KI-Plattformen (Die Mythos-Disruption): Zukunftsweisende Architekturen wie Anthropic’s Claude Mythos markieren den Übergang von passiver Textgenerierung zu autonomem, mehrstufigem logischem Denken. Zu den öffentlich dokumentierten Fähigkeiten von Mythos gehören die autonome Entdeckung von Zero-Day-Schachstellen, die Codebasis-Analyse, rekursive Selbstkorrektur und die Fähigkeit, Code über Sandbox-Tool-Integrationen direkt auszuführen.

Obwohl Plattformen wie Mythos für die defensive oder offensive Sicherheitsforschung in der IT entwickelt wurden, signalisiert die zugrundeliegende Fähigkeit von Large Language Models (LLMs), Code zu lesen, Betriebshypothesen aufzustellen und direkt mit Systemwerkzeugen zu interagieren, eine Realität, in der autonome Codeanalysen (theoretisch) auf veraltete Industriesoftware, herstellerspezifische Firmware und die PLC-Logik angewendet werden können.

Zentrale operative Risiken bei der Einführung von KI in der OT

Verlust des deterministischen Betriebs

Industrielle Steuerungssysteme (ICS) hängen von deterministischem Verhalten ab: Für einen bestimmten Satz von Eingabewerten muss eine speicherprogrammierbare Steuerung (SPS / PLC) oder ein sicherheitsgerichtetes System (SIS) dieselbe mathematisch vorhersehbare Sequenz innerhalb eines strikten Zeitfensters ausführen, das oft in Millisekunden gemessen wird.

KI-Modelle, insbesondere neuronale Netze und LLMs, sind von Natur aus stochastisch und arbeiten mit probabilistischen Gewichtungen. Die Integration einer KI-Engine in die Entscheidungsschleife oder die Erlaubnis, Konfigurationen direkt auf Feldgeräte zu schreiben, eliminiert den Determinismus und ersetzt eine vorhersehbare Steuerungslogik durch variable, nicht reproduzierbare algorithmische Ergebnisse.

Sicherheitsrelevante Auswirkungen

Wenn eine KI-Plattform in einen Regelkreis integriert wird (entweder direkt oder über eine unzureichend isolierte Engineering-Workstation), kann ein algorithmischer Edge Case physische Sicherheitsvorfälle auslösen, die innerhalb kürzester Zeit außer Kontrolle geraten können. Im Gegensatz zu herkömmlichen Algorithmen der erweiterten Prozessregelung (APC), die sich innerhalb streng begrenzter mathematischer Matrizen bewegen, können Deep-Learning-Modelle unerwartete, anomale Befehle generieren, wenn sie mit neuartigen Betriebsdaten (Out-of-Distribution-Daten) konfrontiert werden.

Fehlerhafte Empfehlungen mit Auswirkungen auf die Produktion

Selbst wenn sie auf eine beratende Rolle beschränkt sind (Human-in-the-Loop), können KI-Tools Sensordrift, Kalibrierungsfehler oder ungewöhnliche Prozessstörungen als Normalbetrieb oder Standard-Optimierungspotenzial missinterpretieren. Wenn ein Ingenieur eine ungeprüfte Empfehlung einer KI bezüglich Sollwertanpassungen umsetzt, kann dies zu Strömungsabrissen in Kompressoren, thermischer Belastung in Cracktürmen oder Überdruck in Rohrleitungen führen.

Übermäßiges menschliches Vertrauen (Automation Bias)

Da KI-Plattformen eine hohe Basisgenauigkeit erreichen, neigen Leitstandfahrer und Betriebsingenieure zum sogenannten Automation Bias – der Tendenz, automatisierten Vorschlägen blind zu vertrauen und die eigene Lagebeurteilung zu vernachlässigen. Dies führt im Laufe der Zeit zu einem Verlust an firmeninterner Expertise bei der Fehlersuche. Tritt eine seltene Prozessausnahme auf und liefert die KI fatale Ratschläge, fehlen den Bedienern unter Umständen der unmittelbare Kontext oder das Vertrauen, um manuell einzugreifen.

Risiken für die Prozessintegrität

Industrielle Prozesse erfordern die strikte Einhaltung chemischer, thermischer und mechanischer Gleichgewichte. Geringfügige Anpassungen an einer einzelnen Variablen wirken sich kaskadenartig auf mehrere verknüpfte Prozessschritte aus. Da allgemeinen KI-Plattformen ein inhärentes Verständnis von Physik, Thermodynamik und Strömungsmechanik fehlt, basieren ihre Optimierungsempfehlungen auf Datenkorrelationen statt auf physikalischen Gesetzen, was verdeckte Risiken für die physische Prozessintegrität mit sich bringt.

Cybersicherheitsrisiken

Vergrößerte Angriffsfläche und Integrationsrisiken

Die Bereitstellung einer KI-Plattform erfordert den Import massiver Mengen an Betriebsdaten. Um dies zu realisieren, werden Integrationen zwischen der KI-Umgebung und kritischen Systemen der Ebenen 3 und 2 eingerichtet, darunter:

• Daten-Historians (wie AVEVA PI System)

• SCADA-Server (Supervisory Control and Data Acquisition)

• Prozessleitsysteme (DCS)

• Engineering-Workstations mit PLC-Programmiersoftware

Jeder API-Endpunkt, Datenbank-Connector und Software-Agent, der zur Extraktion dieser Daten eingesetzt wird, dient als potenzieller neuer Einstiegsweg für Angreifer. Wenn die KI-Plattform in der Cloud gehostet wird, stellt dies faktisch eine kontinuierliche, bidirektionale Verbindung her, die die industrielle DMZ direkt von Level 3/2 in die öffentliche Cloud durchquert. Dies hebelt traditionelle Netzisolationsmodelle aus.

[Ebene 1/2: PLCs & SCADA] <--> [Ebene 3: Daten-Historian] <--> [OT-DMZ-Gateways] <== (KI-Datenpipeline) ==> [Cloud-basierte KI-Plattform]

Berechtigungsmanagement und Privilegienausweitung

KI-Agenten, die in der OT-Umgebung agieren, benötigen Zugriffsdaten, um Datenbanken abzufragen oder Optimierungsprofile zu übertragen. Wenn diese Anmeldedaten unzureichend geschützt oder fest in KI-Dienstkonten hinterlegt sind, ermöglicht eine Kompromittierung der KI-Anwendung einem Angreifer das Abgreifen hochgradig privilegierter OT-Zugangsdaten. Mit diesen Zugangsdaten können sich Angreifer direkt auf Engineering-Workstations oder SCADA-Laufzeitumgebungen aufschalten.

Risiken in der Lieferkette und bei Drittanbieter-Software

Moderne KI-Plattformen basieren auf komplexen Open-Source-Software-Stacks, die Hunderte von Python-Bibliotheken, Vektordatenbanken und Orchestrierungs-Frameworks (z. B. LangChain) umfassen. Diese Abhängigkeiten bergen erhebliche Supply-Chain-Risiken. Ein einziges bösartiges Paket oder eine ungepatchte Schwachstelle im Ökosystem der KI-Plattform kann das gesamte angebundene Industrienetzwerk für Remotecodeausführung (RCE) anfällig machen.

Datenabfluss (Data Leakage)

Operative Telemetriedaten enthalten hochsensible Informationen über Produktionsvolumina, chemische Rezepturen, mechanische Schwachstellen und proprietäre Fertigungsschritte. Wenn ein cloudbasiertes KI-Modell diese Daten für kontinuierliches Training nutzt oder ohne strikte Datenisolationsgrenzen anhand von Benutzerprompts lernt, können geschützte industrielle Betriebsgeheimnisse an die Öffentlichkeit gelangen oder in Mandanten-Umgebungen exponiert werden.

Prompt Injection und Manipulation der KI

Gelingt es einem Angreifer, im IT-Netzwerk oder auf einem Level-3-System Fuß zu fassen, kann er die Eingabedaten manipulieren, die der operativen KI-Plattform zugeführt werden. Durch indirekte Prompt-Injection – wie das Einschleusen bösartiger Daten-Payloads in Logdateien oder Historian-Einträge, die von der KI ausgewertet werden – kann der Angreifer die Argumentation der KI manipulieren. Dies zwingt die KI dazu, fehlerhafte Optimierungsparameter auszugeben, integrierte Sicherheitsgrenzen zu umgehen oder kritische Systemalarme falsch zu klassifizieren.

Laterale Bewegung und die Auswirkungen von Mythos-Klasse-Fähigkeiten

Das Aufkommen von Plattformen wie Claude Mythos verdeutlicht einen beschleunigten Risikovektor für laterale Bewegungen (Lateral Movement) in OT-Netzwerken. Traditionelle industrielle Netzwerke sind historisch flach strukturiert und verlassen sich eher auf Perimeter-Sicherheitskonzepte als auf interne Segmentierung. Wenn eine hochentwickelte, agentenbasierte KI-Plattform – oder ein Angreifer mit gleichwertigen autonomen Tools zur Generierung von Exploits – Zugriff auf einen OT-Jump-Host oder einen aktiven Active-Directory-Domain-Controller erhält, kann sie autonom:

• Nicht dokumentierte PLCs, Remote Terminal Units (RTUs) und Human-Machine-Interfaces (HMIs) identifizieren.

• Proprietäre Binärdateien und Firmware von Herstellern mittels nativer Werkzeugintegration dekompilieren oder zurückentwickeln (Reverse Engineering).

• Sicherheitslücken in Altsystemen (wie jahrzehntealte Buffer Overflows oder unverschlüsselte Protokolle) aufspüren.

• Innerhalb von Minuten Exploit-Ketten über mehrere Schwachstellen hinweg konstruieren und ausführen, um die vollständige Kontrolle über die physische Prozessebene zu erlangen.

Compliance und regulatorische Rahmenbedingungen

Anlagenbetreiber müssen industrielle KI-Bereitstellungen anhand verbindlicher und freiwilliger Cybersicherheits-Frameworks bewerten, um die Konformität zu wahren und ihre Betriebslizenzen zu schützen.

Die Normenreihe ISA/IEC 62443

Das ISA/IEC 62443-Framework bietet die grundlegende Methodik zur Absicherung industrieller Automatisierungs- und Steuerungssysteme (IACS). KI-Systeme müssen in mehreren spezifischen Teilen bewertet werden:

• IEC 62443-3-2 (Sicherheitszonen und Verbindungskanäle): Jede KI-Plattform muss einer eigenen, separaten logischen Sicherheitszone zugewiesen werden. Sämtliche Kommunikationsflüsse zwischen der KI-Zone und den operativen Systemen (PLCs, Historians) müssen über streng definierte, überwachte und durch Firewalls geschützte Leitungen (Conduits) geführt werden.

• IEC 62443-3-3 (System-Sicherheitsanforderungen): Die Integration muss eine strikte Zugriffskontrolle, Datenintegrität und Ressourcenverfügbarkeit erzwingen, um sicherzustellen, dass die KI keine Netzwerk- oder Rechenressourcen erschöpft, die von Echtzeit-Steuerungsanwendungen benötigt werden.

• IEC 62443-4-1 / 4-2 (Produktlebenszyklus und Komponentensicherheit): Anbieter von industrieller KI-Software müssen einen sicheren Entwicklungslebenszyklus nachweisen, einschließlich eines konsequenten Software-Bill-of-Materials-Managements (SBOM), um Risiken in der Lieferkette zu minimieren.

NIST SP 800-82 Rev. 3 (Leitfaden zur OT-Sicherheit)

Die aktualisierte Richtlinie NIST SP 800-82 Rev. 3 beschreibt detailliert die Sicherheitsanforderungen für cyber-physische Systeme. Sie schreibt vor, dass fortschrittliche analytische oder automatisierte Plattformen, die neben einem ICS betrieben werden, sicherheitskritische Funktionen nicht beeinträchtigen dürfen. Sie fordert ausdrücklich strenge Risikomanagementprozesse vor der Anbindung analytischer Werkzeuge an operative Ebenen, wobei der Schwerpunkt auf Netzwerksegmentierung und der kontinuierlichen Überwachung von Konfigurationsabweichungen liegt.

NIS-2-Richtlinie (Europäische Union)

Im Rahmen der NIS-2-Richtlinie stehen Betreiber kritischer Infrastrukturen (KRITIS-Sektoren wie Energie, Transport, Wasser, Produktion) vor strengen Verpflichtungen zur Absicherung der Lieferkette und zum Risikomanagement. Die Einführung ungeprüfter KI-Engines, die Betriebsdaten verarbeiten oder Steuerungssignale ohne umfassende Risikoanalysen von Drittanbietern zurückspielen, kann zu empfindlichen Sanktionen führen, da NIS-2 eine direkte persönliche Haftung der Unternehmensleitung bei Sicherheitsversäumnissen vorsieht.

Fragen, die sich jedes OT-Sicherheitsteam vor dem KI-Einsatz stellen sollte

Bevor einer KI-Plattform Zugriff auf Betriebsdaten gewährt wird, müssen Sicherheits- und Engineering-Teams verbindliche Antworten auf folgende Fragen einfordern:

• Wo liegen die Daten? Wird das KI-Modell vollständig On-Premise auf einem physisch isolierten (Air-Gapped) oder lokalen Edge-Server ausgeführt, oder erfordert es eine ausgehende Verbindung zu einer Cloud-Umgebung?

• Wie sehen die präzisen Lese- und Schreibrechte aus? Agiert die Plattform gegenüber dem Daten-Historian/SCADA-System ausschließlich im Nur-Lese-Modus, oder besitzt sie programmatische Schreibrechte zur Änderung von Sollwerten, Konfigurationen oder Logikparametern?

• Wie erfolgt die Datenisolation? Falls ein Cloud-Modell genutzt wird, sind unsere Betriebsdaten in einer dedizierten Single-Tenant-Instanz isoliert und explizit vom Training des allgemeinen Herstellermodells ausgeschlossen?

• Wie sieht das Fail-Safe-Sicherheitskonzept bei Verbindungsabbrüchen oder Fehlfunktionen der KI-Plattform aus? Fällt der physische Prozess ohne Betriebsunterbrechung sofort in einen definierten, sicheren, deterministischen Zustand zurück, der ausschließlich von der lokalen PLC-Logik gesteuert wird?

• Wie werden die Software-Abhängigkeiten des KI-Stacks verwaltet? Kann der Anbieter eine verifizierte, regelmäßig aktualisierte Software-Stückliste (SBOM) für den gesamten KI-Anwendungs-Stack einschließlich aller Open-Source-Bibliotheken bereitstellen?

Checkliste für die Risikoanalyse

Der folgende Rahmen sollte während der Planungsphase jedes industriellen KI-Projekts abgearbeitet werden:

Mitigationsstrategien und Best Practices zur sicheren KI-Einführung

Um KI-Funktionen zu integrieren, ohne die Sicherheit und Resilienz kritischer Infrastrukturen zu gefährden, sollten Organisationen die folgenden operativen Best Practices umsetzen.

Implementierung strikter unidirektionaler Datendioden

Erzwingen Sie bei KI-Plattformen, die auf vorausschauende Instandhaltung und Betriebsoptimierung ausgerichtet sind, eine physische oder kryptografische unidirektionale Architektur. Nutzen Sie hardwarebasierte Datendioden, um Echtzeit-Telemetriedaten aus Level-2/3-Historians in die in der Unternehmenszone oder Cloud gehostete KI-Plattform zu replizieren. Dies stellt sicher, dass die KI-Plattform Daten zwar aufnehmen und analysieren kann, jedoch physisch nicht in der Lage ist, Datenpakete oder Steuerbefehle zurück in das Steuerungsnetzwerk zu senden.

Isolierung der zentralen Identitätsarchitektur

Erlauben Sie einer KI-Plattform niemals, auf Identitäten des Unternehmens-Active-Directory zuzugreifen, die sich über IT- und OT-Assets erstrecken. Implementieren Sie einen dedizierten, eigenständigen OT-Active-Directory-Forest ohne Vertrauensstellungen zum Corporate-Netzwerk. KI-Dienstkonten müssen ausschließlich auf die spezifischen Datenbankinstanzen beschränkt sein, die sie zwingend benötigen, um zu verhindern, dass sie als Vektoren für laterale Bewegungen missbraucht werden.

Etablierung unveränderlicher Out-of-Band-Backups

Da autonome Exploit-Generierung das Zeitfenster für das Einspielen von Sicherheitspatches drastisch verkürzt, müssen Betreiber in der Lage sein, sich im schlimmsten Fall einer Kompromittierung schnell zu regenerieren. Implementieren Sie ein unveränderliches Backup-Konzept (Immutable Backups) für sämtliche PLC-Logikdateien, SCADA-Laufzeitumgebungen, DCS-Konfigurationen und HMI-Images. Backups müssen vollständig Out-of-Band und offline aufbewahrt werden, gestützt durch regelmäßige, verifizierte Wiederherstellungsübungen der Engineering-Teams.

Physische Isolation von Engineering-Workstations

Die Engineering-Workstation ist das wertvollste Ziel innerhalb einer Industrieanlage, da sie die auf die PLCs geschriebene Logik bestimmt. Diese Systeme müssen strikt von Standard-Unternehmensanwendungen, E-Mails, Internetzugängen und jeglicher analytischen KI-Software isoliert werden. Software- oder Logikänderungen sollten einem strengen Change-Control-Prozess unterliegen, der über physische, auf Schadsoftware geprüfte USB-Medien oder dedizierte, hochgradig überwachte Transfer-Gateways erfolgt.

Empfehlungen für das Management

Für Chief Information Security Officers (CISOs)

• Keine ungeprüfte Übernahme von IT-Konzepten. Gehen Sie nicht davon aus, dass ein Standard-Framework für Data Governance oder klassische IT-Endpoint-Detection-and-Response-Systeme (EDR) ausreichen, um die physischen Risiken einer industriellen KI-Engine zu beherrschen.

• Einrichtung einer KI-Taskforce. Arbeiten Sie direkt mit der Leitung der Produktion oder des Betriebs zusammen, um ein dediziertes, interdisziplinäres Team aus Engineering und Security aufzubauen, das alle vorgeschlagenen analytischen und operativen Software-Integrationen prüft.

Für OT-Sicherheitsverantwortliche

• Erzwingung von Zonensegmentierung. Behandeln Sie das KI-System wie eine nicht vertrauenswürdige Komponente eines Drittanbieters. Erfassen Sie alle Asset-Abhängigkeiten und Kommunikationswege mithilfe von Network-Detection-and-Response-Tools (NDR), die für industrielle Protokolle (z. B. Modbus, CIP, DNP3, OPC UA) optimiert sind.

• Einführung eines strukturierten Schwachstellen-Triage-Prozesses. Definieren Sie klare Service Level Agreements (SLAs) für die Bewertung und unverzügliche Anwendung von Herstellerpatches oder kompensierenden Kontrollmaßnahmen, sobald kritische Software-Schachstellen offengelegt werden. Planen Sie ein, dass KI-gestützte Tools die Zeitspanne von der Veröffentlichung einer Schwachstelle bis zur Ausnutzung extrem verkürzen.

Für Betriebsleiter und Werksleiter

• Priorisierung von sicherheitsgerichteten Systemen (SIS). Stellen Sie sicher, dass Sicherheitssysteme vollständig separat, festverdrahtet und von jeglicher Netzwerkebene isoliert bleiben, die Optimierungssoftware oder KI-Plattformen enthält. Die Sicherheitsschleife muss als unkorrumpierbare Barriere gegen fehlerhafte Steuerungsbefehle dienen.

• Prävention von Automation Bias. Führen Sie kontinuierliche Schulungen und Simulationsübungen für Leitstandfahrer durch, die sich auf die rein manuelle Behebung von Prozessstörungen konzentrieren. Stellen Sie sicher, dass das Personal die Kernkompetenz behält, fehlerhafte automatisierte Empfehlungen zu erkennen, zu hinterfragen und manuell zu übersteuern.

Fazit

Die Integration von KI-Plattformen in OT-Umgebungen bietet enorme Potenziale zur Effizienzsteigerung und zur Reduzierung von Stillstandszeiten. Die Einführung stochastischer, nicht-deterministischer Software-Engines in sicherheitskritische, deterministische Architekturen bringt jedoch tiefgreifende betriebliche und cybersicherheitsrelevante Herausforderungen mit sich.

Fortschrittliche agentenbasierte Fähigkeiten, wie sie zukunftsweisende Modelle wie Claude Mythos demonstrieren, belegen, dass sich die Geschwindigkeit der Erkennung und Ausnutzung von Schwachstellen dauerhaft beschleunigt hat. Um kritische Infrastrukturen gegen diese dynamische Bedrohungslage zu schützen, können sich Anlagenbetreiber nicht auf konventionelle Perimeter-Sicherheitskonzepte oder passive Compliance-Modelle verlassen. Security- und Engineering-Teams müssen eng kooperieren, um resiliente Architekturen aufzubauen, die auf konsequenter Zonensegmentierung, unidirektionalem Datentransfer, Validierung unter Einbeziehung des Faktors Mensch (Human-in-the-Loop) und einer kompromisslosen Ausrichtung auf die physische Prozesssicherheit basieren.