Mit Physical AI müssen Unternehmen Sicherheit, Robustheit und Design ihrer Systeme neu denken. Während klassische Steuerungen wie speicherprogrammierte Steuerungen (SPS) auf klaren, deterministischen Logiken basieren, operieren Physical-AI-Anwendungen in offenen Problemräumen. Sie interpretieren unstrukturierte Sensordaten, leiten daraus kontextabhängige Entscheidungen ab und handeln anschließend in der physischen Welt. Die enge Verzahnung von Wahrnehmung, Entscheidungslogik und Aktion schafft dabei neue Angriffspunkte und erfordert erweiterte Sicherheitskonzepte.

NTT DATA hat fünf besonders relevante Risiken sowie geeignete Gegenmaßnahmen identifiziert:

1. Vulnerable Sensorik

Das Problem: Sensoren bilden die Grundlage für die meisten Physical-AI-Anwendungen, für die Kameras, Kraft- oder Positionssensoren die notwendigen Daten liefern. Werden diese manipuliert oder durch äußere Einflüsse verändert, kann das System falsche Entscheidungen treffen. In industriellen Umgebungen haben dabei bereits scheinbar banale Faktoren wie ungewöhnliche Lichtverhältnisse, Staub oder elektromagnetische Störungen direkte Auswirkungen auf die Sensorik. Darüber hinaus besteht auch das Risiko gezielter Manipulationen durch kriminelle Akteure.

Gegenmaßnahmen: Um Risiken zu minimieren, können Unternehmen auf den Ansatz der Sensorfusion zurückgreifen, bei dem Daten mehrerer Sensoren miteinander abgeglichen werden. Auch der Einsatz von Tests, die inkonsistente oder auffällige Messwerte automatisch erkennen, ist sinnvoll. Ergänzend kann die Redundanz kritischer Sensoren, eine regelmäßige Kalibrierung und die Überwachung von Anomalien in Echtzeit die Robustheit der Physical-AI-Systeme deutlich erhöhen.

2. Angriffe auf KI-Modelle

Das Problem: Neben der Sensorik können auch die zugrunde liegenden KI-Modelle Angriffspunkte z.B. durch Prompt Injections darstellen. Manipulierte Trainingsdaten oder fehlerhafte Modellaktualisierungen können dazu führen, dass das System systematisch falsche Entscheidungen trifft. Solche Manipulationen oder Fehler sind oft schwer zu erkennen, weil die Ergebnisse weiterhin plausibel erscheinen.

Gegenmaßnahmen: Kontrollierte Trainingspipelines, sorgfältige Validierung der Trainingsdaten und kontinuierliches Monitoring der Modellentscheidungen helfen, Anomalien frühzeitig zu erkennen. Ergänzend können Versionierung der Modelle und Audits der Trainingsprozesse die Integrität der KI-Modelle sichern.

3. Neue Angriffsflächen durch Vernetzung

Das Problem: Viele Physical-AI-Systeme sind in hochvernetzte Architekturen eingebunden. Sie kommunizieren mit Cloud-Plattformen, Edge-Systemen und Remote-Wartungsschnittstellen. Diese Vernetzung erhöht die Flexibilität, erweitert aber gleichzeitig die Angriffsfläche. Kompromittierte Zugänge oder unsichere Schnittstellen können genutzt werden, um Systeme gezielt zu manipulieren oder Kontrolle über physische Prozesse zu erlangen.

Gegenmaßnahmen: Klassische Security-Mechanismen bleiben hier zentral: Zero-Trust-Architekturen, konsequente Netzwerksegmentierung und abgesicherte Update-Prozesse reduzieren Risiken. Ergänzend sind kontinuierliches Monitoring der Kommunikationswege sowie ein umfassendes Logging von Zugriffen notwendig, um unautorisierte Aktivitäten frühzeitig zu erkennen und einzugrenzen.

4. Trennung von Safety und Security

Das Problem: In der industriellen Automatisierung wurden Safety (Schutz vor Fehlern und Unfällen) und Security (Schutz vor Angriffen) lange getrennt betrachtet. Physical AI bricht diese Trennung allerdings zunehmend auf. Systeme agieren in offenen, schwer vollständig modellierbaren Umgebungen und arbeiten oft direkt mit Menschen zusammen, beispielsweise bei kollaborativen Anwendungen oder Cobots. Fehlerhafte oder manipulierte Entscheidungen können dadurch unmittelbare physische Auswirkungen haben. Ein System kann formal „sicher“ ausgelegt sein und dennoch durch unerwartetes oder durch beeinflusstes Verhalten gefährlich werden.

Gegenmaßnahmen: Zentral ist eine integrierte Betrachtung von Safety und Security bereits in der Systementwicklung. Dazu gehören kombinierte Risiko- und Bedrohungsanalysen, robuste Fallback-Strategien und klar definierte sichere Zustände. Plausibilitätsprüfungen und Redundanzen bei Sensordaten können helfen, Fehlinterpretationen zu begrenzen. Gleichzeitig müssen Systeme so ausgelegt sein, dass sie auch bei unsicheren oder fehlerhaften KI-Entscheidungen kontrollierbar bleiben, etwa durch sichere Betriebsmodi oder physische Notfallmechanismen.

5. Unerwartete Situationen in realen Umgebungen

Das Problem: Physical-AI-Systeme müssen mit unvorhersehbaren Situationen umgehen: ungewöhnliche Objekte, beschädigte Sensoren oder veränderte Umweltbedingungen. Diese Szenarien lassen sich im Training nur teilweise abbilden, können aber entscheidend für die Systemstabilität sein.

Gegenmaßnahmen: Umfangreiche Simulationen und Stresstests, in denen Systeme bewusst mit außergewöhnlichen Situationen konfrontiert werden. Anomalieerkennung, adaptive Algorithmen und kontinuierliches Lernen unterstützen ebenfalls dabei, dass Physical-AI-Anwendungen auch in unvorhergesehenen Umgebungen zuverlässig reagieren. Zusätzlich ermöglichen Data Flywheels, also ein selbstverstärkender Kreislauf aus Daten, Produktverbesserung und Nutzung, ein kontinuierliches Lernen.

„Sicherheit kann bei Physical AI nicht erst nachträglich ergänzt werden"

„Physical AI wird in den kommenden Jahren in immer mehr Bereichen Einzug halten, von autonomen Maschinen über Robotik bis hin zu intelligenten Infrastrukturen. Damit wächst auch die Verantwortung, diese Systeme von Anfang an robust und sicher zu gestalten“, verdeutlicht Oliver Köth, Managing Director Technology & Innovation DACH bei NTT DATA. „Sicherheit kann bei Physical AI daher auch nicht erst nachträglich ergänzt werden, sondern muss integraler Bestandteil von Architektur, Training und Betrieb sein.“

„Physical AI wird in den kommenden Jahren in immer mehr Bereichen Einzug halten, von autonomen Maschinen über Robotik bis hin zu intelligenten Infrastrukturen. Damit wächst auch die Verantwortung, diese Systeme von Anfang an robust und sicher zu gestalten“, verdeutlicht Oliver Köth, Managing Director Technology & Innovation DACH bei NTT DATA. „Sicherheit kann bei Physical AI daher auch nicht erst nachträglich ergänzt werden, sondern muss integraler Bestandteil von Architektur, Training und Betrieb sein.“