#2 Die Smart Factory am Scheideweg

Und weiter dreht sich das Forschungskarussell: Das Software Competence Center Hagenberg (SCCH) hat Anfang 2019 die neue Forschungsabteilung Secure Software Analytics (SSA) gegründet und zeitgleich damit das Projekt SeCoMo (Secure Code and Runtime Monitoring) gestartet, um Lösungen für Cybersecurity von Industriemaschinen in Cloudumgebungen zu entwickeln. „Sicherheit sollte endlich als Qualitätsmerkmal von Software verstanden werden“, erklärt Thomas Ziebermayr, Leiter vom Bereich Software Science am SCCH. „Es gibt Anwendungsfälle, wie etwa eine Liftsteuerung, bei denen Sicherheit ganz klar als Anforderung definiert ist. Diese geforderte Sicherheit muss man natürlich auch in der Software umsetzen und beweisen, dass sie tatsächlich funktioniert.“ Aber es gibt eben auch ganz viele Bereiche, in denen das nicht der Fall ist. Besonders im industriellen Umfeld wird die Anzahl von Cyber-physischen Systemen immer größer.

Die Menge an Maschinen mit softwaretechnischen Komponenten, die über Cloudlösungen miteinander kommunizieren, nimmt kontinuierlich zu. „Diese Vernetzung führt zu immer höheren Sicherheitsanforderungen, die nur mehr durch eine Vielzahl von Maßnahmen erfüllt werden können. Und in Bereichen wie Maschinenbau oder im Automatisierungsumfeld gibt es diese Maßnahmen noch nicht in einem ausreichenden Umfang“, so Ziebermayr.

„Jedes Mal, wenn eine neue Maschine oder eine neue Anlage in eine bestehende Fertigungsstraße integriert wird, verändert sich das Kommunikationsverhalten der Geräte und damit das gesamte softwaretechnische Sicherheitsgefüge dieser Fertigungsstraße – das eröffnet Sicherheitslücken.“ Die meisten Menschen denken beim Thema Softwaresicherheit an Verschlüsselung und das Verhindern von Zugriffen. „Es gibt aber auch viel subtilere Angriffe, die nicht darauf abzielen, sich in die Software zu hacken, sondern das System von außen lahmlegen wollen.“ Das Projekt SeCoMo widmet sich daher der Erforschung und der Entwicklung von Software-Engineering-Methoden, die Sicherheitsprobleme bereits während der Implementierung einer neuen Softwarekomponente in ein bestehendes System automatisch erkennen können.

Spezialfall Künstliche Intelligenz

Bisher wird ein Großteil der Sicherheitsanalyse von Software manuell durchgeführt. „Ein zweiter Entwickler schaut sich das System an und macht ein Code-Review. Natürlich ist das aber in einem agilen Umfeld, wo man in immer kürzeren Abständen neue Funktionalitäten hinzubauen will, nur noch schwer möglich. Hier werden automatisierte Systeme benötigt, die laufend sicherstellen, dass trotz Erweiterungen die bisherige Architektur immer noch einwandfrei funktioniert“, erklärt Ziebermayr.

Künstliche Intelligenz ist im Zusammenhang mit der automatisierten Softwareanalyse ein besonders schwieriger Fall. „Wir können die Analyseverfahren, die wir gerade entwickeln, nicht direkt auf ein KI-System anwenden. Bei einem KI-System kann ich mir ansehen: Wie hat die KI gelernt? Welche mathematischen Parameter wurden verwendet? Und welche Daten liegen dem System zugrunde? Ich kann mir also die Umgebung ansehen, aber nicht direkt in das System hineinschauen – wie bei einer Black Box.“ Eine Analogie zum besseren Verständnis: Man kann nicht in einen Menschen hineinsehen und seine Gedanken erkennen. Man kann nur beobachten, wie ein Mensch in bestimmten Situationen reagiert und diesen Menschen anhand seiner Verhaltensweisen im Laufe der Zeit immer besser kennenlernen – genauso verhält es sich mit Künstlicher Intelligenz. „Die Testmethoden, die wir derzeit entwickeln, funktionieren deshalb noch nicht für KI-Systeme. Zum aktuellen Zeitpunkt lässt sich noch schwer abschätzen, ob es überhaupt gelingen wird, in diesem Bereich automatisierte Testverfahren zur Sicherheitsüberprüfung zu entwickeln, das ist derzeit intensiver Bestandteil unserer Forschung“, so Ziebermayr. „Bevor man nicht die fehlerfreie Funktion von KI-basierten Systemen nachweisen kann, werden wir kein KI-System erleben, das eine Produktion vollständig leitet.“