Laufende Projekte

The Technical University of Munich (TUM) and Google are driving forward research into cybersecurity and artificial intelligence (AI). Press release from TUM, Google.

Large Language Models (LLMs) for the analysis of program code with regard to security vulnerabilities and data protection violations: How can novel, LLM-based, automated methods be used to identify privacy and security vulnerabilities in very large codebases more efficiently and precisely?

In the domain of Cybersecurity Research and innovation, European scientists hold pioneering positions in fields such as cryptography, formal methods, or secure components. Yet this excellence on focused domains does not translate into larger-scale, system-level advantages. Too often, scattered and small teams fall short of critical mass capabilities, despite demonstrating world-class talent and results. Europe’s strength is in its diversity, but that strength is only materialized if we cooperate, combine, and develop common lines of research. Given today’s societal challenges, this has become more than an advantage – an urgent necessity. Various approaches are being developed to enhance collaboration at many levels. Europe’s framework programs have sprung projects in cybersecurity over the past thirty years, encouraging international cooperation and funding support actions. More recently, the Cybersecurity PPP has brought together public institutions and industrial actors around common roadmaps and projects. While encouraging, these efforts have highlighted the need to break the mold, step up investments, and intensify coordination.

The SPARTA project brings together a unique set of actors at the intersection of scientific excellence, technological innovation, and societal sciences in cybersecurity. Strongly guided by concrete and risky challenges, it will setup unique collaboration means, leading the way in building transformative capabilities and forming world-leading expertise centers. Through innovative governance, ambitious demonstration cases, and active community engagement, SPARTA aims at re-thinking the way cybersecurity research is performed in Europe across domains and expertise, from foundations to applications, in academia and industry.

Für Deutschland als weltweit führendem Industriestandort ist die Vernetzung der Produktion eine zentrale Zukunftschance. Deutsche Unternehmen und Institutionen sehen sich aber zusehends mit hochprofessionellen Cyberangriffen konfrontiert. Neben den klassischen Gefahren wie Viren oder Trojanern bedrohen neuartige, auf industrielle Kontrollsysteme ausgelegte Attacken die vernetzten Industrieanlagen. Dabei geht es um die gezielte, tiefgreifende und über eine längere Zeit angelegte Manipulation oder Sabotage von Anlagen und deren Steuerungsmechanismen. Letzten Endes ist das Ziel der Zugriff auf Daten, wichtiges Know-how und Betriebsgeheimnisse.

Zum effektiven Schutz reicht es nicht aus, die etablierten Sicherheitskonzepte zu übernehmen. Anders als beispielsweise in der Office-IT kann man im Schadensfall Produktionsanlagen nicht einfach abschalten, auch nicht in geplanten Wartungsfenstern. In der Prozesssteuerung und Fabrikautomation müssen die Systeme rund um die Uhr verfügbar sein und stabil funktionieren.

Ziel des Nationales Referenzprojekts zur IT-Sicherheit in der Industrie 4.0 ist es vernetzte Industrieanlagen effektiv vor Cyberangriffen und Spionage zu schützen. 14 Unternehmen der deutschen Industrie forschen gemeinsam mit sieben Forschungseinrichtungen und Universitäten daran, Angriffspunkte für Hacker zu minimieren. Dies geschieht konkret anhand von Anwendungsschwerpunkten und Demonstratoren. Es sollen Methoden entwickelt werden, mit denen gleichzeitig sichere Prozesse, sichere Daten und sichere Dienste bei sicherer Vernetzung realisiert werden können.

Das Projekt wird im Rahmen des Forschungsrahmenprogrammes der Bundesregierung zur IT-Sicherheit Selbstbestimmt und sicher in der digitalen Welt 2015-2020 gefördert. Eine der Leitlinien dort ist die Stärkung des Standortes Deutschland durch IT-Sicherheit für Industrie 4.0.

ARAMiS hat zum Ziel, durch den Einsatz von Multicore-Technologie in den Mobilitätsdomänen Automobil, Avionik und Bahn die technologische Basis zur weiteren Erhöhung von Sicherheit, Verkehrseffizienz und Komfort zu schaffen. Die nach der Durchführung dieses Projekts gewonnenen Erkenntnisse bilden zudem das unabdingbare Fundament für die erfolgreiche Vernetzung von Embedded Systems zu Cyber Physical Systems (CPS). Vor diesem Hintergrund wird das Projekt einen wichtigen Beitrag zum Erhalt und zur Stärkung der weltweiten Wettbewerbsfähigkeit deutscher Unternehmen der Domänen Automobil, Avionik und Bahn leisten.

Das Gesamtziel dieses Forschungsvorhabens ist es, innovative Verfahren zum Erlernen vertrauenswürdigen Systemverhaltens und zur Erkennung von Anomalien auf der Basis einer Kombination von maschinellen Lernverfahren und Virtualisierung zu entwickeln. Diese Verfahren werden durch eine Kombination von Hardware- und Softwaremechanismen im System abgebildet und so realisiert, dass sie in virtualisierungsbasierten Systemen eingesetzt werden können. Dieser Ansatz gewährleistet eine Komplexitätsreduktion und stellt gleichzeitig sicher, dass die entwickelten Sicherheitsdienste und Verfahren und ihre Realisierungen in einem möglichst breiten Anwendungsfeld eingesetzt werden können. Diese virtualisierbaren Primitive und Dienste schaffen damit die Grundlagen für verifizierbare und vertrauenswürdige IKT-Systeme.

Das Projekt SIBASE zur Entwicklung von Lösungen für sichere eingebettete Systeme hat zum Ziel, ein Baukastensystem aus standardisierten, ineinandergreifenden Sicherheitskomponenten für eingebettete Systeme in Hardware und Software zu entwickeln, um langfristige Sicherheit zu gewähren. Dafür werden Sicherheitsanforderungen an eingebettete Systeme analysiert und geeignete Konzepte für die Absicherung der Systeme erarbeitet. Aufbauend auf den Ergebnissen werden standardisierte Softwarekomponenten für sichere eingebettete Systeme entwickelt und Konzepte für die eindeutige Identifikation von Hardwarekomponenten erforscht. Die Bausteine des Sicherheitsbaukastens werden im letzten Drittel des Projekts in vier verschiedenen Demonstratoren aus den Anwendungsfeldern Industriefernwartung und -fernsteuerung, Elektromobilität/Smart Grid, Avionik und Automotive zusammengefügt und einem Praxistest unterzogen. Schematisch lässt sich die Architektur des Systems wie folgt darstellen:

Die Forscher der Technischen Universität München arbeiten im Rahmen des Projekts mit den Partnern Fraunhofer AISEC, EADS, Genua, Giesecke und Devrient, Infineon, Mixed Mode, Siemens und Sysgo aus dem SicherheitsclusterMünchen zusammen.

Am Lehrstuhl für Sicherheit in der Informatik wird ein Werkzeug zur Modellierung und Analyse von Sicherheitsanforderungen auf der Softwarearchitektur- und Designebene basierend auf der Unified Modelling Language (UML/OCL) erstellt. Zur Analyse von Sicherheitseigenschaften von C/C++ Software auf der Implementierungsebene (Quelltext) wird symbolische Ausführung verwendet. Es wird ein Werkzeug zur automatischen Erkennung von Schwachstellen entwickelt, die zu Remote Exploits oder Privilege Escalation Exploits missbraucht werden könnten. Der Fokus liegt auf Fehlern im Informationsfluss (Information Exposure), Speicherzugriff (Buffer Overflow etc.) sowie bzgl. Zahlenformaten (Integer Overflow etc.). Weiter wird ein Werkzeug zur automatischen Generierung von Quick-Fixes zur Fehlerkorrektur bzw. zur Entschärfung von Schwachstellen (fail-secure error mitigation) entwickelt. Die Werkzeuge werden in die Eclipse Integrated Development Environment integriert.

Im Rahmen des ForSEC Projektes werden neue Konzepte und Methoden zur Entwicklung von sicheren, anpassbaren Sicherheitsarchitekturen für eingebettete mobile Geräte erforscht und prototypisch in einer konkreten Architektur umgesetzt. Hierzu soll ein gesamtheitlicher Ansatz untersucht werden, der sichere Hardware-Module, Systemsicherheit und Anomalie-Erkennung umfasst. Präventive Sicherheitskonzepte sollen mit reaktiven Maßnahmen kombiniert werden, um Datenflüsse zu kontrollieren und Schäden durch Verlust oder Manipulation von Daten zu verhindern.

Der Lehrstuhl arbeitet zusammen mit Bayerischen Staatsministerium für Finanzen an verschiedenen Projekten im Bereich IT-Sicherheit.

Diverse geneinsame Aktivitäten mit dem Fraunhofer-Institut AISEC.