AI-DevAssist

1. Motivation 

Apps sind die neuen digitalen Produkte und verarbeiten und speichern heute umfassend sensible Daten. Diese alltäglichen Helfer (Social Networks, Instant Messenger, uvm. ) sind zunehmend untereinander vernetzt. Die Vernetzung bietet viele funktionale Vorteile, sie impliziert aber auch Risiken, wenn Schwachstellen in der Software vorhanden sind. 

Solche Schwachstellen dienen dann als erste Ziele für Cyberangriffe. Eine vollständig abgesicherte Software ist für die Wahrung der Privatsphäre und Informationssicherheit einer vernetzen Gesellschaft, der Wirtschaft oder auch Funktionsbereichen des Staates unabdingbar.  

Die Entwicklung einer solchen sicheren und zuverlässigen Software stellt Entwickler*innen nicht zuletzt durch die steigende Komplexität unverändert vor große Herausforderungen. Trotz umfassender Bemühungen und Fortschritte die Anzahl der kritischen Schwachstellen einzudämmen, steigt diese dennoch.

2. Ziele und Vorgehen 

Ziel von AI-DevAssist ist es, Methoden zu erforschen, die es der Künstlichen Intelligenz ermöglichen, Schwachstellen zu erkennen, um dadurch Angriffe auf die Software zu verhindern. Die Idee dabei ist, die bisherige Erforschung und Entwicklung von Methoden der Künstlichen Intelligenz um bestehende statische und Fuzzing-Analysewerkzeuge für die Erkennung von Schwachstellen zu erweitern. Außerdem besteht ein großes Anliegen in der Entwicklung des KI-Assistenten darin, eine direkte Interaktion zwischen Softwareentwickler und den KI-Systemen zu erreichen. Eine benutzerfreundliche Interaktion mithilfe einer KI verbessert auch die finale Beurteilung der Kritikalität einer Sicherheitslücke durch den*die Entwickler*in. 

3. Innovation und Perspektiven

Der KI-Assistent soll Softwareentwickler bereits bei der Programmierung unterstützen, indem er Schwachstellen sowohl direkt im Software-Code als auch bei den Programmausführungen sucht und aufdeckt. Diese Schwachstellen können dann durch die Entwickler*innen behoben werden. Anhand einer solchen kooperativen Schnittstelle zwischen Menschen und einer KI wird Programmierenden die Gewährleistung der unabdingbaren IT-Sicherheit erleichtert. Zudem wird eine neue Form der Zusammenarbeit mit einer KI etabliert, in der sich die Expertise der Anwender kontinuierlich erweitert. Viele Bereiche, in denen IT-Lösungen entwickelt werden, können durch dieses Vorhaben profitieren. So können mithilfe des KI-Assistenten auch Programmierende unterstützt werden, die nur geringe Expertise in der IT-Sicherheit haben. Dadurch wird sichergestellt, dass auch kleine und mittlere Unternehmen, die häufig nicht über ausgewiesene Sicherheitsexpert*innen verfügen, von den Ergebnissen profitieren. Die Sicherheit der Software ist ein wesentlicher Faktor in allen Bereichen. Dieses Vorhaben bringt in vielerlei Hinsicht ein hohes Potenzial mit sich.