Google-KI entdeckt erstmals eine Zero-Day-Schwachstelle

Googles "Project Zero"-Team hat eine Zero-Day-Schwachstelle in der Open-Source-Database-Engine SQLite gemeldet. Eine Mitteilung, die normalerweise kaum Aufmerksamkeit erhalte würde, schliesslich ist "Project Zero" Googles Sicherheitsforschungsteam, das sich explizit mit Zero-Days beschäftigt. Allerdings: Die Entdeckung dieser Stack-Buffer-Schwachstelle gehe nicht auf einen Menschen zurück, sondern auf "Big Sleep", einem KI-Agenten darauf trainiert ist, Schwachstellen zu entdecken. 

Laut einem Blog-Post des Project-Zero-Teams sei es das erste Mal, dass "Big Sleep" eine Schwachstelle in einem echten, aktiven Codeprojekt entdeckt hat. Der Fehler sei entdeckt worden, bevor er in einen offiziellen SQLite-Release einfloss, weshalb Nutzende nicht betroffen waren.

"Big Sleep" basiert auf dem Gemini 1.5 Pro Modell von Google und wird gemeinsam mit Googles KI-Schmiede, dem "DeepMind"-Team entwickelt, um Codebibliotheken nach Schwachstellen zu durchsuchen. Dabei suche "Big Sleep" bewusst nach Exploits für Varianten von bereits gefundenen und gepatchten Sicherheitslücken. Damit habe der KI-Agent jeweils einen konkreten Ausgangspunkt und erhalte den Input: "Das war ein früherer Fehler; wahrscheinlich gibt es irgendwo noch einen ähnlichen Fehler." 

Nur ein Teilerfolg

Die Forschenden von "Project Zero" halten in ihrem Blogbeitrag fest: "Wenn sie mit den richtigen Werkzeugen ausgestattet sind, können derzeitige LLMs Schwachstellenforschung betreiben."

Allerdings halten die Forschenden auch fest, dass die gefundene Schwachstelle, wohl auch mit einem klassischen Ansatz hätte entdeckt werden können, dennoch sei es ein Schritt in die richtige Richtung. "Wir hoffen, dass diese Bemühungen in Zukunft zu einem erheblichen Vorteil für die Verteidiger führen werden - mit dem Potenzial, nicht nur abstürzende Testfälle zu finden, sondern auch eine qualitativ hochwertige Ursachenanalyse zu liefern, könnte die Fehlersuche und -behebung in Zukunft viel billiger und effektiver werden."

"Big Sleep" ist ein Beispiel für die Nutzung von KI-Tools in der Cybersecurity-Forschung. Auch Oracle arbeitet an solchen Tools, etwa mit dem Financial Services Investigation Hub, welcher die Finanzbetrugsaufklärung erleichtern soll, wie Sie hier nachlesen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.