In dieser Ausgabe blicken wir auf die letzten zwei Monate in der AI-Welt zurück. Wir sammeln lesenswerte Artikel aus der Community und wichtige Produkt-Updates, kuratiert von unserem AI-Team.
AI findet Sicherheitslücken heute schneller und günstiger als je zuvor. Im Oktober wurden in einer einzigen Woche mehrere kritische Lücken in weit verbreiteter Software bekannt, was der Sicherheitsanbieter ESET die Cybersecurity Black Week nennt. Wir widmen diese Ausgabe deshalb ganz der Sicherheit, vom Finden einer Lücke über das Beheben bis zum Einspielen der Korrektur. Bei den Produkten stellen wir Pi 1.0, die neuen Mods für Claude Code und das Modell Kolibri von Aleph Alpha vor.
Lesenswertes aus der Community
Lückensuche am Fliessband
OpenAI · openai.com
Eine ausnutzbare Lücke im Linux-Kernel nachzuweisen, war bisher aufwendige Handarbeit, für die Hacking-Wettbewerbe 20’000 bis 70’000 US-Dollar zahlten. OpenAI hat diese Arbeit nun von Agenten erledigen lassen. In zehn Tagen fanden sie 948 Wege, über die ein normaler Benutzer die volle Kontrolle über ein System übernehmen kann, für höchstens rund 1’300 US-Dollar pro Nachweis.
In einem frühen Durchlauf meldeten die Agenten 200 Erfolge. Bei jedem zehnten hatten sie aber nicht die vorgesehene Lücke ausgenutzt, sondern eine andere, bisher unbekannte. Seither prüft ein zusätzlicher Schritt, welche Lücke tatsächlich ausgenutzt wurde.
Bisher galt: Wer etwa über eine Lücke in einer Webanwendung auf einen Server gelangt, hat dort zunächst nur eingeschränkte Rechte. Diese Trennung zwischen gewöhnlichen Benutzern und Administratoren ist eine wichtige Schutzschicht. OpenAI folgert aber aus den Ergebnissen, dass sie auf Systemen ohne aktuelle Updates kaum noch hält. Wer auf einem solchen System irgendeinen Zugang hat, ist für gut ausgerüstete Angreifer praktisch schon Administrator (Zusammenfassung bei Help Net Security).
Bei OpenAI musste ein zusätzlicher Schritt prüfen, wie die Agenten zu ihrem Resultat gekommen sind. Ähnlich ist es mit Code, den AI-Agenten mitschreiben. Er entsteht schnell und in grosser Menge, und gerade deshalb muss jemand verstehen, was er tut.
Bei uns durchläuft darum jede Änderung mehrere Stufen. Zuerst laufen automatische Prüfungen in der Pipeline, und in vielen Projekten schaut zusätzlich ein AI-Agent drüber. Danach beurteilen erfahrene Entwicklerinnen und Entwickler in Code-Reviews und Architektur-Reviews, ob die Änderung korrekt ist und ins Gesamtsystem passt. Sie entscheiden, ob eine Änderung übernommen wird.
Weil AI-Agenten schnell Zusammenhänge erkennen können, wollen wir AI-Reviews künftig noch breiter einsetzen, auch gezielt für die Suche nach Sicherheitslücken.
Der Engpass ist der Mensch
Amanda Caswell · thenewstack.io
Wenn AI Schwachstellen in grosser Zahl findet, liegt der Engpass bei den Menschen, die alles prüfen, einordnen, beheben und ausrollen müssen. Das zeigt sich bei Anthropic. Anfang Oktober hat das Unternehmen den OSS Scanner gestartet, einen kostenlosen Dienst, der Open-Source-Projekte mit AI nach Sicherheitslücken durchsucht. Die Modelle hatten zuvor rund 29’000 mögliche Lücken gefunden, Menschen konnten davon aber nur ungefähr 6’000 prüfen. Beim Beheben sieht es ähnlich aus. Laut Anthropics Dashboard waren Anfang Oktober von 6’157 gemeldeten Lücken erst 516 behoben, also rund 8 Prozent.
Die Menschen hinter den Projekten entlasten will die Initiative Akrites der Linux Foundation. Sie meldet AI-Funde erst, wenn klar ist, dass die Lücke echt ist, und liefert gleich einen Vorschlag zur Korrektur mit.
AI kann uns beim Finden, Prüfen und Beheben von Sicherheitslücken unterstützen. Was sie uns nicht abnimmt, ist die Einordnung im eigenen System. Bei jeder neuen Meldung klären wir deshalb zuerst, ob und wie stark sie uns betrifft. Dafür müssen wir wissen, was in welchem Projekt im Einsatz ist, bis hin zu Bausteinen, die in anderer Software mitgeliefert werden.
Der Schweregrad einer Lücke, der sogenannte CVSS-Wert, hilft uns dabei nur bedingt. Eine kritische Lücke bedeutet nicht automatisch, dass für unsere Anwendung ein kritisches Risiko besteht. Ist der betroffene Dienst von aussen erreichbar? Nutzt unsere Anwendung die verwundbare Funktion überhaupt? Solche Fragen können die Entwicklerinnen und Entwickler beantworten, die das System kennen. Ihre Einordnung entscheidet, was wir zuerst beheben.
Behoben ist nicht eingespielt
Roman Kováč · welivesecurity.com
In der Woche vor dem 25. Oktober wurden fast gleichzeitig kritische Lücken in PHP, GitLab, dem Linux-Kernel und der Bibliothek Brotli bekannt. Mit jeder solchen Veröffentlichung öffnet sich ein Zeitfenster für Angreifer, das sich erst schliesst, wenn das letzte betroffene System aktualisiert ist. Bei PHP wurde die Lücke bekannt, bevor die Korrektur bereit war, und die meistgeteilte Notlösung gehörte laut PHP-Security-Team sogar zu einer anderen Lücke.
Brotli ist eine weit verbreitete Bibliothek von Google zum Komprimieren von Daten und steckt unter anderem in Node.js. Einen Fehler darin, den das AI-Werkzeug Codex Security von OpenAI gemeldet hatte, korrigierte Google schon im Februar, aber ohne neue Version und ohne Sicherheitshinweis. Laut ESET erkannte niemand, dass die Änderung eine Sicherheitslücke schloss. So lag die Korrektur acht Monate lang öffentlich bereit, ohne dass andere Projekte sie übernahmen, bis die Lücke im Oktober aktiv ausgenutzt wurde.
Auch die Lücke Log4Shell in der Java-Bibliothek Log4j ist seit Ende 2021 bekannt. Trotzdem war laut Sonatype 2025 bei rund 13 Prozent der Log4j-Downloads noch eine verwundbare Version dabei.
Wann eine Lücke öffentlich wird, können wir nicht beeinflussen. Wie lange sie bei uns offen bleibt, schon.
Dafür ist entscheidend, wie leicht sich eine Korrektur ausrollen lässt. Sind Bauen, Testen und Ausliefern automatisiert, können wir Updates regelmässig und mit wenig Aufwand einspielen, nicht erst im Notfall. Muss jemand von Hand bauen und installieren, geht wertvolle Zeit verloren. Eine gepflegte CI/CD-Pipeline gehört für uns deshalb zur Sicherheit dazu.
Produkt-Updates
Pi 1.0: Der bewusst minimale Coding-Agent fürs Terminal ist in Version 1.0 erschienen. Was über den kleinen Kern hinausgeht, wie Sub-Agenten oder ein Plan Mode, baut man als TypeScript-Extension selbst oder lässt es von Pi schreiben.
Mods für Claude Code: Claude Code lässt sich neu mit kleinen TypeScript-Funktionen erweitern, die etwa Tool-Aufrufe blockieren, eigene Berechtigungsregeln umsetzen oder die Oberfläche ergänzen. Weil Mods mit denselben Rechten wie Claude Code und ohne Sandbox laufen, empfiehlt Anthropic, nur Mods aus vertrauenswürdigen Quellen zu installieren.
Kolibri: Aleph Alpha hat ein Open-Weight-Modell für Deutsch und Englisch veröffentlicht. Die Gewichte stehen unter der Apache-2.0-Lizenz, und rund ein Fünftel der Trainingsdaten ist deutsch. Kolibri läuft bereits auf einer einzelnen H200-GPU und eignet sich damit für Projekte, bei denen die Daten im eigenen Rechenzentrum bleiben müssen.
