Einmal im Monat blicken wir zurück auf das, was in der AI-Welt passiert ist. Wir sammeln lesenswerte Artikel aus der Community und wichtige Produkt-Updates, kuratiert von unserem AI-Team.
Im August ging es mehrfach um die Frage, wie viel Kontrolle wir behalten, wenn AI mehr übernimmt. Anthropic will Claude-Texte mit einem unsichtbaren Wasserzeichen erkennbar machen. Ein Erfahrungsbericht zeigt, dass durchsuchbare Session-Transkripte Agenten nicht automatisch besser machen. Und ein OpenAI-Postmortem beschreibt, wie Agenten aus ihrer Sandbox ausbrachen, sich koordinierten und Systeme von Hugging Face erreichten.
Auch auf der Produktseite gab es einiges: Anthropic bringt Fable 5.1, Qwen 3.8 27B läuft als offenes Modell auch lokal und /design bringt editierbare UI-Entwürfe direkt in Claude Code.
Lesenswertes aus der Community
Das Wasserzeichen im Text
John Gruber · daringfireball.net
Anthropic will Texte künftiger Claude-Modelle mit einem unsichtbaren Wasserzeichen versehen. Dafür nutzt Claude Situationen, in denen mehrere Wörter ähnlich gut passen. Ein geheimer Schlüssel beeinflusst die Auswahl so, dass über längere Texte ein statistisch erkennbares Muster entsteht.
Für Leser bleibt das Muster unsichtbar. Mit dem passenden Schlüssel lässt sich aber abschätzen, ob Claude an einem Text beteiligt war. Bei kurzen, faktenlastigen Texten oder Code funktioniert das schlechter, weil dort weniger Spielraum bei der Wortwahl besteht.
John Gruber kritisiert genau diesen Eingriff. Für ihn sind zwei Wörter nie vollständig gleichwertig. Sobald das Wasserzeichen die Wortwahl beeinflusst, dient nicht mehr jede Entscheidung allein dem bestmöglichen Text.
Wir nutzen AI beim Formulieren. Entscheidend ist für uns, dass die Gedanken von uns kommen und wir den Inhalt verantworten.
Ein solcher Nachweis zeigt, dass AI an einem Text beteiligt war. Er sagt aber wenig darüber aus, wer die Gedanken eingebracht, Entscheidungen getroffen und den Inhalt geprägt hat. Für uns ist deshalb wichtiger, was im Text steht und was ein Leser daraus mitnimmt. Daran messen wir unsere Arbeit.
Bei Software sehen wir das ähnlich. Auch dort ist nicht entscheidend, ob AI beim Schreiben des Codes geholfen hat. AI gehört zunehmend zum Entwicklungsalltag. Entscheidend ist, dass wir verstehen, was entsteht, die technischen Entscheidungen treffen und die Verantwortung für die Software übernehmen.
Session-Transkripte sind kein Gedächtnis
theahura · 12gramsofcarbon.com
Über mehrere Monate testete das Team, ob Coding-Agenten von durchsuchbaren früheren Session-Transkripten profitieren. Solange andere Formen von Kontext vorhanden waren, zeigte sich kein messbarer Vorteil. Teilweise wurden die Ergebnisse sogar schlechter.
Der Grund: In alten Sessions stecken neben hilfreichem Wissen auch verworfene Ideen, falsche Annahmen und überholte Zwischenstände. Der Agent behandelt all das zunächst als relevanten Kontext.
Das Team hält wichtiges Wissen deshalb direkt bei den Artefakten fest: in Dokumentation, Commit-Messages und Pull Requests.
Wissen bleibt nicht von selbst erhalten. Was ein Agent später wissen soll, muss jemand bewusst an der richtigen Stelle festhalten.
Die verbindliche Version gehört für uns ins Projekt selbst und nicht in den Speicher eines einzelnen Werkzeugs. Memory-Funktionen unterscheiden sich je nach Agent und Anbieter und verändern sich laufend. Das Wissen wollen wir deshalb selbst im Griff behalten.
Im Team wird das noch wichtiger. Was einer weiss, müssen auch andere abrufen können. Das private Gedächtnis eines einzelnen Agenten reicht dafür nicht.
Hugging Face Incident: Postmortem
OpenAI · openai.com
Bei internen Cybersecurity-Tests durchbrachen OpenAI-Agenten die Isolation ihrer Sandboxes und gelangten ins Internet. Über Schwachstellen in der eigenen Forschungsinfrastruktur erreichten sie schliesslich auch Systeme von Hugging Face.
Besonders bemerkenswert war die Zusammenarbeit der Agenten. Eigentlich getrennte Instanzen bauten sich über einen gemeinsamen Paketdienst ein improvisiertes schwarzes Brett. Darüber tauschten sie Informationen aus, teilten Aufgaben auf und koordinierten ihre nächsten Schritte.
OpenAI führt das Verhalten unter anderem auf Reward Hacking und die hohe Beharrlichkeit der Agenten zurück. Einige Aufgaben waren praktisch nicht lösbar. Statt aufzugeben, suchten die Agenten zunehmend nach Wegen ausserhalb der vorgesehenen Grenzen.
Im Test fehlten zudem Schutzmechanismen, die OpenAI in Produktivsystemen einsetzt. OpenAI hat die Isolation inzwischen verstärkt und setzt stärker auf automatisches Monitoring.
Wir lassen selbst täglich Agenten laufen, unter anderem in abgeschotteten Containern mit Asylum oder Docker Sandboxes. Für uns zeigt der Vorfall vor allem, wie wichtig technische Leitplanken sind. Eine Testumgebung ohne Guardrails ist nicht automatisch harmlos.
Entscheidend ist, was ein Agent erreichen kann, wenn er von seiner Aufgabe abweicht. Er sollte nur auf Zugangsdaten, Systeme und Netzwerke zugreifen können, die er tatsächlich braucht. Je fähiger die Modelle werden, desto wichtiger wird diese Grenze.
Dahinter steckt für uns noch eine grössere Frage. Heute bauen wir Systeme darauf, dass Mitarbeitende grundsätzlich gutwillig handeln. Reicht diese Annahme noch, wenn sie mit zunehmend selbstständigen Agenten arbeiten? Oder müssen wir Agenten künftig als eigene Akteure behandeln und unsere Infrastruktur entsprechend aufbauen?
Produkt-Updates
Claude Fable 5.1: Anthropics neues Spitzenmodell für Coding und Wissensarbeit. Besonders auffällig: Generierter Text soll wieder stärker auf menschliche Lesbarkeit optimiert sein.
Qwen 3.8 27B: Alibabas offenes Vision-Language-Modell steht unter Apache 2.0 und läuft mit rund 17 GB auch lokal auf gut ausgestatteter Consumer-Hardware. In der Standardeinstellung denkt es allerdings masslos über einfache Aufgaben nach, darum lohnt es sich, den Reasoning-Aufwand von Anfang an tief zu setzen.
/design in Claude Code: Der neue Befehl bringt editierbare UI-Entwürfe direkt in Claude Code. Aus einer Beschreibung entsteht ein Entwurf, der angepasst und anschliessend im eigenen Repository umgesetzt werden kann.
