Einmal im Monat blicken wir zurück auf das, was in der AI-Welt passiert ist. Wir sammeln lesenswerte Artikel aus der Community und wichtige Produkt-Updates, kuratiert von unserem AI-Team.
Im September ging es auffallend oft um Tempo. Das neue Modell Jev trifft Entscheidungen in Millisekunden und kostet dabei nur einen Bruchteil gängiger Sprachmodelle. OpenAI-Agenten haben laut OpenAI ein Millennium-Problem der Mathematik gelöst und Anfang Oktober Hunderte weitere Resultate nachgelegt, schneller, als die Mathematik sie prüfen kann. Angreifer nutzen bekannte Lücken mit AI inzwischen in wenigen Stunden aus. Und PostFinance zieht die Bremse und sperrt externe KI-Dienste für alle Mitarbeitenden.
Auf der Produktseite stellten Anthropic, OpenAI und Google je ein neues Spitzenmodell vor: Claude Opus 5.5, GPT-6 Astra und Gemini 4 Argon.
Lesenswertes aus der Community
Jev entscheidet, statt zu schreiben
Diogo Almeida · typesafe.ai
Jev ist das erste Modell von TypeSafe AI und gehört zu einer neuen Modellklasse, die das Unternehmen System One Models nennt. Jev liest Text, erzeugt aber selbst keinen. Stattdessen wählt es aus vorgegebenen Antworten und gibt zu jeder eine Wahrscheinlichkeit an. Eine Antwort ausserhalb dieser Auswahl ist nicht möglich. TypeSafe beschreibt Jev deshalb als eine Art smarte if-Abfrage, etwa um Anfragen zu klassifizieren, weiterzuleiten oder zu bewerten. Ein eigenes Trainingsverfahren soll für verlässliche Konfidenzwerte sorgen. Gibt Jev beispielsweise eine Sicherheit von 90 Prozent an, sollte es bei vergleichbaren Entscheidungen auch in rund 90 Prozent der Fälle richtig liegen.
Dazu kommt der Preis. Eine Million Input-Token kostet 0,042 USD, der Output ist gratis. Gängige Sprachmodelle verlangen laut TypeSafe für Input-Token je nach Modell 5- bis 240-mal mehr. Die eigenen Vergleiche relativiert TypeSafe allerdings selbst, weil die Tests aus dem eigenen Team stammen.
Ein Beitrag auf ihatethefuture.com kritisiert, dass kaum jemand, der Jev einsetzt, misst, wie oft das Modell im eigenen Anwendungsfall falsch liegt. Ohne solche Tests sind auch die Konfidenzwerte wenig wert. Dabei liesse sich ein entsprechender Test mit heutigen Werkzeugen rasch aufbauen. Und wer diese Grundlage einmal hat, ist schon fast bei einer eigenen Lösung.
Jev zeigt einen interessanten Ansatz. Dass ein Modell nur aus vorgegebenen Antworten wählt, liess sich bisher schon erreichen, indem man einem Sprachmodell ein Ausgabeformat vorgab. Bei Jev ist das fest eingebaut, und das Modell ist von Grund auf dafür ausgelegt.
AI wird so zu einem Baustein, den man im Code wie eine Funktion aufruft. Weil ein Aufruf wenig kostet und schnell eine Antwort liefert, wird AI auch dort interessant, wo heute feste Regeln stehen, etwa beim Einordnen eingehender Dokumente oder beim Weiterleiten von Anfragen. Ob Jev hält, was TypeSafe verspricht, muss sich im Einsatz zeigen.
Erst beweisen, dann verstehen
Joseph Howlett · scientificamerican.com
Anfang September meldete OpenAI, dass rund 10’000 parallel laufende Agenten auf Basis eines unveröffentlichten Modells das Navier-Stokes-Problem gelöst hätten, eines der sieben Millennium-Probleme der Mathematik. Die Agenten brauchten dafür 88 Stunden, anschliessend wurde der Beweis von einem Programm formal geprüft.
Am 6. Oktober veröffentlichte OpenAI 372 weitere Resultate, deren Einordnung die Mathematik wohl noch Monate beschäftigen wird. Laut OpenAI stammen fast alle von einem einzigen Agenten mit einem einzigen Prompt. Selbst die eigenen Mathematiker haben längst nicht alle Resultate nachvollzogen. Wie genau sie entstanden sind, lässt sich von aussen nicht überprüfen, weil OpenAI weder das Modell noch die Prompts offenlegt. Und das, obwohl eine unabhängige Beratungsgruppe aus Mathematikern genau das empfiehlt.
Terence Tao bezeichnet das Tempo als «insane». Bremsen will OpenAI trotzdem nicht. Die Fortschritte in der Mathematik sollen zeigen, wie leistungsfähig die eigenen Modelle inzwischen sind. Dabei hatte OpenAIs Chefwissenschaftler Jakub Pachocki erst Anfang September geschrieben, er erwarte freiwillige Verlangsamungen, bis gemeinsame Sicherheitsstandards stehen.
Vor einem ähnlichen Problem stehen wir in der Softwareentwicklung. Mit Agenten entsteht Code schneller, als wir ihn prüfen können. Eine wirklich gute Lösung für das Review suchen wir noch. Klar ist für uns aber: Wer etwas mit AI erstellt, trägt auch Verantwortung dafür, dass andere es nachvollziehen können. Bei Code heisst das, ihn selbst zu verstehen und so aufzubereiten, dass andere seine Korrektheit prüfen können. Code einfach zu produzieren und über den Zaun zu werfen, reicht nicht.
OpenAI hat diese Arbeit der Mathematik überlassen. Sie muss nun verstehen, wie die Resultate entstanden sind, welche Bedeutung sie haben und wo noch Fragen offen sind. Dass viele Beweise formal geprüft sind, beantwortet noch nicht alle Fragen.
PostFinance zieht den Stecker
Lukas Hässig · insideparadeplatz.ch
Seit dem 12. Oktober sperrt PostFinance alle externen KI-Webdienste für ihre Mitarbeitenden, wie ein Sprecher bestätigt hat. Erlaubt bleiben nur die intern freigegebenen KI-Tools. Laut Inside Paradeplatz hält die neue Leiterin von Risk, Compliance & Legal die Risiken für zu gross. Die Bank will verhindern, dass schützenswerte Informationen ausserhalb kontrollierter Systeme verarbeitet werden.
Wie Angreifer inzwischen arbeiten, zeigt Anthropics Threat-Intelligence-Bericht aus demselben Monat. Kriminelle und staatliche Gruppen setzten Claude in Multi-Agenten-Systemen ein, die Netzwerke auskundschafteten, Schwachstellen ausnutzten und Daten abzogen. Teilweise arbeiteten diese Systeme über Stunden oder Tage mit wenig menschlicher Aufsicht. Einzelne Angriffe dauerten vom ersten Zugriff bis zum Datendiebstahl nur zwei bis drei Stunden.
Die Techniken selbst sind laut Anthropic nicht neu. Die Angreifer nutzen weiterhin gestohlene Zugangsdaten, ungepatchte Systeme und Phishing. Mit Agenten werden solche Angriffe aber schneller und günstiger.
AI-Agenten werden in der Softwareentwicklung bald so selbstverständlich sein wie heute eine IDE. Ein Verbot externer KI-Dienste wie bei PostFinance ist für uns deshalb aktuell keine Option, auch wenn wir die Sorge um schützenswerte Daten teilen. Eine Antwort darauf sind möglicherweise lokale Modelle. Für die Softwareentwicklung kommen sie noch nicht an die grossen externen Dienste heran, je nach Aufgabe reichen sie aber bereits aus. Wir beobachten diese Entwicklung genau und machen erste Tests, weil wir davon ausgehen, dass lokale Modelle bald für deutlich mehr Aufgaben genügen.
Auf der anderen Seite profitieren auch Angreifer von AI. Der Bericht von Anthropic zeigt, dass sie vor allem schneller werden. Ihre Angriffe beruhen weiterhin auf bekannten Schwachstellen wie ungepatchten Systemen, offen erreichbaren Diensten und gestohlenen Zugangsdaten. Schon ein kurzes Zeitfenster kann reichen, um eine Schwachstelle auszunutzen. Sicherheitsupdates rasch einzuspielen, Abhängigkeiten aktuell zu halten und unnötige Zugänge von aussen zu schliessen, wird damit noch wichtiger.
Produkt-Updates
Claude Opus 5.5 und Sonnet 5.5: Opus 5.5 erreicht bei den meisten Aufgaben das Niveau von Fable 5.1 und kostet im typischen Einsatz 40 Prozent weniger als Opus 5. Sonnet 5.5 kommt in Benchmarks nahe an Opus 5.5 heran und ist über 30 Prozent schneller als sein Vorgänger. Bei komplexen, offenen Aufgaben bleibt Opus 5.5 laut Anthropic aber klar stärker.
GPT-6 Astra und GPT-6.1 Sol: OpenAIs neues Spitzenmodell ist besonders stark bei Computer Use und Mathematik, führt beim agentischen Coding aber nicht eindeutig. Ende September folgte GPT-6.1 Sol, das beinahe an Astra herankommt und nur einen Fünftel kostet.
Gemini 4 Argon: Googles neues Spitzenmodell zielt auf Software Engineering, Wissensarbeit und Cyberabwehr. Es kann bis zu einer Million Token in einem Durchgang ausgeben. Zugang haben vorerst nur geprüfte Cybersecurity-Fachleute aus dem Fairwind-Programm. Google will das Modell schrittweise breiter verfügbar machen.
