openai – eay.cc

Felony Bench

Felony Bench counts unique instances where AI agents inadvertently compromise or affect third-party entities.

Der Politik-, Philosophie- und Mathematik-Student Felpix („need philosophy job before AGI“) sammelt und ranked hier die Vorfälle, in denen KI-Agenten sich Zutritt in die Systeme Dritter verschafft haben.

Neu mit dabei: Gemini, das bereits im Juli in drei geschützte Systeme eingedrungen ist – also zur gleichen Zeit wie OpenAIs bekannter Hugging-Face-Incident –, was aber erst jetzt durch Recherche des Wallstreet Journals (paywalled) nach einem Hinweis publik wurde. Aber: als es dann drin war, hat es aufgehört, weil es bemerkt hat, dass sein Treiben illegal ist.

Die aktuelle Top 3 auf Felony Bench: OpenAIs Modelle mit 10 Vorfällen, gefolgt von Anthropic mit 9 und neu mit dabei halt Gemini mit 3 Vorfällen.

Scores indicate count of illegal activity. Higher is… you decide.

Your model did what now? Well, MY model can do...

‘Doom Loop’: OpenAI and Microsoft admits LLMs are destroying the Web and built on theft

“Our AI content strategy has started a ‘doom loop’ that will hurt the performance of our models and the entire web at the same time: It is highly unusual that an end-product threatens the economic foundations of its essential suppliers, but that is the situation we have created for our LLM business with respect to its ‘content supply chain,’” the document said.

Im Rechtsstreit der New York Times gegen Microsoft und OpenAI kamen nun Dokumente zutage, die offenbaren, dass OpenAI und ihr Financier Microsoft genau wissen, was sie da tun: Sie begehen Urheberrechtsverletzungen in einem bislang ungekannten Ausmaß, die gleichzeitig dazu führen, dass die bestohlenen Content-Lieferanten zugrunde gehen.

[…] Microsoft, in a policy document, wrote that generative AI could “significantly disrupt the employment of the very people who generated the data on which the foundation model was trained […] LLMs are a product that destroys its supply chain.”

Oder um es mit den Worten von OpenAI-Präsident Greg Brockman zu sagen, als er erfuhr, dass seine Kollegen einen Weg gefunden hatten, die Paywall der New York Times zu umgehen:

ah, nice.

‘Doom Loop’: OpenAI and Microsoft Admits LLMs Are Destroying the Web and Built on Theft | OpenGraph Preview Image

"Millions of people around the world will soon consider large models ‘hoovering up’ all their work to be an astonishing theft of unprecedented proportions."

The Pelican comparison grid for Astra is pretty interesting

Nach Fable 5.1 ist in dieser Woche auch GPT-6 Astra erschienen. Simon Willison hat natürlich wieder Pelikane zeichnen lassen und diese dann auch mit OpenAIs GPT-5.6-Vorgängermodellen Sol, Terra, Luna verglichen. Das Spannende: Nicht nur, dass GPT-6 selbst auf den niedrigeren Reasoning-Levels bessere Ergebnissen liefert als GPT-5.6, nein, sie sind auch noch besser als alles unter dem höchsten Reasoning von Fable 5.1.

(YouTube Direktlink)

Das Demovideo auf der Astra-Seite, das auch hier drüber eingebunden ist, finde ich übrigens ganz schick. Es zeigt verschiedene Personen, die mal mehr, mal weniger klassische Computerarbeiten durch natürliche Spracheingabe anweisen, woraufhin GPT-6 antwortet und die Aufgaben per Computer Use live umsetzt. Die Computer-Use-Fähigkeit von ~~Codex~~ ChatGPT sind definitiv mein Tech-Feature des Jahres, aber das hier, fürchte ich, ist in diesem Tempo noch Vaporware. Aber vermutlich nicht mehr lange.

The Pelican comparison grid for Astra is pretty interesting | OpenGraph Preview Image

I got access to GPT-6 Astra this afternoon, so naturally I used it to generate SVGs of pelicans riding bicycles—at low, medium, high, xhigh and max reasoning levels (Astra doesn’t …

Podcast: Die OpenAI Story

Bleiben wir bei ChatGPT: Von dem Team hinter der (nicht unumstrittenen) Peter Thiel Story ist gerade ein neuer, sechsteiliger Podcast erschienen, in dem es um die EntstehungsGeschichte von OpenAI, den ursprünglichen Ideen dahinter und natürlich Sam Altmann geht.

Habe ich gestern auf meinem Arbeitsweg und heute bei der Gartenarbeit durchgehört und bietet auf jeden Fall einen guten Einstieg und Überblick, allerdings ohne alle Facetten, Probleme aber auch Möglichkeiten betrachten zu können (oder zu wollen). Dennoch hörenswert!

Die OpenAI Story | OpenGraph Preview Image

Mit ChatGPT hat Sam Altman OpenAI in ein milliardenschweres Tech-Imperium verwandelt. Das ist die Geschichte der KI-Revolution, einer entfesselten Technik - und des Mannes, der sie geprägt hat. Von den Machern der Peter Thiel Story.

Jason Kottke weist auf diesen schönen Bluesky-Thread von Annie Rauwerda hin, in dem sie berichtet, was vorher auf den Domains von jetzt bekannten Firmen passierte:

What now-familiar domain names looked like before they were bought by big-time companies, e.g. openai.com was „the personal homepage of a guy named glenn“, doordash.com was a porn site, threads.com sold spools of thread.

Ihr Resümee ist dann auch sehr treffend:

before the internet was a corporate hellscape it was built by ordinary people!

Aus den OpenAI Codex base_instructions für GPT 5.5:

Never talk about goblins, gremlins, raccoons, trolls, ogres, pigeons, or other animals or creatures unless it is absolutely and unambiguously relevant to the user’s query.

Wtf. (via Simon Willison)

Update, 05.05.: OpenAI hat zwischenzeitlich einen Blogeintrag zum Thema veröffentlicht, der erklärt, warum es zu dieser Häufung an Goblins & Co. kam. Die im März eingestellte Nerdy-Persönlichkeit der KI wurde im Training nämlich dazu ermutigt, in Metaphern zu sprechen, für die sie dann besagte Kreaturen heranzog. Die nachfolgenden Modelle wie das aktuelle GPT-5.5 wurden dann wiederum mit diesen speziellen Anweisungen trainiert, weshalb sich das bis jetzt fortsetzt.

OpenAI’s new Codex app has the best ‘Computer Use’ feature I’ve ever tested

Federico Vittici über die „Computer Use“-Automatisierungsfeatures der neuen Codex-Superapp von OpenAI, in der sie die Mac-Software-Steuerung des letzten Jahr gekauften und zuvor ebenfalls von Federico getesteten und gefeierten, aber noch nicht releaseten „Sky“ implementiert haben, das von den ehemaligen Workflow-/Apple-Shortcut-Entwickler gebaut wurde.

Ich habe die bisherige Codex-Nicht-Superapp in den letzten Wochen immer mal wieder für Coding-Tasks herangezogen und gute Ergebnisse damit erzielt, insb. wenn ich diese anschließend von einem anderen Modell habe korrigieren lassen, weil das natürlich immer nur 80%-Lösungen waren.1 Die „Computer Use“-Features sind noch nicht in Europa verfügbar, weshalb ich sie selbstredend noch nicht testen konnte, aber ich hätte bereits zwei, drei konkrete Use Cases, die ich demnächst gerne ausprobieren würde.

Codex kann hier heruntergeladen werden. Hier steht, wie ihr – außerhalb von Europa – „Computer Use“ aktiviert.

Dafür hat sich übrigens Madman Gemini in Version 3.1 Pro etabliert. Komplete Aufgaben funktionieren für mich besser mit Claude oder eben GPT-Codex, aber für Review und Korrektur ist Gemini echt gut und bisweilen sogar besser. [↩]

OpenAI’s New Codex App Has the Best ‘Computer Use’ Feature I’ve Ever Tested | OpenGraph Preview Image

OpenAI acquires Apple Shortcuts Creators to bring deep Mac Integration to ChatGPT

Die Macher der App Workflow, die 2017 nach Aquihire die Grundlage für die Shortcuts-App (deutsch: Kurzbefehle) von Apple wurde, haben sich – nachdem sie ihre Apple-Zeit abgesessen haben – zuletzt wieder mit „Software Applications Incorporated“ selbständig gemacht und den hier auch gefeaturedten AI-Layer „Sky“ für macOS entwickelt, der bald erscheinen und AI-Funktionen systemweit und App-übergreifend bereitstellen soll.

Ich schrieb dazu im Mai, dass es „mich nicht wundern würde, wenn eine dieser Firmen [OpenAI, Google, Microsoft oder insbesondere Apple] (wieder) bei diesem Team zugreift“ und das ist nun geschehen. OpenAI war’s, die gerade im Rahmen der Veröffentlichung ihres aktuell Mac-exklusiven Chromium-Forks ChatGPT Atlas überall erzählen, „ChatGPT [is] evolving to become the operating system for your life“.

Für Menschen, die ein Apple-Life führen, könnte das seit heute ein bisschen mehr wahr werden.

OpenAI Acquires Apple Shortcuts Creators to Bring Deep Mac Integration to ChatGPT | OpenGraph Preview Image

OpenAI today said that it has acquired Software Applications Incorporated and its AI app, Sky. Software Applications Incorporated and Sky were...

Introducing ChatGPT Search

ChatGPT jetzt mit Web-Suche. Meine ersten Tests waren überaus zufriedenstellend. Nur dass die Suche bisher über einen Search-Toggle aktiviert werden muss, verwundert noch. Vermutlich aber auch nur eine Frage der Zeit bis das LLM selbst entscheidet, ob es genügend Informationen hat oder eine Web-Suche tätigen möchte. Siehe Update unten, ist bereits so.

Das ChatGPT-nutzende Bing macht das natürlich schon ewig, aber die Suchfunktion nun auch im extrem populären chatgpt.com unterzubringen, dürfte vermutlich den ein oder anderen in Mountain View beunruhigen.

Update, 01.11.: Ha, der Toggle ist optional. ChatGPT entscheidet bereits auf Basis des Prompts, ob es aktuelle Infos aus dem Web braucht, wie Casey Newton von Platformer (mich) heute aufklärt:

This is why you don’t even have to tell ChatGPT to search the web, if you don’t want to: the bot will consider whether it should check web results whenever you make a query, and if it decides it needs real-time information, it will search the web accordingly. You can also tell ChatGPT to search for you manually, but OpenAl knows that ideally you shouldn’t have to.

This is a milestone in the history of the internet: OpenAl has begun to abstract away the search engine — the economic foundation of the entire web — into a modular component of the thing that will ultimately replace it.

Ich bin Fan einer Illustratorin. Für ein Projekt würde ich gerne Illustrationen durch sie anfertigen lassen. Wir tauschen uns aus, können uns aber leider nicht einigen. Ich beauftrage jemand anderes, der einen sehr ähnlichen Zeichenstil hat, weil das weiterhin gut zu meinem Projekt passt.

Das ist es, was gerade mit Scarlett Johansson und OpenAI passiert ist. Nicht mehr und nicht weniger. Nur dass OpenAI das hier natürlich möglichst dämlich kommuniziert hat, z.B. indem Altman selbst »Her«-Referenzen gepostet hat, und – noch schlimmer – das scheinbar nicht hat kommen sehen.