#künstliche intelligenz (103)

Seite 1 von 11

Felony Bench

Felony Bench counts unique instances where AI agents inadvertently compromise or affect third-party entities.

Der Politik-, Philosophie- und Mathematik-Student Felpix („need philosophy job before AGI“) sammelt und ranked hier die Vorfälle, in denen KI-Agenten sich Zutritt in die Systeme Dritter verschafft haben.

Neu mit dabei: Gemini, das bereits im Juli in drei ge­schützte Systeme einge­drungen ist – also zur gleichen Zeit wie OpenAIs bekannter Hugging-Face-Incident –, was aber erst jetzt durch Recherche des Wallstreet Journals (paywalled) nach einem Hinweis publik wurde. Aber: als es dann drin war, hat es aufge­hört, weil es bemerkt hat, dass sein Treiben illegal ist.

Die aktuelle Top 3 auf Felony Bench: OpenAIs Modelle mit 10 Vorfällen, gefolgt von Anthropic mit 9 und neu mit dabei halt Gemini mit 3 Vorfällen.

Scores indicate count of illegal activity. Higher is… you decide.

Felony Bench | OpenGraph Preview Image
felonybench.com

Felony Bench

Your model did what now? Well, MY model can do...

‘Doom Loop’: OpenAI and Microsoft admits LLMs are destroying the Web and built on theft

“Our AI content strategy has started a ‘doom loop’ that will hurt the performance of our models and the entire web at the same time: It is highly unusual that an end-product threatens the economic foundations of its essential suppliers, but that is the situation we have created for our LLM business with respect to its ‘content supply chain,’” the document said.

Im Rechtsstreit der New York Times gegen Microsoft und OpenAI kamen nun Dokumente zutage, die offen­baren, dass OpenAI und ihr Financier Microsoft genau wissen, was sie da tun: Sie begehen Urheber­rechts­ver­letzun­gen in einem bislang unge­kannten Ausmaß, die gleichzeitig dazu führen, dass die bestohlenen Content-Lieferanten zugrunde gehen.

[…] Microsoft, in a policy document, wrote that generative AI could “significantly disrupt the employment of the very people who generated the data on which the foundation model was trained […] LLMs are a product that destroys its supply chain.”

Oder um es mit den Worten von OpenAI-Präsident Greg Brockman zu sagen, als er erfuhr, dass seine Kollegen einen Weg gefunden hatten, die Paywall der New York Times zu umgehen:

ah, nice.

‘Doom Loop’: OpenAI and Microsoft Admits LLMs Are Destroying the Web and Built on Theft | OpenGraph Preview Image
404media.co

‘Doom Loop’: OpenAI and Microsoft Admits LLMs Are Destroying the Web and Built on Theft

"Millions of people around the world will soon consider large models ‘hoovering up’ all their work to be an astonishing theft of unprecedented proportions."

Nachtrag zu Omarchy, DHH und „Ricing“

Vor zwei Wochen hatte ich mich mit der neuen heißen Linux-Distribution Omarchy beschäftigt, die gerade vielerorts Aufmerk­samkeit erregt und erfährt, da sie agentisch entwickelt und vor allem auch so angepasst werden kann.

Damit passt sie eigentlich genau hierher. Openness, DIY und KI1 sind wieder­kehrende Themen in diesem Blog, aber so einfach ist es diesmal eben nicht.


Erkenntnisgewinn

Ich hatte bereits mitbekommen, dass David Heinemeier Hansson, kurz DHH, dessen Firmenblog (Link zur Wayback-Machine) ich damals las und von dem ich in den 2000ern und 2010ern staunend Bücher zu Software-Management und Unternehmens­führung gelesen habe, zwischen­zeitlich äußerst konservativ und kontrovers geworden ist. Aber nach Veröffent­lichung des Beitrags und des ersten Nachtrags habe ich dann erfahren – und es wurde mir dankens­werter­weise auch von Felix per Kommentar zugetragen –, wie katastrophal das ist, was DHH da von sich gibt. Wie etwa der Medienbäcker aufklärt:

Oh wait, this DHH guy seems to be pretty racist anyways. Holy shit, he openly talks about „re­mi­gra­ti­on“ and „de­mo­gra­phic re­pla­ce­ment“. Well, I sure hope I don’t have to read that name ever again. Or anything about „re­mi­gra­ti­on“ for that matter.

Besonders bitter wird es dann, wenn man sich ansieht, wie der Ruby on Rails-Creator DHH — der gerne damit prahlt, dass Claude sich weigerte, einen seiner rassistischen Texte ins Italienische zu übersetzen (Quelle) — mit Omarchy weiteren Einfluss in der Open-Source- und Linux-Szene gewinnen will und gewinnt und diese damit weiter nach seinen Vor­stellungen formen könnte. tante hat dazu mit „Power Grab“ einen sehr guten, Überblick gebenden Artikel veröffent­licht:

DHH is using his position and his influence to accumulate donations that he then can distribute to projects that align with his fascist worldview and ambitions. […] The Omarchy foundation will be where projects in desperate need of funding will be pointed. And will a project focused on human rights and social justice get funding from our fascist overlord?


Prominente Unterstützer

Screenshot von der 'Stop Omarchy'-Website.

Ein Problem ist nämlich bereits, dass und wie viel Funding die Omarchy-Foundation bekommt. Brennan Kenneth Brown hat dazu mit „Stop Omarchy“ eine kleine Neocities-Seite erstellt, die aufzeigt, wer Omarchy wie finanziell unterstützt. Ein Auszug:

Despite this [Anmerkung von mir: Gemeint ist all der Scheiß von DHH.], more than a dozen top tech executives and corporations have pledged millions to the Omarchy / Omacom Foundation. They include the CEOs of Shopify, Stripe, Dell, Cloudflare, Block, Dropbox, Coinbase, and others, as listed on Omarchy’s patrons page.

Corporations including 1Password and DigitalOcean are also contributing to Omarchy’s funding, with DigitalOcean giving $1 million a year for three years.

Man sollte also in Betracht ziehen, diesen Unternehmen in Zukunft aus dem Weg zu gehen und/oder ihnen gegenüber zu protestieren, was ihre Unter­stützung für Omarchy und DHH angeht. … What is wrong with you, 1Password?


That said, ich bin kein Fan von Online-Prangern. Dass hier Firmen und CEOs von großen Tech-Unternehmen gelistet werden, ist fein für mich, aber wenn ich das richtig sehe, sind darunter auch Einzel­personen, die sich sicherlich falsch verhalten, aber vielleicht nicht derart in der Öffent­lichkeit stehen, dass man sie hier erwähnen müsste. Andererseits (Minute 3:33).


„Ricing“

Aber es geht noch weiter: daMax hat mich zudem in den Kommentaren dankens­werterweise weiter darauf hingewiesen, dass der im Linux-Umfeld gängige Begriff „Rice“ bzw. „Ricing“ problematisch ist, weil er eine rassistische Abwertung ist.

Der Hintergrund des Begriffs, der im Linux-Kontext die Individuali­sierung des Desktops durch Window-Manager, Themes, Icons usw. meint, ist der US-amerikanischen Auto- und Motorrad­szene der 80er-Jahre entliehen, wo „rice burner“ eine abwertende Bezeichnung für japanische beziehungs­weise ost­asiatische Fahrzeuge war und „riced out“ ober­flächliche Modifi­kationen ohne Leistungs­gewinn beschrieb. Das später erfundene Backronym „Race Inspired Cosmetic Enhancement“ beseitigt den problema­tischen Ursprung nicht, sondern verschleiert ihn.

Ich hatte „Ricing“ bisher immer mit der klein­teiligen Konfiguration (wie eben bei Reiskörnern) assoziiert, was rück­blickend wohl etwas naiv war. Ich werde darauf selbstredend fortan verzichten und habe den ent­sprechenden Beitrag plus Nachtrag-Teaser – die einzigen „Ricing“-Nennungen in diesem Blog – um eine ent­sprechende Infobox mit Verweis auf diesen Beitrag ergänzt und Textstellen ent­sprechend angepasst.


Den gesamten Omarchy-Beitrag habe ich aber, bis auf die dokumentierten Änderungen, aus Gründen der Nachvollzieh­barkeit unverändert gelassen.

Was eine Shit Show.

  1. Ja, der Diskrepanz meiner KI- gefolgt von Klima-Posts bin ich mir schmerzlich bewusst. []

The Pelican comparison grid for Astra is pretty interesting

Nach Fable 5.1 ist in dieser Woche auch GPT-6 Astra erschienen. Simon Willison hat natürlich wieder Pelikane zeichnen lassen und diese dann auch mit OpenAIs GPT-5.6-Vorgängermodellen Sol, Terra, Luna verglichen. Das Span­nende: Nicht nur, dass GPT-6 selbst auf den niedrigeren Reasoning-Levels bessere Ergebnissen liefert als GPT-5.6, nein, sie sind auch noch besser als alles unter dem höchsten Reasoning von Fable 5.1.

Vorschaubild zum Video. Aktivieren, um das Video zu laden und abzuspielen.
(YouTube Direktlink)

Das Demovideo auf der Astra-Seite, das auch hier drüber eingebunden ist, finde ich übrigens ganz schick. Es zeigt verschiedene Personen, die mal mehr, mal weniger klassische Computer­arbeiten durch natür­liche Sprach­eingabe anwei­sen, woraufhin GPT-6 antwortet und die Aufgaben per Computer Use live um­setzt. Die Computer-Use-Fähigkeit von Codex ChatGPT sind definitiv mein Tech-Feature des Jahres, aber das hier, fürchte ich, ist in diesem Tempo noch Vaporware. Aber ver­mut­lich nicht mehr lange.

The Pelican comparison grid for Astra is pretty interesting | OpenGraph Preview Image
simonwillison.net

The Pelican comparison grid for Astra is pretty interesting

I got access to GPT-6 Astra this afternoon, so naturally I used it to generate SVGs of pelicans riding bicycles—at low, medium, high, xhigh and max reasoning levels (Astra doesn’t …

Claude Fable 5.1 made me a really nice animated pelican

Anthropic hat gestern Fable 5.1 veröffentlicht, das abermals besser sein soll und definitiv teuer sein wird.

Simon Willison, der, wie ich letztes Jahr schon schrieb, „das unauf­geregte, täglich aktuali­sierte Must-Read-Blog für alles um Artificial Intelligence führt“, testet die Modelle seit jeher durch das Zeichnen eines Fahrrad fahrenden Pelikans als SVG, weil das ordentlich umzu­setzen gleich mehrere Intelligence-Kapazitäten mitein­ander vereint. Am Büro­mittags­tisch sind die gelungenen und gescheiterten Pelikane seit Monaten Thema der Belustigung. Sein Bench­mark ist mittlerweile sogar so bekannt, dass vermutet wurde, die AI-Labs würden ihre Modelle direkt auf den Pelikan-Bicycle-Test hin trainieren, was aber nicht bestätigt werden konnte.

Jedenfalls hat Fable 5.1 in der höchsten Reasoning-Stufe „Max“ nun einen guten Pelikan gezeichnet (Kostenpunkt $3,30) und diesen sogar animiert (weitere $1,37). Die darunter liegenden Reasoning-Stufen waren z.T. deutlich schlechter, bei „Low“ und „Medium“ ist sogar gar kein Reasoning mehr erkennbar.

Claude Fable 5.1 made me a really nice animated pelican | OpenGraph Preview Image
simonwillison.net

Claude Fable 5.1 made me a really nice animated pelican

Today is Claude Fable (and Mythos) 5.1 day. Anthropic say that Fable 5.1 “sets a new standard for coding, knowledge work, and long-running problem-solving tasks”. Their announcement spends a notable …

Omarchy – Keyboard- and AI-First, Opinionated Linux

Update, 14.09.: Mir war bei Verfassen dieses Beitrags nicht klar, wie problematisch DHH, der Autor von Omarchy ist, oder dass der Begriff des „Rice“/“Ricing“, was die Customi­zation des Betriebs­systems beschreibt, einen rassistischen Ursprung hat. Ich habe diesen Post daher folgender­maßen aktualisiert: 1. Links zu DHHs Website entfernt, 2. Vorkomm­nisse von „Ricing“, wo es inhalt­lich Sinn, macht durch Customi­zation ersetzt. Schließlich habe ich all die Hinter­gründe nochmals in diesem neuen Blog­eintrag ausführ­lich behandelt.

Kurze Lebendmeldung aus dem Krankenlager: Ich liege seit gestern Abend halbwegs flach, was 1. unge­wöhn­lich für mich ist und 2. insbesondere da es dem Rest der Familie gut geht (hoffen wir, dass das so bleibt!).

Heute hatte ich jedenfalls tagsüber genug Gelegen­heit, zwischen Couchschlaf und dem FC‑Spiel – ein sehr schöner Auftakt, siehe meinen Mastodon‑Post – mich durch YouTube zu klicken1. Dabei wurde mir immer wieder Omarchy vorge­setzt, die seit letztem Jahr von David Heinemeier Hansson2 entwickelte Linux-Distri­bution, die gerade in Version 4.0 „Quattro“ erschienen ist und sich auf die Fahnen geschrieben hat, gut auszu­sehen, Keyboard- und AI-first zu sein und natürlich opinionated von ihrem Autor zu sein. Dass ich den aus offen­sicht­lichen Gründen schwierig finde, ist klar.

Vorschaubild zum Video. Aktivieren, um das Video zu laden und abzuspielen.
(YouTube Direktlink)

Was ich jedoch in den Videos von seinem auf Arch Linux, Hyprland und Wayland basierenden Open-Source-Betriebssystem gesehen habe, stimmt mich bzgl. Linux und der Zukunft von Personal Computing ganz positiv, ist es hier doch einer kleinen Gruppe gelungen, ein spannendes, entwickler­freund­liches, etwas anderes OS zu bauen bzw. so vorzu­konfigu­rieren, das man keine Technik­teile gegen die Wand werfen möchte [drama­tisierte Darstellung von Linux-Nutzung].

Klar, auf den Schultern von Giganten und unter Einsatz einer Trilliarde Tokens, aber es zeigt, was möglich ist. Insbesondere, dass jegliches Verhalten bis hin zum UI über Configs angepasst werden kann, zeigt, hier noch im freien Developer-Umfeld, was in Zukunft für jedermann in einer Sandbox möglich sein wird. Und es motiviert OpenAI & Co. vermutlich doch noch ein eigenes OS zu bauen. Ohje.


Update, 14.09.: Bei „Rice“/“Ricing“ handelt es sich um einen abwertenden Begriff mit rassis­tischem Ursprung. Ich habe ihn hier wo inhaltlich sinnvoll gestrichen und durch Customi­zation ersetzt. Mehr Infos dazu in diesem neuen Blog­eintrag.

Update, 31.08: Auf Mastodon/in den Kommentaren hat libewa richtiger­weise angemerkt, dass es diese Individualisierung, genannt Ricing3, schon immer gab und man vielleicht nicht seinen eigenen „Rice mit Extra-Bash als Distro ver­kaufen und dafür Millionen sammeln“ sollte – vor allem wenn man die darunter liegenden Sicherheits­konzepte nicht vollends durch­blickt. Und natür­lich finden sich solche Probleme auch bei Omarchy Quattro sofort: “Omarchy: Any User Process Can Escalate to Root”. Oh-oh.

Kurz zur Konkretisierung: Dass die AI-erarbeitete Linux-Distribution eines Linux-Neulings nicht ideal ist, war zu erwarten – wenn auch nicht so schlimm. Aller­dings ging es mir darum nicht: Was ich an dem Projekt interessant finde, ist das jemand mit vergleichs­weise geringen Mitteln (außer Zeit und natürlich dem Geld für die Trilliarde Tokens) in der Lage ist, sowas umzu­setzen. Stellen wir uns jetzt mal vor, hier wäre kein Blender, sondern jemand am Werk, der oder die genau weiß, was er oder sie tut. Und das stimmt mich positiv.

Und nochmal zu DHH: Matt Birchler hat in seinem Podcast in der letzten Woche (Folge “This phone folds. It folds!”) ganz gut einge­ordnet, warum Omarchy gerade verfängt:

It’s gotten quite a bit of press. And it’s because DHH is a really annoying, kind of evil guy in some ways. Let’s just say extremely problematic. But anyway, he gets attention.

Und auch das stimmt natürlich. Omarchy ist nur eine weitere Distribution. Ricing Customization ist bei allen von diesen möglich. Und das hier ist nur bekannt, weil DHH bekannt ist.

Was ich also hätte schreiben sollen: AI-basiertes Ricing Customization stimmt mich positiv was die Zukunft von Personal Computing angeht, in der man sein System (dann hoffent­lich sicher) einstellen kann, wie es einem beliebt.


Update, 14.09.: Ein großer Nachtrag bzgl. Omarchy, DHH und „Ricing“.

  1. Falls Google fragt, lebe ich jetzt in einem Hotel ist Bratislava. []
  2. Update, 14.09.: Link zu seiner persönlichen Website entfernt. []
  3. Update, 14.09.: Link auf eine Definition des Begriffs entfernt, die den problematischen Hintergrund außen vor ließ. []
Omarchy | OpenGraph Preview Image
omarchy.org

Omarchy

Beautiful, Fun & Opinionated Linux by DHH

Nitter und XCancel nach Cease-and-Desist-Schreiben von X offline

Nitter’s zedeus:

On 24 August 2026 cease and desist letters have been sent by X Corp. demanding a permanent takedown of Nitter instances and the project’s repository.

XCancel:

On Monday 24th August at 8PM EST, we received at letter from X Corp. asking to cease and desist the service XCancel. The service XCancel is stopped until further notice. We are seeking legal advice and won’t share more details for now. Thank you for the trust you have put in these two years of XCancel.

Nitter und zuletzt die populäre Instanz XCancel waren die letzten Möglich­keiten, X auf erträglichem Wege zu lesen. Also nicht, was den oftmals zweifel­haften Content angeht, sondern als Alternativ­weg zu diesem Grok-durch­tränkten Chaos, das X seine Mobile- oder Web-App nennt. Insbesondere bot Nitter auch RSS-Feeds an, so dass man einzelnen Personen, die denn Absprung noch nicht geschafft haben, noch im Feed­reader folgen konnte, ohne das Moloch öffnen zu müssen. Nun geht das auch nicht mehr. 🎻


Frage für einen Freund, der genügend Tokens beim ebenfalls immer schlechter und ebenso Grok-durchtränkten Cursor hat(te): Hätte dieser Freund Grok 4.6 eine Cursor-Extension namens „Ungrokify“ bauen lassen, die sämtlichen Grok-Bezug aus Cursor heraus­patcht, dann sollte er die vermutlich aus eben solchen Abmahnungs­gründen nicht veröffentlichen, oder?

Aber er könnte Grok doch eine detaillierte Spezifikation schreiben lassen, die jeden genau das bauen lässt. Am besten ebenfalls mit Grok, um dort ordentlich Geld damit zu verbrennen, damit Grok sich selbst frisst. Das ginge doch, oder? Oder doch lieber einen Liedtext draus machen?


Update, 07.09.: Ich hatte ja schon die Tage bemerkt, dass meine wenigen XCancel-RSS-Abos weiterhin funktionieren und nun schreibt zadeus auf der Nitter-Website:

Following legal advice, the Nitter project will continue. This instance and others will be back up and running shortly.

Auch XCancel ist wieder voll funktional zurück. 🎉

Astropad Workbench

Seit Anfang Juni benutze ich Astropad Workbench, die selbstbetitelte Remote-Desktop-App „for the AI era, not IT support“, um mich von meinem iPhone, iPad oder Mac auf einen meiner (anderen) Macs zu verbinden und diesen fernzusteuern. Alles, was mich an anderer VNC-Software gestört hat (Setup, Steuerung, Preismodell, Unterschiedlichkeit der Apps auf iOS/iPadOS/macOS), ist hier deutlich zugänglicher gelöst.1

Diese Woche ist Workbench 1.3 erschienen und bringt allerlei Verbesserungen mit sich, die in diesem kurz Video aufgezeigt werden. U.a. gibt es nun (noch) schnelleres Streaming, besseres iPad-Keyboard-Shortcut-Mapping, Picture-in-Picture für iOS/iPadOS, damit die Verbindung bestehen bleibt, einen Privacy-Vorhang, der den laufenden Mac „verdeckt“ und einen Watchdog, der die Mac-App neu startet, wenn mal was ist.

Für meine Use Cases, zu denen mitunter tatsächlich gehört, einen AI Agent auf dem Mac mini laufen zu lassen und zwischendurch & unterwegs drauf schauen, weiterhin ideal. Empfehlung!

  1. Ich muss allerdings zugeben, dass ich den vermutlichen Marktführer Screens ewig nicht ausprobiert habe, damals aber aus den genannten Gründen ebenfalls verworfen habe. []
Workbench | Remote Desktop for AI Agents & Headless Mac Mini | OpenGraph Preview Image
astropad.com

Workbench | Remote Desktop for AI Agents & Headless Mac Mini

Monitor AI agents remotely, check in on running workflows, and control your Mac from anywhere. Crisp visuals, simple setup.

Marvel in den Backrooms gefangen: Avengers: Doomsday funktioniert wie KI

Der neue »Doomsday«-Trailer ist besser als der erste, aber dennoch schlecht. Sascha beschreibt das Problem ganz treffend, u.a. mit einer Analogie zum diesjährigen Überraschungshit »Backrooms«1:

[Wie] sehr mich dieses Drehbuch an Kane Parsons Interpretation der Backrooms erinnert, in denen die Realität bis zur Unkenntlichkeit prismatisch verfälscht wird. Die Einzelteile sind noch da, sie sind erkennbar, aber der Kontext geht verloren.

  1. Den ich noch nicht gesehen habe, aber auf dessen Home Video Release in der nächsten Woche, ich gespannt bin. []
Marvel in den Backrooms gefangen: Avengers: Doomsday funktioniert wie KI - PewPewPew | OpenGraph Preview Image
pewpewpew.de

Marvel in den Backrooms gefangen: Avengers: Doomsday funktioniert wie KI - PewPewPew

Avengers: Doomsday hat nichts zu bieten, so viel ist mehr als klar. An dem Special Look einer D23 Präsentation ist nichts speziell, die Bilder sind visuell ebenso lasch, ausgewaschen und abgedroschen wie eh und je sowie auf eine besonders tragische Art bemüht, groß zu wirken. Aber je mehr von ...

Der Experte

Screenshot der Übersichtsseite von »Der Experte« mit zahlreichen, generierten Experten.

Im deutschen Fernsehen gibt es zu jedem Thema einen Experten. Diese Seite erfindet neue, für Fachgebiete, zu denen noch nie jemand eine Experten­meinung ange­fordert hat. Namen und Fachge­biete sind kombiniert, die Porträts maschinell erzeugt.

Tolles Projekt von Gregor Weichbrodt, auf das mich dankens­werter­weise André aufmerksam gemacht hat und das alte, weiße Männer mit vermeintlich typisch deutschen Namen und wichtigen Titeln samt (generierten) Köpfen vor schlecht gefilmten Hintergründen präsentiert, die „Experte für Namens­tage“, „Wasser­hahn­forscher“ oder „Leiter des Instituts für Verschleiß“ sind.

In diesem Mastodon-Thread gibt’s ein interessantes Behind the Scenes von Gregor, in dem er treffsicher erklärt, dass es zwei Arten von Zugeschalteten gibt (den Selbst­gefilmten mit Webcam-Bild, Komplessions­artefakten und über­steuertem Bild vor Bücher­wand oder Akten­ordnern und den vom Kamerateam vor trostlosen Büro­szenerien gefilmten) und wie schwer es war, solch authen­tisch schlechte Bild vom Bild­modell generieren zu lassen. Ganz groß!

Der Experte | OpenGraph Preview Image
derexperte.ggor.de

Der Experte

Im deutschen Fernsehen gibt es zu jedem Thema einen Experten. Diese Seite erfindet immer neue: Titel, Name, Fachgebiet, Ort. Keiner von ihnen existiert.