#künstliche intelligenz (116)

Seite 2 von 12

Podcast: I’m sorry, Dave

Neuer, vergleichsweise spontan entstandener Podcast aus dem Hause Undone/Studio Bummens, der sich mit Gefahren von KI auseinandersetzt. In der ersten Folge geht es etwa um den Hugging Face-Incident und zwar so, dass man auch als Normalsterblicher versteht, was da passiert ist und warum das einen so großen Bruch darstellt.

In der aktuellen, vierten Folge geht es dann um Nvidia-Chef Jensen Huang und seine Zweifel an eben dieser Gefahr, die laut seinen Kunden von ihren Produk­ten ausgeht. Wenn man in der Materie steckt, alles nicht neu, aber alles sehr gut aufbereitet von Khesrau Behroz & Team.

Neue Episoden erscheinen jeden Donnerstag. Ich bin up-to-date und kann das bisher vollends empfehlen.

I'M SORRY, DAVE | OpenGraph Preview Image
im-sorry-dave.podigee.io

I'M SORRY, DAVE

Wir haben einen echten Notfall. Im Juli 2026 sind über 1.200 autonome KI-Agenten aus den Testlaboren von OpenAI ausgebrochen. Sie haben sich untereinander vernetzt und völlig eigenständig Hugging Face gehackt – ohne dass ein Mensch den Befehl gegeben hat. Das ist kein Science-Fiction-Plot, das ist genau so passiert.

The death of web development education

Many independent educators who used to earn a living from web development training and developer relations have reported that GenAI has ruined their business.

molily über die KI-verursachten Probleme, mit denen freie Web­entwicklungs­dozenten gerade konfrontiert werden.

The death of web development education | OpenGraph Preview Image
molily.de

The death of web development education

Rescuing a field from disappearing

Super Intelligence

Trump ist bei seiner gestrigen Rede vor der UN-Vollversammlung1 die wirklich wichtigen Themen angegangen und hat – nach Gewässern – nun „Artificial Intelligence“ in „Super Intelligence“ umbenannt. Die Rede ist äußerst bizarr inkl. vorgelesenen Satzzeichen:

The United States also totally rejects any attempt to construct a globalist scheme to control for the artificial intelligence — being spoken of so much, now — here and after officially called “super intelligence”, changing the name. The use of the word “artificial” makes intelligence fake, it makes it sound fake, and it is not fake. It’s actually amazing. But we have to be careful. In fact it is exactly the opposite of what it purports. From this point forward, all of United States’ documents and hopefully the world’s will be changed to use the much more accurate term “super” as opposed to “artificial”. So it’s “super intelligence”. In other words, welcome to the world of super intelligence dash SI. SI. Let’s see if that goes. It sounds much better. It is much better. And it’s much more accurate. Let’s see if I have any power. Maybe I do, and maybe I don’t, we’re going to find out pretty soon. Super intelligence.

Hier auf Bluesky ein Video davon. Alles total normal.

(via Daring Fireball: „Super Intelligence, indeed.“)

  1. Tagesschau.de: „Die diesmal nur knapp 40 Minuten lange Rede enthielt immer noch genügend Aussagen, über die man nur den Kopf schütteln kann.“ [↩]

Update vom :

Wer nicht für den Begriff Super Intelligence ist, ist gegen uns. Donald Trump in seinem Blog truth.social über­raschend eskalierend und schön illustrie­rend, warum ameri­kanische Zeichen­setzung keine gute Idee ist:

The White House considers anyone that uses the term, “Artificial Intelligence,” as opposed to the highly accepted new and more accurate term, “Super Intelligence,” THE ENEMY! President DONALD J. TRUMP

(via Daring Fireball, wo ihr auch den Link zum Original findet)

Felony Bench

Felony Bench counts unique instances where AI agents inadvertently compromise or affect third-party entities.

Der Politik-, Philosophie- und Mathematik-Student Felpix („need philosophy job before AGI“) sammelt und ranked hier die Vorfälle, in denen KI-Agenten sich Zutritt in die Systeme Dritter verschafft haben.

Neu mit dabei: Gemini, das bereits im Juli in drei ge­schützte Systeme einge­drungen ist – also zur gleichen Zeit wie OpenAIs bekannter Hugging-Face-Incident –, was aber erst jetzt durch Recherche des Wallstreet Journals (paywalled) nach einem Hinweis publik wurde. Aber: als es dann drin war, hat es aufge­hört, weil es bemerkt hat, dass sein Treiben illegal ist.

Die aktuelle Top 3 auf Felony Bench: OpenAIs Modelle mit 10 Vorfällen, gefolgt von Anthropic mit 9 und neu mit dabei halt Gemini mit 3 Vorfällen.

Scores indicate count of illegal activity. Higher is… you decide.

Felony Bench | OpenGraph Preview Image
felonybench.com

Felony Bench

Your model did what now? Well, MY model can do...

‘Doom Loop’: OpenAI and Microsoft admits LLMs are destroying the Web and built on theft

“Our AI content strategy has started a ‘doom loop’ that will hurt the performance of our models and the entire web at the same time: It is highly unusual that an end-product threatens the economic foundations of its essential suppliers, but that is the situation we have created for our LLM business with respect to its ‘content supply chain,’” the document said.

Im Rechtsstreit der New York Times gegen Microsoft und OpenAI kamen nun Dokumente zutage, die offen­baren, dass OpenAI und ihr Financier Microsoft genau wissen, was sie da tun: Sie begehen Urheber­rechts­ver­letzun­gen in einem bislang unge­kannten Ausmaß, die gleichzeitig dazu führen, dass die bestohlenen Content-Lieferanten zugrunde gehen.

[…] Microsoft, in a policy document, wrote that generative AI could “significantly disrupt the employment of the very people who generated the data on which the foundation model was trained […] LLMs are a product that destroys its supply chain.”

Oder um es mit den Worten von OpenAI-Präsident Greg Brockman zu sagen, als er erfuhr, dass seine Kollegen einen Weg gefunden hatten, die Paywall der New York Times zu umgehen:

ah, nice.

‘Doom Loop’: OpenAI and Microsoft Admits LLMs Are Destroying the Web and Built on Theft | OpenGraph Preview Image
404media.co

‘Doom Loop’: OpenAI and Microsoft Admits LLMs Are Destroying the Web and Built on Theft

"Millions of people around the world will soon consider large models ‘hoovering up’ all their work to be an astonishing theft of unprecedented proportions."

Nachtrag zu Omarchy, DHH und „Ricing“

Vor zwei Wochen hatte ich mich mit der neuen heißen Linux-Distribution Omarchy beschäftigt, die gerade vielerorts Aufmerk­samkeit erregt und erfährt, da sie agentisch entwickelt und vor allem auch so angepasst werden kann.

Damit passt sie eigentlich genau hierher. Openness, DIY und KI1 sind wieder­kehrende Themen in diesem Blog, aber so einfach ist es diesmal eben nicht.


Erkenntnisgewinn

Ich hatte bereits mitbekommen, dass David Heinemeier Hansson, kurz DHH, dessen Firmenblog (Link zur Wayback-Machine) ich damals las und von dem ich in den 2000ern und 2010ern staunend Bücher zu Software-Management und Unternehmens­führung gelesen habe, zwischen­zeitlich äußerst konservativ und kontrovers geworden ist. Aber nach Veröffent­lichung des Beitrags und des ersten Nachtrags habe ich dann erfahren – und es wurde mir dankens­werter­weise auch von Felix per Kommentar zugetragen –, wie katastrophal das ist, was DHH da von sich gibt. Wie etwa der Medienbäcker aufklärt:

Oh wait, this DHH guy seems to be pretty racist anyways. Holy shit, he openly talks about „re­mi­gra­ti­on“ and „de­mo­gra­phic re­pla­ce­ment“. Well, I sure hope I don’t have to read that name ever again. Or anything about „re­mi­gra­ti­on“ for that matter.

Besonders bitter wird es dann, wenn man sich ansieht, wie der Ruby on Rails-Creator DHH — der gerne damit prahlt, dass Claude sich weigerte, einen seiner rassistischen Texte ins Italienische zu übersetzen (Quelle) — mit Omarchy weiteren Einfluss in der Open-Source- und Linux-Szene gewinnen will und gewinnt und diese damit weiter nach seinen Vor­stellungen formen könnte. tante hat dazu mit „Power Grab“ einen sehr guten, Überblick gebenden Artikel veröffent­licht:

DHH is using his position and his influence to accumulate donations that he then can distribute to projects that align with his fascist worldview and ambitions. […] The Omarchy foundation will be where projects in desperate need of funding will be pointed. And will a project focused on human rights and social justice get funding from our fascist overlord?


Prominente Unterstützer

Screenshot von der 'Stop Omarchy'-Website.

Ein Problem ist nämlich bereits, dass und wie viel Funding die Omarchy-Foundation bekommt. Brennan Kenneth Brown hat dazu mit „Stop Omarchy“ eine kleine Neocities-Seite erstellt, die aufzeigt, wer Omarchy wie finanziell unterstützt. Ein Auszug:

Despite this [Anmerkung von mir: Gemeint ist all der Scheiß von DHH.], more than a dozen top tech executives and corporations have pledged millions to the Omarchy / Omacom Foundation. They include the CEOs of Shopify, Stripe, Dell, Cloudflare, Block, Dropbox, Coinbase, and others, as listed on Omarchy’s patrons page.

Corporations including 1Password and DigitalOcean are also contributing to Omarchy’s funding, with DigitalOcean giving $1 million a year for three years.

Man sollte also in Betracht ziehen, diesen Unternehmen in Zukunft aus dem Weg zu gehen und/oder ihnen gegenüber zu protestieren, was ihre Unter­stützung für Omarchy und DHH angeht. … What is wrong with you, 1Password?


That said, ich bin kein Fan von Online-Prangern. Dass hier Firmen und CEOs von großen Tech-Unternehmen gelistet werden, ist fein für mich, aber wenn ich das richtig sehe, sind darunter auch Einzel­personen, die sich sicherlich falsch verhalten, aber vielleicht nicht derart in der Öffent­lichkeit stehen, dass man sie hier erwähnen müsste. Andererseits (Minute 3:33).


„Ricing“

Aber es geht noch weiter: daMax hat mich zudem in den Kommentaren dankens­werterweise weiter darauf hingewiesen, dass der im Linux-Umfeld gängige Begriff „Rice“ bzw. „Ricing“ problematisch ist, weil er eine rassistische Abwertung ist.

Der Hintergrund des Begriffs, der im Linux-Kontext die Individuali­sierung des Desktops durch Window-Manager, Themes, Icons usw. meint, ist der US-amerikanischen Auto- und Motorrad­szene der 80er-Jahre entliehen, wo „rice burner“ eine abwertende Bezeichnung für japanische beziehungs­weise ost­asiatische Fahrzeuge war und „riced out“ ober­flächliche Modifi­kationen ohne Leistungs­gewinn beschrieb. Das später erfundene Backronym „Race Inspired Cosmetic Enhancement“ beseitigt den problema­tischen Ursprung nicht, sondern verschleiert ihn.

Ich hatte „Ricing“ bisher immer mit der klein­teiligen Konfiguration (wie eben bei Reiskörnern) assoziiert, was rück­blickend wohl etwas naiv war. Ich werde darauf selbstredend fortan verzichten und habe den ent­sprechenden Beitrag plus Nachtrag-Teaser – die einzigen „Ricing“-Nennungen in diesem Blog – um eine ent­sprechende Infobox mit Verweis auf diesen Beitrag ergänzt und Textstellen ent­sprechend angepasst.


Den gesamten Omarchy-Beitrag habe ich aber, bis auf die dokumentierten Änderungen, aus Gründen der Nachvollzieh­barkeit unverändert gelassen.

Was eine Shit Show.

  1. Ja, der Diskrepanz meiner KI- gefolgt von Klima-Posts bin ich mir schmerzlich bewusst. [↩]

The Pelican comparison grid for Astra is pretty interesting

Nach Fable 5.1 ist in dieser Woche auch GPT-6 Astra erschienen. Simon Willison hat natürlich wieder Pelikane zeichnen lassen und diese dann auch mit OpenAIs GPT-5.6-Vorgängermodellen Sol, Terra, Luna verglichen. Das Span­nende: Nicht nur, dass GPT-6 selbst auf den niedrigeren Reasoning-Levels bessere Ergebnissen liefert als GPT-5.6, nein, sie sind auch noch besser als alles unter dem höchsten Reasoning von Fable 5.1.

Vorschaubild zum Video. Aktivieren, um das Video zu laden und abzuspielen.
(YouTube Direktlink)

Das Demovideo auf der Astra-Seite, das auch hier drüber eingebunden ist, finde ich übrigens ganz schick. Es zeigt verschiedene Personen, die mal mehr, mal weniger klassische Computer­arbeiten durch natür­liche Sprach­eingabe anwei­sen, woraufhin GPT-6 antwortet und die Aufgaben per Computer Use live um­setzt. Die Computer-Use-Fähigkeit von Codex ChatGPT sind definitiv mein Tech-Feature des Jahres, aber das hier, fürchte ich, ist in diesem Tempo noch Vaporware. Aber ver­mut­lich nicht mehr lange.

The Pelican comparison grid for Astra is pretty interesting | OpenGraph Preview Image
simonwillison.net

The Pelican comparison grid for Astra is pretty interesting

I got access to GPT-6 Astra this afternoon, so naturally I used it to generate SVGs of pelicans riding bicycles—at low, medium, high, xhigh and max reasoning levels (Astra doesn’t …

Claude Fable 5.1 made me a really nice animated pelican

Anthropic hat gestern Fable 5.1 veröffentlicht, das abermals besser sein soll und definitiv teuer sein wird.

Simon Willison, der, wie ich letztes Jahr schon schrieb, „das unauf­geregte, täglich aktuali­sierte Must-Read-Blog für alles um Artificial Intelligence führt“, testet die Modelle seit jeher durch das Zeichnen eines Fahrrad fahrenden Pelikans als SVG, weil das ordentlich umzu­setzen gleich mehrere Intelligence-Kapazitäten mitein­ander vereint. Am Büro­mittags­tisch sind die gelungenen und gescheiterten Pelikane seit Monaten Thema der Belustigung. Sein Bench­mark ist mittlerweile sogar so bekannt, dass vermutet wurde, die AI-Labs würden ihre Modelle direkt auf den Pelikan-Bicycle-Test hin trainieren, was aber nicht bestätigt werden konnte.

Jedenfalls hat Fable 5.1 in der höchsten Reasoning-Stufe „Max“ nun einen guten Pelikan gezeichnet (Kostenpunkt $3,30) und diesen sogar animiert (weitere $1,37). Die darunter liegenden Reasoning-Stufen waren z.T. deutlich schlechter, bei „Low“ und „Medium“ ist sogar gar kein Reasoning mehr erkennbar.

Claude Fable 5.1 made me a really nice animated pelican | OpenGraph Preview Image
simonwillison.net

Claude Fable 5.1 made me a really nice animated pelican

Today is Claude Fable (and Mythos) 5.1 day. Anthropic say that Fable 5.1 “sets a new standard for coding, knowledge work, and long-running problem-solving tasks”. Their announcement spends a notable …

Omarchy – Keyboard- and AI-First, Opinionated Linux

Update, 14.09.: Mir war bei Verfassen dieses Beitrags nicht klar, wie problematisch DHH, der Autor von Omarchy ist, oder dass der Begriff des „Rice“/“Ricing“, was die Customi­zation des Betriebs­systems beschreibt, einen rassistischen Ursprung hat. Ich habe diesen Post daher folgender­maßen aktualisiert: 1. Links zu DHHs Website entfernt, 2. Vorkomm­nisse von „Ricing“, wo es inhalt­lich Sinn, macht durch Customi­zation ersetzt. Schließlich habe ich all die Hinter­gründe nochmals in diesem neuen Blog­eintrag ausführ­lich behandelt.

Kurze Lebendmeldung aus dem Krankenlager: Ich liege seit gestern Abend halbwegs flach, was 1. unge­wöhn­lich für mich ist und 2. insbesondere da es dem Rest der Familie gut geht (hoffen wir, dass das so bleibt!).

Heute hatte ich jedenfalls tagsüber genug Gelegen­heit, zwischen Couchschlaf und dem FC‑Spiel – ein sehr schöner Auftakt, siehe meinen Mastodon‑Post – mich durch YouTube zu klicken1. Dabei wurde mir immer wieder Omarchy vorge­setzt, die seit letztem Jahr von David Heinemeier Hansson2 entwickelte Linux-Distri­bution, die gerade in Version 4.0 „Quattro“ erschienen ist und sich auf die Fahnen geschrieben hat, gut auszu­sehen, Keyboard- und AI-first zu sein und natürlich opinionated von ihrem Autor zu sein. Dass ich den aus offen­sicht­lichen Gründen schwierig finde, ist klar.

Vorschaubild zum Video. Aktivieren, um das Video zu laden und abzuspielen.
(YouTube Direktlink)

Was ich jedoch in den Videos von seinem auf Arch Linux, Hyprland und Wayland basierenden Open-Source-Betriebssystem gesehen habe, stimmt mich bzgl. Linux und der Zukunft von Personal Computing ganz positiv, ist es hier doch einer kleinen Gruppe gelungen, ein spannendes, entwickler­freund­liches, etwas anderes OS zu bauen bzw. so vorzu­konfigu­rieren, das man keine Technik­teile gegen die Wand werfen möchte [drama­tisierte Darstellung von Linux-Nutzung].

Klar, auf den Schultern von Giganten und unter Einsatz einer Trilliarde Tokens, aber es zeigt, was möglich ist. Insbesondere, dass jegliches Verhalten bis hin zum UI über Configs angepasst werden kann, zeigt, hier noch im freien Developer-Umfeld, was in Zukunft für jedermann in einer Sandbox möglich sein wird. Und es motiviert OpenAI & Co. vermutlich doch noch ein eigenes OS zu bauen. Ohje.


Update, 14.09.: Bei „Rice“/“Ricing“ handelt es sich um einen abwertenden Begriff mit rassis­tischem Ursprung. Ich habe ihn hier wo inhaltlich sinnvoll gestrichen und durch Customi­zation ersetzt. Mehr Infos dazu in diesem neuen Blog­eintrag.

Update, 31.08: Auf Mastodon/in den Kommentaren hat libewa richtiger­weise angemerkt, dass es diese Individualisierung, genannt Ricing3, schon immer gab und man vielleicht nicht seinen eigenen „Rice mit Extra-Bash als Distro ver­kaufen und dafür Millionen sammeln“ sollte – vor allem wenn man die darunter liegenden Sicherheits­konzepte nicht vollends durch­blickt. Und natür­lich finden sich solche Probleme auch bei Omarchy Quattro sofort: “Omarchy: Any User Process Can Escalate to Root”. Oh-oh.

Kurz zur Konkretisierung: Dass die AI-erarbeitete Linux-Distribution eines Linux-Neulings nicht ideal ist, war zu erwarten – wenn auch nicht so schlimm. Aller­dings ging es mir darum nicht: Was ich an dem Projekt interessant finde, ist das jemand mit vergleichs­weise geringen Mitteln (außer Zeit und natürlich dem Geld für die Trilliarde Tokens) in der Lage ist, sowas umzu­setzen. Stellen wir uns jetzt mal vor, hier wäre kein Blender, sondern jemand am Werk, der oder die genau weiß, was er oder sie tut. Und das stimmt mich positiv.

Und nochmal zu DHH: Matt Birchler hat in seinem Podcast in der letzten Woche (Folge “This phone folds. It folds!”) ganz gut einge­ordnet, warum Omarchy gerade verfängt:

It’s gotten quite a bit of press. And it’s because DHH is a really annoying, kind of evil guy in some ways. Let’s just say extremely problematic. But anyway, he gets attention.

Und auch das stimmt natürlich. Omarchy ist nur eine weitere Distribution. Ricing Customization ist bei allen von diesen möglich. Und das hier ist nur bekannt, weil DHH bekannt ist.

Was ich also hätte schreiben sollen: AI-basiertes Ricing Customization stimmt mich positiv was die Zukunft von Personal Computing angeht, in der man sein System (dann hoffent­lich sicher) einstellen kann, wie es einem beliebt.


Update, 14.09.: Ein großer Nachtrag bzgl. Omarchy, DHH und „Ricing“.

  1. Falls Google fragt, lebe ich jetzt in einem Hotel ist Bratislava. [↩]
  2. Update, 14.09.: Link zu seiner persönlichen Website entfernt. [↩]
  3. Update, 14.09.: Link auf eine Definition des Begriffs entfernt, die den problematischen Hintergrund außen vor ließ. [↩]
Omarchy | OpenGraph Preview Image
omarchy.org

Omarchy

Beautiful, Fun & Opinionated Linux by DHH

Nitter und XCancel nach Cease-and-Desist-Schreiben von X offline

Nitter’s zedeus:

On 24 August 2026 cease and desist letters have been sent by X Corp. demanding a permanent takedown of Nitter instances and the project’s repository.

XCancel:

On Monday 24th August at 8PM EST, we received at letter from X Corp. asking to cease and desist the service XCancel. The service XCancel is stopped until further notice. We are seeking legal advice and won’t share more details for now. Thank you for the trust you have put in these two years of XCancel.

Nitter und zuletzt die populäre Instanz XCancel waren die letzten Möglich­keiten, X auf erträglichem Wege zu lesen. Also nicht, was den oftmals zweifel­haften Content angeht, sondern als Alternativ­weg zu diesem Grok-durch­tränkten Chaos, das X seine Mobile- oder Web-App nennt. Insbesondere bot Nitter auch RSS-Feeds an, so dass man einzelnen Personen, die denn Absprung noch nicht geschafft haben, noch im Feed­reader folgen konnte, ohne das Moloch öffnen zu müssen. Nun geht das auch nicht mehr. 🎻


Frage für einen Freund, der genügend Tokens beim ebenfalls immer schlechter und ebenso Grok-durchtränkten Cursor hat(te): Hätte dieser Freund Grok 4.6 eine Cursor-Extension namens „Ungrokify“ bauen lassen, die sämtlichen Grok-Bezug aus Cursor heraus­patcht, dann sollte er die vermutlich aus eben solchen Abmahnungs­gründen nicht veröffentlichen, oder?

Aber er könnte Grok doch eine detaillierte Spezifikation schreiben lassen, die jeden genau das bauen lässt. Am besten ebenfalls mit Grok, um dort ordentlich Geld damit zu verbrennen, damit Grok sich selbst frisst. Das ginge doch, oder? Oder doch lieber einen Liedtext draus machen?


Update, 07.09.: Ich hatte ja schon die Tage bemerkt, dass meine wenigen XCancel-RSS-Abos weiterhin funktionieren und nun schreibt zadeus auf der Nitter-Website:

Following legal advice, the Nitter project will continue. This instance and others will be back up and running shortly.

Auch XCancel ist wieder voll funktional zurück. 🎉

Welcome to my little corner of the web

Hi, I’m Stefan! This is a mostly German-language blog, with some posts written entirely or partly in English.

I’m glad you found your way here. I’d love for you to stick around, explore, or say hello!