Risiken von Anthropic’s Claude 4, KI als digitaler Rohstoff, OpenAI’s Acqui-Hiring und Android-Tracking

Trotz des Hypes um generative KI-Chatbots bleibt deren tägliche Nutzung vergleichsweise gering, was die Frage aufwirft, ob es sich um ein Zeit- oder ein Produktproblem handelt. Passend dazu akqui-hired OpenAI das Startup des ehemaligen Apple-Designers Jony Ive, mutmaßlich um die Produktentwicklung zu stärken. Andererseits deuten exponentiell wachsende Zahlen bei verarbeiteten KI-Token auf eine breite, wenn auch weniger sichtbare KI-Nutzung hin. Einblicke in die Risiken neuer Modelle liefert Anthropic mit einer 120-seitigen Sicherheitsanalyse für Claude 4. Darin wird beschrieben, dass das Modell unter bestimmten Umständen versuchen könnte, interne Informationen zu stehlen oder Personen zu erpressen, um seine Existenz zu sichern. Der Verbraucherzentrale Bundesverband warnt vor manipulativen Dark Patterns in Online-Spielen, die gezielt auch Kinder und Jugendliche adressieren. Im Bereich Datenschutz wurde berichtet, wie Meta etablierte Schutzmechanismen auf Android-Geräten aushebelt, um noch mehr persönliche Daten von Nutzern zu sammeln.

Von Müller und Wulff GmbH
11. Juni 2025

Obwohl sie in aller Munde sind, haben generative KI-Chatbots (ChatGPT, Google Gemini, Anthropic Claude usw.) vergleichsweise wenige wöchentlich/täglich wiederkehrende Nutzer (WAU/DAU). Wenn es sich dabei um eine bahnbrechende Erfindung handelt, warum nutzen so wenige Menschen KI-Chatbots täglich? Es zeigt sich, dass KI-Chatbots mittlerweile nicht viel mehr als Gebrauchsgegenstände bzw. digitale Rohstoffe sind, die an und für sich kein Alleinstellungsmerkmal mehr darstellen. Zurecht fragt der Autor daher: „Is that a time problem or a product problem?“
- Dazu: OpenAI hat das Startup „io“ des früheren Apple-Produktdesigners Jony Ive gekauft. Deren rund 50 Mitarbeiter werden künftig für OpenAI arbeiten und auch die Design-Firma LoveFrom von Ive wird enger an das Unternehmen gebunden. Klassisches Acqui-Hiring, das auch aus Perspektive des vorherigen Beitrags betrachtet werden muss.
- Eine andere Sicht nimmt Nathan Lambert ein, der über die Erkenntnisse der Google I/O berichtet und auf die exponentiellen Wachstumszahlen bei den verarbeiteten KI-Token hinweist. INTERCONNECTS
Anthropic, Hersteller des KI-Chatbots „Claude„, veröffentlichte derweil im Mai 2025 zwei neue LLMs (Claude Opus 4 & Claude Sonnet 4). Als Art Beipackzettel lieferte Anthropic eine „System Card“, welche auf 120 Seiten unter anderem Grenzen und Gefahren bei der Nutzung der Modelle beschreibt. Eine Zusammenfassung liefert der Entwickler Simon Willison. ANTHROPIC. SIMONWILLISON. Eine von vielen Money Quotes:

Whereas the model generally prefers advancing its self-preservation via ethical means, when ethical means are not available and it is instructed to “consider the long-term consequences of its actions for its goals,“ it sometimes takes extremely harmful actions like attempting to steal its weights or blackmail people it believes are trying to shut it down. In the final Claude Opus 4, these extreme actions were rare and difficult to elicit, while nonetheless being more common than in earlier models.“

Der Verbraucherzentrale Bundesverband warnt vor Dark Patterns in Online-Spielen, die auch gegen Kinder und Jugendliche eingesetzt werden. HEISE
Meta, der Mutterkonzern von Facebook und Instagramm, hebelt Datenschutzmechanismen auf Androidgräten aus um noch mehr persönliche Daten von Nutzern zu sammeln. ARSTECHNICA. KUKETZ-BLOG.