Chatbots ersetzen immer öfter soziale Interaktionen
Für die New York Times beschreibt Kashmir Hill den tragischen Weg eines jungen Mannes, der sich in Unterhaltungen mit ChatGPT verlor und dabei zunehmend vereinsamte. NYTIMES
So the company, when I asked about how this happened, said that they have safeguards in place that are supposed to direct people to crisis helplines and real-world resources, but that these safeguards work best in short exchanges, and that they become less reliable in long interactions, and that the model’s safety training can degrade. So basically they said, this broke and this shouldn’t have happened.
Diese Geschichte zeigt zudem einmal mehr, wie wenig die LLM-Hersteller bis heute ihre eigene Technologie verstehen und kontrollieren können (siehe dazu auch unseren Blogbeitrag vom 9. April 2025).
Auch aus einem Beitrag über „faith tech“ von Benji Edwards für arstechnica wird ein Trend deutlich: Menschen wenden sich von der sozialen Interaktion mit anderen Menschen ab und suchen Rat und Beistand bei digitalen Produkten. ARSTECHNICA
While a service like ChatwithGod operates as a „spiritual advisor,“ its conversational nature is convincing enough that users often question whether they are speaking directly with a divine being.
Diese Menschen erliegen der Vorstellung, dass Chatbots Verständnis zeigen können. Zudem erfahren sie scheinbare Bestätigung, denn Chatbots sind notorische Ja-Sager.
Die Abwendung von anderen Menschen trägt zu einem, in vielen Gesellschaften zu beobachtenden, Trend zur Vereinsamung bei. Dazu bedeutet der Umstand, dass Menschen den Produkten verschiedener Technologieunternehmen ihre intimsten Geheimnisse anvertrauen, einen immensen Schaden für die Privatsphäre.
Kurznachrichten
- Sind wir die letzte Generation von Entwicklern? XIPU
- Letzte Woche wurde die Seite Techmeme.com 20 Jahre alt. Sie hat sich seit ihrem Start nicht großartig verändert, sieht stark veraltet aus – und ist trotzdem so populär, wie nie zuvor. CRAZYSTUPIDTECH