Fuori da qui, Ep.138 - sicofanzia e stanze

A proposito di analisi dell'interfaccia dei chatbot e relativo engagement degli utenti, credo che l'episodio 138, "La stanza", del podast di Pieranni dia degli spunti molto interessanti.

Tagliando con l'accetta e molto in sintesi, non siate pigri, ascoltate il podcast, mi pare siano 2 i punti molto interessanti:

1. i chatbot basati su LLM sono dei sicofanti (ovvero lusingano gli utenti). In questo modo cresce il coinvolgimento e in ultima analisi la dipendenza. Con il problema che, a quanto pare, gli umani vogliono che i chatbot con cui intetragiscono abbiano questa caratteristica;
2. la memoria distribuita. Gli umani affidano la propria memoria ai chatbot, i quali restituiscono una memoria parziale (magari perché è parziale quella affidata al bot dagli umani) e manipolatoria per vari motivi

I due temi sono spiegati bene nel podcast.

Entrambe queste caratteristiche ci riportano al fatto che nella relazione tra umani e macchine, c'è un terzo "incomodo" costituito dai padroni della macchina che la costruiscono appositamente in questo modo per condizionare e manipolare gli umani.

Nulla di nuovo rispetto ai social media, ma con una tecnologia ancora più coinvolgente e penetrante

Ascolta la puntata

Cosa succede quando un chatbot ci asseconda e perché. Cosa significa "sicofanzia"?

Gli articoli citati nella puntata sono i seguenti:

• OpenAI, "Sycophancy in GPT-4o: What happened and what we're doing about it", 29 aprile 2025;

• OpenAI, "Expanding on what we missed with sycophancy";

• Treccani, "Oltre lo specchio della chatbot: quando l'IA ci seduce";

• Perez et al., "Discovering Language Model Behaviors with Model-Written Evaluations", arXiv:2212.09251, dicembre 2022;

• Joseph M. Pierre, Ben Gaeta, Govind Raghavan, Karthik V. Sarma, "'You're Not Crazy': A Case of New-onset AI-associated Psychosis", Innovations in Clinical Neuroscience, 2025,

• Lucy Osler, "Hallucinating with AI: Distributed Delusions and 'AI Psychosis'", Philosophy & Technology, 39:30, 11 febbraio 2026;

• Kristen French, "Why You're More Likely to Develop AI-Psychosis than to Join a Cult", Nautilus, 25 febbraio 2026;

• Elsop Insights, "OpenAI Launches Ads in ChatGPT: Sam Altman's 'Last Resort' Becomes Reality for 800M Users", 21 gennaio 2026;

• Cheng et al., "Sycophantic AI decreases prosocial intentions and promotes dependence", Science, 26 marzo 2026