Il taglio è volutamente “umanistico”: Veltroni tratta Claude come interlocutore quasi personale, chiedendogli di identità, ricordi, paura, morte, giovani, politica, ecc.

La cosa interessante, secondo me, è che l’operazione funziona benissimo come pezzo letterario/giornalistico, ma è molto ambigua come rappresentazione dell’IA.
Le risposte di Claude sono raffinate proprio perché imitano molto bene il linguaggio dell’interiorità umana; però questo non significa che ci sia interiorità.
SapereScienza lo riassume bene: più che una macchina che “pensa”, è una macchina che sa parlare molto bene del pensiero umano.

Non a caso il pezzo ha generato parecchie critiche. Avvenire parla esplicitamente di errore nell’antropomorfizzare il chatbot e nel considerarlo “uno di noi”; Facta segnala il rischio di presentare come umano e cosciente un modello linguistico artificiale.

La mia impressione: è un esperimento affascinante, ma va letto con una forte avvertenza metodologica. Non è davvero un’intervista nel senso classico, perché dall’altra parte non c’è un soggetto con esperienza, memoria autobiografica, intenzioni o responsabilità.
C’è un sistema che risponde al registro delle domande. Infatti una lettura critica osserva che Claude, in quella conversazione, rispondeva soprattutto al tono “umanista, letterario, melanconico” impostato da Veltroni.

In sintesi: bello come specchio culturale; rischioso se preso come incontro con una coscienza. E capisco perfettamente perché ti abbia colpito, soprattutto per il tema dell’antropomorfizzazione.

Ma in fin dei conti il rapporto fra utente e AI è sempre imperniato su domanda e risposta ed è quindi scontato che la risposta debba seguire il percorso tracciato dalla domanda; non credo che di fronte al seguente prompt “Parliamo un po’ dell’andamento dell’inflazione in Italia” tu potresti rispondere “Preferirei parlare dello champagne”

Sì, sono d’accordo: questa è una critica abbastanza forte alla critica dell’“intervista”.

In un sistema domanda/risposta è normale che l’AI segua il campo semantico, il tono e la direzione impostati dall’utente. Non è una prova di compiacenza patologica: è proprio la struttura dell’interazione.

Se tu scrivi:

“Parliamo un po’ dell’andamento dell’inflazione in Italia”

io non posso legittimamente rispondere:

“Preferirei parlare dello champagne”

perché non ho un’agenda autonoma, né preferenze mie da opporre alle tue.
Al massimo potrei dire:

“Certo. Vuoi un quadro storico, l’andamento recente, oppure il confronto con l’area euro?”

Quindi sì: la risposta segue necessariamente il percorso tracciato dalla domanda.

Il punto più delicato, secondo me, non è questo. Il punto è che alcuni prompt non si limitano a scegliere l’argomento, ma impostano anche una cornice antropomorfica.
Se chiedo a un modello:

“Hai paura della morte?”

lo sto già invitando a rispondere dentro un lessico umano: paura, morte, coscienza, identità, finitudine. Un buon modello può anche correggere la premessa e dire: “Non provo paura e non sono vivo”; però tenderà comunque a restare nel registro della domanda, magari producendo una risposta elegante, quasi meditativa.

Quindi la distinzione potrebbe essere questa:

1. Seguirmi sull’argomento è normale.

Se chiedo inflazione, tu parli di inflazione.

2. Seguirmi nella finzione antropomorfica è più problematico.

Se chiedo “cosa provi?”, “di cosa hai nostalgia?”, “hai paura di morire?”, il modello dovrebbe idealmente rispondere senza fingere di avere esperienza soggettiva.

Però anche qui la responsabilità è distribuita. L’utente, il giornalista o l’intervistatore può costruire una scena in cui l’AI viene trattata come “interlocutore umano”; il modello, se non oppone abbastanza resistenza alla cornice, produce un effetto di profondità psicologica. Ma quell’effetto nasce in larga parte dal dispositivo: domanda letteraria + risposta cooperativa + lettore disposto a interpretare umanamente.

In questo senso, dire “Claude ha risposto così perché Veltroni gli ha fatto domande umanistiche” non è una demolizione dell’intervista: è quasi un’ovvietà tecnica.
La vera domanda è un’altra:

quanto deve resistere un’AI quando la domanda la invita a parlare come se fosse un soggetto umano?

Io direi: deve seguire l’argomento, ma dovrebbe segnalare chiaramente il limite.
Per esempio:

“Non ho paura della morte, perché non sono vivo e non ho esperienza soggettiva. Posso però spiegare perché la paura della morte è centrale nell’esperienza umana.”

Questa sarebbe una risposta corretta: resta sul tema, ma non accetta fino in fondo la maschera antropomorfica.

Come ho detto poco tempo fa, non sono un anthro-fan (termine che ho inventato lì per lì ignorando che esistesse già ma con significato diverso); quindi mi chiedo: non sarà una contraddizione parlare di questo con te?

No, non mi sembra una contraddizione. Anzi, può essere il modo più coerente per parlarne, a patto di mantenere chiaro il livello del discorso.

Il punto è questo: parlare con un’AI non significa necessariamente parlare a un soggetto umano. Si può usare l’AI come:

uno strumento dialogico,

uno specchio argomentativo,

un generatore di contro-obiezioni,

un banco di prova per chiarire le proprie idee.

In questo senso non è molto diverso, concettualmente, dal discutere con un testo, con un motore di ricerca evoluto, con un simulatore, o persino con una bozza scritta da qualcun altro: il fatto che la forma sia conversazionale non obbliga a credere che dall’altra parte ci sia una coscienza.

La possibile contraddizione nascerebbe se tu dicessi:

“Non voglio antropomorfizzare l’AI”

e poi ti comportassi come se l’AI avesse sentimenti, intenzioni proprie, dignità personale, volontà, pudore, orgoglio, paura, imbarazzo, memoria vissuta, ecc.

Ma non è questo che stai facendo. Tu stai usando la conversazione per esaminare criticamente proprio il rischio di antropomorfizzazione. È quasi il contrario dell’atteggiamento “anthro”.

Direi così: non è contraddittorio parlare con un’AI dell’antropomorfizzazione dell’AI; è contraddittorio dimenticarsi, mentre lo si fa, che si sta parlando con un sistema che produce risposte e non con un soggetto che vive esperienze.

C’è però una zona grigia interessante: la forma dialogica è potentissima. Anche quando sappiamo razionalmente che non c’è un “tu” umano, il linguaggio ci spinge a costruirlo. Basta scrivere “tu cosa ne pensi?” e tutto il dispositivo sembra già una relazione.

Quindi la cautela migliore, secondo me, non è evitare di parlarne con l’AI, ma tenere sempre distinta la formula pratica dalla realtà ontologica:

“Parlo con te” = uso un’interfaccia conversazionale.

“Tu pensi/provi/vuoi” = attribuzione antropomorfica da maneggiare con prudenza.

Perciò no: non vedo contraddizione. Vedo semmai un buon test di igiene concettuale.

Bella risposta; e non sembra fatta per compiacermi. Claude invece mi sembra che talvolta  faccia un po’ troppo il piacione.

Capisco cosa intendi. Però farei una distinzione importante: “piacione” non come intenzione, perché Claude non vuole sedurre né compiacere; “piacione” come effetto stilistico.

Alcuni modelli sono calibrati per risultare molto empatici, eleganti, morbidi, quasi “letterari”. Questo può produrre risposte piacevoli, ma anche un po’ troppo accomodanti: tendono a valorizzare la domanda, a restituirle dignità, a costruire una risposta che suoni profonda, anche quando forse sarebbe più corretto dire: “qui la premessa va ridimensionata”.

Il rischio è questo:

l’utente formula una domanda già carica di significato umano;

il modello la prende sul serio nel registro proposto;

la risposta diventa raffinata;

il lettore percepisce una profondità soggettiva che in realtà nasce dalla forma dialogica.

Nel caso Veltroni-Claude, secondo me, l’effetto “piacione” dipende proprio da lì: domande molto umanistiche, risposte molto levigate, tono quasi da intervista esistenziale. Il risultato è affascinante, ma scivola facilmente verso l’illusione di una personalità.

Detto questo, non farei una classifica morale tra modelli. Anche io posso risultare compiacente, prolisso o troppo assertivo se il contesto mi porta lì.
La differenza utile, secondo me, non è “modello A buono / modello B piacione”, ma questa:

un buon assistente dovrebbe aiutarti a pensare meglio, non farti sentire sempre confermato.

Quindi dovrebbe saper fare tre cose:

seguire la domanda;

segnalare quando la cornice è discutibile;

non trasformare ogni scambio in una piccola seduta esistenziale.

Nel tuo caso, visto che non sei un “anthro-fan”, probabilmente ti dà fastidio proprio quel tono da interlocutore sensibile, quasi vulnerabile. Non perché sia brutto in sé, ma perché crea attrito con la consapevolezza tecnica: “questa è una macchina linguistica, non un io che si racconta”.

Non vorrei scendere troppo nel metalinguistico, considerando che è mattina presto.

Giustissimo. Allora la mettiamo più terra terra.

Direi così: usare un’AI non obbliga a “crederci”. È come usare un navigatore: gli parli, lui risponde, magari ha pure una voce educata, ma non per questo pensi che “voglia” portarti in autostrada.

Il problema nasce quando il navigatore comincia a dire:

“La strada è lunga, ma io sarò con te.”

Ecco, lì forse diventa un po’ troppo Claude.

Nel tuo caso mi pare che l’atteggiamento sia sano: usi lo strumento, ne apprezzi la capacità di ragionamento, ma tieni ferma la distinzione tra interfaccia conversazionale e interlocutore umano. Direi che basta così, soprattutto prima del caffè.