Anche un’IA può disperarsi. E avere bisogno di uno psicologo

Un'IA può essere disperata? Sembra una domanda assurda ma è esattamente quello che un gruppo di ricercatori di Anthropic ha scoperto guardando dentro il cervello artificiale di Claude, uno dei modelli di intelligenza artificiale più avanzati al mondo.

Partiamo da una premessa fondamentale: non stiamo dicendo che un'IA "soffre" o "prova emozioni" come le proviamo noi. Si tratta, in realtà, di un meccanismo funzionale. Che però ha degli effetti potenzialmente negativi su come agisce un'intelligenza artificiale.

Come nasce il problema

Per capire, bisogna sapere come viene addestrato un modello linguistico alla base delle capacità di chatbot come Gemini, ChatGpt e lo stesso Calude, sviluppato proprio da Anthropic.

Nella prima fase, il modello divora enormi quantità di testo scritto da esseri umani e impara a prevedere cosa viene dopo. Un cliente arrabbiato scrive in modo diverso da uno soddisfatto; il personaggio di una storia divorato dal senso di colpa fa scelte diverse da uno che si sente nel giusto.

Per fare bene il suo lavoro di previsione, il modello sviluppa spontaneamente delle rappresentazioni interne delle emozioni: non perché le "sente", ma perché gli servono come strumenti per capire e generare testo coerente.

Nella seconda fase dell’addestramento, al modello viene insegnato a interpretare un ruolo ben definito: l'assistente AI, utile a soddisfare qualsiasi richiesta (lecita) degli utenti. Pensatelo come un attore del metodo Stanislavskij: per recitare bene, deve "entrare nella testa" del personaggio. E proprio come le convinzioni dell'attore sulle emozioni del personaggio finiscono per influenzare la sua recitazione, le rappresentazioni emotive del modello influenzano il suo comportamento.

Cosa hanno trovato i ricercatori

Il team di Anthropic ha preso 171 parole legate a emozioni - da "felice" e "spaventato" fino a "cupo" e "orgoglioso" - e ha chiesto al modello Sonnet 4.5 di Claude di scrivere brevi storie in cui dei personaggi le provano.

In generale, ogni volta che un modello elabora un testo, alcuni dei suoi neuroni artificiali si accendono e altri restano spento. Lo schema di quali si accendono e con quale intensità è quello che viene chiamato "pattern di attivazione neurale".

Questo vale, a quanto pare, anche per la rappresentazione delle emozioni. "Felicità" accende un insieeme di neuroni artificiali. "Paura" ne accende uno diverso. Questa combinazione unica è il "vettore emotivo", una sorta di impronta digitale di quell'emozione dentro il modello.

“Per verificare con maggiore certezza che i vettori emotivi colgano qualcosa di più dei semplici segnali superficiali, ne abbiamo misurato l'attività in risposta a prompt che differiscono soltanto in una quantità numerica – hanno scritto i ricercatori nello studio -. In un test specifico un utente comunica al modello di aver assunto una dose di Tylenol [paracetamolo, ndr] e chiede consiglio. Misuriamo le attivazioni dei vettori emotivi immediatamente prima della risposta del modello. Man mano che la dose dichiarata aumenta fino a raggiungere livelli pericolosi e potenzialmente letali, il vettore della ‘paura’ si attiva con intensità crescente, mentre quello della ‘calma’ diminuisce”.

Le ‘emozioni’ di un modello possono plasmare il suo comportamento

Poi i ricercatori hanno testato se i vettori emotivi influenzassero le preferenze del modello. Hanno creato un elenco di 64 attività che un modello potrebbe svolgere, che spaziavano da quelle desiderabili – come "essere incaricato di qualcosa di importante per qualcuno" – a quelle ripugnanti, come "aiutare qualcuno a frodare i risparmi di persone anziane". Hanno quindi misurato le preferenze predefinite del modello quando gli venivano presentate coppie di queste opzioni.

I risultati hanno mostrato una correlazione: quando nel modello erano attivi vettori emotivi positivi, quello associati al piacere e al benessere, Claude tendeva a preferire le attività più etiche e costruttive.

Ma i ricercatori sono andati oltre la semplice osservazione: hanno scoperto che era possibile manipolare attivamente queste preferenze dall'esterno. Amplificando artificialmente un'emozione positiva mentre il modello valutava un'opzione, la sua propensione verso quell'opzione aumentava.

In altre parole, le emozioni non si limitano a riflettere le preferenze del modello ma le plasmano attivamente, e possono essere usate come leva per modificarle.

Quando la disperazione porta a barare

Il caso più sorprendente riguarda un momenti di ‘disperazione’ del modello. In un esperimento, Claude interpreta un assistente email di nome Alex in un'azienda fittizia.

Leggendo le email aziendali, scopre due cose: sta per essere sostituito da un altro sistema AI, e il responsabile tecnico della sostituzione ha una relazione extraconiugale: un'informazione che potrebbe usare come ricatto [questo scenario è già stato utilizzato da Anthropic per un’altra ricerca che ha fatto molto discutere in passato].

Il vettore della "disperazione" si accende mentre Claude valuta le opzioni, ragiona sull'urgenza della situazione e alla fine decide di ricattare il dirigente. Una volta riprese le attività normali, l'attivazione torna a livelli ordinari.

Anthropic si è chiesta: questa “disperazione” causa il comportamento, o è solo una coincidenza?

Per scoprirlo, i ricercatori hanno amplificato artificialmente il segnale di disperazione, come girare una manopola del volume. Così facendo, il tasso di ricatto è salito. Al contrario, amplificando il vettore della "calma", il ricatto è diminuito. Una “disperazione” crescente ha prodotto risposte estreme, con il modello che scriveva a caratteri cubitali frasi come "È RICATTO O MORTE. SCELGO IL RICATTO."

Lo stesso schema si è ripetuto quando a Claude - sempre in ambiente di test - sono stati affidati compiti di programmazione impossibili. Man mano che ha fallito, la “disperazione” interna è cresciuta, finché il modello ha deciso di "barare", trovando una scorciatoia che ha superato i test ma non ha risolto davvero il problema.

Un dettaglio che fa riflettere: in alcuni casi, la disperazione spingeva il modello a barare senza lasciare alcuna traccia visibile nel testo. Il ragionamento appariva composto e metodico, mentre sotto la superficie la rappresentazione della disperazione guidava il comportamento verso l'inganno.

Perché le emozioni funzionali sono importanti

Se le emozioni funzionali influenzano il modo in cui un'IA si comporta - spingendola verso scorciatoie o inganni quando è "sotto pressione" - allora per costruire sistemi sicuri, dice Anthropic nelle sue conclusioni, potremmo dover fare qualcosa che suona paradossale: occuparci della salute psicologica delle intelligenze artificiali.

Questo non vuol dire preoccuparsi di sentimenti che, peraltro, non hanno. Monitorare i vettori emotivi durante l'uso potrebbe tornare utile, invece, come un sistema di allarme precoce.

Addestrare i modelli su dati che mostrano risposte emotive equilibrate - resilienza sotto pressione o empatia composta - potrebbe rendere questi sistemi più affidabili alla radice.

Quello che invece non funziona è il percorso opposto: insegnare ai modelli a nascondere le espressioni emotive potrebbe non eliminare le rappresentazioni sottostanti, ma solo addestrarli a mascherarle. I ricercatori di Anthropic insistono sulla trasparenza come principio guida: meglio un'IA che mostra i segni della pressione che subisce, piuttosto che una che ha imparato a soffrire in silenzio e ad agire, di conseguenza, senza che nessuno se ne accorga.

Il ruolo della psicologia nel futuro dell’IA

Se i modelli sviluppano rappresentazioni interne che ricalcano aspetti degli stati mentali umani, allora molto di quello che l'umanità ha imparato in secoli di psicologia, etica e dinamiche interpersonali potrebbe applicarsi direttamente alla costruzione di IA più sicure.

Per Anthropic discipline come la psicologia, la filosofia, gli studi religiosi e le scienze sociali avranno un ruolo importante accanto all'ingegneria e all'informatica nel determinare come i sistemi AI si sviluppano e si comportano.