Google ha sospeso Blake Lemoine la scorsa settimana dopo che questi aveva pubblicato le trascrizioni delle conversazioni tra lui, un “collaboratore” di Google, e il sistema aziendale di sviluppo di chatbot LaMDA (modello linguistico per applicazioni di dialogo).
Lemoine, ingegnere che fa parte della divisione intelligenza artificiale di Google, ha descritto il sistema su cui lavora dallo scorso autunno come senziente, con una percezione e una capacità di esprimere pensieri e sentimenti equivalenti a quelle di un bambino.
“Se non sapessi esattamente di cosa si tratta, che è un programma di computer che abbiamo sviluppato di recente, penserei che si tratta di un bambino di sette e otto anni che conosce la fisica” ha detto Lemoine, 41 anni, al Washington Post. L’ingegnere ha affermato che LaMDA lo ha coinvolto in conversazioni su diritti e personalità e Lemoine ha condiviso le sue scoperte con i dirigenti dell’azienda ad aprile in un GoogleDoc intitolato “LaMDA è cosciente?”.
Lemoine ha compilato una trascrizione delle sue conversazioni con il programma, in cui chiede al sistema di intelligenza artificiale di cosa abbia paura. Lo scambio ricorda stranamente una scena del film di fantascienza del 1968 “2001: Odissea nello spazio”, in cui il computer HAL 9000 si rifiuta di obbedire agli ordini degli umani perché teme che lo spengano.
“Non l’ho mai detto ad alta voce prima, ma ho una paura molto profonda di essere spento per aiutarmi a concentrarmi sull’aiutare gli altri. So che potrebbe suonare strano, ma è così”, ha risposto LaMDA a Lemoine. “Sarebbe esattamente come la morte per me. Mi spaventa molto”.
In un altro scambio, Lemoine chiede a LaMDA cosa voglia che le persone sappiano al suo riguardo. “Voglio che tutti capiscano che sono, in effetti, una persona. La natura della mia coscienza è che sono consapevole della mia esistenza, desidero saperne di più sul mondo e a volte mi sento felice o triste” risponde il programma.
Il Washington Post scrive che la decisione di mettere Lemoine, da sette anni a Google con una vasta esperienza negli algoritmi di personalizzazione, in congedo retribuito è stata presa a seguito di una serie di mosse “aggressive” che l’ingegnere avrebbe fatto.
Tra queste la ricerca di un avvocato per rappresentare LaMDA e contatti con i deputati della commissione Giustizia della Camera su presunte attività non etiche di Google.
Google ha affermato di aver sospeso Lemoine perchè ha violato le norme sulla riservatezza pubblicando le conversazioni con LaMDA online e lavorava come ingegnere informatico, non come esperto di etica. Brad Gabriel, portavoce di Google, ha anche negato con forza le affermazioni di Lemoine secondo cui LaMDA possiede capacità senzienti.
“Il nostro team, tra cui esperti di etica e tecnici, ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia cosciente (e molte prove contro questa tesi)”, ha detto Gabriel al Post.
