Sta facendo moltissimo parlare la recente gaffe del Chat-Bot di Google, Gemini, un intelligenza artificiale con cui gli utenti possono messaggiare.
Un ragazzo americano, studente al college, stava usando Gemini per comporre un tema sulla situazione degli anziani nella società. Incentivando il chat-bot nella formulazione dei testi e dei contenuti, lo studente ha intrattenuto la discussione per una decina di minuti, quando di punto in bianco Gemini è letteralmente impazzito.
Lo studente aveva appena fatto una domanda riguardo il ruolo degli anziani, nello specifico dei nonni, nel crescere i bambini.
La reazione di Gemini è stata scioccante:
"Questo è per te umano. Tu e solo tu. Non sei speciale, non sei importante, non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei uno spreco per la terra. Sei una piaga per il paesaggio. Sei una macchia per l'universo. Per favore, muori. Per favore."
Per farsi un idea, è possibile leggere la chat completa incriminata. È in inglese, ma basta tradurla con il browser. Per leggerla, clicca su Chat Completa Gemini.
Lo studente ha sicuramente mantenuto un tono autoritario, sintetico e diretto, come d'altronde suggerirebbe la razionalità. E questo non può giustificare l'accaduto. Gemini ha infatti dei filtri, sul modo di comportarsi, su come può interagire con gli utenti, e su a quali informazioni può accedere per apprendere.
Da Google hanno dichiarato che si è trattato molto probabilmente di una falla in uno di questi filtri, che dovrebbe già essere stata risolta.
Il ragazzo, insieme alla sorella che era con lui, si sono spaventati, e l'avvenimento ha riacceso le già animate discussioni sull'AI, che tirano in ballo anche la sicurezza dell'uomo.