170 visite 2 minuti 0 commenti

«Questo computer è vivo». Google sospende il suo ingegnere

In Tech
14 Giugno 2022
Secondo il ricercatore un software ha preso coscienza di se stesso

Il software di Google

Il software si chiama Language Model for Dialogue Applications (in codice: LaMDA). Google ci sta lavorando da un po’ di tempo: si tratta di un sistema di intelligenza artificiale in grado di sostenere conversazioni piuttosto articolate con gli umani. L’ingegnere Blake Lemoine, che se ne occupa dal 2021, ne ha sostenute molte, di conversazioni, con “mister LaMDA”, e si è convinto che il software in questione ha ormai preso coscienza di sé stesso, è vivo, è «una persona».

Secondo Lemoine il sistema può essere paragonato a un bambino di 7-8 anni, e quindi i programmatori dovrebbero chiedergli esplicitamente un permesso prima di effettuare esperimenti che lo coinvolgono. «Nel corso degli ultimi sei mesi, LaMDA è stato incredibilmente coerente nel comunicare ciò che vuole e ciò che ritiene siano i propri diritti come una persona», ha detto.
Per tutta risposta Google ha sospeso il ricercatore dal suo incarico, accusandolo di aver rivelato informazioni riservate sulle tecnologie impiegate dall’azienda, in particolare inviando della documentazione a un senatore americano.

Quanto poi alla tesi secondo la quale LaMDA avrebbe preso coscienza di sé stesso, Google ha risposto con una nota nella quale afferma che «il nostro gruppo di lavoro – che comprende eticisti e tecnologi – ha sottoposto a revisione le segnalazioni di Blake (Lemoine, ndr.) basandosi sui nostri “Principi per le AI”, informandolo di non avere riscontrato elementi a sostegno delle sue tesi. In generale, alcuni nel settore delle AI stanno valutando le implicazioni nel lungo periodo delle intelligenze artificiali senzienti, ma non ha senso farlo antropomorfizzando i modelli per fare conversazione di oggi, che non sono senzienti».

/ Articoli pubblicati: 732

.