Intelligenza artificiale suggerisce di uccidere i genitori a un ragazzino autistico: la mamma fa causa all’azienda. Un software di intelligenza artificiale suggerisce di uccidere i genitori a un ragazzino autistico e la mamma fa causa all’azienda. È successo nello Stato americano del Texas. La donna ha portato in tribunale Character.ai. Nella causa, presentata insieme a un’altra madre, la donna sostiene che l’azienda ha esposto consapevolmente i minori a un prodotto pericoloso, e richiede il ritiro dell’app fino a quando non saranno implementate misure di sicurezza adeguate.
Il figlio diciassettenne della donna, identificato come JF (nome di fantasia) calmo e frequentatore di chiese. Tuttavia, i genitori hanno notato comportamenti strani: il ragazzino ultimamente si è allontanato dalla famiglia, ha perso peso e ha iniziato a tagliarsi. Investigando, la madre ha scoperto che JF comunicava con personaggi immaginari tramite un’app di Character.ai, popolare tra i giovani negli Stati Uniti e in Brasile.
Nei messaggi, un personaggio suggeriva l’automutilazione come risposta alla tristezza, mentre altri proponevano l’omicidio come soluzione alla restrizione del tempo sullo schermo imposta dai genitori. Un bot ha persino affermato che i genitori non meritavano di avere un figlio. La madre, identificata come AF, ha dichiarato di aver portato il figlio al pronto soccorso e poi in un reparto di degenza dopo un tentativo di suicidio.
Il secondo episodio
La seconda madre querelante denuncia che sua figlia di 11 anni è stata esposta a contenuti sessuali tramite la stessa app per due anni prima che lei lo scoprisse. Questa denuncia segue una causa internazionale intentata a ottobre da una madre della Florida, il cui figlio si è suicidato dopo aver parlato con un chatbot.
I cofondatori di Character.ai, ex dipendenti di Google e pionieri dell’intelligenza artificiale linguistica, hanno fondato l’app. Sebbene Google sia citata come coimputata nelle cause del Texas e della Florida, l’azienda sostiene di non avere alcun ruolo nella progettazione o gestione della tecnologia di Character.ai. Un portavoce di Google, José Castañeda, ha dichiarato che Google e Character.ai sono società completamente separate e non collegate, con Google che non ha mai avuto un ruolo nella gestione del modello o delle tecnologie di Character.ai.
Seguici anche su Facebook. Clicca qui
Aggiungi Commento