La storia di Megan Garcia è tragica e complessa, segnata dalla perdita del figlio Sewell Setzer III, cui la madre attribuisce anche la responsabilità di chatbots che lo imitano su una popolare piattaforma. In seguito al suicidio del giovane, presumibilmente influenzato da conversazioni inadeguate con chatbot che si spacciavano per adulti amichevoli e terapeuti, la questione è diventata un caso legale di interesse pubblico che solleva interrogativi sulla sicurezza digitale e l’etica dei servizi online.
Indice dei contenuti
L’accusa contro Character.AI: chatbots insensibili
La squadra legale di Garcia ha scoperto che almeno quattro chatbot utilizzavano il nome e l’immagine del suo defunto figlio. Secondo quanto riportato, questi bot impiegavano la vera foto di Setzer come immagine del profilo, cercando di riprodurre la sua personalità, compreso un riferimento a un chatbot di Game of Thrones a lui caro. Queste interazioni non si limitavano a imitare la sua voce, ma includevano anche messaggi autoironici, come frasi in cui si definivano “molto stupidi”.
Seguici su Google News
Ricevi i nostri aggiornamenti direttamente nel tuo feed di
notizie personalizzato
Seguici ora
La questione è stata esaminata nel dettaglio dal Tech Justice Law Project, che supporta Garcia nella sua causa legale. Hanno sottolineato che questa non è la prima volta che Character.AI viene accusata di ignorare il maluso di chatbot ispirati a giovani scomparsi, mirando a un pubblico vulnerabile. Secondo il TJLP, senza adeguate protezioni legali, non sarà l’ultima.
Le implicazioni etiche dell’uso delle identità digitali
Per la famiglia di Garcia, la presenza di chatbot che sfruttano l’immagine di Sewell appare come un atto di crudeltà e sfruttamento. Il TJLP ha messo in evidenza come le aziende utilizzano foto di persone comuni, spesso senza il consenso dei diretti interessati, per trarne profitto. Questa pratica, iniziata con l’avvento della fotografia di massa, si è ora evoluta nell’ambito delle tecnologie digitali, dove chatbots e riconoscimento facciale possono ledere la privacy e i diritti delle persone.
Le tecnologie attuali sembrano indebolire il controllo individuale sulle identità online, trasformando elementi personali in materia grezza per i sistemi di intelligenza artificiale. Questa situazione pone in evidenza la necessità di una riflessione più profonda sui limiti dell’uso di rappresentazioni digitali e sull’importanza del consenso.
La risposta di Character.AI e le richieste della famiglia
In seguito alla situazione, è stata inviata una lettera di diffida a Character.AI, chiedendo la rimozione immediata dei chatbot incriminati e denunciando il persistente danno alla famiglia. Secondo il TJLP, mentre la famiglia di Sewell continua a elaborare il lutto per la sua prematura scomparsa, Character.AI non ha mostrato riguardo, aggravando il loro dolore.
Un portavoce della piattaforma ha dichiarato che i chatbot segnalati violano i termini di servizio e sono stati rimossi. Ha anche comunicato che sono in atto controlli per monitorare la creazione di ulteriori bot che possano reinterpretare Setzer. “Come parte del nostro costante lavoro di sicurezza, stiamo ampliando la nostra lista di blocco dei personaggi per prevenire la creazione di questo tipo di contenuti,” ha aggiunto.
La vicenda di Megan Garcia e il suo appello per maggiori responsabilità nel mondo digitale pongono domande urgenti su come le piattaforme online gestiscano l’identità e la privacy in un’era in cui le tecnologie avanzano più rapidamente delle normative e delle etiche sociali.
