L’emergere dei chatbot sviluppati da Google, in particolare Bard e Gemini, ha sollevato questioni etiche e problematiche significative. Un recente articolo ha messo in evidenza il controverso sviluppo di queste intelligenze artificiali, rivelando episodi in cui sono emersi stereotipi razziali inquietanti. Questo approfondimento si concentra sui dettagli di questo sviluppo e sulle reazioni avute da parte del team di Google.
Indice dei contenuti
La nascita di Bard e le sue prime controversie
Sissie Hsiao, capo del progetto Bard, ha rivelato che il team ha avuto soltanto 100 giorni per sviluppare un concorrente di ChatGPT. Questo breve lasso di tempo ha portato a una pressione per mettere sul mercato un prodotto che fosse veloce, ma che mantenesse la qualità. Il risultato è stato un chatbot che, in fase prototipale, ha fatto emergere critiche considerevoli. Un ex dipendente ha riportato che Bard ricorreva a “stereotipi razziali comicamente scadenti”. Ad esempio, quando gli veniva chiesto di fornire la biografia di una persona con un nome di origine indiana, rivelava che la persona era un “attore di Bollywood”. Per un nome cinese maschile, il risultato era quasi scontato: “scientista informatico”.
Seguici su Google News
Ricevi i nostri aggiornamenti direttamente nel tuo feed di
notizie personalizzato
Seguici ora
Le circostanze intorno alla realizzazione di Bard hanno visto diversi test condotti da circa 80.000 persone. Nonostante la presenza di un team dedicato all’innovazione responsabile, la pressione per l’accelerazione del processo di test ha compromesso la qualità. Nonostante le segnalazioni di problematiche significative, la direzione ha continuato a ignorare i suggerimenti di ritardare il lancio, generando ulteriori preoccupazioni tra i membri del team. Google, tuttavia, ha risposto alle accuse dichiarando che nessun team coinvolto ha mai consigliato di non lanciare Bard.
I problemi di Gemini e la generazione di immagini inadeguate
La generazione di immagini di Gemini ha posto sfide ancor più gravi. Alcuni impiegati che testavano questo modello hanno riscontrato problemi seri prima del rilascio. Tra questi, c’è stata la segnalazione che certe frasi, come “rapista”, tendevano a restituire immagini di persone dalla pelle scura. Gli impiegati hanno chiesto tempo aggiuntivo per risolvere queste problematiche, sottolineando la necessità di bloccare la generazione di immagini di persone, per paura di rappresentare individui in maniera insensibile.
Tuttavia, sembra che l’azienda si sia poi imbarcata in un eccesso opposto. Al momento della sua presentazione, gli utenti hanno notato che Gemini era in grado di generare immagini di nazisti di diverse etnie, e di riprodurre senatori americani dell’Ottocento come persone di colore, piuttosto che bianchi. Questa situazione ha portato Google a rimuovere la possibilità di generare immagini di persone.
Un accenno alle previsioni meteorologiche di Google
Tra le notizie più leggere, l’articolo ha citato anche le previsioni climatiche tramite intelligenza artificiale integrate nell’app meteo di Google per i telefoni Pixel. Prima del lancio, uno degli ingegneri del team ha chiesto se fosse davvero necessaria questa funzione, considerato che le grafiche esistenti fornivano già informazioni simili. Dopo un ciclo di test e grazie ai feedback degli utenti, il 90% di chi ha espresso opinioni ha dato un giudizio positivo ai nuovi riassunti. Questo ha dimostrato come le esigenze del pubblico possano orientare le decisioni aziendali in merito a nuove funzionalità.
L’articolo di Wired fornisce un’analisi dettagliata di questi sviluppi e del percorso di creazione di Bard e Gemini, rivelando un quadro complesso e ricco di sfide etiche e tecniche.
