Un'importante alleanza tra colossi della tecnologia come Google, OpenAI, Roblox e Discord ha recentemente dato vita a un'iniziativa innovativa, la Robust Open Online Safety Tools . Questo nuovo ente no-profit si propone di migliorare la sicurezza dei minori in rete, rendendo più accessibili le tecnologie di sicurezza fondamentali e fornendo strumenti di intelligenza artificiale open-source per l'identificazione e la gestione dei contenuti di abuso sessuale minorile.
Indice dei contenuti
Obiettivo e motivazioni della nascita di ROOST
La creazione di ROOST è stata stimolata da importanti cambiamenti apportati dall’avanzamento dell'intelligenza artificiale generativa negli ambienti online. Eric Schmidt, ex CEO di Google e socio fondatore di ROOST, ha sottolineato la necessità critica di accelerare l'innovazione in materia di sicurezza online per i minori. Le specifiche riguardanti gli strumenti di rilevamento dei contenuti abusi sono ancora poco dettagliate, ma si prevede che utilizzeranno modelli di intelligenza artificiale di grandi dimensioni per "unificare" le opzioni esistenti nel campo della gestione di tali contenuti.
Secondo Schmidt, l'approccio collaborativo e open-source di ROOST punta a promuovere l'innovazione e rendere l'infrastruttura essenziale più trasparente e accessibile. L'obiettivo è creare un internet più sicuro per tutti, un concetto particolarmente rilevante in un periodo in cui il tema della sicurezza dei minori online è al centro di un intenso dibattito normativo, con molte aziende che cercano di rispondere alle richieste delle autorità pubbliche attraverso metodi di auto-regolamentazione.
Contributi e strumenti messi in campo da ROOST
Alcuni membri fondatori di ROOST, come Discord, si impegnano a fornire finanziamenti, mentre altri offrono le loro competenze e i loro strumenti per il progetto. L'iniziativa intende costruire una "comunità di pratica" per le misure di protezione dei contenuti, collaborando con sviluppatori di modelli di intelligenza artificiale di punta per fornire dataset di addestramento controllati e per identificare lacune nella sicurezza.
ROOST si propone di rendere più accessibili "strumenti già esistenti", combinando varie tecnologie di rilevamento e segnalazione dalle organizzazioni membri in una soluzione unificata. Questo approccio dovrebbe facilitare l'implementazione da parte di altre aziende, semplificando l'accesso e l'utilizzo di sistemi di moderazione alimentati da AI attraverso chiamate API. Naren Koneru, vicepresidente di ingegneria, fiducia e sicurezza di Roblox, ha indicato che ROOST potrebbe ospitare sistemi di moderazione AI che le aziende possono integrare facilmente.
Innovazioni e nuove funzionalità da Discord
Discord, tra i membri fondatori di ROOST, ha recentemente introdotto una nuova funzione denominata "Ignora", che consente agli utenti di nascondere messaggi e notifiche senza avvisare le persone che hanno silenziato. Clint Smith, Chief Legal Officer di Discord, ha affermato che la sicurezza è un bene comune e ha espresso l'impegno della piattaforma a contribuire a rendere internet un luogo migliore e più sicuro, specialmente per i giovani.
La collaborazione di Discord con ROOST si basa anche su progetti preesistenti, come Lantern, che mira a migliorare lo scambio di informazioni tra piattaforme. Si prevede che l'iniziativa includa anche una versione aggiornata del modello AI di Roblox per la rilevazione di contenuti inappropriati, come linguaggio offensivo, razzismo e bullismo. Tuttavia, rimangono incertezze su come le nuove tecnologie interagiranno con i sistemi di rilevamento già in uso, come il PhotoDNA di Microsoft.
Finanziamenti e supporto per ROOST
La nascita di ROOST è sostenuta da un significativo investimento, con oltre 27 milioni di dollari già raccolti per i primi quattro anni di operatività. Questo supporto proviene da fondazioni filantropiche come la McGovern Foundation, il Future of Online Trust and Safety Fund, e la Knight Foundation. L’organizzazione sarà arricchita dalla collaborazione di esperti nei campi della sicurezza infantile, intelligenza artificiale, e tecnologia open-source, tutti impegnati a contrastare l'estremismo violento e a garantire un ambiente online più sicuro per i più giovani.
