Nel mondo dell’intelligenza artificiale, i modelli generativi come ChatGPT e Gemini si sono evoluti attraverso l’analisi di enormi quantità di dati reali. Tuttavia, la sola presenza di contenuti disponibili su Internet non basta a preparare i modelli per ogni possibile situazione. Per migliorare le loro prestazioni e affrontare scenari futuri, è essenziale che questi modelli vengano addestrati anche utilizzando dati sintetici, cioè scenari plausibili ma non reali. Durante un panel al festival South by Southwest, esperti del settore hanno sottolineato l’importanza dell’approccio responsabile nell’utilizzo dei dati simulati, avvisando che i rischi potrebbero aumentare rapidamente in caso contrario.
Seguici su Google News
Ricevi i nostri aggiornamenti direttamente nel tuo feed di notizie personalizzato
Seguici ora
Indice dei contenuti
L’ascesa dei dati sintetici nel panorama AI
Negli ultimi mesi, l’attenzione sui dati sintetici è aumentata notevolmente, specialmente a seguito del lancio di DeepSeek AI, un modello sviluppato in Cina che ha utilizzato una quantità maggiore di dati sintetici rispetto ad altri modelli. Questo approccio ha consentito un risparmio sia economico che in termini di potenza di elaborazione. Tuttavia, secondo gli esperti, la questione va oltre il solo risparmio sui costi di raccolta e gestione dei dati. I dati sintetici, generati automaticamente dai computer, possono insegnare ai modelli ad affrontare errori e situazioni impreviste che potrebbero verificarsi nel mondo reale. Ciò consente agli algoritmi di non essere sorpresi da eventi rari ma possibili, garantendo una preparazione più completa.
Oji Udezue, esperto di prodotto con esperienza in aziende come Twitter e Microsoft, ha commentato che i dati simulati possono minimizzare il problema dei casi limite, a patto che la fiducia nei dati utilizzati sia giustificata. “Possiamo costruire un prodotto funzionante per otto miliardi di persone, in teoria, se possiamo fidarci dei dati,” ha affermato durante il panel. La vera sfida rimane quindi quella di definire criteri precisi sulla fiducia nei modelli.
I limiti e i rischi dei dati simulati
Sebbene i dati sintetici presentino numerosi vantaggi, come la riduzione dei costi di produzione, ci sono anche rischi associati. Ad esempio, per addestrare un’auto a guida autonoma, è fondamentale includere situazioni rare e poco comuni, che potrebbero non essere rappresentate nei dati di addestramento. Tahir Ekin, professore di business analytics presso la Texas State University, ha portato l’esempio dei pipistrelli che effettuano spettacolari emergenze dal Congress Avenue Bridge di Austin. Anche se queste situazioni possono non apparire nei dati tradizionali, un’auto a guida autonoma deve comunque essere in grado di affrontare eventi simili.
Il rischio principale nasce da come un modello addestrato con dati sintetici può reagire ai cambiamenti nel mondo reale. Se i dati non sono legati a situazioni concrete, il modello perde il proprio valore, diventando potenzialmente pericoloso. “Come ti sentiresti,” ha chiesto Ekin, “salendo su un’auto a guida autonoma che non ha mai visto la strada, ma è stata addestrata solo con dati simulati?” È chiaro, quindi, che qualsiasi sistema impiegato necessiti di essere radicato nella realtà, per allineare le sue simulazioni con ciò che accade realmente.
Garantire l’affidabilità dei modelli attraverso la trasparenza
Una delle chiavi per assicurare che i modelli siano affidabili è garantire la trasparenza dell’addestramento, affinché gli utenti possano scegliere quale modello utilizzare in base alle informazioni disponibili. I partecipanti al panel hanno ripetutamente fatto riferimento all’analogia dell’etichetta nutrizionale, che offre informazioni facilmente comprensibili per gli utenti.
Esistono già forme di trasparenza, come i “modelli di carta” forniti dalla piattaforma Hugging Face, che dettagliano le caratteristiche dei vari sistemi. Tuttavia, secondo Mike Hollinger, direttore del product management per l’intelligenza artificiale generativa in Nvidia, è fondamentale che tali informazioni siano chiare e accessibili.
Hollinger ha aggiunto che non saranno solo gli sviluppatori di AI a definire le migliori pratiche, ma anche gli utenti stessi. È essenziale mantenere un focus sull’etica e sui rischi associati, come ha osservato Oji Udezue, sottolineando che i dati sintetici rendono più facili molti aspetti del lavoro, ma potrebbero anche cambiare profondamente la società.
Conclusioni sulla gestione dei dati simulati
Udezue ha sottolineato che la costruzione della fiducia, della trasparenza e della capacità di correzione degli errori è cruciale per rendere i modelli attendibili. Questo include anche l’aggiornamento dei modelli di addestramento affinché riflettano dati accurati senza amplificare gli errori provenienti dai dati sintetici. Un punto cruciale è rappresentato dal rischio del collasso del modello, quando un modello di intelligenza artificiale addestrato su dati generati da altri modelli di intelligenza artificiale diventa sempre più distante dalla realtà. “Più ci si allontana dalla diversità del mondo reale, più le risposte potrebbero risultare malsane,” ha affermato Udezue, aggiungendo che la correzione degli errori potrebbe rivelarsi l’unica soluzione percorribile.
