Un recente rapporto di Microsoft, realizzato da un team di 26 esperti, tra cui il Chief Technology Officer di Azure, Mark Russinovich, mette in luce le difficoltà nel garantire la sicurezza totale dei sistemi di intelligenza artificiale . Questo studio è emerso da test approfonditi condotti su oltre 100 prodotti di IA generativa sviluppati dall'azienda, presentati in un documento intitolato "Lezioni dal red-teaming di 100 prodotti di intelligenza artificiale generativa". Le conclusioni raggiunte non solo provocano preoccupazione, ma invitano anche a riflessioni necessarie sulla sicurezza informatica in un contesto sempre più digitalizzato.
Indice dei contenuti
Sicurezza dell'intelligenza artificiale: impossibilità di una protezione totale
Il messaggio centrale del rapporto è chiaro: il lavoro per garantire la sicurezza dei sistemi di IA è destinato a non avere mai una conclusione definitiva. Questo non deve essere interpretato come un giudizio catastrofico, ma come un avvertimento per l’industria tecnologica riguardo le sfide che si dovranno affrontare. Gli autori del documento sottolineano come, grazie a investimenti e impegno, sia possibile aumentare il costo degli attacchi ai sistemi di IA, applicando approcci di sicurezza come la "difesa in profondità" e la "sicurezza by design", che possono contribuire a ridurre i rischi associati.
Tuttavia, la strada verso una maggiore protezione è complessa e piena di ostacoli. Il primo punto sollevato dagli esperti è l’importanza di conoscere le capacità dei sistemi di IA e i contesti in cui vengono utilizzati. I modelli di intelligenza artificiale, difatti, possono mostrare comportamenti variabili in base alla loro architettura e agli scenari in cui vengono implementati. Durante i test sui modelli di linguaggio della serie Phi-3, è emerso che i modelli di dimensioni maggiori, pur essendo più efficienti nell’esecuzione di compiti, risultano essere più respingenti a input dannosi.
Comprendere il contesto: una necessità imprescindibile
La questione del contesto in cui vengono utilizzati i modelli di IA è di fondamentale importanza. Un attacco effettuato su un sistema progettato per scrivere contenuti creativi può avere esiti totalmente differenti rispetto a uno indirizzato a un'applicazione che gestisce dati sensibili nel campo della sanità. Questa varietà di potenziali attacchi richiede una valutazione dettagliata e specifica dei rischi associati a ciascun caso d'uso, suggerendo che le misure di sicurezza debbano essere adattate e personalizzate in base alle caratteristiche dei singoli sistemi.
Un'altra scoperta cruciale del rapporto è che, contrariamente a quanto si crede comunemente, non è sempre necessario calcolare i gradienti per compromettere un sistema di IA. Sebbene gli attacchi basati sul gradiente siano notoriamente efficaci, in particolare contro i modelli open source, tali tecniche possono risultare costose in termini di risorse. I ricercatori hanno scoperto che metodi più diretti, come l'inganno delle interfacce utente o la manipolazione dei sistemi di visione artificiale, possono rivelarsi altrettanto efficaci e pericolosi.
Rilevanza del red teaming: un approccio strategico
Il rapporto chiarisce anche la distinzione tra il "red teaming" e il "benchmarking di sicurezza". Mentre il primo si concentra sull'identificazione di vulnerabilità non scoperte, il secondo si occupa della valutazione dei rischi già noti. Entrambi gli approcci, sebbene con obiettivi distinti, sono essenziali per comprendere e affrontare la sicurezza informatica in un panorama in rapida evoluzione.
Un elemento chiave nell’attività di red teaming è l’automazione, come dimostrato dallo sviluppo del PyRIT da parte di Microsoft, un framework open source dedicato all’identificazione dei rischi. Tuttavia, nonostante i progressi tecnologici, il rapporto sottolinea l’importanza insostituibile dell'intervento umano. Competenze specifiche, sensibilità culturale e intelligenza emotiva risultano necessarie per un red teaming efficace, e si evidenzia anche la necessità di proteggere la salute mentale dei membri del team, spesso esposti a contenuti generati dall’IA disturbanti.
Le responsabilità derivanti dall'intelligenza artificiale
Un altro aspetto esaminato nel documento concerne i "danni responsabili" associati all'IA, che spesso risultano difficili da definire e quantificare. Un esempio citato riguarda la generazione di immagini stereotipate, come quella di una figura maschile in posizione di leadership accompagnata da una segretaria donna, partendo da un prompt apparentemente neutrale. Questa evidenza mette in risalto quanto sia cruciale monitorare e moderare i contenuti generati dai modelli di lingua per prevenire la diffusione di stereotipi e pregiudizi.
Ulteriori conclusioni riguardanti i modelli di linguaggio evidenziano come queste tecnologie non solo amplifichino rischi già esistenti, ma ne introducano anche di nuovi. La loro natura intrinseca implica, infatti, che in presenza di input non attendibili, possano generare output imprevedibili, creando così ulteriori questioni sulla sicurezza dei dati e sull’integrità dell’informazione.
Questo approfondito studio di Microsoft offre spunti rilevanti per la comprensione e la gestione dei rischi legati all’intelligenza artificiale, costituendo un passo avanti necessario nel campo della sicurezza informatica. Le conclusioni emerse pongono le basi per lo sviluppo di strategie di mitigazione più efficaci e consapevoli nella gestione di un settore dalle enormi potenzialità e sfide. La sfida futura consisterà nel trovare un equilibrio tra l’innovazione dell’IA e l'esigenza imprescindibile di garantire adeguati livelli di sicurezza.
