Un recente racconto di innovazione tecnologica vede come protagonista Andrei David, un programmatore che ha realizzato qualcosa di incredibile: eseguire un modello di intelligenza artificiale, in particolare Llama2, su una console Xbox 360, un dispositivo di quasi vent'anni fa. Questa notizia ha sollevato una notevole curiosità e ha acceso l'immaginazione di molti nel settore tecnologico. La console, che può ancora essere trovata in vendita su piattaforme come Amazon, ha dimostrato che anche l'hardware datato può avere una nuova vita, aprendo porte a future innovazioni nel campo dell'IA.
L'impresa di Andrei David
Andrei David ha portato a termine un’impresa unica: caricare e far funzionare un modello di intelligenza artificiale basato sul codice Llama2.c, sviluppato da Andrej Karpathy. Utilizzando un bootloader, David è riuscito a installare il software sulla sua Xbox 360. La sua dimostrazione è stata condivisa su X, dove ha mostrato il funzionamento del modello tramite un'interfaccia denominata "Sleep Joe said". Questo sforzo ingegnoso è stato in parte ispirato da un altro progetto denominato EXO Lab, in cui un team era riuscito a far girare Llama su un computer con Windows 98.
Le sfide tecniche affrontate
Il percorso di David non è stato privo di sfide. Ha dovuto affrontare notevoli difficoltà tecniche, in particolare riguardo all'architettura PowerPC della Xbox 360 e alla gestione della memoria. Questi aspetti sono diversi rispetto ai sistemi utilizzati da EXO Lab, che impiegava una piattaforma con architettura little-endian, come il Pentium II. La necessità di applicare un sistema di byte-swapping per rendere il modello compatibile con l'architettura big-endian è stata una delle principali complicazioni.
Oltre a ciò, la gestione della memoria unificata della console ha richiesto un'attenzione particolare. Sebbene l'Xbox 360 disponga di 512 MB di RAM, David ha dovuto essere strategico nell'allocazione della memoria per garantire spazio sufficiente al modello di intelligenza artificiale, che occupa un totale di 60 MB. La CPU e la GPU condividono lo stesso pool di memoria, quindi era fondamentale assicurarsi che ci fosse capienza sufficiente per entrambe le unità di elaborazione.
Un futuro promettente per l'intelligenza artificiale su hardware datato
L'esperimento di David non è solo un trionfo tecnico, ma attesta anche il potenziale dell’intelligenza artificiale di essere eseguita su hardware considerato obsoleto. Un utente ha suggerito che, con i 512 MB di RAM unificata disponibili, l'Xbox 360 potrebbe essere in grado di supportare modelli IA più complessi, come SmolLM di Hugging Face o Qwen2.5.
David ha mostrato interesse nell'affrontare nuove sfide in questo senso, dichiarando che ci sono intenzioni di tentare di far girare anche modelli IA ancora più avanzati in futuro. Il progetto di David rappresenta una spinta verso la democratizzazione dell'intelligenza artificiale, rendendo accessibile questa tecnologia anche per chi non dispone di risorse illimitate, diversamente da quanto avviene in grandi aziende.
Questa straordinaria impresa sottolinea come anche il più comune degli hardware possa trovare nuove applicazioni in un mondo in rapida evoluzione, facendo emergere il potere dell'innovazione ad ogni livello.
