Negli ultimi anni, abbiamo assistito a un'evoluzione straordinaria nel campo dell'intelligenza artificiale. La tendenza attuale vede il passaggio dei chatbot dall'ambiente cloud a quello mobile, permettendo agli utenti di interagire con assistenti virtuali direttamente sui propri smartphone, senza dover dipendere da connessioni internet veloci. Recentemente, ho avuto modo di testare tre nuove app gratuite per Android, valutando la loro funzionalità e l’esperienza utente.
Indice dei contenuti
L'ascesa dei modelli di intelligenza artificiale open source
La motivazione principale di questo spostamento verso le app mobili è rappresentata dall'emergere di modelli di intelligenza artificiale open source di alta qualità, come Llama 3.2. Questi modelli sono in grado di eguagliare le prestazioni di quelli più grandi, presentando però un ingombro notevolmente ridotto. Questa evoluzione sta modificando il nostro modo di accedere alle informazioni e, sebbene siamo ancora nelle fasi iniziali di sviluppo, i risultati sono già promettenti.
Le tre app che ho testato mostrano tutte notevoli capacità, utilizzando le limitate risorse del mio smartphone Android per fornire risposte rapide e soddisfacenti. Questo è sorprendente considerando che, in passato, l'elaborazione di AI richiedeva hardware più potente e costoso.
Local AI: l'approccio semplice e immediato
Local AI si distingue per la sua facilità d'uso. L'app non richiede configurazioni complicate e presenta un numero limitato di impostazioni, rendendo l'esperienza accessibile anche ai neofiti. L'installazione è rapida: è sufficiente scegliere tra le modalità Fast, Balanced e High Accuracy, che determinano il tipo di intelligenza artificiale utilizzata.
Questa scelta implica un chiaro compromesso tra velocità e sofisticatezza, ma nonostante ciò, l'app si comporta egregiamente. Ad esempio, la modalità Fast offre risposte notevolmente rapide, anche se non può eguagliare la velocità di ChatGPT. Considerando le limitazioni hardware di un normale smartphone, però, è impressionante come le risposte vengano visualizzate quasi istantaneamente.
La schermata utente è semplice e intuitiva, con un'area dedicata alla chat e ai risultati. Una funzione interessante è la possibilità di comunicare con il chatbot tramite voce, evitando così il fastidio di digitare. L'unico inconveniente riscontrato riguarda la funzione di copia e incolla, attualmente non funzionante.
Private AI: personalizzazione e prestazioni limitate
Private AI offre un approccio più tradizionale, consentendo agli utenti di configurare l'app secondo le proprie esigenze specifiche. Questa app offre l'opzione di scaricare numerosi modelli open source, come Mistral, Gemma e Phi. Tuttavia, gli utenti di smartphone con specifiche standard dovrebbero prestare attenzione: modelli di grandi dimensioni, superiori ai 1-3 GB, possono rallentare o compromettere l'esperienza utente.
Il compromesso tra dimensione del modello e velocità di risposta si rivela cruciale. Molti smartphone, ad eccezione di modelli di alta gamma, non sono progettati per l'elaborazione di AI e questo comporta tempi di attesa anche per risposte generali. In prove effettuate con un Samsung Galaxy S20, sono emerse lentezze, anche utilizzando modelli relativamente leggeri.
Inoltre, l'app presenta alcune mancanze, come l'impossibilità di cancellare le chat precedenti. Di conseguenza, in termini di funzionalità, risulta meno sviluppata rispetto ad altre opzioni sul mercato.
PocketPal: il migliore del gruppo
PocketPal emerge come una delle app più sorprendenti e funzionali del gruppo. Questa app ottimizza i modelli open source in modo efficace, offrendo prestazioni eccellenti. Ho potuto caricare Llama 3.2 3B al suo interno e l’esperienza utente si è dimostrata notevole, con risposte rapide e precise. Questa app, con una dimensione di circa due gigabyte, si posiziona tra le migliori nel suo segmento.
Come Private AI, anche PocketPal permette di personalizzare vari aspetti secondo specifiche necessità, compresi settaggi di cache e l’utilizzo di flash attention per migliorare i tempi di elaborazione. Un aspetto divertente è la possibilità di impostare un prompt di sistema personalizzato per ogni modello, offrendo un'esperienza unica e ironica, come progettare il chatbot per rispondere con un accento Cockney.
In sintesi, PocketPal rappresenta attualmente l'app più evoluta della piattaforma Android, promettendo un'esperienza di chatbot completa e soddisfacente.
Con l'arrivo continuo di nuove app sia su Android sia su Apple, questo settore si prospetta ricco di potenzialità man mano che la tecnologia cresce e si sviluppa.
