Il boom delle intelligenze artificiali ha raggiunto il suo apice con il rilascio pubblico di ChatGPT il 30 novembre 2022, basato sul modello GPT-3.5. Da allora, sono stati sviluppati numerosi altri modelli da parte dei principali giganti tecnologici, come Microsoft, Google e Meta.
Le AI hanno continuato a evolversi rapidamente, diventando parte integrante della quotidianità di molti, che ne approfittano sia per ottimizzare le attività lavorative sia per semplificare aspetti della vita di ogni giorno.
Tuttavia, non sempre è una buona idea condividere informazioni private – come dati aziendali – con strumenti pubblici sui quali non si ha il controllo dei dati.
La buona notizia è che, grazie al lavoro straordinario delle community online, realizzare una propria AI privata, capace di operare localmente e senza necessitare di una connessione internet, non solo è possibile, ma è anche molto più semplice di quanto si possa immaginare!
In questo articolo, ti guideremo passo dopo passo nel processo di creazione della tua AI. Iniziamo subito!
Come è strutturata una AI e cos’è un Modello?
Prima di installare un modello di intelligenza artificiale sul tuo computer, cosa significa esattamente? Cos’è un modello di intelligenza artificiale?
Un modello di intelligenza artificiale (AI) funziona imparando dai dati. Viene “addestrato” su grandi volumi di informazioni (come testi, immagini o suoni) per riconoscere schemi e fare previsioni o prendere decisioni. Una volta addestrato, il modello può rispondere a domande, generare testi, classificare immagini, e così via, basandosi su ciò che ha appreso dai dati. L’addestramento avviene tramite algoritmi che ottimizzano il modello, migliorandone la capacità di produrre risposte o eseguire azioni.
In altre parole, un modello di intelligenza artificiale (LLM, Large Language Model) è un’intelligenza artificiale pre-addestrata sui dati che le abbiamo fornito. Uno dei modelli più noti di questo tipo è sicuramente ChatGPT di OpenAI, ma ce ne sono molti altri.
Pronti per un piccolo viaggio?
Modelli AI Open Source
Andremo su un sito web chiamato huggingface.co, che ospita una comunità intera dedicata alla realizzazione e condivisione di modelli di intelligenza artificiale. Ce ne sono davvero tantissimi! Per visualizzarli, basta accedere alla sezione “models” nel menù in alto. Qui possiamo trovare oltre 500.000 modelli di intelligenza artificiale già addestrati. Molti di questi sono completamente gratuiti e pre-addestrati. Insomma, si tratta di un database incredibile.
Uno dei modelli più popolari è Llama3: si tratta di un modello di intelligenza artificiale noto come LLM (Large Language Model), simile a ChatGPT di OpenAI. Questo modello pre-addestrato è stato sviluppato da Meta e ciò che hanno fatto per addestrarlo è davvero impressionante, tanto quanto il fatto che possiamo scaricarlo e utilizzarlo liberamente.
Scorrendo la pagina verso il basso, è possibile visualizzare i dettagli sull’addestramento del modello. È stato addestrato su oltre 15 trilioni di token provenienti da fonti pubbliche, con set di dati di istruzioni contenenti oltre un milione di esempi annotati da esseri umani. Per quanto riguarda la freschezza dei dati, l’ultimo aggiornamento risale a dicembre 2023.
Per l’addestramento dei modelli Llama 3, Meta ha utilizzato cluster personalizzati composti da fino a 24.000 GPU. L’implementazione più efficiente ha raggiunto un utilizzo di calcolo di oltre 400 TFLOPS per GPU.
Sembra incredibile ma è possibile scaricare e installare tutto ciò sul proprio computer, per consultarlo privatamente e senza bisogno di connessione internet. Inoltre, sono disponibili molti altri modelli, inclusi quelli specializzati, come quelli per la sintesi vocale, la generazione di immagini e persino versioni senza censura.
Installazione di un LLM privato
Per eseguire la nostra AI personale, è necessario prima procurarsi un altro strumento gratuito: Ollama. Si tratta di un software compatibile con tutti i principali sistemi operativi, scaricabile direttamente dal sito ufficiale.Una volta scaricato, basterà installarlo seguendo le istruzioni fornite.
Noi abbiamo scelto di installarlo su Linux Ubuntu. Per fare lo stesso, sono sufficienti i seguenti due comandi:
>$ curl -fsSL https://ollama.com/install.sh | sh
>$ ollama run llama3.3Fatto ciò, avremo finalmente a disposizione il nostro LLM privato! Non ci resta che provarlo, chiedendogli qualsiasi cosa ci venga in mente!
Nota: Il modello viene eseguito tramite la scheda grafica. La velocità delle risposte, quindi, dipenderà dalla potenza della GPU installata sul tuo dispositivo.
Se l’articolo ti è piaciuto, ti invitiamo a seguirci sul nostro blog e sulla nostra pagina LinkedIn! Ogni forma di supporto al nostro progetto è molto apprezzata!
8BitSecurity 