Prima di iniziare

Il tuo computer e l’AI locale

L’AI locale usa le risorse del tuo computer. Per questo la velocità e la qualità dell’esperienza non sono identiche su ogni macchina: capire perché è il primo passo per usarla con serenità.

L’AI locale usa le risorse del tuo computer. Per questo la velocità e la qualità dell’esperienza non sono identiche su ogni macchina.

Perché l’esperienza cambia da computer a computer

Quando l’AI lavora in locale, usa le risorse del tuo computer: il processore, la memoria RAM, lo spazio su disco e, quando presente, una scheda grafica adatta. Computer diversi hanno risorse diverse, e quindi danno risultati diversi con la stessa AI.

Questa pagina non è un confronto tra computer, né una classifica di cosa comprare. È una spiegazione: cosa conta, perché conta, e come SafeAI ti aiuta a fare scelte ragionate senza dover diventare un tecnico.

Cosa conta nel tuo computer

Quattro elementi influenzano la qualità dell’esperienza. Non servono sigle o misurazioni precise per capirli: contano le idee di base.

Il processore (CPU)

È il “cervello” generale del computer. Può far funzionare anche l’AI locale, soprattutto con i modelli più piccoli.

Tutti i computer hanno un processore: è la parte che gestisce qualsiasi programma, dal browser ai documenti.
CPU moderne possono far girare modelli locali di piccole e medie dimensioni, anche senza componenti dedicati.
Quando il modello gira solo sul processore, le risposte possono essere più lente. È normale, non è un difetto.
Modelli molto grandi sono difficili da far girare con la sola CPU, anche su computer recenti.

La memoria RAM

È la memoria di lavoro del computer, come il “tavolo” su cui tieni i fogli mentre lavori. L’AI locale ne usa una parte.

Pensa alla RAM come a un grande tavolo: più è ampio, più cose ci puoi tenere aperte contemporaneamente.
Un modello AI in funzione occupa una quantità di RAM che dipende dalla sua dimensione.
Modelli più grandi chiedono generalmente più RAM; modelli più piccoli ne chiedono meno.
Se la RAM non basta, il modello può essere molto lento o non riuscire a caricarsi del tutto.

La scheda grafica (GPU)

È un componente specializzato che può accelerare i calcoli dell’AI, ma non è obbligatorio per i modelli piccoli.

Una scheda grafica adatta all’AI è un “assistente” specializzato per i calcoli pesanti.
Quando è presente e adatta, le risposte dell’AI possono essere molto più rapide.
Con una buona scheda grafica diventa possibile usare anche modelli più grandi comodamente.
Non tutti i computer hanno una scheda grafica adatta a questo uso, e non tutte le schede grafiche offrono lo stesso vantaggio.
Per i modelli più piccoli, una scheda grafica non è strettamente necessaria.

Lo spazio su disco

I modelli AI sono file di qualche gigabyte che restano installati sul tuo computer, come un programma un po’ più grande del solito.

Un modello locale è un file scaricato che resta sul tuo computer, pronto all’uso anche offline.
I modelli più piccoli occupano meno spazio; quelli più grandi ne occupano di più.
È bene mantenere sempre un po’ di spazio libero per il funzionamento dell’applicazione e per tuoi file.

Modelli più grandi o più piccoli: trovare l’equilibrio

Non esiste “il modello migliore”. Esiste il modello adatto al tuo computer e al tipo di lavoro che vuoi fare. Capire la differenza ti aiuta a scegliere.

I modelli più piccoli (come Gemma 2B) sono generalmente più leggeri, più veloci e richiedono meno risorse.
I modelli più grandi possono gestire lavori più complessi, ma chiedono più potenza dal computer.
“Grande” non significa automaticamente “migliore” per ogni compito. La dimensione è uno dei fattori, insieme al modo in cui il modello è stato addestrato.
Un modello adatto a un computer può non essere adatto a un altro. La scelta è individuale.
Se un modello fornisce risposte deboli su ragionamenti complessi, è un limite naturale dei modelli più compatti — non un difetto del programma o del tuo computer.

Come ti aiuta SafeAI

L’obiettivo è che tu possa ottenere buoni risultati senza studiare prima una lista di sigle. Per questo la selezione è pensata per essere chiara e prudente.

Tu non dovresti avere bisogno di conoscere nomi tecnici di modelli, formati di file o infrastruttura per usare SafeAI.
SafeAI è progettato per offrire un catalogo di modelli già selezionati, con indicazioni chiare su capacità e compatibilità.
Le raccomandazioni sono pensate per essere prudenti: meglio un modello adeguato e affidabile che uno troppo grande per il tuo computer.
Dove supportato, SafeAI ti aiuta a evitare l’installazione accidentale di modelli palesemente troppo pesanti per la tua macchina.
Le informazioni tecniche restano disponibili per chi le cerca, ma non sono necessarie per l’uso quotidiano.

Come funziona

SafeAI offre un catalogo selezionato di modelli, con indicazioni su capacità e compatibilità.
Modelli più leggeri sono disponibili per computer meno potenti — tra questi, Gemma 2B è l’opzione più piccola attualmente approvata.
Il download di un modello mostra il progresso reale e può essere annullato in qualsiasi momento. Un modello diventa selezionabile solo quando è pronto.
Nessun modello viene scaricato, cambiato o rimosso automaticamente. SafeAI protegge i modelli in uso dalla rimozione accidentale.
Nessun sistema può garantire in anticipo la compatibilità con ogni singolo computer: il risultato dipende dalla combinazione di hardware, modello e compito.

Una nota su Linux

Abbiamo iniziato da Linux perché, in molte configurazioni, un sistema più leggero può lasciare più risorse disponibili all’AI locale. Non è una garanzia universale: dipende dalla distribuzione, dai programmi attivi e dal computer. SafeAI resta progettato come prodotto condiviso per Windows e Linux.

Documentazione: AI locale e AI remota →Documentazione: Privacy e controllo →Come funziona →

← PrecedenteAI locale e AI remota Successivo →Le funzioni di SafeAI