Agenti IA locali: Goose, Observer IA, AnythingLLM
Gli agenti IA locali sono spesso descritti come offline, su dispositivo o completamente locali. Abbiamo trascorso tre giorni a mappare l'ecosistema degli agenti IA locali che funzionano in modo autonomo su hardware personale senza dipendere da API esterne o servizi cloud.
La nostra analisi classifica le soluzioni principali in tre aree chiave, basate su test su agent di sviluppo, strumenti di automazione e assistenti alla produttività.
Categorizzazione degli agenti IA locali
Categoria | Strumenti/Framework | Casi d'uso principali (Locale / Offline) |
|---|---|---|
Agenti di sviluppo e sistema | Goose, Localforge, Devika, Roo Code (Boomerang Mode), Continue.dev, Cursor, CodeGenie, SuperCoder, Aider, Cline, Kilo Code | Codifica locale, debugging, automazione di file/processi, attività DevOps locali |
Agenti di automazione e controllo locale | Observer IA, Browser-Use, DeepBrowser | Controllo del browser locale, automazione dei file, interazione con le app, flussi di lavoro su dispositivo |
Agenti di conoscenza e produttività | AnythingLLM (Desktop), LocalGPT (Single-User), PrivateGPT | Domande e risposte su documenti offline, sintesi, ricerca locale/RAG |
Vedi le descrizioni delle categorie.
1. Agenti di sviluppo e sistema
*Tipi di esecuzione:
- Completamente locale: Lo strumento funziona nativamente su hardware personale con runtime locali. Strumenti in grado di operare completamente offline.
- Locale ibrido: Il modello principale o l'esecuzione del compito avviene localmente, ma alcune funzionalità, come l'integrazione con l'IDE, l'indicizzazione del contesto, la sincronizzazione o il ragionamento, si basano ancora su servizi cloud o API.
** Spiegazione della colonna on-machine:
- Completamente su dispositivo: Funzionamento offline completo: inferenza, ragionamento ed esecuzione avvengono tutti localmente.
- Inferenza locale, assistita dal cloud: Il modello principale viene eseguito localmente, ma le funzionalità dell'IDE o di gestione utilizzano servizi online.
- Esecuzione locale, ragionamento remoto: Il codice gira localmente, ma le API esterne alimentano i passaggi di ragionamento o pianificazione.
Goose
Goose è un agente di sviluppo open-source progettato per operare interamente su hardware locale.1
Capacità principali:
- Utilizza runtime LLM locali per il ragionamento e la generazione di codice
- Esegue compiti multi-step come scrivere, testare e debuggare codice
- Interagisce direttamente con il file system locale e gli strumenti di sviluppo
- Non richiede connettività di rete quando configurato con modelli locali.
Goose soddisfa una definizione rigorosa di agente locale autonomo, poiché osservazione, ragionamento e azione avvengono sul dispositivo.
Roo Code(Boomerang Mode)
Roo Code è un assistente di codifica integrato nell'IDE che enfatizza il raffinamento iterativo.
- La modalità Boomerang consente l'esecuzione locale delle azioni
- Il ragionamento si basa comunemente su modelli cloud
- Il coordinamento dell'IDE e le funzionalità di gestione non sono completamente locali
Di conseguenza, Roo Code dovrebbe essere classificato come un agente di sviluppo ibrido con uomo nel ciclo, piuttosto che un sistema completamente locale.
Configurazione dell'agente IA locale in Roo Code:
Roo Code consente agli sviluppatori di creare profili di configurazione personalizzati che definiscono come si connette a diversi modelli di IA, inclusi LLM ospitati localmente.
Da Impostazioni → Providers, puoi aggiungere profili tramite OpenRouter o altri provider supportati, quindi scegliere un modello locale in esecuzione tramite Ollama o LM Studio.
Ogni profilo di configurazione può memorizzare i propri parametri, tra cui temperatura, profondità di ragionamento e limiti di token. Questo ti permette di passare da modelli cloud leggeri a runtime completamente locali per l'inferenza su dispositivo.
Cursor
Cursor consente l'uso di LLM locali per l'inferenza ma rimane dipendente dai servizi cloud per:
- Indicizzazione del codice
- Applicazione delle modifiche
- Coordinamento del flusso di lavoro
Pertanto, Cursor supporta l'inferenza locale, ma non un ciclo agentico completamente locale, e non può operare offline.
Come usare un LLM locale all'interno di Cursor:
Fonte:Logan Hallucinates2
Aider
Aider è un assistente di codifica IA open-source basato su riga di comando, progettato per lavorare direttamente con repository Git locali. Modifica il codice generando patch e commit anziché operare attraverso un'interfaccia IDE.
Aider viene spesso usato con modelli ospitati nel cloud, ma:
- Lo strumento stesso gira localmente
- Se abbinato a un runtime di modello locale, può operare completamente su dispositivo
La capacità offline è quindi condizionata dalla scelta del modello, non intrinseca allo strumento.
2. Agenti di automazione e controllo locale
Observer IA
Observer IA è un framework agente di automazione locale open-source.
Caratteristiche principali:
- Esegue agenti utilizzando LLM locali
- Osserva lo stato dello schermo tramite OCR o screenshot
- Esegue codice Python attraverso un ambiente di esecuzione incorporato
- Non richiede connettività cloud
Observer IA fornisce l'infrastruttura per il comportamento agentico piuttosto che una politica agente fissa, ed è meglio descritto come un framework di ciclo di controllo locale.
Browser-Use
Browser-Use consente l'interazione con il browser guidata dall'IA tramite Playwright.
- Le azioni del browser vengono eseguite localmente
- Il ragionamento può essere eseguito utilizzando modelli locali o remoti
- Il funzionamento offline è possibile se abbinato all'inferenza locale
Questo colloca Browser-Use saldamente nella categoria dell'automazione ibrida per impostazione predefinita.
Come usare un LLM locale all'interno di Browser-Use:
Un metodo per installarlo è usare il comando pip install browser-use, che configura sia l'interfaccia Python che il controllo del browser locale sulla stessa macchina.
Quando successivamente eseguito (ad esempio, con python -m browser_use), aprirà e controllerà un'istanza del browser localmente, eseguendo azioni e ragionamento tramite un LLM locale (ad es. via Ollama) o tramite API connesse:
Configurazione di Browser-Use in locale3
Per chi vuole vedere la configurazione completa in azione, ecco una guida video passo-passo che mostra come installare ed eseguire Browser-Use su una macchina locale:
La procedura guidata copre tutto, dall'installazione delle dipendenze come Playwright e LangChain alla connessione di Browser-Use con un modello locale tramite Ollama.3
3. Agenti di conoscenza e produttività
AnythingLLM (Desktop)
Se configurato con modelli locali, AnythingLLM Desktop:
- Esegue l'indicizzazione dei documenti localmente
- Esegue il ragionamento dell'agente sul dispositivo
- Supporta limitate capacità di azione (es. scrittura di file)
- Non richiede connettività cloud
Sebbene la sua autonomia sia limitata rispetto agli agenti di sistema, si qualifica come un agente di produttività locale secondo una definizione ristretta di attività.
Un uso esemplare di un agente IA locale
Abbiamo testato AnythingLLM Desktop per vedere come un agente locale su dispositivo funziona dall'installazione all'output finale.
1. Configurazione dello spazio di lavoro
Abbiamo aperto le impostazioni dello spazio di lavoro e siamo andati su Configurazione Agente.
Lì, abbiamo scelto un provider LLM e selezionato il modello mistral-medium-2505.
Dopo aver cliccato Aggiorna Agente Spazio di Lavoro, lo spazio di lavoro ha confermato che la configurazione era completa.
2. Abilitazione delle competenze dell'agente
Successivamente, abbiamo aperto il pannello Configura Competenze Agente.
Questo menu ti consente di abilitare le capacità integrate dell'agente con un solo clic. Non è richiesta alcuna codifica.
3. Test della competenza “Salva Files”
Abbiamo abilitato la competenza Salva Files, consentendo all'agente di scrivere gli output direttamente sulla macchina locale.
Dopo averla attivata e salvato la modifica, l'agente era pronto.
Per testarla, siamo tornati alla finestra della chat e abbiamo usato uno dei prompt di esempio dalla documentazione.
Questo ha confermato che l'agente poteva generare un file e prepararlo per il salvataggio locale.
4. Esecuzione dell'agente in chat
Abbiamo chiesto all'agente di riassumere un argomento storico e lo abbiamo invocato usando @agent.
Abbiamo modificato il comando per salvare l'output come un semplice file di testo invece di un PDF.
Il sistema ha confermato che la Modalità Chat Agente era attiva e ha mostrato come uscire dal ciclo.
L'agente ha prodotto il riassunto e preparato il file per il salvataggio.
5. Salvataggio del file localmente
Per salvare l'output, abbiamo usato il comando di esempio della documentazione di AnythingLLM:
“@agent can save this information as a PDF on my desktop folder?”
Abbiamo eseguito la stessa struttura in chat, ma per un file di testo.
Si è aperta una finestra del browser dei file e abbiamo salvato l'output sul dispositivo.
Il file è apparso nella cartella Download, indicando che l'intero processo, ragionamento, esecuzione e salvataggio, era stato eseguito interamente sul dispositivo.
Descrizioni delle categorie di agenti IA locali
- Agenti di sviluppo e sistema (strato di azione): Agenti che girano direttamente sul tuo dispositivo per eseguire attività di codifica, sistema e automazione dei flussi di lavoro localmente.
- Agenti di automazione e controllo locale: Agenti che automatizzano azioni reali sulla tua macchina controllando il browser, l'interfaccia utente o il sistema operativo.
- Agenti di conoscenza e produttività: Assistenti locali per chat, sintesi e gestione documentale senza inviare dati al cloud.
Strati architettonici nello stack degli agenti locali
- Strato di azione (agenti): Sistemi che osservano lo stato, invocano strumenti e agiscono sull'ambiente locale.
- Strato di ragionamento e orchestrazione (framework): Librerie come LangGraph o LlamaIndex che supportano pianificazione, memoria e coordinamento. Questi non sono agenti di per sé.
- Strato di esecuzione (runtime locali): Runtime di modelli come Ollama o LM Studio che consentono l'inferenza locale.
Hardware: ciò di cui gli agenti locali hanno realmente bisogno
Il modello e il framework sono solo metà della storia. L'hardware decide cosa è effettivamente possibile. Per eseguire modelli linguistici localmente, due numeri contano di più: quanta memoria hai e quanto è veloce quella memoria.
RAM (o VRAM) imposta il limite massimo sulla dimensione del modello
Un modello deve entrare in memoria prima di poter essere eseguito. Una guida approssimativa per i modelli quantizzati a 4 bit: un modello 3B richiede circa 2 GB, un modello 7–8B circa 5–6 GB, un modello 13B circa 8–10 GB e un modello 70B circa 40–48 GB. Aggiungi margine per il contesto, il sistema operativo e qualsiasi altra applicazione in esecuzione. In pratica, la memoria è il collo di bottiglia più spesso del calcolo, e sui PC Copilot+ l'obiettivo consigliato per un uso confortevole di LLM locali è almeno 32 GB di RAM.4
La larghezza di banda della memoria determina la velocità
Una volta che un modello è caricato, la velocità con cui genera token dipende principalmente da quanto velocemente il sistema può leggere i pesi del modello dalla memoria. Questo è il motivo per cui l'elevata larghezza di banda della memoria di Apple Silicon (fino a 800 GB/s su M4 Max) è il vantaggio pratico per l'inferenza LLM, non il numero di motori neurali.5
I TOPS della NPU contano meno di quanto suggerisca il marketing
Un'unità di elaborazione neurale è un chip progettato per la matematica dell'IA, e la sua potenza è espressa in TOPS (trilioni di operazioni al secondo). La certificazione Copilot+ PC di Microsoft richiede almeno 40 TOPS. Quella soglia è orientata alle funzionalità su dispositivo di Microsoft (sottotitoli in tempo reale, effetti immagine, Recall) piuttosto che all'esecuzione di un LLM in stile chat. Per i carichi di lavoro LLM, RAM e larghezza di banda dominano. Le prestazioni della NPU sono un fattore di spareggio utile, non il numero principale.
Una regola pratica:
- Per modelli assistenti della classe 3B, un laptop attuale con 16 GB di memoria unificata o RAM è sufficiente.
- Per modelli 7–8B con velocità confortevole, punta a 32 GB di RAM e alta larghezza di banda della memoria. Apple Silicon, serie Snapdragon X e gli attuali PC Copilot+ Intel/AMD funzionano tutti; le differenze si vedono nei token al secondo, non nel fatto che il modello giri.
- Per modelli più grandi (30B e superiori), le opzioni si dividono. Gli Apple Silicon ad alta memoria (configurazioni Mac Studio o MacBook Pro con 64–192 GB di memoria unificata) possono eseguire modelli grandi che nessuna GPU discreta consumer può contenere. L'alternativa è una workstation con una o più GPU discrete ad alta VRAM. Entrambi i percorsi funzionano; hanno profili di costo e potenza diversi.
Aggiungi come fonte preferitaGuida pratica
I sistemi IA locali dovrebbero essere assemblati incrementalmente:
- Inizia con un runtime locale se è richiesta l'inferenza offline.
- Aggiungi un livello di conoscenza quando è necessaria la comprensione dei documenti.
- Introduci agenti di automazione o controllo quando sono richieste azioni nel mondo reale.
- Usa framework di orchestrazione per flussi di lavoro complessi e multi-step.
Nella maggior parte dei casi, uno stack completamente stratificato non è necessario.
Come affrontare lo stack dell'agente IA locale
Inizia con il set più piccolo di strati richiesto dal tuo caso d'uso. Se il tuo agente ha bisogno di ragionamento offline, inizia con un runtime locale come Ollama o LM Studio. Se ha bisogno di comprendere i tuoi file, aggiungi un livello di conoscenza come AnythingLLM o LocalGPT. Per agenti che devono intraprendere azioni (aprire app, controllare il browser, gestire file) aggiungi un livello di automazione locale. Usa framework come LangGraph o LlamaIndex quando hai bisogno di flussi di lavoro multi-step, cicli di pianificazione o catene di strumenti complesse.
Perché eseguire un agente localmente
La privacy è una questione legale, non una preferenza
Dal 2 agosto 2026, entrano in vigore gli obblighi ad alto rischio dell'EU IA Act. Le sanzioni possono raggiungere €15 milioni o il 3% del fatturato annuo globale. Un modello in esecuzione sul proprio hardware elabora i dati nel tuo ambiente, senza trasmetterli a un fornitore di cloud. Il rischio di trasferimento transfrontaliero dei dati scompare.6
Latenza
Le chiamate API cloud aggiungono 200–500ms di ritardo di rete prima che appaia il primo token. L'inferenza su dispositivo lo riduce a meno di 20ms. Per agenti vocali, completamento del codice e qualsiasi cosa che tocchi un'interfaccia utente in tempo reale, questa è la differenza tra fluidità e lag.
Costo su volume
Le chiamate cloud sono economiche per singola richiesta e costose in massa. Un modello locale ha un costo hardware fisso e nessuna fatturazione per token. Il compromesso è ancora reale: gli agenti locali sono limitati dal modello che entra in memoria e dall'hardware sulla scrivania. Le sezioni successive coprono entrambi.
FAQ
Gli agenti IA locali operano in modo autonomo su hardware personale senza fare affidamento su API esterne o infrastrutture cloud.
Cita questa ricerca
Scegli il formato adatto a dove pubblicherai. Incollare la versione con link nel tuo CMS preserva il backlink.
@misc{dilmegani2026,
author = {Dilmegani, Cem and PhD., Ezgi Arslan,},
title = {{Agenti IA locali: Goose, Observer IA, AnythingLLM}},
year = {2026},
month = may,
howpublished = {\url{https://aimultiple.com/local-ai-agent}},
note = {AIMultiple. Consultato il 30 Maggio 2026}
}Collegamenti di riferimento
Il lavoro di Cem è stato citato da importanti pubblicazioni globali tra cui Business Insider, Forbes, Washington Post, aziende globali come Deloitte, HPE e ONG come il World Economic Forum e organizzazioni sovranazionali come la Commissione europea.
Nel corso della sua carriera, Cem ha lavorato come consulente tecnologico, acquirente di tecnologia e imprenditore tecnologico. Ha consigliato aziende sulle loro decisioni tecnologiche presso McKinsey & Company e Altman Solon per oltre un decennio. Ha anche pubblicato un rapporto McKinsey sulla digitalizzazione.
Ha guidato la strategia tecnologica e gli approvvigionamenti di una società di telecomunicazioni rispondendo direttamente al CEO. Ha anche guidato la crescita commerciale dell'azienda deep tech Hypatos che ha raggiunto un fatturato annuo ricorrente a 7 cifre e una valutazione a 9 cifre partendo da 0 in 2 anni. Il lavoro di Cem in Hypatos è stato trattato da importanti pubblicazioni tecnologiche come TechCrunch e Business Insider.
Cem interviene regolarmente a conferenze tecnologiche internazionali. Si è laureato in ingegneria informatica all'Università Bogazici e ha conseguito un MBA presso la Columbia Business School.
Sii il primo a commentare
Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori. I commenti vengono lasciati nella loro lingua originale.