Embedding locali
bge-m3 calcola embedding sulla CPU. Questa fase di indicizzazione non invia testi a un fornitore IA esterno.
Applicazioni → Ollama
Office include indicizzazione e ricerca documentale locali: gli embedding vengono calcolati sul vostro server, senza opzioni IA a pagamento. Per risposte scritte dall’IA, collegate un modello tramite una chiave API compatibile o Managed AI, secondo disponibilità.
Ollama esegue bge-m3 sul server Office per trasformare il testo documentale in vettori di ricerca. Calcolare embedding non scrive una risposta.
bge-m3 calcola embedding sulla CPU. Questa fase di indicizzazione non invia testi a un fornitore IA esterno.
Qdrant conserva l’indice locale e aiuta a trovare passaggi pertinenti anche con formulazioni diverse.
Una chiave API compatibile o Managed AI permette la generazione, secondo disponibilità. Il fornitore scelto riceve domanda e contesto inviato per quella risposta.
bge-m3 supporta la ricerca multilingue. La qualità dipende da documenti, estrazione e domanda; verificate sempre la fonte.
Office include il motore locale di embedding, non un modello generativo di chat né una GPU dedicata.
Ollama fornisce embedding a Open WebUI e alle ricette di indicizzazione. Hermes usa un percorso di generazione configurato separatamente.
Dettagli tecnici
Ollama funziona come servizio NixOS nativo. bge-m3 calcola embedding; Qdrant conserva l’indice locale. Il primo caricamento e l’indicizzazione consumano CPU, RAM e disco.
Open WebUI recupera passaggi con embedding locali; scrivere risposte usa il percorso di generazione configurato separatamente. Ollama è interno, non un endpoint pubblico.
Dipende dal volume documentale, dall’estrazione e dalle risorse. Il primo caricamento può richiedere più tempo. Non sono promessi tempi fissi né risposte istantanee.
Il modello di embedding, i testi estratti e i vettori occupano spazio sul server. Il fabbisogno dipende da volume e configurazione; questa inclusione di Office non preinstalla un modello generativo di chat.
Collegate una chiave API compatibile o Managed AI quando disponibile. Domande e contesto selezionato raggiungono il fornitore secondo le sue condizioni. L’indicizzazione locale resta disponibile senza questa opzione.
Esplorate l’indice incluso e le sue fonti in una demo. Le risposte scritte dipendono dal percorso di generazione disponibile per quella sessione.