Lokalne embeddingi
bge-m3 oblicza embeddingi na CPU. Ten etap indeksowania nie wysyła tekstów do zewnętrznego dostawcy AI.
Aplikacje → Ollama
Office obejmuje lokalne indeksowanie i wyszukiwanie dokumentów: embeddingi są obliczane na Twoim serwerze, bez płatnej opcji AI. Aby uzyskać pisemne odpowiedzi AI, podłącz model przez zgodny klucz API lub Managed AI, zależnie od dostępności.
Ollama uruchamia bge-m3 na serwerze Office, zmieniając tekst dokumentów w wektory wyszukiwania. Obliczanie embeddingów nie tworzy pisemnej odpowiedzi.
bge-m3 oblicza embeddingi na CPU. Ten etap indeksowania nie wysyła tekstów do zewnętrznego dostawcy AI.
Qdrant przechowuje lokalny indeks i pomaga odnajdywać fragmenty, nawet jeśli używają innych słów.
Zgodny klucz API lub Managed AI umożliwia generowanie, zależnie od dostępności. Wybrany dostawca otrzymuje pytanie i kontekst wysłany dla danej odpowiedzi.
bge-m3 obsługuje wyszukiwanie wielojęzyczne. Jakość zależy od dokumentów, ekstrakcji i pytania; zawsze sprawdzaj źródło.
Office obejmuje lokalny silnik embeddingów, nie generatywny model czatu ani dedykowany GPU.
Ollama dostarcza embeddingi do Open WebUI i procedur indeksowania. Hermes używa osobno skonfigurowanej ścieżki generowania.
Technical detail
Ollama działa jako natywna usługa NixOS. bge-m3 oblicza embeddingi; Qdrant przechowuje lokalny indeks. Pierwsze ładowanie i indeksowanie zużywają CPU, RAM i miejsce na dysku.
Open WebUI odnajduje fragmenty dzięki lokalnym embeddingom; pisanie odpowiedzi używa osobno skonfigurowanej ścieżki generowania. Ollama jest usługą wewnętrzną, nie publicznym punktem dostępu.
Czas zależy od liczby dokumentów, ekstrakcji i zasobów. Pierwsze ładowanie może trwać dłużej. Nie obiecujemy stałego czasu ani natychmiastowych odpowiedzi.
Model embeddingów, wyodrębnione teksty i wektory zajmują miejsce na serwerze. Zapotrzebowanie zależy od liczby dokumentów i konfiguracji; ten element Office nie preinstaluje generatywnego modelu czatu.
Podłącz zgodny klucz API lub Managed AI, gdy jest dostępne. Pytania i wybrany kontekst trafiają do dostawcy na jego warunkach. Lokalne indeksowanie pozostaje dostępne bez tej opcji.
Wypróbuj dołączony indeks i jego źródła w demo. Pisemne odpowiedzi zależą od ścieżki generowania dostępnej w danej sesji.