Lokálně neznamená automaticky soukromě.
Rozhraní, logy, síť a přístup k dokumentům. Čtyři místa, která stojí za kontrolu před prvním citlivým promptem.
Model je jen část celé cesty
Lokální inference může omezit odesílání vstupů vzdálenému poskytovateli. Celou aplikaci ale tvoří i chatovací rozhraní, doplňky, vyhledávání a případně cloudové služby. Zkontrolujte skutečný tok dat, nikoli jen slovo „local“ v názvu.
Než vložíte neveřejný dokument, ověřte zvolený model, konfiguraci poskytovatele a síťové funkce. Odpojení internetu je užitečný funkční pokus, nikoli důkaz úplného zabezpečení.
API nejprve pouze na localhostu
Pro osobní používání ponechte službu dostupnou jen na vašem počítači. Nenastavujte naslouchání na všech rozhraních a nepřesměrovávejte port z routeru, pokud k tomu nemáte jasný důvod a odpovídající ochranu.
Ollama podle dokumentace standardně naslouchá na 127.0.0.1:11434. Změna adresy přes OLLAMA_HOST může dostupnost rozšířit. Lokální API samo o sobě není náhradou ověřování pro veřejnou síť.
Zkontrolujte historii a logy
Prompty a odpovědi mohou zůstat v historii rozhraní, logovacích souborech, zálohách nebo synchronizovaných složkách. Ověřte, kam aplikace data ukládá, kdo k nim má přístup a jak se dají odstranit.
Šifrování disku a uzamčený uživatelský účet chrání jinou část problému než lokální inference. U citlivých dat potřebujete obojí promyslet společně s pravidly vaší organizace.
Doplňky mají vlastní oprávnění
Nástroj pro práci se soubory nebo spouštění příkazů může mít mnohem větší dopad než samotné generování textu. Přidělujte mu pouze přístup, který daný úkol vyžaduje. Text z dokumentu ani odpověď modelu nepovažujte za důvěryhodný příkaz.
Před zpřístupněním služby dalším lidem je potřeba samostatně vyřešit přihlášení, šifrované spojení, aktualizace a omezení přístupu. Lokální experiment a sdílená služba mají odlišné požadavky.