Websuche für Ollama und Z-PromptX. Erst testen, dann SearXNG
Wenn man mit Ollama lokal arbeitet, kommt irgendwann diese eine Frage: Wie bekommt die lokale KI eigentlich aktuelle Informationen?
Das Modell läuft auf dem eigenen Rechner. Schön. Aber sein Wissen hat Grenzen. Aktuelle Informationen aus dem Internet stehen ihm nicht automatisch zur Verfügung. Dafür braucht es Zugriff auf zusätzliche Quellen.
An der Stelle muss man einmal sauber trennen. Ollama ist nicht die KI selbst. Ollama ist die Software, die lokale KI-Modelle startet, verwaltet und ansprechbar macht. Die eigentliche KI steckt im Modell. Also zum Beispiel in Llama, Mistral, Gemma, Qwen oder einem anderen Modell.
Ollama kann unter Windows ganz normal manuell gestartet werden. Für erste Tests reicht das völlig aus. Sobald Ollama aber regelmäßig genutzt wird, zum Beispiel als KI-Server im lokalen Netzwerk, wird der manuelle Start schnell lästig.