Websuche für Ollama

Websuche für Ollama und Z-PromptX. Erst testen, dann SearXNG

Prompt Verwaltung Z-PromptXWenn man mit Ollama lokal arbeitet, kommt irgendwann diese eine Frage: Wie bekommt die lokale KI eigentlich aktuelle Informationen?

Das Modell läuft auf dem eigenen Rechner. Schön. Aber sein Wissen hat Grenzen. Aktuelle Informationen aus dem Internet stehen ihm nicht automatisch zur Verfügung. Dafür braucht es Zugriff auf zusätzliche Quellen.

An der Stelle muss man einmal sauber trennen. Ollama ist nicht die KI selbst. Ollama ist die Software, die lokale KI-Modelle startet, verwaltet und ansprechbar macht. Die eigentliche KI steckt im Modell. Also zum Beispiel in Llama, Mistral, Gemma, Qwen oder einem anderen Modell.

Weiterlesen …

Ollama läuft. Und dann?

Prompt Verwaltung Z-PromptX

Im ersten Beitrag ging es darum, wie sich Ollama unter Windows installieren lässt und warum für den Einstieg oft schon ein kleineres Modell reicht. Das war die technische Seite. Spannend wird es für mich aber erst danach.

Denn eine lokale KI zu installieren ist das eine. Sie danach im Alltag auch wirklich zu benutzen ist etwas anderes.

 

Weiterlesen …