Websuche für Ollama

Websuche für Ollama und Z-PromptX. Erst testen, dann SearXNG

Wenn man mit Ollama lokal arbeitet, kommt irgendwann diese eine Frage: Wie bekommt die lokale KI eigentlich aktuelle Informationen?

Das Modell läuft auf dem eigenen Rechner. Schön. Die Daten bleiben im eigenen Umfeld. Auch schön. Aber wenn ich nach etwas Aktuellem frage, dann merkt man ziemlich schnell die Grenze. Ollama sucht nicht einfach im Internet – Woher auch?

An der Stelle muss man einmal sauber trennen.

Ollama ist nicht die KI selbst. Ollama ist die Software, die lokale KI-Modelle startet, verwaltet und ansprechbar macht. Die eigentliche KI steckt im Modell. Also zum Beispiel in Llama, Mistral, Gemma, Qwen oder einem anderen Modell.

Weiterlesen …

Ollama läuft. Und dann?

Im ersten Beitrag ging es darum, wie sich Ollama unter Windows installieren lässt und warum für den Einstieg oft schon ein kleineres Modell reicht. Das war die technische Seite. Spannend wird es für mich aber erst danach.

Denn eine lokale KI zu installieren ist das eine. Sie danach im Alltag auch wirklich zu benutzen ist etwas anderes. Genau an der Stelle trennt sich für mich ein nettes Technikthema von etwas, das am Ende tatsächlich im Alltag landet.

 

Weiterlesen …

Z-PromptX, was es ist und warum es das gibt

Prompt Verwaltung Z-PromptXVor 4 bis 5 Jahren habe ich mir für den Eigengebrauch ein kleines Windows Tool geschrieben: ReplyX. Ich hatte damals ständig dieselben E-Mails und Standard Anfragen auf dem Tisch und keine Lust mehr, jedes Mal wieder von vorne zu tippen oder alte Mails rauszukramen. ReplyX war im Grunde meine kleine Vorlagen Sammlung, schnell griffbereit, ein Klick, fertig.

Weiterlesen …