Websuche für Ollama

Websuche für Ollama und Z-PromptX. Erst testen, dann SearXNG

Wenn man mit Ollama lokal arbeitet, kommt irgendwann diese eine Frage: Wie bekommt die lokale KI eigentlich aktuelle Informationen?

Das Modell läuft auf dem eigenen Rechner. Schön. Die Daten bleiben im eigenen Umfeld. Auch schön. Aber wenn ich nach etwas Aktuellem frage, dann merkt man ziemlich schnell die Grenze. Ollama sucht nicht einfach im Internet – Woher auch?

An der Stelle muss man einmal sauber trennen.

Ollama ist nicht die KI selbst. Ollama ist die Software, die lokale KI-Modelle startet, verwaltet und ansprechbar macht. Die eigentliche KI steckt im Modell. Also zum Beispiel in Llama, Mistral, Gemma, Qwen oder einem anderen Modell.

Weiterlesen …

Ollama als Windows-Dienst installieren

Ollama als Windows-Dienst installierenOllama kann unter Windows ganz normal manuell gestartet werden. Für erste Tests reicht das völlig aus. Sobald Ollama aber regelmäßig genutzt wird, zum Beispiel als KI-Server im lokalen Netzwerk, wird der manuelle Start schnell lästig.

Ein Windows-Dienst hat hier einen klaren Vorteil. Ollama startet dann automatisch mit dem Rechner, unabhängig davon, ob bereits ein Benutzer angemeldet ist.

 

Weiterlesen …

Z-PromptX – Prompten mit der lokalen KI

KI-Prompt

Wenn man anfängt, mit einer lokalen KI zu arbeiten, schaut man zuerst fast automatisch auf den Prompt. Ist ja auch naheliegend. Das ist schließlich der Teil, den man selbst direkt eingibt. Also denkt man erst mal, dass gute Antworten vor allem davon abhängen, ob der Prompt gut geschrieben ist.

Ganz falsch ist das nicht. Ein schlechter oder unklarer Prompt macht die Sache selten besser.

Weiterlesen …

Ollama läuft. Und dann?

Im ersten Beitrag ging es darum, wie sich Ollama unter Windows installieren lässt und warum für den Einstieg oft schon ein kleineres Modell reicht. Das war die technische Seite. Spannend wird es für mich aber erst danach.

Denn eine lokale KI zu installieren ist das eine. Sie danach im Alltag auch wirklich zu benutzen ist etwas anderes. Genau an der Stelle trennt sich für mich ein nettes Technikthema von etwas, das am Ende tatsächlich im Alltag landet.

 

Weiterlesen …

Ollama: KI auf deinem Windows PC

 Stell dir vor, du könntest ChatGPT-ähnliche KI auf deinem PC nutzen, ohne dass deine Daten ins Internet wandern. Genau das macht Ollama möglich. Viele kennen KI nur als Online Dienst. Man tippt etwas ein, die Antwort kommt, aber die Daten gehen übers Internet. Das ist oft praktisch, trotzdem will nicht jeder seine Texte, Ideen oder vielleicht auch Kundendaten in eine Cloud schicken.

Mit Ollama kannst du KI Modelle direkt auf deinem eigenen Windows PC laufen lassen.

Weiterlesen …

ChatGPT Windows App

KI-ToolsOpenAI stellt ChatGPT inzwischen auch als native Windows App über den Microsoft Store bereit. Ich habe mir diese App angesehen, weil sie einen anderen Anspruch hat als die Nutzung im Browser. Weniger Webseite, mehr Werkzeug. Der größte Unterschied zur Webversion liegt nicht in den Funktionen, sondern im Arbeitsgefühl.

Die App verhält sich wie ein normales Windows-Programm. Sie startet schnell, bleibt im Hintergrund offen und lässt sich neben anderen Anwendungen nutzen, ohne ständig zwischen Browser-Tabs zu wechseln. Gerade im Alltag ist das angenehmer, als es auf den ersten Blick klingt.

Weiterlesen …

Firefox und KI, vorsichtig integriert

KI-ToolsIn den letzten Tagen bin ich über Meldungen gestolpert, dass Firefox einen neuen KI-Bildschirm bekommen soll. Die erste Reaktion war bei mir eher Zurückhaltung. Ich nutze Firefox seit vielen Jahren gerade deshalb, weil er sich angenehm unaufgeregt anfühlt und nicht jedem Trend sofort hinterherrennt. Also habe ich genauer hingeschaut, was Mozilla da eigentlich plant.

Weiterlesen …

Z-PromptX, was es ist und warum es das gibt

Prompt Verwaltung Z-PromptXVor 4 bis 5 Jahren habe ich mir für den Eigengebrauch ein kleines Windows Tool geschrieben: ReplyX. Ich hatte damals ständig dieselben E-Mails und Standard Anfragen auf dem Tisch und keine Lust mehr, jedes Mal wieder von vorne zu tippen oder alte Mails rauszukramen. ReplyX war im Grunde meine kleine Vorlagen Sammlung, schnell griffbereit, ein Klick, fertig.

Weiterlesen …