Z-OllamaRun Setup

Das Formular Z-OllamaRun Setup dient zum Einrichten und Prüfen wichtiger Ollama-Einstellungen unter Windows.

Hier werden vor allem diese Bereiche verwaltet:

  1. Adresse, auf der der Ollama-Server lauscht
  2. Speicherordner für Ollama-Modelle
  3. installierte Modelle
  4. Modell herunterladen oder löschen
  5. Windows-Firewall für den LAN-Zugriff
  6. Protokollausgabe

Z-OllamaRun ist nicht die KI und ersetzt Ollama nicht. Ollama bleibt unter Windows der lokale Laufzeit- und Serverteil für KI-Modelle. Die eigentliche KI steckt nicht in Ollama selbst, sondern im geladenen Modell. Ollama startet dieses Modell, verwaltet es und stellt es über eine lokale Schnittstelle bereit, standardmäßig auf Port 11434.

1. Ollama Server

Im Feld „OLLAMA_HOST“ wird festgelegt, auf welcher Adresse der Ollama-Server erreichbar sein soll.

Nur lokal setzen

Mit „Nur lokal setzen“ wird OLLAMA_HOST auf diesen Wert gesetzt:

localhost:11434

Damit ist Ollama nur auf dem eigenen Rechner erreichbar. Andere Geräte im Netzwerk können den Ollama-Server dann nicht verwenden.

Diese Einstellung ist sinnvoll, wenn Ollama nur lokal auf diesem PC genutzt werden soll.

IP setzen

Mit „IP setzen“ trägt Z-OllamaRun automatisch die IPv4-Adresse des aktiven LAN-Adapters ein.

Beispiel:

192.168.2.19:11434

Z-OllamaRun verwendet dafür die aktive Netzwerkkarte mit Default Gateway. Wenn keine passende IPv4-Adresse gefunden wird, bleibt das Feld leer und im Protokoll erscheint eine Fehlermeldung.

Diese Einstellung ist sinnvoll, wenn der Rechner mehrere Netzwerkkarten hat und Ollama nur über eine bestimmte IP-Adresse erreichbar sein soll.

LAN setzen

Mit „LAN setzen“ wird OLLAMA_HOST auf diesen Wert gesetzt:

0.0.0.0:11434

Damit lauscht Ollama auf allen Netzwerkschnittstellen des Rechners. Andere Geräte im LAN können den Ollama-Server erreichen, wenn die Windows-Firewall passend eingerichtet ist.

Diese Einstellung ist praktisch, wenn der Rechner nur in einem privaten LAN steht und Ollama von anderen Geräten im gleichen Netzwerk genutzt werden soll.

Wichtig

Änderungen an OLLAMA_HOST gelten erst beim nächsten Start von Ollama. Wenn Ollama bereits läuft, muss Ollama neu gestartet werden, damit die neue Einstellung wirksam wird.

2. OLLAMA_MODELS

Im Feld „OLLAMA_MODELS“ wird der Modellordner von Ollama eingetragen.

Wenn das Feld leer ist, verwendet Ollama den Standardordner im Benutzerprofil.

Mit „Modelle prüfen“ prüft Z-OllamaRun den eingetragenen Ordner und liest die installierten Modelle über die lokale Ollama-API aus.

Mit „Modelle speichern“ wird der eingetragene Wert gespeichert.

Wenn ein Ordner eingetragen ist, muss dieser Ordner vorhanden sein. Existiert der Ordner nicht, wird der Wert nicht gespeichert und im Protokoll erscheint eine Warnung.

Auch Änderungen an OLLAMA_MODELS gelten erst beim nächsten Start von Ollama.

3. Installierte Modelle

Im Bereich „Installierte Modelle“ zeigt Z-OllamaRun die aktuell in Ollama vorhandenen Modelle an.

Die Liste enthält unter anderem:

  1. Modellname
  2. Größe
  3. Parameter
  4. Quantisierung
  5. Modellfamilie
  6. Änderungsdatum

Beim Anklicken eines Modells wird der Modellname automatisch in das Feld „Modellname“ übernommen. Das Modell ist dann für weitere Aktionen vorbereitet, zum Beispiel zum Löschen oder Aktualisieren.

Wenn Ollama nicht läuft oder die lokale API nicht erreichbar ist, kann die Modellliste nicht gelesen werden.

4. Modell herunterladen oder aktualisieren

Im Feld „Modellname“ wird der Name eines Ollama-Modells eingetragen.

Beispiele:

phi3:mini
gemma3:1b

Mit „Modell ziehen / aktualisieren“ startet Z-OllamaRun den Download oder die Aktualisierung dieses Modells über Ollama.

Der Vorgang läuft im Hintergrund. Die Oberfläche bleibt bedienbar. Fortschritt und Meldungen von Ollama werden im Protokoll angezeigt.

Wenn Ollama nicht erreichbar ist, wird der Pull-Vorgang nicht gestartet.

5. Modell löschen

Mit „Modell löschen“ kann ein vorhandenes Modell aus Ollama entfernt werden.

Das Löschen ist nur möglich, wenn das Modell in der aktuellen Modellliste steht. Dadurch soll verhindert werden, dass versehentlich ein falsch eingetragener Modellname gelöscht wird.

Vor dem Löschen erscheint eine Sicherheitsabfrage.

Wenn ein Pull-Vorgang läuft, kann währenddessen kein Modell gelöscht werden.

6. Windows Firewall

Der Bereich „Windows Firewall“ prüft und verwaltet die Firewall-Regel für den LAN-Zugriff auf Ollama.

Die Zielregel erlaubt eingehende TCP-Verbindungen auf den Ollama-Port für das lokale Subnetz.

Das bedeutet: Andere Geräte im gleichen privaten Netzwerk können den Ollama-Server erreichen. Die Regel ist nicht für das öffentliche Internet gedacht.

Firewall prüfen

Mit „Firewall prüfen“ kontrolliert Z-OllamaRun, ob eine passende eingehende Allow-Regel vorhanden ist.

Gesucht wird eine Regel für:

  1. TCP
  2. Port aus OLLAMA_HOST, normalerweise 11434
  3. Profil Private
  4. RemoteAddress LocalSubnet

Das Ergebnis wird im Protokoll angezeigt.

Firewall-Regel anlegen

Mit „Firewall-Regel anlegen“ erstellt oder aktualisiert Z-OllamaRun die eigene Firewall-Regel:

Z-OllamaRun Ollama API

Die Regel erlaubt eingehende Verbindungen aus dem lokalen Subnetz auf den Ollama-Port.

Für diese Aktion sind Administratorrechte erforderlich.

Firewall-Regel löschen

Mit „Firewall-Regel löschen“ entfernt Z-OllamaRun nur die eigene Firewall-Regel:

Z-OllamaRun Ollama API

Andere Firewall-Regeln werden nicht gelöscht.

Auch für diese Aktion können Administratorrechte erforderlich sein.

7. Protokoll

Im Bereich „Protokoll“ zeigt Z-OllamaRun alle wichtigen Meldungen des Setup-Formulars an.

Dazu gehören zum Beispiel:

  1. gespeicherte Einstellungen
  2. Prüfergebnisse
  3. Warnungen
  4. Fehler
  5. Pull-Statusmeldungen
  6. Firewall-Ergebnisse

Meldungen mit LEVEL=WARN sind Warnungen. Die Aktion wurde entweder nicht vollständig ausgeführt oder es gibt etwas, das geprüft werden sollte.

Meldungen mit LEVEL=ERROR sind Fehler. Die angeforderte Aktion konnte nicht ausgeführt werden.

8. Typischer Ablauf für LAN-Betrieb

Für einen einfachen LAN-Betrieb ist dieser Ablauf sinnvoll:

  1. Setup öffnen
  2. Bei „OLLAMA_HOST“ entweder „IP setzen“ oder „LAN setzen“ verwenden
  3. Ollama neu starten
  4. „Modelle prüfen“ ausführen
  5. „Firewall prüfen“ ausführen
  6. Bei fehlender Regel „Firewall-Regel anlegen“ ausführen
  7. Verbindung von einem anderen Gerät im LAN testen

Wenn der Rechner mehrere Netzwerkkarten hat, ist „IP setzen“ oft besser als „LAN setzen“, weil Ollama dann nur auf der ausgewählten IP-Adresse lauscht.

9. Wichtige Hinweise

Das Setup startet Ollama nicht automatisch neu.

Gespeicherte Änderungen an OLLAMA_HOST und OLLAMA_MODELS gelten erst beim nächsten Start von Ollama.

Für Firewall-Änderungen werden Administratorrechte benötigt.

Für den LAN-Betrieb sollte das Windows-Netzwerkprofil auf „Privat“ stehen.

Ein öffentliches Netzwerkprofil ist für LAN-Freigaben nicht empfehlenswert.

Z-OllamaRun macht Ollama sichtbar und besser kontrollierbar. Die eigentliche Modellnutzung erfolgt weiterhin über einen passenden Client oder über die Ollama-API.