Das Formular Z-OllamaRun Setup dient zum Einrichten und Prüfen wichtiger Ollama-Einstellungen unter Windows.
Hier werden vor allem diese Bereiche verwaltet:6
- Adresse, auf der der Ollama-Server lauscht
- Speicherordner für Ollama-Modelle
- installierte Modelle
- Modelle herunterladen, aktualisieren, starten, kopieren oder löschen
- Windows-Firewall für den LAN-Zugriff
- Protokollausgabe
Z-OllamaRun ist nicht die KI und ersetzt Ollama nicht. Ollama bleibt unter Windows der lokale Laufzeit- und Serverteil für KI-Modelle. Die eigentliche KI steckt nicht in Ollama selbst, sondern im geladenen Modell. Ollama startet dieses Modell, verwaltet es und stellt es über eine lokale Schnittstelle bereit, standardmäßig auf Port 11434.
1. Ollama Server
Im Feld „OLLAMA_HOST“ wird festgelegt, auf welcher Adresse der Ollama-Server erreichbar sein soll.
Nur lokal setzen
Mit „Nur lokal setzen“ wird OLLAMA_HOST auf diesen Wert gesetzt:
localhost:11434
Damit ist Ollama nur auf dem eigenen Rechner erreichbar. Andere Geräte im Netzwerk können den Ollama-Server dann nicht verwenden.
Diese Einstellung ist sinnvoll, wenn Ollama nur lokal auf diesem PC genutzt werden soll.
IP setzen
Mit „IP setzen“ trägt Z-OllamaRun automatisch die IPv4-Adresse eines aktiven LAN-Adapters mit Default Gateway ein.
Beispiel:
192.168.2.19:11434
Z-OllamaRun verwendet dafür die erste geeignete IPv4-Adresse, die für einen aktiven Netzwerkadapter mit Default Gateway ermittelt wird. Wenn keine passende IPv4-Adresse gefunden wird, bleibt das Feld leer und im Protokoll erscheint eine Fehlermeldung.
Diese Einstellung ist sinnvoll, wenn Ollama nur über eine bestimmte IP-Adresse erreichbar sein soll.
LAN setzen
Mit „LAN setzen“ wird OLLAMA_HOST auf diesen Wert gesetzt:
0.0.0.0:11434
Damit lauscht Ollama auf allen Netzwerkschnittstellen des Rechners. Andere Geräte im LAN können den Ollama-Server erreichen, wenn die Windows-Firewall passend eingerichtet ist.
Diese Einstellung ist praktisch, wenn der Rechner nur in einem privaten LAN steht und Ollama von anderen Geräten im gleichen Netzwerk genutzt werden soll.
Wichtig
Änderungen an OLLAMA_HOST gelten erst beim nächsten Start von Ollama. Wenn Ollama bereits läuft, muss Ollama neu gestartet werden, damit die neue Einstellung wirksam wird.
2. OLLAMA_MODELS
Im Feld „OLLAMA_MODELS“ wird der Modellordner von Ollama eingetragen.
Wenn das Feld leer ist, verwendet Ollama den Standardordner im Benutzerprofil.
Mit „Modelle prüfen“ prüft Z-OllamaRun den eingetragenen Ordner und aktualisiert die Liste der installierten Modelle über die lokale Ollama-API. Dafür muss Ollama gestartet sein.
Mit „Modelle speichern“ wird der eingetragene Wert gespeichert.
Wenn ein Ordner eingetragen ist, muss dieser Ordner vorhanden sein. Existiert der Ordner nicht, wird der Wert nicht gespeichert und im Protokoll erscheint eine Warnung.
Auch Änderungen an OLLAMA_MODELS gelten erst beim nächsten Start von Ollama.
3. Installierte Modelle
Im Bereich „Installierte Modelle“ zeigt Z-OllamaRun die aktuell in Ollama vorhandenen Modelle an.
Die Liste enthält unter anderem:
- Modellname
- Größe
- Parameter
- Quantisierung
- Modellfamilie
- Änderungsdatum
Beim Anklicken eines Modells wird der Modellname automatisch in das Feld „Modellname“ übernommen. Das Modell kann anschließend gestartet, aktualisiert, kopiert oder gelöscht werden.
Wenn Ollama nicht läuft oder die lokale API nicht erreichbar ist, kann die Modellliste nicht gelesen werden.
4. Modell herunterladen oder aktualisieren
Im Feld „Modellname“ wird der Name eines Ollama-Modells eingetragen.
Beispiele:
phi3:mini
gemma3:1b
Mit „Modell ziehen / aktualisieren“ startet Z-OllamaRun den Befehl ollama.exe pull für das eingetragene Modell.
Vorher wird geprüft, ob die lokale Ollama-API erreichbar ist.
Der Vorgang läuft im Hintergrund. Die Oberfläche bleibt bedienbar. Fortschritt und Meldungen von Ollama werden im Protokoll angezeigt.
Wenn Ollama nicht erreichbar ist, wird der Pull-Vorgang nicht gestartet.
5. Modell starten oder vorladen
Mit der Schaltfläche im Feld „Modellname“ kann ein bereits installiertes Modell gestartet beziehungsweise vorgeladen werden.
Das Modell muss in der aktuellen Modellliste enthalten sein.
Der Modellstart erfolgt im Hintergrund über die lokale Ollama-API. Dabei wird ein leerer Request an /api/generate gesendet, ohne eine Textantwort anzufordern.
Das Ergebnis wird im Protokoll angezeigt.
Während eines Pull-Vorgangs kann kein Modell gestartet werden.
6. Modell löschen
Mit „Modell löschen“ kann ein vorhandenes Modell aus Ollama entfernt werden.
Das Löschen ist nur möglich, wenn das Modell in der aktuellen Modellliste steht. Dadurch soll verhindert werden, dass versehentlich ein falsch eingetragener Modellname gelöscht wird.
Vor dem Löschen erscheint eine Sicherheitsabfrage.
Wenn ein Pull-Vorgang läuft, kann währenddessen kein Modell gelöscht werden.
7. Modell kopieren
Mit „Kopieren“ wird das ausgewählte Modell einschließlich Manifest und der benötigten Blob-Dateien in einen anderen Ollama-Modellordner kopiert.
Das Kopieren ist nur möglich, wenn das Modell in der aktuellen Modellliste steht.
Der aktive Quellordner muss eindeutig aus dem laufenden Ollama-Prozess ermittelt werden können. Dafür muss Ollama mit einem expliziten OLLAMA_MODELS-Ordner über Z-OllamaRun gestartet worden sein.
Nach dem Start wird der Zielordner ausgewählt. Quelle und Ziel dürfen nicht identisch sein. Der Zielordner darf außerdem nicht innerhalb des Quellordners liegen.
Die benötigten Modell-Blobs werden kopiert und mit SHA-256 geprüft. Fortschritt und Prüfschritte werden im Protokoll angezeigt.
Während des Kopiervorgangs wechselt die Beschriftung der Schaltfläche zu „Abbrechen“. Damit kann der laufende Kopiervorgang abgebrochen werden.
8. Windows Firewall
Der Bereich „Windows Firewall“ prüft und verwaltet die Firewall-Regel für den LAN-Zugriff auf Ollama.
Die Zielregel erlaubt eingehende TCP-Verbindungen auf den Ollama-Port für das lokale Subnetz.
Das bedeutet: Andere Geräte im gleichen privaten Netzwerk können den Ollama-Server erreichen. Die Regel ist nicht für das öffentliche Internet gedacht.
Firewall prüfen
Mit „Firewall prüfen“ kontrolliert Z-OllamaRun, ob eine passende eingehende Allow-Regel vorhanden ist.
Gesucht wird eine Regel für:
- TCP
- Port aus OLLAMA_HOST, normalerweise 11434
- Profil Private muss enthalten sein
- Profil Public darf nicht enthalten sein
- RemoteAddress LocalSubnet
Das Ergebnis wird im Protokoll angezeigt.
Firewall-Regel anlegen
Mit „Firewall-Regel anlegen“ erstellt oder aktualisiert Z-OllamaRun die eigene Firewall-Regel:
Z-OllamaRun Ollama API
Die Regel erlaubt eingehende Verbindungen aus dem lokalen Subnetz auf den Ollama-Port.
Für diese Aktion sind Administratorrechte erforderlich.
Firewall-Regel löschen
Mit „Firewall-Regel löschen“ entfernt Z-OllamaRun nur die eigene Firewall-Regel:
Z-OllamaRun Ollama API
Andere Firewall-Regeln werden nicht gelöscht.
Auch für diese Aktion sind Administratorrechte erforderlich.
9. Protokoll
Im Bereich „Protokoll“ zeigt Z-OllamaRun alle wichtigen Meldungen des Setup-Formulars an.
Dazu gehören zum Beispiel:
- gespeicherte Einstellungen
- Prüfergebnisse
- Warnungen
- Fehler
- Pull-Statusmeldungen
- Statusmeldungen zum Modellstart
- Fortschritt und Prüfschritte beim Kopieren von Modellen
- Firewall-Ergebnisse
Meldungen mit LEVEL=WARN sind Warnungen. Die Aktion wurde entweder nicht vollständig ausgeführt oder es gibt etwas, das geprüft werden sollte.
Meldungen mit LEVEL=ERROR sind Fehler. Die angeforderte Aktion konnte nicht ausgeführt werden.
10. Typischer Ablauf für LAN-Betrieb
Für einen einfachen LAN-Betrieb ist dieser Ablauf sinnvoll:
- Setup öffnen
- Bei „OLLAMA_HOST“ entweder „IP setzen“ oder „LAN setzen“ verwenden
- Ollama neu starten
- „Modelle prüfen“ ausführen
- „Firewall prüfen“ ausführen
- Bei fehlender Regel „Firewall-Regel anlegen“ ausführen
- Verbindung von einem anderen Gerät im LAN testen
Wenn der Rechner mehrere Netzwerkkarten hat, kann „IP setzen“ besser als „LAN setzen“ sein, weil Ollama dann nur auf der automatisch ermittelten IP-Adresse lauscht.
11. Ollama-Modellbibliothek und Anmeldung
Mit „Ollama-Modelle“ wird die offizielle Ollama-Modellbibliothek im Browser geöffnet.
Mit „Ollama Login“ wird die Ollama-Anmeldeseite geöffnet. Nach erfolgreicher Anmeldung wird der Windows-Rechner mit dem Ollama-Konto verknüpft und kann die für das Konto verfügbaren Cloud-Modelle über die lokale Ollama-Installation verwenden.
12. Wichtige Hinweise
- Das Setup startet Ollama nicht automatisch neu.
- Gespeicherte Änderungen an OLLAMA_HOST und OLLAMA_MODELS gelten erst beim nächsten Start von Ollama.
- Für Firewall-Änderungen werden Administratorrechte benötigt.
- Für den LAN-Betrieb sollte das Windows-Netzwerkprofil auf „Privat“ stehen.
- Ein öffentliches Netzwerkprofil ist für LAN-Freigaben nicht empfehlenswert.
- Z-OllamaRun macht Ollama sichtbar und besser kontrollierbar. Die eigentliche Modellnutzung erfolgt weiterhin über einen passenden Client oder über die Ollama-API.