Wenn von einem KI-Server die Rede ist, denken viele vermutlich zuerst an einen großen Rechner mit mehreren teuren Grafikkarten. Dabei kann ein KI-Server auch ein ganz normaler Windows-PC sein. Sogar ein älterer, gebrauchter Bürorechner kommt dafür infrage.
Für mich ist genau das einer der interessanten Punkte bei der lokalen KI. Ich muss nicht auf jedem Rechner, mit dem ich arbeite, Ollama und die gewünschten KI-Modelle installieren.
Stattdessen kann ein einzelner Rechner im Netzwerk diese Aufgabe übernehmen. Das ist gerade dann praktisch, wenn ich mal am Arbeitsplatz-PC und mal am Notebook sitze. Die KI steht auf beiden Geräten zur Verfügung, ohne dass ich die Modelle mehrfach vorhalten muss.