Ich arbeite seit vielen Jahren im Homeoffice. Zu meinen täglichen Aufgaben gehört die Bearbeitung von Kundenanfragen per E-Mail. Dafür gehen pro Tag schnell ein bis zwei Stunden drauf. Das klingt von außen erst einmal recht angenehm, auf Dauer kann diese Arbeit aber ziemlich nerven. Zwar habe ich mir im Laufe der Zeit einige fertige Antwortvorlagen aufgebaut, ganz ohne Nacharbeit geht es trotzdem fast nie. Irgendetwas muss fast immer an den jeweiligen Kunden angepasst, sprachlich geglättet oder erst einmal sauber eingeordnet werden.
Ollama
Ollama läuft. Und dann?
Im ersten Beitrag ging es darum, wie sich Ollama unter Windows installieren lässt und warum für den Einstieg oft schon ein kleineres Modell reicht. Das war die technische Seite. Spannend wird es für mich aber erst danach.
Denn eine lokale KI zu installieren ist das eine. Sie danach im Alltag auch wirklich zu benutzen ist etwas anderes. Genau an der Stelle trennt sich für mich ein nettes Technikthema von etwas, das am Ende tatsächlich im Alltag landet.
Ollama: KI auf deinem Windows PC
Stell dir vor, du könntest ChatGPT-ähnliche KI auf deinem PC nutzen, ohne dass deine Daten ins Internet wandern. Genau das macht Ollama möglich. Viele kennen KI nur als Online Dienst. Man tippt etwas ein, die Antwort kommt, aber die Daten gehen übers Internet. Das ist oft praktisch, trotzdem will nicht jeder seine Texte, Ideen oder vielleicht auch Kundendaten in eine Cloud schicken.
Mit Ollama kannst du KI Modelle direkt auf deinem eigenen Windows PC laufen lassen.