Mistral AI ist ein französischer Anbieter für KI Modelle und wurde 2023 in Paris gegründet. Die Firma ist vor allem deshalb interessant, weil sie sich nicht nur als weiterer Cloud Anbieter positioniert, sondern auch offene und kommerzielle Modelle anbietet. Mistral entwickelt also nicht einfach nur einen einzelnen Chatbot, sondern eine ganze Modellfamilie, die je nach Einsatz über API, Cloud Anbieter oder auch lokal genutzt werden kann.
E-Mails mit der lokalen KI
In dieser Rubrik schreibe ich über meine Praxis mit E-Mails und lokaler KI. Dabei geht es um eigene Tests, vorhandene Antwortvorlagen, lokale Sprachmodelle und die Frage, wie sich wiederkehrende E-Mail Aufgaben sinnvoll unterstützen oder teilweise automatisieren lassen. Mich interessiert dabei nicht die Show rund um KI, sondern was am eigenen Rechner im Alltag wirklich brauchbar ist.
E-Mails mit der lokalen KI – RAG
Brauche ich für vorhandene Antwortvorlagen schon ein RAG System?
Wer sich mit KI bei der Bearbeitung von E-Mails beschäftigt, stößt früher oder später auf den Begriff RAG. Gemeint ist damit vereinfacht gesagt eine KI mit Nachschlagefunktion. Bevor die Antwort geschrieben wird, sucht das System in vorhandenen Wissensquellen nach passenden Inhalten, zum Beispiel in Dokumenten, Handbüchern, alten E-Mails oder Datenbanken. Erst danach formuliert die KI daraus eine Antwort.
E-Mails mit der lokalen KI – Prompt
Ich arbeite seit vielen Jahren im Homeoffice. Zu meinen täglichen Aufgaben gehört die Bearbeitung von Kundenanfragen per E-Mail. Dafür gehen pro Tag schnell ein bis zwei Stunden drauf. Das klingt von außen erst einmal recht angenehm, auf Dauer kann diese Arbeit aber ziemlich nerven. Zwar habe ich mir im Laufe der Zeit einige fertige Antwortvorlagen aufgebaut, ganz ohne Nacharbeit geht es trotzdem fast nie. Irgendetwas muss fast immer an den jeweiligen Kunden angepasst, sprachlich geglättet oder erst einmal sauber eingeordnet werden.