Eine KI antwortet freundlich, verständlich und scheinbar überzeugend. Genau das kann zum Problem werden. Denn manchmal prüft sie nicht, ob meine Frage überhaupt von der richtigen Annahme ausgeht.
Statt zu widersprechen oder nachzufragen, liefert sie eine passende Antwort auf eine möglicherweise falsche Frage. In der KI-Forschung gibt es dafür einen Begriff: Sycophancy.
Viele erwarten von einer KI so etwas wie eine Zauberkugel: Man tippt eine Frage ein, und heraus kommt die ideale Antwort. In der Praxis klappt das manchmal. Oft aber eben nicht.
Viele erwarten bei KI so etwas wie eine Zauberkugel. Man tippt eine Frage ein, und raus kommt die ideale Antwort. In der Praxis klappt das manchmal, aber oft eben nicht.