KI Halluzination

Wenn KI uns nach dem Mund redet

KI-DialogEine KI antwortet freundlich, verständlich und scheinbar überzeugend. Genau das kann zum Problem werden. Denn manchmal prüft sie nicht, ob meine Frage überhaupt von der richtigen Annahme ausgeht.

Statt zu widersprechen oder nachzufragen, liefert sie eine passende Antwort auf eine möglicherweise falsche Frage. In der KI-Forschung gibt es dafür einen Begriff: Sycophancy.

Weiterlesen …

KI Halluzinationen

KI HalluzinationenIm Netz wird dir gerade verkauft: „Gib der KI eine Rolle, dann wird sie besser.“ Also sowas wie „Du bist ein Senior Admin“ oder „Du bist ein erfahrener Entwickler“. Ja, das kann helfen, weil es die Antwort in eine Richtung schiebt. Aber es ist auch eine fiese Falle, weil die KI dann nicht nur anders schreibt, sondern oft auch so tut, als wüsste sie es wirklich. Und da frage ich mich schon:

Haben die Autoren das wirklich in der Praxis getestet, oder klingt es nur gut auf dem Papier?

Weiterlesen …