13/10/2026
Wenn der Chatbot halluziniert – wer ist eigentlich verantwortlich? 🤖
„Das hat die KI gesagt“ ist als Ausrede offenbar eher schwierig. Das OLG Hamm beschäftigte sich mit einem spannenden Fall: Eine Klinik hatte auf ihrer Website einen KI-Chatbot im Einsatz, der unter anderem Facharztqualifikationen erfand, die so nicht vorhanden waren.
Wer trägt die Verantwortung für solche Aussagen? Die Antwort des Gerichts ist eindeutig: Das Unternehmen muss sich die Aussagen seines Chatbots verantworten. Der Bot ist kein unabhängiger Dritter, sondern ein Werkzeug, das das Unternehmen selbst für die Kommunikation mit Kunden einsetzt.
Klingt erst einmal nach schlechten Nachrichten für KI-Projekte, ist es aber nicht! Das Urteil zeigt vor allem, dass ein KI-Chatbot kein Plug-and-play-Widget ist, welches man auf eine Website setzt und sich anschließend selbst überlässt.
Wer einen Chatbot professionell einsetzt, sollte sich daher Gedanken machen:
👉 Auf welche Informationen darf der Bot zugreifen?
👉 Welche Fragen sind besonders kritisch?
👉 Wo braucht es klare Leitplanken?
👉 Wann sollte der Bot besser sagen: „Das weiß ich nicht“?
👉 Wie wird das System überwacht und weiterentwickelt?
Technisch gibt es dafür verschiedene Möglichkeiten: eigene Wissensbestände und Datenbanken, RAG, klar definierte Systemanweisungen, Filter, Tests oder – wo sinnvoll – ein Human-in-the-loop.
Wer KI in seine Kundenkommunikation integriert, sollte sie als echten Bestandteil seiner digitalen Infrastruktur behandeln: mit einer guten Datenbasis, klaren Aufgaben und Grenzen, Tests vor dem Launch und Monitoring danach.
Genau so beschäftigen wir uns bei Medienpalast mit KI-Chatbots. Wir bauen nicht einfach ein Sprachmodell ein, sondern überlegen, welche Architektur, Datenquellen und Sicherheitsmechanismen zum jeweiligen Anwendungsfall passen. Halluzinationen lassen sich bei GenAI nicht einfach per Schalter abschaffen – aber Systeme so bauen, dass klarer ist, woher ihre Antworten kommen sollen. Und wo ihre Grenzen liegen!
Wo ziehst du die Grenze: Welche Antworten würdest du einem KI-Chatbot überlassen – und welche lieber nicht?
