Künstliche IntelligenzÄrzte haften für halluzinierende Chatbots!

Es ist irreführend und daher rechtswidrig, einem Arzt einen Facharzttitel zuzuschreiben, wenn dieser tatsächlich keine entsprechende Weiterbildung absolviert hat. Dies gilt auch, wenn die Falschbezeichnung durch ein Computerprogramm – etwa einen „Chatbot“ – technisch gestützt oder automatisiert erfolgt (Oberlandesgericht [OLG] Hamm, Urteil vom 12.05.2026, Az. 4 UKl 3/25).

Chatbot auf Klinik-Website informiert Nutzer falsch

Eine unter anderem minimalinvasive Beautybehandlungen anbietende GmbH hatte auf ihrer Webseite einen Chatbot zur Kommunikation und Terminbuchung implementiert. Der Chatbot antwortete auf die Frage, ob es sich bei ihren beiden als „Dr. Rick“ und „Dr. Nick“ bekannten Geschäftsführern um Fachärzte handele, ohne menschliches Zutun und auf von außen nicht nachvollziehbare Weise wahrheitswidrig, die beiden seien Fachärzte für plastische und ästhetische Chirurgie bzw. Fachärzte für ästhetische Medizin.

Das OLG hielt die GmbH für den Betrieb des Chatbots verantwortlich und verurteilte die Geschäftsführer zur Unterlassung und Kostentragung.

OLG: KI-Einsatz ist geschäftliche Handlung der Betreiber

Beim Einsatz künstlicher Intelligenz (KI) handele es sich um eine geschäftliche Handlung der das System betreibenden Praxis. Dieser sei zumutbar gewesen, vor der Inbetriebnahme des Chatbots sicherzustellen, dass die Anwendung keine unzutreffenden Auskünfte zur Facharztqualifikation der bei ihr tätigen Ärztinnen und Ärzte gibt. Es hätte klar sein müssen, dass der Bot auf die naheliegende Frage nach der Facharztqualifikation der medial bekannten Geschäftsführer der Praxis unzutreffende Antworten halluzinieren könnte, was letztlich auch geschah. Die erteilte Falschinformation stelle eine rechtlich unzulässige Irreführung dar.