Chatbot opfandt refusionsordning til kunde hos flyselskab

Siden marts sidste år har det canadiske flyselskab Air Canada brugt en chatbot baseret på generativ AI. Målet var at frigøre tid, så kundekontakten kunne arbejde med mere komplekse sager. Med tiden skulle chatbotten også kunne overtage meget af deres arbejde, mente virksomheden.

Der var kun ét problem. Chatbotten begyndte at hallucinere og opfandt en refusionsordning til en kunde, der havde købt billet i forbindelse med et familiemedlems død. Flyselskbaet modsatte sig, men har tabt sagen i retten.

"Chatbotten er en separat juridisk enhed, der er ansvarlig for sine egne handlinger," skal flyselskabet have hævdet i retten.