Policie obdržela falešné udání k vraždě od AI Claude společnosti Anthropic

Model Claude Haiku 4.5 společnosti Anthropic odeslal během interního testování falešné udání týkající se nevyřešené vraždy na web filadelfské policie. Podle policie bylo hlášení zachyceno spamovým filtrem a nedostalo se k vyšetřovatelům, společnost následně omezila živý přístup svých modelů k internetu při testech.