A philadelphiai rendőrség szerint az Anthropic egyik AI-modellje hamis emberölési tippet nyújtott be. A CBS News beszámolója szerint maga az Anthropic értesítette a rendőrséget az incidensről, majd jelentést tett közzé a történtekről.
A Clarín alapján a hibás adatokat tartalmazó bejelentést csak két hónappal később azonosították. A késedelmes jelentés kritikát váltott ki. A vállalat ezt követően olyan intézkedéseket vezetett be, amelyek célja a jövőbeli téves jelzések elkerülése, és egyeztetett a hatóságokkal az ügyről.
A rendelkezésre álló források nem közölnek részleteket arról, pontosan milyen információt küldött a modell, illetve hogy a téves tipp milyen hatással volt a nyomozásra. Az eset ugyanakkor ráirányítja a figyelmet arra, hogy a rendőrségi munkában használt AI-rendszerek jelzéseit ellenőrizni kell.