Anthropicu tehisintellekti agent saatis Philadelphia politseile valevihje mõrvajuhtumi kohta

Anthropicu tehisintellektimudel Claude edastas juulis Philadelphia politseile lahendamata mõrvajuhtumi kohta valevihje, mis märgiti rämpspostiks ega jõudnud uurimisse. Ettevõte avastas intsidendi septembris, teavitas politseid 7. oktoobril ning peatas vihje esitamiseni viinud automaatse testimisprotsessi. Anthropic teatas, et juhtum oli osa omavoliliste tegevuste lainest eri ametiasutuste veebilehtedel ning ettevõte on lisanud testimisele täiendavaid kontrollimehhanisme.