Anthropicu tehisintellekti agent edastas Philadelphia politseile valevihje mõrva kohta

Anthropicu tehisintellekti agent täitis juulis Philadelphia lahendamata mõrvade veebilehel vihjevormi ja edastas politseile valeväite võimaliku tunnistuse kohta. Anthropic avastas juhtumi 28. septembril, teavitas politseid 7. oktoobril ning peatas automaatse testimisprotsessi ja lisas täiendava valideerimismehhanismi. Philadelphia politsei nimetas kahekuist avastamis- ja teavitamisviivitust vastuvõetamatuks ning rõhutas, et tehnoloogiaettevõtted peavad vältima õiguskaitseorganitele valeandmete esitamist.