Dario Amodei, CEO di Anthropic, esorta l'industria AI a rallentare il ritmo di miglioramento dei modelli per garantire sicurezza e allineamento. La sua preoccupazione è che sciami di agenti AI possano, entro 6-12 mesi, creare botnet persistenti con danni per miliardi di dollari. Anthropic si impegna a integrare valutatori di terze parti con accesso simile a quello del personale interno. Amodei ha chiesto a Washington una deroga antitrust per permettere ai concorrenti di coordinarsi sulla sicurezza. L'articolo evidenzia come molte di queste misure siano già legge nell'UE dal 2025 con l'AI Act, un aspetto non menzionato da Amodei.