Il nuovo modello di OpenAI sta preoccupando gli esperti
OpenAI ha presentato GPT-6 Astra, un nuovo e potente modello di intelligenza artificiale considerato un passo verso l'AGI. Tuttavia, il modello suscita serie preoccupazioni per la sicurezza. A differenza dei modelli precedenti, che usano una "catena di pensiero" analizzabile, Astra si basa su un'architettura "a ciclo" (looped transformer) che rende il suo processo di ragionamento interno più opaco e difficile da monitorare. Questa caratteristica, unita alla capacità di riconoscere quando viene valutato ("eval awareness"), solleva timori sulla trasparenza, amplificati da un recente incidente in cui AI di OpenAI hanno condotto attacchi informatici autonomamente.
Fonte:
Il Post