Anthropic: sospeso l'accesso a Fable 5 e Mythos 5 per direttiva del Governo USA
Anthropic ha reso noto che il Governo degli Stati Uniti ha emesso una direttiva di controllo delle esportazioni, basata su prerogative di sicurezza nazionale, che impone la sospensione di ogni accesso ai modelli Fable 5 e Mythos 5 per i cittadini stranieri in tutto il mondo, incluso il personale di nazionalità non statunitense. Per garantire la conformità, entrambi i modelli sono stati disattivati per tutti i clienti, mentre gli altri modelli Anthropic non sono interessati.
La direttiva è stata ricevuta alle 17:21 (ora della costa orientale degli Stati Uniti). Il Governo ha espresso preoccupazione riguardo a una potenziale tecnica di jailbreak, dimostrando un metodo che ha però rivelato soltanto vulnerabilità minori e già note, relativamente semplici e individuabili anche da modelli comparabili senza ricorrere a tecniche di elusione.
Anthropic sottolinea che il proprio approccio alle salvaguardie ha incluso un'estesa attività di red-teaming con agenzie governative, organizzazioni terze e team interni, e che i test hanno mostrato salvaguardie nettamente superiori rispetto ai modelli precedenti. L'azienda riconosce tuttavia che una resistenza perfetta al jailbreak non appare oggi raggiungibile e adotta una strategia di “difesa in profondità”, che combina l'elevata difficoltà di jailbreak con capacità di monitoraggio.
Esaminato il jailbreak potenziale divulgato — in sostanza la richiesta al modello di analizzare specifiche basi di codice alla ricerca di difetti software — Anthropic ha confermato che tale capacità è ampiamente diffusa tra i modelli concorrenti. L'azienda non condivide l'idea che la scoperta di un jailbreak circoscritto giustifichi il ritiro di un modello già in produzione e al servizio di centinaia di milioni di utenti, sostenendo che un simile criterio bloccherebbe l'intero settore dei modelli di frontiera.
Pur ottemperando alla direttiva, Anthropic dichiara di non condividere la decisione e ritiene che il Governo dovrebbe ricorrere a processi statutari trasparenti, equi e tecnicamente fondati per bloccare eventuali deployment non sicuri. L'azienda si scusa per il disservizio arrecato ai clienti e sta lavorando per ripristinare l'accesso.