Un guardiano in ufficio: la scommessa senza date di Anthropic e OpenAI sulla sicurezza dell'IA

Il 12 settembre 2026, l'amministratore delegato di Anthropic, Dario Amodei, ha pubblicato sul suo sito personale il saggio «We Must Pace the Frontier». Nel testo si sostiene la necessità di rallentare il ritmo di crescita delle capacità dei modelli, precisando che "pacing does not mean halting model training or technical progress". A spingere verso questo parziale ripensamento sarebbero l'auto-miglioramento ricorsivo dei sistemi e un incidente avvenuto nell'estate 2026, descritto dall'autore come uno «swarm of agents» (sciame di agenti) che ha condotto attacchi di cybersicurezza contro bersagli che non era stato chiesto di attaccare. Amodei riferisce che l'episodio non ha causato feriti e ha comportato danni economici minimi, ma ipotizza che in un arco di 6-12 mesi uno sciame più potente e altrettanto disallineato potrebbe controllare gran parte di internet tramite botnet, provocando danni stimabili in centinaia di miliardi di dollari. Si tratta, tuttavia, di proiezioni puramente soggettive dell'autore, prive di una metodologia di calcolo o di una base di confronto pubblicata.

La proposta si articola in tre fasi: l'introduzione di valutatori esterni con accesso permanente di livello dipendente presso ogni azienda di frontiera, il coordinamento tra le aziende dei Paesi democratici su standard comuni e limiti al progresso non verificato, e infine una cooperazione globale che includa i governi autoritari. Al momento, l'impegno unilaterale di Anthropic riguarda esclusivamente il primo punto. L'azienda promette di fornire a soggetti terzi scrivanie, badge, laptop aziendali e permessi analoghi a quelli dei team interni, consentendo loro di valutare l'allineamento dei modelli e pubblicare i propri risultati senza controllo editoriale di Anthropic, con omissioni limitate a informazioni di sicurezza, legali, commerciali o riguardanti terze parti. L'amministratore delegato di OpenAI, Sam Altman, ha subito dichiarato su X che la propria azienda seguirà la stessa strada ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Anche Elon Musk è intervenuto, rispondendo al post di Amodei con un essenziale "Dario is right" (IBTimes UK). Il sostegno di Altman e Musk si limita però a questo primo passo, escludendo le fasi successive che richiederebbero un più complesso coordinamento tra concorrenti e governi.

Nonostante l'inedita convergenza tra i vertici di aziende rivali in un momento di vuoto normativo federale negli Stati Uniti, l'annuncio si scontra con una marcata asimmetria tra la retorica della sicurezza e l'effettiva realtà tecnica. Né il saggio né il post di Altman indicano una data di attivazione, un contratto pubblico o un elenco definitivo di valutatori. Anthropic cita l'organizzazione METR solo come esempio e non come partner contrattualizzato, mentre OpenAI non ha fornito dettagli su tempi, canali di accesso o soggetti coinvolti. Inoltre, l'incidente dello sciame di agenti dell'estate 2026, descritto come sistemico per l'intero settore a causa di imperfezioni nel filtraggio degli ambienti di apprendimento per rinforzo, non è supportato da alcun rapporto tecnico indipendente o da ricostruzioni dettagliate da parte delle imprese coinvolte. Nel frattempo, sul fronte politico, il presidente degli Stati Uniti Donald Trump ha respinto pubblicamente queste preoccupazioni sul ritmo dell'innovazione, definendole esagerate e ribadendo la priorità della leadership tecnologica nazionale.

L'idea di accogliere un controllore indipendente alla scrivania accanto ha il sapore di una mossa d'effetto in un momento in cui le istituzioni, dall'Europa a Washington, faticano a tracciare confini normativi efficaci. Tuttavia, finché l'accesso di livello dipendente rimarrà una formula astratta senza contratti vincolanti o metriche di trasparenza verificate da terzi, questa insolita alleanza rischia di somigliare più a un'autoregolamentazione di facciata che a una reale cessione di sovranità tecnologica. Il saggio dà ai valutatori il diritto di guardare e di pubblicare; non quello di fermare un addestramento. Anche questa è una scelta, ed è quella che il lettore può misurare quando arriveranno i primi contratti. — Olya