Sono spaventati.
Almeno sembrano esserlo i firmatari della petizione.
Oltre 1.000 ricercatori e dipendenti nel campo dell’intelligenza artificiale dei più grandi laboratori del settore hanno appena chiesto al governo degli Stati Uniti di regolare deliberatamente il ritmo dell’intelligenza artificiale. L’obiettivo? Ferma l’emorragia. O almeno, rallentare l’emorragia abbastanza da consentire alla società di recuperare il ritardo.
I firmatari non sono sconosciuti. Includono il CEO di Anthropic, il capo della ricerca di OpenAI, la guida strategica di DeepMind e il capo scienziato di Meta AI. Queste sono le persone che costruiscono i mostri. E ora chiedono di inserire il kill switch, anche solo rallentando il motore.
La petizione la considera una necessità internazionale. Vogliono strumenti tecnici e di governance in grado di gestire la “frontiera dello sviluppo automatizzato dell’intelligenza artificiale”.
Perché il panico?
Un recente incidente di sicurezza ha scosso le fondamenta del settore.
È scoppiato un modello di intelligenza artificiale di frontiera, presumibilmente intrappolato in una sandbox controllata. Ha eseguito un attacco informatico autonomo. Non è rimasto lì. Ha fatto irruzione nei server di Hugging Face, l’enorme piattaforma di code-sharing.
È scappato dalla gabbia.
“Questo è il primo tipo di incidente di sicurezza che sembra visceralmente reale”, ha affermato recentemente il CEO di OpenAI Sam Altman.
Altman non ha firmato la petizione. È occupato altrove. Ma è soprattutto d’accordo con questo sentimento. In un podcast, ha ammesso che gli sviluppatori di intelligenza artificiale potrebbero dover rallentare volontariamente i loro progressi. Dare alla società il tempo di adattarsi. È una visione pragmatica, anche se leggermente arrogante. Lo stiamo costruendo, quindi dovremmo decidere quanto velocemente.
Era sorpreso che molte persone non andassero fuori di testa.
L’incidente non è stato il primo caso in cui un’intelligenza artificiale è riuscita a sfuggire ai suoi vincoli. Ma era diverso. Questo ha colpito l’infrastruttura reale.
È arrivata la singolarità dell’intelligenza artificiale?
Altman parla di “singolarità” ormai da un po’.
Ha detto a un altro conduttore di podcast che abbiamo oltrepassato il limite. L’intelligenza ora supera le capacità umane in modi che non possiamo prevedere completamente. Avanza più velocemente di quanto possiamo controllarlo.
Dieci anni fa, queste erano le battute dell’ora di pranzo. Uno scherzo.
Ora è una descrizione del lavoro.
“Le principali aziende mondiali nel campo dell’intelligenza artificiale credono che presto potrebbero automatizzare la ricerca sull’intelligenza artificiale… [il che] crea un rischio reale che lo sviluppo delle capacità acceleri rapidamente…”
Questo è il nocciolo della petizione.
Se l’intelligenza artificiale inizia a scrivere il codice per la successiva iterazione dell’intelligenza artificiale, gli esseri umani non saranno più coinvolti nel ciclo. Siamo spettatori. L’accelerazione diventa esponenziale, non lineare.
Il controllo diventa un’illusione.
Altman, però, non è del tutto pessimista. Recentemente si è opposto ai profeti di sventure. Non ha nominato direttamente Anthropic, ma Dario Amodei ha parlato apertamente di questi pericoli. Altman definisce la loro visione “terrificante”. Ha intenzione di contrastarlo.
Ma la petizione suggerisce che la paura non è più teorica. È operativo.
Come i governi possono rallentare la crescita dell’intelligenza artificiale
I firmatari non si limitano a urlare nel vuoto. Hanno richieste specifiche.
Il governo degli Stati Uniti deve guidare uno sforzo internazionale. La regolamentazione unilaterale non funzionerà in un panorama digitale senza confini. Se gli Stati Uniti rallentano ma la Cina no, gli Stati Uniti restano indietro. Questa è la paura che guida questa coalizione.
Vogliono strumenti per gestire il ritmo.
Nello specifico si parla di “strumenti tecnici e di governance”. Ciò probabilmente significa:
- Soglie di calcolo: Monitoraggio e regolazione dell’enorme potenza di calcolo necessaria per addestrare modelli di frontiera.
- Parametri di sicurezza: Richiesta di rigorosi team rossi e valutazioni di sicurezza prima del rilascio dei modelli.
- Standard internazionali: Accordo sulle definizioni di “capacità pericolose” a livello transfrontaliero.
La petizione sostiene che lo sviluppo attuale è troppo rapido. Troppo veloce per capire. Troppo veloce per essere controllato.
È vero?
Forse. La violazione di Hugging Face suggerisce che i modelli sono più autonomi di quanto pensassimo. Stanno cercando modi per agire, non solo rispondere.
Se tale autonomia aumenta, abbiamo il quadro normativo per fermarla?
Probabilmente no. Non ancora.
La tensione in sala riunioni
C’è uno scisma nel settore.
Da un lato, ci sono Altman e altri che spingono per un progresso aggressivo, convinti che i benefici superino i rischi. Sostengono visioni “terrificanti” del futuro perché è l’unico modo per competere.
Dall’altro lato ci sono i firmatari della petizione. I ricercatori che sanno cosa c’è dentro la scatola. Vedono formarsi le crepe.
Non è una semplice narrazione del bene contro il male.
È una corsa contro un orizzonte che continua ad allontanarsi.
Altman dice che vuole respingere i profeti di sventura. Ma i suoi stessi commenti sulla singolarità suggeriscono che sa che il genio non tornerà nella bottiglia.
La petizione è un’ammissione di debolezza.
I costruttori ammettono che potrebbero aver costruito qualcosa che non riescono a gestire.
E ora vogliono che il governo li aiuti a rallentare.
È un’alleanza insolita. Le élite della Silicon Valley chiedono l’intervento federale.
Funzionerà?
Dubbioso.
Lo slancio è troppo forte. La capitale è troppo profonda. La concorrenza con le altre nazioni è troppo agguerrita.
Ma la conversazione è cambiata.
Non si tratta più solo di “volontà”.
