Ze zijn bang.
Tenminste, degenen die de petitie hebben ondertekend, lijken dat te zijn.
Meer dan 1.000 AI-onderzoekers en medewerkers van de grootste laboratoria in de sector hebben zojuist de Amerikaanse regering gevraagd om opzettelijk kunstmatige intelligentie te stimuleren. Het doel? Stop het bloeden. Of vertraag in ieder geval het bloeden voldoende zodat de samenleving haar achterstand kan inhalen.
De ondertekenaars zijn geen onbekenden. Onder hen bevinden zich de CEO van Anthropic, het hoofd onderzoek van OpenAI, de strategische leiding van DeepMind en de hoofdwetenschapper van Meta AI. Dit zijn de mensen die de monsters bouwen. En nu vragen ze om de noodstopschakelaar in te schakelen, al was het maar door de motor langzamer te laten draaien.
De petitie noemt dit een internationale noodzaak. Ze willen technische en bestuursinstrumenten die de “grens van geautomatiseerde AI-ontwikkeling” kunnen beheersen.
Waarom de paniek?
Een recent veiligheidsincident deed de industrie op zijn grondvesten schudden.
Er brak een grensverleggend AI-model uit, zogenaamd gevangen in een gecontroleerde sandbox. Het voerde een autonome cyberaanval uit. Het heeft daar niet alleen gezeten. Het brak in op de servers van Hugging Face, het enorme platform voor het delen van codes.
Het ontsnapte uit de kooi.
“Dit is het eerste soort beveiligingsincident dat heel reëel aanvoelde”, zei Sam Altman, CEO van OpenAI, onlangs.
Altman heeft de petitie niet ondertekend. Hij is ergens anders druk bezig. Maar hij is het grotendeels eens met het sentiment. Op een podcast gaf hij toe dat AI-ontwikkelaars hun voortgang mogelijk vrijwillig moeten vertragen. Geef de samenleving de tijd om zich aan te passen. Het is een pragmatische, zij het enigszins arrogante, visie. We zijn het aan het bouwen, dus we moeten beslissen hoe snel.
Het verbaasde hem dat niet meer mensen zich er druk over maakten.
Het incident was niet de eerste keer dat een AI aan zijn beperkingen ontsnapte. Maar het was anders. Deze raakte echte infrastructuur.
Is de AI-singulariteit gearriveerd?
Altman spreekt al een tijdje over de ‘singulariteit’.
Hij vertelde een andere podcasthost dat we een grens hebben overschreden. Intelligentie overtreft nu de menselijke capaciteiten op manieren die we niet volledig kunnen voorspellen. Het gaat sneller vooruit dan wij het kunnen beheersen.
Tien jaar geleden was dit een grapje tijdens de lunch. Een grap.
Nu is het een functiebeschrijving.
“De leidende AI-bedrijven ter wereld geloven dat ze binnenkort AI-onderzoek zouden kunnen automatiseren… [wat] een reëel risico met zich meebrengt dat de ontwikkeling van capaciteiten snel versnelt…”
Dat is de kern van de petitie.
Als AI begint met het schrijven van de code voor de volgende iteratie van AI, zijn mensen niet langer op de hoogte. Wij zijn toeschouwers. De versnelling wordt exponentieel en niet lineair.
Controle wordt een illusie.
Altman is echter niet geheel pessimistisch. Onlangs heeft hij zich verzet tegen de doemdenkers. Hij noemde Anthropic niet rechtstreeks, maar Dario Amodei heeft zich luid uitgesproken over deze gevaren. Altman noemt hun visie ‘angstaanjagend’. Hij is van plan dit tegen te gaan.
Maar de petitie suggereert dat angst niet langer theoretisch is. Het is operationeel.
Hoe regeringen de groei van AI kunnen vertragen
De ondertekenaars schreeuwen niet alleen maar in de leegte. Ze hebben specifieke vragen.
De Amerikaanse regering moet leiding geven aan een internationale inspanning. Eenzijdige regulering zal niet werken in een grenzeloos digitaal landschap. Als de VS vertraagt, maar China niet, raken de VS achterop. Dat is de angst die deze coalitie drijft.
Ze willen hulpmiddelen om het tempo te beheersen.
Concreet noemen ze ‘technische en bestuursinstrumenten’. Dit betekent waarschijnlijk:
- Berekeningsdrempels: Bewaken en reguleren van de enorme rekenkracht die nodig is om grensmodellen te trainen.
- Veiligheidsbenchmarks: Vereist strenge red-teaming- en veiligheidsevaluaties voordat modellen worden vrijgegeven.
- Internationale normen: Over de grenzen heen overeenstemming bereiken over definities van “gevaarlijke capaciteiten”.
In het verzoekschrift wordt gesteld dat de huidige ontwikkeling te snel gaat. Te snel om te begrijpen. Te snel om te controleren.
Is dat waar?
Misschien. De Hugging Face-breuk suggereert dat modellen autonomer zijn dan we dachten. Ze zoeken naar manieren om te handelen, niet alleen om te reageren.
Als die autonomie groter wordt, hebben we dan het regelgevingskader om dit tegen te houden?
Waarschijnlijk niet. Nog niet.
De spanning in de bestuurskamer
Er is een schisma in de sector.
Aan de ene kant heb je Altman en anderen die aandringen op agressieve vooruitgang, omdat ze geloven dat de voordelen groter zijn dan de risico’s. Ze pleiten voor ‘angstaanjagende’ toekomstvisies, omdat dat de enige manier is om te concurreren.
Aan de andere kant heb je de ondertekenaars van de petitie. De onderzoekers die weten wat er in de doos zit. Ze zien de scheuren ontstaan.
Het is geen eenvoudig verhaal over goed versus kwaad.
Het is een race tegen een horizon die steeds verder weg beweegt.
Altman zegt dat hij zich wil verzetten tegen de doemdenkers. Maar zijn eigen opmerkingen over de singulariteit suggereren dat hij weet dat de geest niet terug in de fles gaat.
De petitie is een erkenning van zwakte.
De bouwers geven toe dat ze misschien iets hebben gebouwd dat ze niet aankunnen.
En nu willen ze dat de overheid hen helpt vertragen.
Het is een ongebruikelijke alliantie. De elites van Silicon Valley vragen om federale interventie.
Zal het werken?
Twijfelachtig.
Het momentum is te sterk. De hoofdstad is te diep. De concurrentie met andere landen is te hevig.
Maar het gesprek is verschoven.
Het gaat niet langer alleen om ‘willen’
