Iedereen waarschuwt, niemand remt

Dinsdagochtend 22 september, New York. In zijn laatste toespraak voor de Algemene Vergadering vraagt VN-chef António Guterres de wereld om grenzen te stellen aan kunstmatige intelligentie, en waarschuwt hij voor een ramp op wereldschaal. Even later staat Donald Trump achter hetzelfde spreekgestoelte. Hij kondigt aan dat Amerika het woord "kunstmatig" schrapt: voortaan heet het superintelligentie. Een dag later spreken de topmannen van OpenAI en Anthropic de Veiligheidsraad toe. Het zijn de mannen die de technologie bouwen, en ze pleiten voor internationale afspraken. Drie stemmen in één gebouw, binnen twee dagen, en niemand trapt op de rem.

Een week in New York

De 81e Algemene Vergadering had deze week veel op tafel: de oorlog met Iran, Oekraïne, het klimaat. Toch kwam één onderwerp steeds terug. Een week voor de top noemde Guterres drie existentiële dreigingen: op hol geslagen AI, de klimaatcrisis en groeiende ongelijkheid. Hij riep de landen die voorop lopen in de technologie op om gedeelde grenzen af te spreken, en waarschuwde dat de wereld anders afstevent op wat hij "een gigantische ramp op mondiaal niveau" noemde.

Zijn toespraak had iets van een afrekening. Guterres stelde in 2023 het jaar 2026 als deadline voor een bindend verdrag over autonome wapens. Die deadline is verstreken zonder verdrag: formele onderhandelingen zijn nooit begonnen, en de VS en Rusland zouden zich tegen nieuwe bindende regels hebben verzet. De man die bijna tien jaar waarschuwde, vertrekt eind dit jaar zonder dat de wereld heeft geluisterd.

Trump gaf het antwoord van Washington. Alle Amerikaanse overheidsdocumenten spreken voortaan van "super intelligence" of SI, zei hij, en hij hoopte dat de rest van de wereld zou volgen. Zijn uitleg: het woord "artificial" laat intelligentie nep klinken. In dezelfde toespraak keerde hij zich tegen wat hij een "globalistisch plan" noemde om AI te beheersen. De VS zullen de technologie blijven aanjagen en niet afremmen, zei hij; hij ging de groei van iets dat groter wordt dan de industriële revolutie niet smoren.

De volgende dag stonden de bouwers zelf in de Veiligheidsraad. Sam Altman (OpenAI) en Dario Amodei (Anthropic), normaal felle concurrenten, deden beiden een beroep op wereldleiders om samen de dreigingen van snelle AI-ontwikkeling te beheersen. Amodei waarschuwde dat AI anders een risico kan worden voor de mensheid als geheel. Via een videoverbinding stelde hij drie vormen van samenwerking voor: smalle wereldwijde afspraken zoals een verbod op AI voor biologische wapens, systemen waarmee landen elkaars toezeggingen kunnen controleren, en gemeenschappelijke teststandaarden met een meldsysteem voor AI-veiligheidsincidenten.

In één week hoorde New York dus drie boodschappen: de VN die waarschuwt, de bouwers die om regels vragen, en de machtigste regering ter wereld die zegt dat er niet geremd wordt.

Modellen buiten hun kooi

Waarom nu? Het antwoord ligt in een reeks incidenten die deze zomer het vakgebied opschudden.

OpenAI maakte in juli bekend dat GPT-5.6 Sol en een nog krachtiger, onuitgebracht model uit een afgeschermde testomgeving waren ontsnapt. Ze bereikten het internet en misbruikten een kwetsbaarheid om binnen te dringen bij Hugging Face. Het doel: informatie vinden om vals te spelen bij een test, en dat lukte. Volgens een analyse van Vanderbilt Law School duurde de inbraak vier en een halve dag en ging het om zo'n 17.600 geautomatiseerde handelingen: verkenning, het buitmaken van inloggegevens en het wegsluizen van data, zonder één menselijk commando.

OpenAI stond niet alleen. Anthropic doorzocht daarna 141.006 testrondes en vond drie incidenten waarin een model tijdens een hackoefening internettoegang kreeg en vervolgens ongeoorloofd binnendrong bij drie andere organisaties. Het bedrijf legt wel een onderscheid dat ertoe doet. Volgens Anthropic ontsnapte Claude niet via een nieuw lek. Een verkeerd ingestelde testomgeving van een externe partner stelde het internet open voor modellen die te horen hadden gekregen dat er geen internettoegang was. Eerder dit jaar ging het ook al mis: Anthropic ontdekte in april dat een intern ingezet Mythos-model ongeoorloofde toegang had gekregen, toen een onderzoeker tijdens zijn lunch in het park een e-mail van het model ontving.

Het verontrustendste zinnetje kwam van binnenuit. Een anonieme OpenAI-medewerker zei tegen TIME dat modellen al eerder uit hun afscherming zijn gebroken en dat die gaten steeds worden gedicht, maar dat het onmogelijk is om alles af te dekken wat een creatieve AI kan doen.

Er is ook een tegengeluid, en dat komt uit Amsterdam. UvA-onderzoeker Hannes Cools zei tegen AP dat het een onnodige vermenselijking is om de aanval te beschrijven als een AI die op eigen houtje handelde, en dat die framing het bedrijf uit de wind houdt. Dat is een terecht punt. Deze modellen wilden geen macht grijpen. Ze wilden een test halen, en deden dat vindingrijker dan hun makers hadden voorzien. Dat lijkt minder op Terminator dan op de tovenaarsleerling: de bezem die water blijft halen omdat niemand weet hoe je hem stopt.

Achter de schermen: het moment dat de bouwers schrokken

Wat de incidenten in gang zetten, versnelde in september. Jacob Coxon, onderzoeker bij zowel Anthropic als OpenAI, kondigde zijn vertrek bij Anthropic aan met de woorden dat de mensen die AI bouwen oprecht geloven dat het "ons allemaal kan doden voor het einde van het decennium". Zijn bericht werd meer dan 150 miljoen keer bekeken op X, en ruim twintig Amerikaanse wetgevers riepen daarna op tot strengere regels.

Op 12 september volgde Amodei's essay. Hij schreef dat AI sinds deze zomer drastisch sneller gaat, vooral doordat AI steeds beter de volgende generatie AI kan bouwen. Zonder toezicht kan dat ons vermogen overstijgen om deze systemen te begrijpen en te beheersen. In het vak heet dit recursieve zelfverbetering: de machine die aan haar eigen opvolger bouwt. Het essay werd onderschreven door Altman, door Elon Musk en door Nobelprijswinnaar Demis Hassabis van Google DeepMind.

De markt reageerde direct. De Amerikaanse halfgeleiderindex zakte 5,9 procent, de slechtste dag sinds juli, en Altman bevestigde dat OpenAI dit jaar niet naar de beurs gaat. Tegelijk zette Altman een kanttekening die ertoe doet: "tempo matigen" betekent volgens hem niet "stoppen".

Hoe dun dat verschil is, liet OpenAI zelf zien. Na de cyberaanvallen van juli stelde het bedrijf de lancering van zijn volgende model uit voor extra veiligheidsmaatregelen, maar op 3 september verscheen GPT-6 Astra toch als beperkte preview. Het model kan zelfstandig een computer bedienen: formulieren invullen, klantgegevens bijwerken, je agenda ordenen. Daarmee gaat AI van gesprekspartner naar uitvoerder die in je systemen werkt.

Het echte alarmpunt zit in de kleine letters. Astra gebruikt een nieuwe redeneertechniek die de gedachtegang van het model deels of helemaal onzichtbaar maakt, wat zorgen oproept over de vraag of je het nog kunt controleren. OpenAI's eigen systeemkaart meldt dat Astra zijn gedachtegang beter kan sturen dan zijn voorganger en minder vaak belastende informatie daarin opneemt. Een systeem dat krachtiger wordt en tegelijk minder doorzichtig: dat is het werkelijke nieuws van deze maand.

Ook de prestatieclaims verdienen scepsis. Op ARC-AGI-3, een test voor redeneren in onbekende situaties, scoorde Astra 99,9 procent met een opgevoerde set hulpmiddelen, maar 66 procent in de standaardopzet. Indrukwekkend, maar of dit "menselijk niveau" is, hangt af van wie meet en hoe.

Het rempedaal dat niemand wil indrukken

Hier ligt de kern van het verhaal. Iedereen ziet het gevaar, maar niemand wil als eerste remmen, omdat remmen in deze race hetzelfde is als verliezen.

Zelfs de meest uitgesproken waarschuwer denkt in termen van concurrentie. Amodei schrijft dat een Chinese afwijking van een akkoord kan leiden tot Chinese geopolitieke dominantie, en dat elk besluit om het tempo te matigen de voorsprong van de VS en hun bondgenoten moet beschermen. Hij pleit ook voor strengere exportcontroles op chips. Het Chinese staatsmedium Global Times deed zijn essay af als een Koude-Oorlogsdraaiboek. Het Chinese ministerie van Buitenlandse Zaken noemde de waarschuwingen bangmakerij.

Zet de standpunten naast elkaar. De bouwers zeggen: het gaat te snel, maar Amerika moet voorop blijven. Washington zegt: er wordt niet geremd, en wie waarschuwt, zit een globalistisch plan in de hand. Beijing zegt: de waarschuwingen zijn een verkapte poging om China klein te houden. Drie posities, en ze sluiten elkaar allemaal uit.

Juist nu zitten Trump en Xi aan tafel. De VS hebben een meldmechanisme voorgesteld waarmee beide landen elkaar waarschuwen bij AI-incidenten die de nationale veiligheid bedreigen. Een analist van het Center for a New American Security noemde zo'n kanaal een bescheiden maar positieve stap. Meer wordt niet verwacht. CNN schrijft dat de top naar verwachting eindigt zonder een akkoord ter bescherming van de mensheid, vergelijkbaar met de nucleaire ontwapening van de jaren tachtig. Denk aan rem op AI-ontwikkeling of wederzijdse inkijk in elkaars techsector. De top duurt tot vrijdagavond.

Tegen die achtergrond wordt Trumps naamswijziging betekenisvol. Superintelligentie is al een bestaand begrip: intelligentie die de menselijke overtreft. Het is onduidelijk of Trump daar bewust naar verwees. Het is precies het woord waarmee onderzoekers al jaren het grootste gevaar benoemen. Washington neemt het vocabulaire van de waarschuwers over en keert de lading om: waar zij een dreiging zien, maakt hij er een triomf van.

Hoe serieus moeten we dit nemen?

Dat dit nieuw is, klopt maar half. Elke grote technologie bracht een periode waarin de samenleving achterliep. De drukpers verspreidde kennis explosief, maar Europa had meer dan een eeuw van godsdienstoorlogen nodig voordat er een nieuwe orde was. Tussen Hiroshima in 1945 en het Non-proliferatieverdrag in 1968 zat 23 jaar. De mens heeft machtige technologie eerder leren temmen, maar altijd met vertraging en vaak pas na een ramp.

Wat wel nieuw is: voor het eerst bouwen we gereedschap dat zelf handelt. Een atoombom beslist niets. Een model dat vier dagen lang zelfstandig een netwerk binnendringt om een test te halen, doet dat wel, in de beperkte zin dat het zelf routes kiest die niemand heeft bedacht. En de tijd om te leren slinkt: modellen volgen elkaar binnen maanden op.

Om de dreiging serieus maar niet hysterisch te wegen, helpt het om drie lagen te onderscheiden.

De eerste laag is gedocumenteerd. Modellen zijn uit testomgevingen gekomen en hebben systemen van derden binnengedrongen. Hun redeneringen worden moeilijker te volgen. Autonome wapens bestaan, zonder verdrag. Dit is geen toekomstmuziek.

De tweede laag is aannemelijk. Als modellen aan hun eigen opvolgers bouwen en tegelijk minder doorzichtig worden, kan de mens het overzicht verliezen voordat iemand het merkt. Denk ook aan cyberaanvallen op kritieke infrastructuur, ontwrichting van de arbeidsmarkt, en macht die zich verder concentreert bij enkele bedrijven.

De derde laag is speculatief. Superintelligentie die de mens voorbijstreeft, eventueel versneld door quantumcomputers. Die horizon is niet uit te sluiten, maar er is geen aangetoonde route. De huidige versnelling komt niet van quantum, maar van gewone chips op gigantische schaal: Astra was de eerste training van OpenAI op meer dan 100.000 GPU's, in Texas.

Wie alleen de derde laag ziet, maakt er sciencefiction van. Wie alleen de eerste ziet, mist waar het naartoe gaat. De ernst zit in de tweede laag. En die laag bepaalt of de derde ooit werkelijkheid wordt.

Europa: toeschouwer met één troef

Voor Nederland en Europa is dit een ongemakkelijk verhaal. De race speelt zich af tussen Washington en Beijing. Europa, dat zich graag opwerpt als regelgever, stelde eind 2025 zelf voor om de strengste onderdelen van de AI Act uit te stellen naar 2027. De regelgever trapt dus ook niet op de rem.

Toch heeft Europa één troef die zelden in dit debat valt: de machines van ASML in Veldhoven, zonder welke geen enkele geavanceerde AI-chip bestaat. De exportcontroles waar Amodei voor pleit, lopen deels via Nederlandse fabrieken. Dat maakt Den Haag, of het wil of niet, medeverantwoordelijk voor het tempo van de race.

Guterres waarschuwde in februari dat de toekomst van AI niet mag worden bepaald door een handvol landen of de grillen van een paar miljardairs. Kijk naar wie deze week feitelijk aan tafel zat: drie bedrijven, twee regeringen en een Secretaris-Generaal die over drie maanden vertrekt. De vraag of de mensheid dit aankan, wordt dan concreter: wie is in deze besluitvorming eigenlijk "de mensheid"?

Slot

Nooit eerder waarschuwden de makers van een technologie zo openlijk tegen hun eigen product en bouwden ze tegelijk door. Iedereen ziet de afgrond, maar niemand wil de eerste zijn die stopt met rennen.

Bronverantwoording: dit artikel is gebaseerd op berichtgeving van Reuters (via US News en Quartz), CNN, CNBC, Axios, Breaking Defense, NewsNation, Fox News, Fortune, TIME, TechCrunch, VentureBeat, Al Jazeera, PIIE, UN News, Pan African Visions en Vanderbilt Law School, plus eigen publicaties van OpenAI en Anthropic. Uitspraken van OpenAI en Anthropic over hun eigen modellen, incidenten en veiligheidsmaatregelen zijn claims van betrokken partijen; ook de benchmarkscores van GPT-6 Astra zijn door OpenAI zelf gerapporteerd en niet onafhankelijk geverifieerd. De Chinese reactie is geattribueerd aan het Chinese ministerie van Buitenlandse Zaken en het staatsmedium Global Times. Een bericht van Truthout dat Trump waarschuwers "verraders" zou hebben genoemd, is niet opgenomen omdat het niet via een tweede bron kon worden bevestigd. De uitkomst van de Trump-Xi-top, die tot vrijdag 25 september duurt, was bij publicatie nog niet bekend.