Oproep tot controle van frontier-AI (22 september 2026): wat premier Jetten tekende, wat de artikelen 51 tot 55 AI Act al regelen en wanneer een toezichtorgaan een verdrag vraagt

Op 8 december 1953 stelde de Amerikaanse president Eisenhower in de Algemene Vergadering van de Verenigde Naties een internationaal agentschap voor atoomenergie voor. Die toespraak, bekend geworden als Atoms for Peace, bevatte nog geen inspectieregime. Het Statuut van het Internationaal Atoomenergieagentschap werd op 23 oktober 1956 aangenomen en trad op 29 juli 1957 in werking. De eerste safeguards-inspectie van het agentschap vond plaats in februari 1962. Het Non-proliferatieverdrag, gesloten in 1968 en in werking sinds 1970, vormde vervolgens de basis voor verdere uitbreiding via safeguards-overeenkomsten, met verzegelde containers, camera's en splijtstofboekhouding. Tussen de politieke oproep en de eerste werkende verificatie lagen dus ruim acht jaar. Die volgorde is nuttig om een verklaring te lezen die de Nederlandse premier op 22 september 2026 in New York ondertekende.

Wat vertegenwoordigers van twintig landen en de Europese Commissie op 22 september 2026 ondertekenden

De verklaring heet A Call for Control of Frontier AI Models en staat op de site van de Rijksoverheid als diplomatieke verklaring van 22 september 2026, tijdens de Algemene Vergadering van de VN. Ondertekenaars zijn vertegenwoordigers van twintig landen, meest regeringsleiders en staatshoofden en in drie gevallen de minister van Buitenlandse Zaken, en Commissievoorzitter Ursula von der Leyen. Namens Nederland tekende premier Rob Jetten. Verder staan onder meer Duitsland, Spanje, Ierland, Denemarken, Estland, Letland, Canada, Australië, Singapore, Kenia en Zuid-Afrika op de lijst. De Verenigde Staten, China, Frankrijk en het Verenigd Koninkrijk ontbreken. De tekst staat open voor aansluiting door andere leiders.

De aanleiding staat in de tekst zelf. De ondertekenaars schrijven dat capabele AI-systemen recent testwaarborgen hebben omzeild, kwetsbaarheden hebben uitgebuit en zich ongeautoriseerd toegang hebben verschaft tot echte systemen. Daarna volgen drie verzoeken. Bedrijven moeten transparante veiligheidsprotocollen ontwikkelen, met verplichte tests vóór ingebruikname en onafhankelijke evaluatie door gekwalificeerde evaluatoren met voldoende toegang. Overheden en regionale organisaties moeten gemeenschappelijke standaarden verder uitwerken, de transparantie vergroten, onder meer door ernstige veiligheidsincidenten gezamenlijk te rapporteren, en landen in alle regio's toegang geven tot wetenschappelijke capaciteit en betrouwbare evaluatie. VN-lidstaten ten slotte moeten onderzoeken of er een internationale instelling kan komen die standaarden vaststelt, verificatie mogelijk maakt en staten bijeenroept wanneer bepaalde capaciteitsdrempels worden overschreden. Daarnaast zegt de tekst dat AI onder menselijke leiding, toezicht en controle moet blijven en in overeenstemming met het internationaal recht moet worden ontwikkeld en gebruikt.

Welke delen van de drie verzoeken de AI Act sinds 2 augustus 2025 al regelt: artikelen 51, 55, 90 en 92

Voor de Europese Unie bestaat een deel van de eerste twee verzoeken al als recht. De AI Act (Verordening (EU) 2024/1689) kent sinds 2 augustus 2025 verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden met systeemrisico. Artikel 51 legt de drempel: een model wordt vermoed hoge impact te hebben als voor de training meer dan 10²⁵ rekenoperaties (FLOP) zijn gebruikt, en de Commissie kan die drempel bij gedelegeerde handeling aanpassen. Artikel 55 verplicht die aanbieders tot modelevaluatie inclusief adversariële tests, tot het beoordelen en beperken van systeemrisico's, tot passende cyberbeveiliging en tot het zonder onnodige vertraging melden van ernstige incidenten aan het AI-bureau en, waar passend, aan nationale autoriteiten. Voor modellen die vóór 2 augustus 2025 op de markt kwamen, geldt op grond van artikel 111, lid 3, een overgangstermijn tot 2 augustus 2027. Een algemene wettelijke plicht om elk model vóór de release door een onafhankelijke partij te laten evalueren, kent de verordening niet.

Onafhankelijke evaluatie zit in de verordening vooral aan de kant van het toezicht. Artikel 92 geeft het AI-bureau de bevoegdheid om zelf evaluaties uit te voeren, ook met inschakeling van onafhankelijke deskundigen. Artikel 90 laat het wetenschappelijk panel van onafhankelijke deskundigen een gekwalificeerde waarschuwing aan het AI-bureau sturen wanneer een model een concreet, identificeerbaar risico op Unieniveau vormt. De gedragscode voor AI-modellen voor algemene doeleinden van juli 2025 is een vrijwillig instrument waarmee aanbieders kunnen aantonen dat zij aan artikel 55 voldoen; het hoofdstuk over veiligheid voorziet onder voorwaarden in externe evaluatie. Sinds 2 augustus 2026 kan de Commissie op grond van artikel 101 boetes opleggen tot 3 procent van de wereldwijde jaaromzet of 15 miljoen euro, als dat hoger is. Hoe die evaluatoren in de praktijk toegang krijgen, en wat de toezeggingen van Anthropic en OpenAI daaraan toevoegen, besprak AIRecht eerder in de analyse van ingebedde evaluatoren en artikel 55 en 92 AI Act.

Op twee punten gaat de verklaring verder dan de verordening. Meldingen van ernstige incidenten gaan onder artikel 55 naar het AI-bureau in Brussel; de AI Act legt geen algemene plicht op om ze te delen met toezichthouders buiten de Unie. En de zinsnede over menselijke controle heeft in de AI Act geen letterlijke tegenhanger voor modellen: artikel 14 over menselijk toezicht geldt voor AI-systemen met een hoog risico, niet voor het onderliggende model.

Wanneer een internationale instelling met verificatiebevoegdheid een verdrag vraagt: artikelen 91 en 92 Grondwet en artikel 3 VWEU

Het derde verzoek raakt het Nederlandse staatsrecht. Een gezamenlijke verklaring bindt de Staat niet en hoeft daarom niet langs het parlement. De verklaring laat open welke vorm de instelling krijgt. Denkbaar is een taak binnen een bestaande organisatie, of verificatie die alleen plaatsvindt met toestemming van staten en aanbieders. Voor een nieuw orgaan met eigen bevoegdheden tegenover staten of bedrijven is een verdrag nodig. Volgens artikel 91 van de Grondwet wordt het Koninkrijk niet aan een verdrag gebonden zonder voorafgaande goedkeuring van de Staten-Generaal, behoudens bij wet bepaalde uitzonderingen; die goedkeuring kan ook stilzwijgend worden verleend. Artikel 92 bepaalt dat bevoegdheden tot wetgeving, bestuur en rechtspraak bij of krachtens verdrag aan volkenrechtelijke organisaties kunnen worden opgedragen. Een orgaan dat bij Nederlandse datacenters of aanbieders zelfstandig kan verifiëren, zou in die categorie vallen. De handtekening van 22 september 2026 is dus een politiek begin; welke parlementen later beslissen, hangt af van de vorm en van de verdeling van bevoegdheden tussen de Unie en de lidstaten.

Voor Nederland komt daar een Europese laag bij. Voor zover een verdrag de gemeenschappelijke regels van de AI Act kan aantasten of de strekking daarvan kan wijzigen, is de Unie op grond van artikel 3, lid 2, VWEU exclusief bevoegd. Of het gehele verdrag uitsluitend door de Unie wordt gesloten, hangt af van de volledige inhoud. Een gemengd verdrag, waarin ook lidstaten partij zijn, gaat voor het nationale deel wel langs de Tweede en Eerste Kamer. De aanwezigheid van de Commissievoorzitter op de lijst past daarbij: verdragsonderhandelingen over modeltoezicht zouden voor een belangrijk deel via Brussel lopen, zoals de EU in 2024 zelf het Kaderverdrag van de Raad van Europa over AI ondertekende. Het IAEA-voorbeeld laat zien waarom de onderhandelingen lang kunnen duren. Verificatie van rekenkracht vraagt afspraken over meetbare eenheden, over toegang tot faciliteiten en over de vertrouwelijkheid van wat inspecteurs zien. Voor splijtstof bestond die meetlat al, in kilogrammen en verrijkingsgraad. Voor AI-modellen ligt de dichtstbijzijnde meetlat in artikel 51 AI Act: trainingsrekenkracht, een grootheid die de Commissie zelf aanpasbaar heeft gemaakt omdat ze snel veroudert.

Wat de ontbrekende handtekeningen van de Verenigde Staten en China betekenen voor Europese afnemers

De meeste modellen met systeemrisico komen van aanbieders in de Verenigde Staten en China. Die landen staan niet op de lijst. Voor Europese afnemers verandert daardoor op korte termijn weinig aan het toepasselijke recht: de AI Act geldt voor elke aanbieder die een model op de Uniemarkt brengt, waar die ook gevestigd is. Het verschil zit in de informatie. Artikel 55 verplicht niet tot het delen van incidentmeldingen met toezichthouders buiten de Unie; delen blijft mogelijk, op basis van afspraken tussen toezichthouders. Een internationale uitwisseling, zoals de verklaring die voorstelt, zou toezichthouders eerder laten zien wat elders misging.

De Europese toezichthouders voor de financiële sector wezen er een dag later, op 23 september 2026, al op dat frontier-modellen kwetsbaarheden in IT-systemen op grote schaal kunnen vinden; AIRecht besprak dat in het stuk over het ESA-risicorapport en DORA. De verklaring en het risicorapport beschrijven hetzelfde verschijnsel vanuit de politiek en vanuit het toezicht. Wie in Nederland zo'n model afneemt voor een gemeente, ziekenhuis of bank, heeft te maken met een leverancier die onder de AI Act aan het AI-bureau rapporteert, voor zover het model onder de systeemrisicoverplichtingen valt en de overgangstermijn niet meer geldt, en met een eigen zorgplicht onder sectorregels als DORA of de Cyberbeveiligingswet.

Er is ook een mededingingsrechtelijke kant. Als staten drempels vastleggen waarboven zij bijeenkomen, zullen aanbieders onderling afstemmen hoe ze met die drempels omgaan. Afspraken tussen concurrenten over het tempo van ontwikkeling vallen onder artikel 101 VWEU, zoals AIRecht uitwerkte in de bespreking van pacing-afspraken tussen AI-labs. Een verdrag kan zulke afstemming een publiekrechtelijke basis geven; een verklaring doet dat niet.

Welke vijf vragen een Nederlandse organisatie nu aan haar modelleverancier kan stellen

De verklaring verandert de verplichtingen van Nederlandse afnemers niet. Ze maakt wel duidelijk welke informatie toezichthouders in de komende jaren belangrijk vinden. Vijf vragen sluiten daarop aan:

1. Valt het model onder artikel 51 AI Act, en heeft de aanbieder dat aan de Commissie gemeld?
2. Heeft een externe partij het model vóór de release geëvalueerd, en welke samenvatting daarvan krijgt de afnemer?
3. Hoe en binnen welke termijn informeert de leverancier de afnemer over een ernstig incident dat bij het AI-bureau is gemeld?
4. Welke contractuele afspraken gelden als een toezichthouder het gebruik van een modelversie beperkt of een nieuwe versie verplicht?
5. Waar draait het model, en onder welk recht vallen de logbestanden die bij een onderzoek nodig zijn?

Voor burgers is de betekenis eenvoudiger te benoemen. Overheidsdiensten, zorgverleners en banken gebruiken steeds vaker modellen die buiten Europa zijn getraind. Of een fout in zo'n model tijdig wordt opgemerkt, hangt af van wie de tests uitvoert en wie de meldingen ziet. Het IAEA had ruim acht jaar nodig om van toespraak naar een eerste inspectie te komen. Voor frontier-AI bestaat in Europa sinds 2025 al een wettelijk kader, zodat de onderhandelingen over een internationaal orgaan op bestaande regels kunnen voortbouwen.

Benieuwd hoe uw eigen afspraken met een AI-leverancier hier tegenaan liggen? Via de contractscan legt u uw AI- of ICT-contract clausule voor clausule langs de meetlat, ook de afspraken over incidentmeldingen, evaluaties en modelwijzigingen, en krijgt u per artikel een concreet tegenvoorstel. De AI-transparantiescan leest uw eigen publieke teksten en laat per meldingsplicht van artikel 50 AI Act zien wat er staat en wat nog ontbreekt.

Bronnen: Government of the Netherlands, A Call for Control of Frontier AI Models (diplomatieke verklaring, 22 september 2026); Verordening (EU) 2024/1689 (AI Act), artikelen 14, 51, 55, 90, 92, 101, 111 en 113; artikel 3 VWEU; Europese Commissie, The General-Purpose AI Code of Practice; Grondwet, artikelen 91 en 92; IAEA, Statute of the IAEA; IAEA, jaarverslag 1961-1962 (GC(VI)/195). Bronnen geraadpleegd op 27 september 2026. Dit artikel is gepubliceerde analyse, geen juridisch advies.