Ingebedde AI-evaluatoren bij Anthropic en OpenAI: wat de beloften van 12 september 2026, het Senaatsontwerp van Thune, Cruz en Klobuchar en artikel 55 en 92 AI Act voor Nederlandse afnemers betekenen

In 1824 kreeg Nederland landelijke keuringsvoorschriften voor stoomketels, in 1855 een Dienst voor het Stoomwezen en met de Stoomwet van 1869 een wettelijk stelsel van keuring en beproeving. Stoomketels ontploften, fabrikanten verklaarden dat hun ketels veilig waren, en de overheid besloot dat die verklaring niet volstond: een ambtenaar van het Stoomwezen keurde de ketel zelf, beproefde hem en stelde de toegestane werkdruk vast. De keurmeester kroop door het mangat naar binnen. Precies dat verschil, tussen een verklaring aan de buitenkant en een inspecteur aan de binnenkant, is de kern van wat er op 12 september 2026 gebeurde bij de twee grootste Amerikaanse AI-laboratoria, en van de vraag wat een Nederlandse afnemer van hun modellen daaraan heeft.

Wat Amodei op 12 september 2026 beloofde en wat Altman dezelfde dag toezegde

Op zaterdag 12 september 2026 publiceerde Dario Amodei, bestuursvoorzitter van Anthropic, het essay We Must Pace the Frontier. De eerste stap daarin is een eenzijdige toezegging: Anthropic zegt toe binnenkort een team externe evaluatoren permanent in huis te halen, met bureaus, toegangspassen, bedrijfslaptops en rechten die grotendeels gelijk zijn aan die van de eigen risicoteams. Het essay noemt METR als voorbeeld van zo'n evaluator. Deze ingebedde evaluatoren beoordelen afgeronde modellen én de trainingspijplijn waarin die ontstaan, melden incidenten en mogen hun bevindingen publiceren zonder redactionele controle van Anthropic. Het bedrijf houdt een smalle bevoegdheid om beveiligingsgevoelige, juridisch geprivilegieerde of commercieel vertrouwelijke passages te schrappen, mag niets schrappen omdat het ongunstig is, en de evaluatoren mogen openbaar zeggen dat een schrapping iets wezenlijks heeft weggenomen.

Diezelfde middag antwoordde Sam Altman op X: onafhankelijke evaluatoren met toegang op werknemersniveau is een goed idee, OpenAI doet hetzelfde. Dat is een verschuiving ten opzichte van wat OpenAI in november 2025 beschreef in Strengthening Safety with External Testing: externe beoordelaars tekenden daar een geheimhoudingsovereenkomst en OpenAI keurde hun publicaties vooraf goed op vertrouwelijkheid en feitelijke juistheid. Tussen beide berichten in vroeg Hugging Face, via oprichter Clément Delangue, om deel te nemen aan het programma met een eigen Open Alignment Initiative. Amodei wijst zelf op de precedentwerking van het bankentoezicht, waar toezichthouders soms naast de medewerkers zitten; wie De Nederlandsche Bank kent, herkent dat beeld.

Wat het Senaatsontwerp van Thune, Cruz en Klobuchar toevoegt: zorgplicht, melding aan Commerce en een injunction

De beloften vielen samen met iets dat de labs niet zelf in de hand hebben. Politico meldde op 11 september 2026 op basis van vier ingewijden, dat senatoren John Thune, Ted Cruz en Amy Klobuchar aan een wetsontwerp werken dat ontwikkelaars van de krachtigste modellen verplicht om ontdekte gevaarlijke capaciteiten, bijvoorbeeld hulp bij biologische wapens of offensieve cyberoperaties, vóór de release te melden aan het Department of Commerce, samen met de genomen maatregelen en een manier waarop de minister die kan verifiëren. Vindt Commerce de mitigatie onvoldoende, dan kan het volgens datzelfde verslag een injunction vragen bij de federale rechter; zonder injunction beslist het lab zelf over de release en komt er geen vergunningstelsel. Het ontwerp zou ook een wettelijke zorgplicht (duty of care) opleggen, nationale laboratoria bij het testen betrekken en een deel van de statelijke AI-wetten opzij zetten. De formulering is nog in beweging; Politico schreef dat de verschillen over de precieze tekst weer waren opgelaaid.

Het contrast met het Huis is leerzaam. De FRONTIER Act (H.R. 9925, ingediend op 23 juli 2026 door Jay Obernolte en Lori Trahan) onderscheidt grote en zeer grote ontwikkelaars. Grote ontwikkelaars publiceren een veiligheidskader en melden kritieke incidenten; alleen de zeer grote ontwikkelaars moeten volgens section 5 daarnaast een doorlopende onafhankelijke beoordeling ondergaan, met toegang van de beoordelaar tot personeel en systemen, doorlopende monitoring van governance, risico's en mitigatie en een rapport minstens iedere zes maanden, op straffe van tot 1 miljoen dollar per dag. Die doorlopende beoordelaar van section 5 staat inhoudelijk dicht bij de ingebedde evaluator van Amodei, met dit verschil dat het Huis hem bij wet zou opleggen en het lab hem nu vrijwillig uitnodigt. Het Senaatsontwerp voegt daar een zorgplicht aan toe en zet Commerce vóór de release. De precieze constructie is alleen bekend uit het verslag van Politico: volgens twee ingewijden kan Commerce bij onvoldoende mitigatie een injunction vragen bij de federale rechter en beslist het lab zonder injunction zelf, zonder vergunningstelsel. Tech Times, dat het Reuters-verslag volgt, spreekt algemener van een voorbehouden recht van de overheid om een release te blokkeren waartegen bedrijven bij de federale rechter kunnen opkomen, en benadrukt dat de inrichting daarvan nog wordt onderhandeld. Wie de Europese verordening kent, ziet in die combinatie van meldplicht vooraf, verificatie en een bevoegdheid tot ingrijpen iets bekends.

Wat artikel 55 AI Act sinds 2 augustus 2025 eist, en waarom artikel 92 en de boetes van artikel 101 pas sinds 2 augustus 2026 gelden

De EU heeft de architectuur die Washington nu ontwerpt al in werking. Hoofdstuk V van Verordening (EU) 2024/1689 geldt sinds 2 augustus 2025 voor aanbieders van AI-modellen voor algemene doeleinden. Een model met systeemrisico, waarvoor artikel 51 een vermoeden hanteert bij een trainingsrekenkracht boven 10²⁵ FLOPs, moet volgens artikel 55 lid 1 worden geëvalueerd met gestandaardiseerde protocollen inclusief adversariële tests, de systeemrisico's op Unieniveau beoordelen en beperken, ernstige incidenten zonder onnodige vertraging melden aan het AI-bureau en de nationale autoriteiten, en een passend niveau van cyberbeveiliging waarborgen. De praktijkcode voor AI-modellen voor algemene doeleinden, gepubliceerd op 10 juli 2025, werkt dat uit in een hoofdstuk over veiligheid en beveiliging waarin onafhankelijke externe evaluatie vóór het in de handel brengen een vaste plaats heeft.

Aan de toezichtkant geeft artikel 92 de Commissie, via het AI-bureau en na raadpleging van de AI-board, de bevoegdheid om zelf evaluaties van een model uit te voeren in twee gevallen: om de naleving te toetsen wanneer de informatie uit artikel 91 onvoldoende is, of om systeemrisico's op Unieniveau te onderzoeken. Zij kan daarvoor toegang vragen via API's of andere passende technische middelen, met inbegrip van de broncode, en onafhankelijke deskundigen uit het wetenschappelijk panel van artikel 68 inschakelen. Artikel 91 regelt de informatieverzoeken, artikel 93 de maatregelen tot en met het beperken of terughalen van een model. Die toezichtbevoegdheden staan in hoofdstuk IX en zijn op grond van artikel 113 pas van toepassing sinds 2 augustus 2026, net als artikel 101, de boete voor aanbieders van deze modellen tot 15 miljoen euro of 3 procent van de wereldwijde jaaromzet, naargelang welk bedrag hoger is. Zes weken geleden dus. Modellen die vóór 2 augustus 2025 in de handel waren, hebben op grond van artikel 111 lid 3 tot 2 augustus 2027 om te voldoen. Voor een model dat in september 2026 op de markt komt, geldt die overgangstermijn niet.

Waarom een ingebedde evaluator iets anders is dan een evaluatie door het AI-bureau: toegang, publicatierecht en redactie

Hier helpt het Stoomwezen om scherp te zien wat de belofte van 12 september wel en niet is. Artikel 92 geeft de Commissie een keurmeester die in twee omschreven gevallen naar binnen mag, na raadpleging van de AI-board: bij onvoldoende informatie over de naleving, of bij een onderzoek naar systeemrisico's. Dan vraagt zij toegang tot het model en de broncode en evalueert. Dat gebeurt per besluit en per model. De ingebedde evaluator van Amodei zit permanent binnen en kijkt naar het proces waarin het model ontstaat én naar het product dat eruit komt. Drie elementen bepalen of dat iets betekent. Ten eerste de reikwijdte van de toegang: workspaces, tools en permissies vergelijkbaar met interne risicoteams, met uitzonderingen waar wet of contract dat vereist. Ten tweede het publicatierecht zonder redactionele controle, met een smalle en zelf te benoemen schrappingsbevoegdheid. Ten derde de vraag wie de evaluator betaalt en benoemt; daarover zwijgt het essay, en OpenAI schreef in november 2025 dat het zijn externe beoordelaars een vergoeding aanbiedt die niet van de uitkomst afhangt.

Juridisch is de belofte, zolang zij niet in een contract met de evaluator of met afnemers is vastgelegd, een eenzijdige en vrijwillige toezegging naar Amerikaans recht; wat een afnemer eraan kan ontlenen, hangt af van wat er in zijn eigen overeenkomst en onder het daarop toepasselijke recht over is afgesproken. Toch is ze voor een Europese toezichthouder bruikbaar. Het AI-bureau kan een aanbieder die zich op de praktijkcode beroept, om de rapporten van zijn ingebedde evaluatoren vragen als bewijs dat aan artikel 55 lid 1 onder a en b is voldaan. En als een evaluator openbaar meldt dat een schrapping iets wezenlijks wegnam, is dat precies het soort signaal waarop het wetenschappelijk panel een gekwalificeerde waarschuwing onder artikel 90 aan het AI-bureau kan baseren. De zelfclassificatie van OpenAI's GPT-6 Astra als Critical voor cyber, die Quentir op 12 september 2026 tegen artikel 55 legde, laat zien waarom dat ertoe doet: een drempel die een bedrijf zelf uitroept, wordt pas toetsbaar als iemand anders binnen mag kijken.

Wat een Nederlandse afnemer van GPT-6 Astra of Claude hieraan heeft: artikel 53, artikel 25 en het contract

Voor een Nederlands bedrijf, ziekenhuis of gemeente dat een frontier-model inbouwt in een eigen toepassing, verplaatst dit de vraag van beleid naar contract. Artikel 53 lid 1 onder b verplicht de aanbieder om aanbieders die het model in hun eigen AI-systeem integreren, de documentatie te geven die zij nodig hebben om hun eigen verplichtingen na te leven; wie op grond van artikel 25 zelf aanbieder van een hoog-risicosysteem wordt, heeft die documentatie nodig voor zijn eigen technische dossier. Een wettelijk recht op de volledige rapporten van de ingebedde evaluatoren geeft dat artikel niet, en een gewone gebruiksverantwoordelijke kan er evenmin een algemeen inzagerecht aan ontlenen. Zo'n rapport is wel sterker bewijs dan een zelfverklaring van het lab, en het is verstandig om de levering ervan als contractuele voorwaarde te bedingen. In het eerdere stuk over wat een AI-leverancier met prompts, data en output mag stond al dat de informatieplichten van de verordening in het SaaS-contract een eigen clausule verdienen; de evaluatierapporten horen daar nu bij. Voor software die na 9 december 2026 in de handel wordt gebracht of in gebruik wordt gesteld, komt daar de nieuwe productaansprakelijkheid voor software bij zoals de Nederlandse omzetting van richtlijn (EU) 2024/2853 die invoert; bestaande software valt daar niet vanzelf op die datum onder. Voor nieuwe toepassingen telt dan wat een afnemer wist en kon weten over de veiligheid van het ingebouwde model.

Het civiele belang is concreet. Een patiënt wiens triage door een model wordt voorbereid, een sollicitant die door een model wordt voorgesorteerd en een burger wiens bezwaarschrift door een model wordt samengevat, hebben er allemaal belang bij dat iemand zonder belang bij de uitkomst het model van binnen heeft gezien. Voor Nederlandse toezichthouders, met de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur in de coördinerende rol voor de verordening, ligt het voor de hand dat een gebruiksverantwoordelijke straks wordt gevraagd wat hij zelf over de evaluatie van het ingebouwde model heeft opgevraagd en gelezen; een wettelijke plicht daartoe bestaat nu niet, een verstandige praktijk wel. Vertrouwde markten ontstaan waar de keuring gedocumenteerd is en de documenten opvraagbaar zijn; dat was in 1869 zo en dat is onder artikel 55 niet anders.

Beslishulp: vijf vragen aan uw leverancier over externe evaluatie

1. Toegang. Welke externe partij heeft toegang tot het model en tot de trainingspijplijn, sinds wanneer, en met welke uitzonderingen? Vraag de omschrijving van de toegang, niet alleen de naam van de evaluator.
2. Publicatie. Mag de evaluator publiceren zonder goedkeuring vooraf? Welke schrappingsgronden gelden, en meldt de evaluator openbaar wanneer een schrapping wezenlijk was?
3. Onafhankelijkheid. Wie betaalt en benoemt de evaluator, en is de vergoeding onafhankelijk van de uitkomst?
4. Artikel 55. Welke evaluaties, adversariële tests en incidentmeldingen aan het AI-bureau liggen aan het model ten grondslag, en krijgt u de artikel 53-documentatie die u voor uw eigen dossier nodig heeft?
5. Contract. Staat de levering van evaluatierapporten en de melding van een gewijzigde risicoclassificatie als voorwaarde in de overeenkomst, met een opzeg- of opschortingsrecht als het lab de toezegging intrekt?

Wilt u weten of uw eigen AI-toepassing en de bijbehorende leveranciersdocumentatie de vragen hierboven al kunnen beantwoorden? Met de AI-transparantiescan ziet u snel waar de gaten zitten, en de contractscan leest uw leveranciersovereenkomst na op precies dit soort clausules. Beide zijn bedoeld om u een helder startpunt te geven, zonder omhaal.

Bronnen: Dario Amodei, We Must Pace the Frontier (september 2026) en zijn aankondiging op X van 12 september 2026; Sam Altman, reactie op X van 12 september 2026; Unite.AI, Altman Says OpenAI Will Match Anthropic's Embedded Evaluator Pledge (12 september 2026); OpenAI, Strengthening Safety with External Testing (19 november 2025) en Pacing model development (18 augustus 2026); Politico, Senate AI safety bill's path forward remains unclear (11 september 2026); Tech Times, Thune, Cruz, and Klobuchar Move AI Safety From Voluntary Pledge to Legal Duty (12 september 2026); H.R. 9925, FRONTIER Act (23 juli 2026); Verordening (EU) 2024/1689, artikelen 25, 51, 53, 55, 68, 90-93, 101, 111 en 113; Europese Commissie, praktijkcode voor AI-modellen voor algemene doeleinden (10 juli 2025). Bronnen geraadpleegd op 13 september 2026. Dit artikel is gepubliceerde analyse, geen juridisch advies.