Innovation, Quantum-AI Technology & Law

Blog over Kunstmatige Intelligentie, Quantum, Deep Learning, Blockchain en Big Data Law

Blog over juridische, sociale, ethische en policy aspecten van Kunstmatige Intelligentie, Quantum Computing, Sensing & Communication, Augmented Reality en Robotica, Big Data Wetgeving en Machine Learning Regelgeving. Kennisartikelen inzake de EU AI Act, de Data Governance Act, cloud computing, algoritmes, privacy, virtual reality, blockchain, robotlaw, smart contracts, informatierecht, ICT contracten, online platforms, apps en tools. Europese regels, auteursrecht, chipsrecht, databankrechten en juridische diensten AI recht.

Berichten met de tag toezicht
Oproep tot controle van frontier-AI (22 september 2026): wat premier Jetten tekende, wat de artikelen 51 tot 55 AI Act al regelen en wanneer een toezichtorgaan een verdrag vraagt

Wat premier Jetten op 22 september 2026 ondertekende

Tijdens de Algemene Vergadering van de VN ondertekenden vertegenwoordigers van twintig landen en Commissievoorzitter Ursula von der Leyen de verklaring A Call for Control of Frontier AI Models. Namens Nederland tekende premier Rob Jetten. De Verenigde Staten, China, Frankrijk en het Verenigd Koninkrijk staan niet op de lijst. De tekst vraagt drie dingen: bedrijven moeten hun modellen vóór ingebruikname testen en onafhankelijk laten evalueren, overheden moeten standaarden afstemmen en ernstige veiligheidsincidenten gezamenlijk rapporteren, en VN-lidstaten moeten onderzoeken of er een internationale instelling voor frontier-AI kan komen die standaarden vaststelt, verificatie mogelijk maakt en staten bijeenroept wanneer capaciteitsdrempels worden overschreden.

Wat de AI Act al regelt voor modellen met systeemrisico

Voor de Europese Unie bestaat een deel van die verzoeken al als recht. Sinds 2 augustus 2025 gelden de artikelen 51 en 55 van de AI Act voor aanbieders van modellen voor algemene doeleinden met systeemrisico: modelevaluatie met adversariële tests, risicobeperking, cyberbeveiliging en het melden van ernstige incidenten aan het AI-bureau; voor oudere modellen loopt een overgangstermijn tot 2 augustus 2027. Een algemene plicht tot onafhankelijke evaluatie vóór release kent de verordening niet. Artikel 92 laat het AI-bureau zelf evalueren met onafhankelijke deskundigen, en sinds 2 augustus 2026 kan de Commissie boetes opleggen. Twee punten gaan verder dan de verordening: een internationale uitwisseling van incidentmeldingen, en menselijke controle over het model zelf.

Wanneer een internationaal toezichtorgaan een verdrag vraagt

Een diplomatieke verklaring bindt de Staat niet. De verklaring laat de vorm van de instelling open. Een nieuw orgaan dat bij Nederlandse aanbieders of datacenters zelfstandig kan verifiëren, vraagt een verdrag; de Grondwet regelt de goedkeuring en de overdracht van bevoegdheden in artikel 91 en 92 Grondwet. Voor zover zo'n verdrag de regels van de AI Act kan aantasten, is de Unie op grond van artikel 3 VWEU exclusief bevoegd; of het gehele verdrag uitsluitend door de Unie wordt gesloten, hangt af van de volledige inhoud. Het Internationaal Atoomenergieagentschap laat zien hoe lang dat kan duren: van de toespraak van Eisenhower in 1953 tot de eerste inspectie in februari 1962 ging ruim acht jaar voorbij; het Non-proliferatieverdrag, in werking sinds 1970, vormde daarna de basis voor verdere uitbreiding. Het artikel bespreekt ook wat de ontbrekende handtekeningen van de Verenigde Staten en China betekenen voor Nederlandse afnemers van frontier-modellen, hoe de verklaring aansluit op het risicorapport van de Europese financiële toezichthouders van 23 september 2026, en welke vijf vragen een organisatie aan haar modelleverancier kan stellen over evaluatie, incidentmeldingen en modelwijzigingen.

Meer lezen
EBA, EIOPA en ESMA op 23 september 2026: frontier-AI, quantumcomputing en niet-EU-leveranciers als risico voor banken en verzekeraars. Wat DORA en de AI Act vragen

Wat de Europese toezichthouders op 23 september 2026 publiceerden

EBA, EIOPA en ESMA publiceerden op 23 september 2026 hun gezamenlijke risico-update voor het najaar (JC 2026 29). Het rapport is een samenvatting van de risicobeoordeling die de drie toezichthouders voorleggen aan de Financial Stability Table van het Economisch en Financieel Comité. Het behandelt drie thema's: de afhankelijkheid van de Europese financiële sector van partijen buiten de EU, de samenhang van die afhankelijkheid met cyber- en AI-risico, en private credit. Volgens een enquête van de EBA noemt ongeveer 80 procent van de banken de afhankelijkheid van ICT-dienstverleners buiten de EU/EER de grootste uitdaging. Cloud, software, betalingsverkeer, clearing en kredietbeoordelingen lopen voor een groot deel via ondernemingen buiten de Unie.

Frontier-AI en quantumcomputing als risico voor de financiële sector

De toezichthouders schrijven dat frontier-AI-modellen kwetsbaarheden in IT-systemen met grote snelheid en op grote schaal kunnen vinden en uitbuiten, ook nog onbekende zero-day-lekken. Over quantumcomputing staat er dat een geavanceerde quantumcomputer cryptografie kan ondermijnen die communicatie, transacties, databases en blockchains beveiligt, dat die dreiging zich eerder kan voordoen dan een bruikbare commerciële toepassing, en dat gegevens die vandaag worden onderschept later kunnen worden ontsleuteld. Wie op een klein aantal leveranciers buiten de EU steunt, loopt die risico's via schakels die hij niet zelf beheert. Het artikel legt de verbinding met Herstatt-risico, het afwikkelingsrisico dat zichtbaar werd bij de sluiting van Bankhaus Herstatt op 26 juni 1974: tegenpartijen hadden hun Duitse marken betaald en ontvingen de dollars in New York nooit.

Wat DORA en de AI Act nu al vragen

DORA (Verordening (EU) 2022/2554) geldt sinds 17 januari 2025 en regelt in de artikelen 28 tot en met 31 het beheer van ICT-derdenrisico, concentratierisico, de minimale inhoud van contracten en het Europese toezicht op kritieke ICT-aanbieders. Artikel 6, lid 4, van Gedelegeerde Verordening (EU) 2024/1774 verplicht instellingen om in hun encryptiebeleid op te nemen hoe zij hun cryptografie waar nodig aanpassen op basis van ontwikkelingen in de cryptoanalyse; een vaste overstapdatum voor post-quantumalgoritmen staat er niet in. De AI Act voegt eisen toe aan AI-systemen met een hoog risico (artikel 15) en aan aanbieders van modellen die als model met een systeemrisico zijn geclassificeerd (artikelen 51 en 55), met overgangstermijnen tot 2 augustus 2027 voor modellen die al vóór 2 augustus 2025 in de handel waren. Het artikel eindigt met vijf vragen voor bestuur en inkoop bij een ICT-contract onder DORA, over datalocatie, concentratie, post-quantumcryptografie, AI-componenten en exit, en legt uit waarom dit rapport voor Nederlandse banken, verzekeraars, pensioenfondsen en hun leveranciers een ijkpunt is.

Meer lezen
Ingebedde AI-evaluatoren bij Anthropic en OpenAI: wat de beloften van 12 september 2026, het Senaatsontwerp van Thune, Cruz en Klobuchar en artikel 55 en 92 AI Act voor Nederlandse afnemers betekenen

Op 12 september 2026 beloofde Dario Amodei in het essay We Must Pace the Frontier dat Anthropic een team externe evaluatoren permanent in huis gaat halen, met bureaus, toegangspassen en het recht om bevindingen te publiceren zonder redactionele controle. Sam Altman zegde dezelfde dag op X toe dat OpenAI hetzelfde doet. Een dag eerder, op 11 september, meldde Politico dat senatoren Thune, Cruz en Klobuchar werken aan een wet die gevaarlijke capaciteiten vóór de release aan het Department of Commerce laat melden, met een injunction als stok achter de deur. Dit artikel legt beide ontwikkelingen naast de architectuur die de EU al heeft: artikel 55 en 92 van de AI-verordening.

Wat de belofte van 12 september 2026 inhoudt

De ingebedde evaluatoren van Anthropic beoordelen afgeronde modellen én de trainingspijplijn waarin die ontstaan, melden incidenten en mogen openbaar zeggen wanneer een schrapping door het bedrijf iets wezenlijks heeft weggenomen. Dat verschilt van het programma dat OpenAI in november 2025 beschreef, waarin externe beoordelaars een geheimhoudingsovereenkomst tekenden en OpenAI publicaties vooraf goedkeurde. De opening ligt bij het Nederlandse Stoomwezen (keuringsvoorschriften 1824, Dienst 1855, Stoomwet 1869): de keurmeester die door het mangat de ketel in kroop.

Wat artikel 55 AI Act eist sinds 2 augustus 2025, en artikel 92 sinds 2 augustus 2026

Hoofdstuk V van Verordening (EU) 2024/1689 verplicht aanbieders van modellen met systeemrisico tot evaluatie met adversariële tests, risicobeperking, incidentmelding aan het AI-bureau en cyberbeveiliging. Artikel 92 geeft de Commissie sinds 2 augustus 2026 de bevoegdheid om, na raadpleging van de AI-board, zelf een model te evalueren wanneer de informatie over de naleving tekortschiet of bij een onderzoek naar systeemrisico's, met toegang tot API's en broncode, en sinds diezelfde dag gelden de boetes van artikel 101: tot 15 miljoen euro of 3 procent van de wereldwijde jaaromzet, naargelang welk bedrag hoger is. Het stuk legt uit waarom een evaluatie door het AI-bureau iets anders is dan een evaluator die permanent binnen zit, en welke drie elementen bepalen of zo'n toezegging iets waard is: reikwijdte van de toegang, publicatierecht en de vraag wie de evaluator betaalt.

Wat een Nederlandse afnemer hiermee doet

Voor bedrijven, ziekenhuizen en gemeenten die een frontier-model inbouwen, verschuift de vraag van beleid naar contract. Artikel 53 geeft integrerende aanbieders recht op documentatie, artikel 25 maakt een afnemer soms zelf aanbieder, en voor software die na 9 december 2026 in de handel komt telt de nieuwe productaansprakelijkheid mee. Het artikel sluit af met vijf vragen aan uw leverancier over externe evaluatie, van de omschrijving van de toegang tot een opschortingsrecht als het lab zijn toezegging intrekt.

Meer lezen
Het anagram van Huygens en de aanval die niemand publiceert

Christiaan Huygens legde in 1656 een reeks losse letters vast achterin een geschrift over Saturnus. Wie de reeks las wist niets; wie drie jaar later de oplossing zag in Systema Saturnium, wist dat Huygens de ring al die tijd had gekend. Die zeventiende-eeuwse gewoonte kreeg in augustus 2026 een juridische keerzijde. In PRX Quantum verscheen op 21 augustus „Securing Elliptic Curve Cryptocurrencies against Quantum Vulnerabilities” van Babbush, Gidney, Boneh en anderen, met een middelenschatting voor een quantumaanval op secp256k1 in de orde van 1.200 logische qubits. De geoptimaliseerde circuits bleven achtergehouden onder responsible disclosure, en de gestelde bovengrens werd vastgelegd in een zero-knowledge-bewijs. Er ligt sindsdien een gecontroleerde bewering op tafel waarvan vrijwel niemand de onderbouwing heeft gezien.

Het bewijs hield, de bewijsmachine niet

Dat die constructie zorgvuldige formulering verdient, bleek al eerder. Trail of Bits publiceerde op 17 april 2026 een vervalst bewijs met betere cijfers dan Google zelf — geen quantumdoorbraak, maar geheugen- en logicafouten in het Rust-gastprogramma dat de te bewijzen berekening definieert. De verifier accepteerde vervolgens correct een geldig bewijs onder die gebrekkige relatie, niet te onderscheiden van een echt bewijs; Google repareerde de code en de wetenschappelijke claim bleef staan. Vier lagen vallen in het spraakgebruik samen en gedragen zich juridisch verschillend: de eigenschappen van het bewijssysteem, de omschrijving van de relatie die feitelijk wordt bewezen, de reikwijdte van de bewering zoals de lezer haar begrijpt, en de betrouwbaarheid van wie het bewijs aanlevert.

Drie vormen van beperkte inzage

Nederlandse juristen kennen een verwante figuur. Artikel 8:29 Awb kent de beperkte kennisneming: de bestuursrechter mag stukken zien die de wederpartij niet krijgt, mits de beperking gerechtvaardigd is en de andere partijen toestemming geven voor een uitspraak mede op grond daarvan. Daarnaast staat artikel 78 van de AI-verordening, waarin een toezichthouder de informatie juist wél krijgt en gebonden is aan geheimhouding, terwijl artikel 92 de Commissie eigen evaluatiebevoegdheid en toegang geeft. Het zero-knowledge-geval is de derde vorm: de indienende partij houdt het materiaal zelf, en de controlerende partij krijgt het nooit te zien. Die drie door elkaar halen levert onjuiste verwachtingen op over wat een toezichthouder mag vragen en wat een leverancier mag aanbieden.

Zes vragen voor de praktijk

Voor inkoop, contractsbeoordeling en compliance levert dat een concreet toetsingskader op: wat is letterlijk bewezen, wie formuleerde die bewering, welk verificatieprogramma controleert haar en wie onderhoudt dat, kan een derde de controle herhalen, welke aansprakelijkheid en meldtermijn gelden bij falen, en — de vraag die het vaakst ontbreekt — wanneer vervalt de geheimhouding. De anagramtraditie werkte omdat zij eindig was. Een leveranciersverklaring die op een ongepubliceerd resultaat steunt, hoort daarom een datum te bevatten waarop de onderliggende analyse alsnog toetsbaar wordt, met een rechtsgevolg wanneer die datum ongebruikt verstrijkt.

Meer lezen
Vierentwintig uur voor de melding, twee jaar voor het bestuur

Sinds 15 augustus 2026 geldt de Cyberbeveiligingswet, de Nederlandse omzetting van de NIS2-richtlijn. De wet staat in Staatsblad 2026, 187 en het bijbehorende Cyberbeveiligingsbesluit in Staatsblad 2026, 189, beide van 8 juli 2026 en gepubliceerd op 10 juli; artikel 35 van het besluit laat wet en besluit op één datum in werking treden. Geen fasering, geen uitgestelde hoofdstukken. Voor ruim achtduizend organisaties gelden sindsdien registratieplicht, zorgplicht en meldplicht tegelijk, en zijn die verplichtingen vanaf diezelfde dag handhaafbaar.

Drie termijnen aan de voorkant

De meldplicht loopt in stappen: een vroegtijdige waarschuwing onverwijld en uiterlijk binnen vierentwintig uur, de melding zelf binnen 72 uur, en het eindverslag uiterlijk één maand daarna — met een voortgangsverslag en een later eindverslag wanneer het incident langer duurt. Melden gebeurt via het meldpunt dat het NCSC voor dit doel inricht. De zwaarste juridische beoordeling valt daarmee op het vroegste moment, want binnen een etmaal moet iemand vaststellen of een verstoring een significant incident is. De maatstaf daarvoor staat in artikel 25, tweede lid, van de wet; artikel 23 van het besluit maakt aanvullende of specifieke drempels mogelijk, die voor een deel van de entiteiten al via sectorale regelingen en Uitvoeringsverordening (EU) 2024/2690 zijn ingevuld. Dat pleit ervoor de interne drempel vast te leggen en te koppelen aan een functie die 's nachts bereikbaar is.

Het toezicht was op tijd

Wie handhaaft, is geen open vraag. Artikel 15 van de wet wijst de bevoegde autoriteit per sector rechtstreeks aan, van Binnenlandse Zaken voor de overheid tot Volksgezondheid voor de zorg, en artikel 68 laat de betrokken minister de ambtenaren aanwijzen die het toezicht uitvoeren. Die aanwijzingen verschenen in juli 2026 in de Staatscourant: de Inspectie Leefomgeving en Transport voor onder meer vervoer, drinkwater en afvalwater, de Rijksinspectie Digitale Infrastructuur voor haar eigen domein. Het handhavingsapparaat stond er dus voordat de eerste meldplicht ontstond.

Meldtermijn van een etmaal, scholingstermijn van twee jaar

Artikel 24 van de wet verplicht bestuurders tot scholing waarmee zij beveiligingsrisico's herkennen en beheersmaatregelen en gevolgen beoordelen, met een termijn van maximaal twee jaar; het besluit werkt de scholings- en certificaateisen uit. Dat legt de asymmetrie bloot die deze eerste maanden kenmerkt: de meldplicht werkt vanaf de eerste dag, terwijl het bestuurlijke oordeel over risico's en maatregelen twee jaar mag rijpen. Die termijn verzacht de zorgplicht niet, en dat maakt de vastlegging van bestuursbesluiten nu belangrijker dan gebruikelijk. Deze analyse zet de rechtsgevolgenkalender op een rij, laat zien waar de zorgplicht en de AI-verordening op dezelfde leveranciersketen landen — waarover wij eerder schreven in Het register komt voor de plicht — en sluit af met vier vragen die deze maand een antwoord op papier verdienen.

Meer lezen