Een IPCC voor AI en opkomende technologie: het IPREDICT-voorstel aan de VN

AIRecht Editor

Wat als opkomende technologie net zo serieus en gecoördineerd zou worden beoordeeld als de klimaatcrisis? Die vraag staat centraal in IPREDICT — het voorstel voor een Intergovernmental Panel for Responsible Development of InComing Technologies. In een open brief aan de Secretaris-Generaal van de Verenigde Naties riep een internationale groep wetenschappers op tot de oprichting van zo'n panel, naar het model van het klimaatpanel IPCC. AIRecht-oprichter Mauritz Kop behoorde tot de experts die het initiatief voorbereidden en leverde de inbreng op het gebied van quantumtechnologie.

Het is nadrukkelijk een oproep, geen bestaand orgaan: een voorstel dat aan de VN is voorgelegd. De volledige tekst dateert van 20 december 2021 en werd als voorstel aan de Secretaris-Generaal voorgelegd, voorafgegaan door een publieke open brief. Hieronder zetten we uiteen wat IPREDICT zou moeten doen, wie eraan meewerkten en wat de bijdrage van AIRecht was.

Een onafhankelijk, interdisciplinair panel voor opkomende technologie — naar het model van het klimaatpanel IPCC.

Waarom een panel voor opkomende technologie?

De aanleiding is een gevoel van urgentie. VN-Secretaris-Generaal António Guterres wees erop dat technologische vooruitgang op terreinen als kunstmatige intelligentie, communicatietechnologie, robotica, biotechnologie en materiaalkunde "incredible promise for the advancement of human welfare" inhoudt, maar ook "the potential to generate more inequality and more violence". Diezelfde technologieën kunnen de Duurzame Ontwikkelingsdoelen (SDG's) versnellen én juist nieuwe risico's scheppen — van milieudruk en groeiende ongelijkheid tot druk op de fundamenten van de democratie.

Het probleem is volgens de initiatiefnemers niet een gebrek aan inzet, maar een gebrek aan coördinatie. Bestaande debatten en initiatieven blijven te vaak verdeeld langs technologische, nationale of bedrijfsmatige lijnen. Daardoor ontbreekt één betrouwbare, interdisciplinaire stem die de Secretaris-Generaal rechtstreeks van onafhankelijke, op bewijs gebaseerde informatie kan voorzien.

De parallel met het klimaatpanel is hier geen toeval. Net zoals het IPCC de versnipperde klimaatwetenschap bundelt tot één gezaghebbende beoordeling, zou IPREDICT de kennis over artificiële intelligentie, biotechnologie, robotica en quantumtechnologie samenbrengen tot een gedeeld vertrekpunt voor beleid. Het verschil met de klimaatcrisis is het tempo: opkomende technologie ontwikkelt zich snel, ongelijk en soms onzichtbaar, waardoor de behoefte aan een vaste, onafhankelijke beoordelaar eerder groter dan kleiner is.

Wat IPREDICT zou doen: het mandaat

Het voorgestelde mandaat kent vier taken. Ten eerste een betrouwbare bron van informatie zijn: regelmatig en op verzoek expert-rapporten leveren aan de Secretaris-Generaal over de potenties, voordelen, risico's, het ontwikkelstadium en de uitrol van opkomende technologieën.

Ten tweede expert-gebaseerde aanbevelingen doen — nieuwe beginselen en praktische richtsnoeren — zodat de ontwikkeling van technologie de maatschappelijke en ethische reflectie niet voorbijstreeft voordat er toezicht is. Alle betrokken disciplines (natuur-, levens- en medische wetenschappen, techniek, digitale technologie, recht, filosofie, economie, sociale wetenschappen en ethiek) zouden daarbij worden betrokken.

Ten derde verantwoorde research en innovatie aanmoedigen in álle ontwikkelfasen, met heldere verantwoordelijkheidslijnen voor onderzoek, ontwerp, ontwikkeling en adoptie. En ten vierde de stakeholders en het publiek informeren en betrekken — via een website, communicatiemedia en een tweejaarlijks World Forum.

Hoe het zou worden samengesteld

IPREDICT zou een panel zijn van onafhankelijke, pluralistische en geografisch gespreide experts uit de geestes-, natuur-, medische, technische en sociale wetenschappen, aangevuld met leden uit het bedrijfsleven en ngo's. De ambitie is een structuur op te bouwen die vergelijkbaar is met die van het Intergovernmental Panel on Climate Change (IPCC), opererend als orgaan van — of onder de auspiciën van — de Verenigde Naties, in afstemming met organisaties als UNESCO, de OESO, de Raad van Europa en GPAI.

De overkoepelende missie is het bevorderen van responsible research and innovation: een proces waarin technologie zo wordt onderzocht, ontworpen, ontwikkeld en uitgerold dat ethische aanvaardbaarheid, ecologische duurzaamheid en maatschappelijke wenselijkheid voorop staan — en waarin risico's zo vroeg mogelijk in het innovatieproces worden voorkomen en beheerst.

De participanten

Het initiatief werd voorbereid door een breed, internationaal gezelschap van onafhankelijke wetenschappers. Onder hen bevonden zich onder meer Pamela Andanda (hoogleraar recht, University of the Witwatersrand; lid van het International Bioethics Committee van UNESCO), Chinmayi Arun (Yale Law School / Berkman Klein Center, Harvard), Ruha Benjamin (Princeton University), Vincent Boulanin (SIPRI), Philip Brey (Universiteit Twente), Raja Chatila (Sorbonne Université), Hervé Chneiweiss (CNRS/Inserm, voorzitter van het International Bioethics Committee van UNESCO), Marcy Darnovsky (Center for Genetics and Society), Laurence Devillers (Sorbonne Université/CNRS) en Pramod Khargonekar (University of California, Irvine).

De gemene deler is multidisciplinariteit: recht en ethiek naast robotica, AI, biotechnologie en wapenbeheersing. Het is precies die mengeling van perspectieven die een panel als IPREDICT beoogt — geen enkele discipline overziet de gevolgen van opkomende technologie alleen.

Even belangrijk is de geografische spreiding. De ondertekenaars kwamen van universiteiten en instituten op meerdere continenten, met nadrukkelijke vertegenwoordiging van het mondiale Zuiden naast Europese en Noord-Amerikaanse stemmen. Een panel dat namens de hele wereld over technologie oordeelt, kan zich geen blinde vlek voor niet-westerse perspectieven veroorloven — een les die het IPCC zelf in de loop der jaren heeft moeten leren.

De bijdrage van AIRecht

Binnen dit gezelschap leverde Mauritz Kop de inbreng op het terrein van quantumtechnologie en intellectueel eigendom. In het IPREDICT-document staat hij vermeld als Stanford Law School Fellow en directeur van AIRecht, met onderzoek naar de regulering van AI, machine-learning-trainingsdata en quantumtechnologie dat is gepubliceerd door wetenschappelijke tijdschriften van Stanford, Harvard, Berkeley en Yale. Die inbreng sluit aan op zijn werk aan een juridisch-ethisch kader voor verantwoorde quantumtechnologie, zoals beschreven in Establishing a Legal-Ethical Framework for Quantum Technology.

De gedachte achter die bijdrage is dat anticiperende governance juist past bij technologie die niet-lineair en met sprongen arriveert: wie pas reguleert nadat een doorbraak er is, loopt structureel achter de feiten aan. Het volledige onderzoek naar verantwoorde quantumtechnologie is permanent toegankelijk via de Stanford Center for Responsible Quantum Technology-collectie in de Stanford Law Library. Kops latere betrokkenheid bij de VN kreeg een vervolg, onder meer als spreker tijdens het Internationaal Jaar van de Quantumwetenschap en -technologie 2025.

Concreet vertaalt zich dat in een pleidooi voor standaardisering, certificering en technology impact assessment: instrumenten die toelaten dat een veelbelovende technologie wordt ontwikkeld terwijl haar risico's gemeten en beheerst blijven. Dat sluit naadloos aan op de bredere IPREDICT-missie, waarin onderzoek, ontwerp en uitrol van opkomende technologie worden gekoppeld aan ethische aanvaardbaarheid, ecologische duurzaamheid en maatschappelijke wenselijkheid.

De open brief aan de Secretaris-Generaal van de Verenigde Naties met de oproep tot oprichting van IPREDICT.

Een oproep met een lange adem

Of de Verenigde Naties een panel als IPREDICT daadwerkelijk instellen, is een politieke keuze die nog openligt. De waarde van het voorstel zit intussen ook in de agenda die het stelt: één onafhankelijke, interdisciplinaire bron die opkomende technologie beoordeelt vóórdat de gevolgen onomkeerbaar zijn — en die research en innovatie verbindt aan ethische aanvaardbaarheid, duurzaamheid en maatschappelijke wenselijkheid. Voor een juridische praktijk die dagelijks met dezelfde technologieën te maken heeft, is dat geen abstracte exercitie maar een richtinggevend kompas. Meer over de verantwoorde governance van kunstmatige intelligentie staat op onze kennispagina over kunstmatige intelligentie.

Zo zag de open brief aan de Secretaris-Generaal van de Verenigde Naties eruit:

Laatst bijgewerkt: 9 juni 2026