Innovation, Quantum-AI Technology & Law

Blog over Kunstmatige Intelligentie, Quantum, Deep Learning, Blockchain en Big Data Law

Blog over juridische, sociale, ethische en policy aspecten van Kunstmatige Intelligentie, Quantum Computing, Sensing & Communication, Augmented Reality en Robotica, Big Data Wetgeving en Machine Learning Regelgeving. Kennisartikelen inzake de EU AI Act, de Data Governance Act, cloud computing, algoritmes, privacy, virtual reality, blockchain, robotlaw, smart contracts, informatierecht, ICT contracten, online platforms, apps en tools. Europese regels, auteursrecht, chipsrecht, databankrechten en juridische diensten AI recht.

Berichten met de tag VerderDenken
AI, Machine Learning & Recht — de VerderDenken-columns (CPO Radboud Universiteit)

Tussen 2018 en 2021 verscheen op VerderDenken.nl, het kennisplatform van het CPO van de Radboud Universiteit, een reeks van acht columns over AI en recht van de hand van Mauritz Kop. Wie ze vandaag terugleest, ziet geen tijdscapsule maar een routekaart: vrijwel elk thema uit de reeks werd nadien Europese wetgeving of internationale onderzoeksagenda.

Acht columns, van machine learning tot quantum

De reeks opent bij de basis — wat is machine learning, en waarom moeten juristen de techniek begrijpen? — en eindigt bij de verantwoorde toepassing van quantumtechnologie. Daartussen: negen technologische ontwikkelingen voor de rechtspraktijk, het eigendom van computer generated works, het pleidooi voor een recht op dataprocessing, de contouren van een wettelijk AI-kader, de juridische waarborgen bij versnelde vaccinintroductie, en een juridisch-ethisch kader voor quantumtechnologie — destijds een vroege verkenning in de Nederlandse vakpers. Het overzichtsartikel geeft van elke column de Nederlandse titel mét Engelse vertaling en een korte duiding.

Een archief dat wetgeving voorspelde

De columns bepleitten een risicogebaseerde benadering van kunstmatige intelligentie vóórdat de EU AI Act bestond, en agendeerden datarecht vóór de Data Act. Die vooruitziendheid was geen toeval maar methode: eerst de techniek serieus nemen — hoe leert een model, waar komt de data vandaan, wat kan quantum wél en niet — en dan pas normeren. Dezelfde denkbeweging kreeg op dit blog zijn meest uitgesproken vorm in De posthumanistische revolutie van AI — en groeide bij de quantumcolumns uit tot het onderzoeksprogramma dat later aan Stanford Law School gestalte kreeg.

Dank aan een redactie die ruimte gaf

Het overzicht is óók een dankbetuiging. De redactie van VerderDenken.nl gaf onderwerpen die destijds exotisch klonken — machinaal auteurschap, quantumregulering — drie jaar lang een serieus podium, dacht mee over kop en opbouw, en hield de reeks scherp én leesbaar voor een breed juridisch publiek. Nu het platform zelf offline is en de columns gearchiveerd zijn, bundelt dit artikel de volledige reeks op één vindbare plek.

Lees het volledige overzicht voor alle acht titels, de doorwerking richting het Europese AI-kader en het Stanfordse quantumwerk, en de blijvende les voor de rechtspraktijk: bouw het recht terwijl de techniek nog vorm krijgt.

Meer lezen
De Wet op de Artificiële Intelligentie

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/wet-artificiele-intelligentie-belangrijkste-punten/

Nieuwe regels voor AI gedreven producten, diensten en systemen

Op 21 april 2021 presenteerde de Europese Commissie haar langverwachte Wet op de Artificiële Intelligentie (AI). Deze concept Verordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI gedreven producten, diensten en systemen binnen het territorium van de Europese Unie. Het was bemoedigend te zien dat het team van President Ursula von der Leyen een belangrijk aantal van onze strategische aanbevelingen op het gebied van de regulering van AI heeft overgenomen, danwel zelfstandig tot dezelfde conclusies is gekomen.

Doelstellingen wettelijk kader voor AI

De concept Verordening biedt horizontale overkoepelende kernregels voor kunstmatige intelligentie die op alle industrieën (verticals) van toepassing zijn. De wet beoogt de hoge maatstaven van het EU Trustworthy AI paradigma te codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust dient te zijn en daartoe 7 vereisten hanteert.

De Wet op de Artificiële Intelligentie heeft de volgende 4 doelstellingen:

1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;

2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;

3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;

4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.“

Risico gebaseerde aanpak kunstmatig intelligente applicaties

Om deze doelstellingen te realiseren combineert de concept Artificial Intelligence Act een risk-based approach op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit houdt onder meer in dat er voor AI applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en onacceptabel risico applicaties verboden worden. Tussen deze 2 uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Deze variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zwaar, multidisciplinair extern geauditeerde compliance vereisten inzake kwaliteit, veiligheid en transparantie inclusief risicobeheer, monitoring, certificering, benchmarking, validatie, documentatieplicht en markttoezicht gedurende de levenscyclus van de toepassing.

Handhaving en governance

De definitie van hoog risico AI applicaties binnen de diverse industriële sectoren is nog niet in steen gehouwen. Een ondubbelzinnige risicotaxonomie zal bijdragen aan rechtszekerheid en biedt belanghebbenden een adequaat antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie door SME’s waaronder tech-startups te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is er IP Action Plan opgesteld voor intellectueel eigendom. De concept Verordening voorziet tenslotte in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board. De EAIB zal op lidstaatniveau worden geflankeerd door nationale toezichthouders.

Meer lezen
Een Juridisch-Ethisch Kader voor Quantum Technologie

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-nederland-voorbereiden-kwantumtoekomst/

Nederland moet zich voorbereiden op de toepassing van kwantumtechnologie, zegt jurist en Stanford Law School Fellow Mauritz Kop. Op het gebied van regulering, intellectueel eigendom en ethiek is er nog veel werk aan de winkel.

De Quantum Age roept veel juridische vragen op

Het gedrag van de natuur op de kleinste schaal kan vreemd en contra-intuïtief zijn. Hoe kunnen beleidsmakers de toepassingsgebieden van kwantumtechnologie, zoals quantum computing, quantum sensing en het quantum internet op een maatschappelijk verantwoorde manier reguleren? Dienen ethische kwesties een rol te spelen in regulering? De Quantum Age roept veel juridische vragen op.

Hoe kunnen we kwantumtechnologie reguleren?

Regulering van transformatieve technologie is een dynamisch, cyclisch proces dat de levensduur van de technologie en de toepassing volgt. Het vraagt om een flexibel wetgevend systeem dat zich snel kan aanpassen aan veranderende omstandigheden en maatschappelijke behoeften.

De eerste regelgevende stap om te komen tot een bruikbaar juridisch-ethisch kader is het koppelen van de Trustworthy AI-principes aan kwantumtechnologie. Die vullen we vervolgens aan met horizontale, overkoepelende regels die recht doen aan de unieke natuurkundige eigenschappen van quantum. Aan deze horizontale kernregels voegt de wetgever tenslotte verticale, industrie- of sectorspecifieke voorschriften toe. Die verticale voorschriften en gedragscodes zijn risk-based en houden rekening met de uiteenlopende behoeftes van economische sectoren waar het duurzame innovatiestimuli betreft. Zo ontstaat een gedifferentieerde, sectorspecifieke benadering aangaande incentives en risks.

Bewustwording van ethische, juridische en sociale aspecten

Een belangrijk onderdeel van het synchroniseren van onze normen, waarden, standaarden en principes met kwantumtechnologie is het creëren van bewustwording van de ethische, juridische en sociale aspecten ervan. De architectuur van systemen die zijn uitgerust met kwantumtechnologie moet waarden vertegenwoordigen die wij als samenleving belangrijk vinden.

Vooruitlopend op spectaculaire doorbraken in de toepassing van kwantumtechnologie is de tijd nu rijp voor regeringen, onderzoeksinstellingen en de markt om regulatoire en intellectuele eigendomsstrategieën voor te bereiden die passen bij de power van de technologie.

Nederland moet zich voorbereiden op een kwantumtoekomst, want die komt eraan.

Meer lezen
Dit zijn de waarborgen bij de versnelde marktintroductie van vaccins

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/waarborgen-versnelde-marktintroductie-vaccins/

De eerste COVID-19 vaccins zijn in zicht

Veel mensen maken zich zorgen over de versnelde introductie van coronavaccins. "Begrijpelijke vragen, begrijpelijke zorgen. Gelukkig is de werkelijkheid een stuk genuanceerder", zegt jurist Suzan Slijpen. In dit artikel gaat zij in op de waarborgen bij de versnelde marktintroductie van vaccins.

De eerste COVID-19 vaccins zijn in zicht. Met effectiviteitsmarges van waarschijnlijk 55% tot 95% gloort er eindelijk licht aan de horizon. Het RIVM bereidt de vaccinatiestrategie alvast voor, zodat er snel geschakeld kan worden als het moment daar is.

Het ontwikkelen van geneesmiddelen duurt normaal enkele jaren

Het ontwikkelen van geneesmiddelen duurt normaal enkele jaren. Dat er nu sprake is van enkele maanden lijkt absurd kort. Hoe zorgt men ervoor dat deze middelen veilig zijn? Dat mensen - aan beide kanten van de Atlantische Oceaan - zich hier zorgen over maken is geheel terecht. Hoe voorkom je dat burgers schade oplopen doordat de vaccins en medicijnen toch niet voor iedereen blijken te werken, omdat de toelatingsprocedures te veel zijn versoepeld?

Hoe een vaccin op de markt wordt gebracht

De Nederlandse regering heeft in nauwe samenwerking met Duitsland, Frankrijk en Italië een Joint Negotiation Team gevormd dat onder leiding van de Europese Commissie onderhandelt met vaccinontwikkelaars. Doel: in een vroeg stadium met producenten afspraken maken over de beschikbaarheid van vaccins voor de Europese landen. Als deze producenten erin slagen om een succesvol vaccin te ontwikkelen waarvoor de zogenaamde Market Authorization (MA) wordt verleend door EMA danwel CBG, zou dat tot een beschikbaarheid van zo’n 50 miljoen vaccins (enkel en alleen al voor Nederland) kunnen leiden.

Wie mogen deze vaccins produceren?

Wie mogen deze vaccins produceren? De Geneesmiddelenwet is er heel duidelijk over. Alleen ‘vergunninghouders’ mogen geneesmiddelen, waaronder vaccins, produceren. Dit zijn marktpartijen die een uitvoerige aanvraagprocedure hebben doorlopen, aantoonbaar beschikken over een gedegen farmaceutisch kwaliteitsmanagement systeem en die - na toetsing door de Inspectie voor de Gezondheidszorg (IGJ) - een zogenaamde F-vergunning (fabrikantenvergunning) hebben verkregen van Farmatec. Farmatec is onderdeel van het CIBG, een uitvoeringsorgaan van het ministerie van Volksgezondheid, Welzijn en Sport (VWS). De F-vergunning is verplicht voor partijen die geneesmiddelen bereiden, doen bereiden of invoeren.

Meer lezen
We hebben dringend een recht op dataprocessing nodig

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-dringend-recht-dataprocessing-nodig/

5 juridische obstakels voor een succesvol AI-ecosysteem

Eerder schreef ik dat vraagstukken over het (intellectueel) eigendom van data, databescherming en privacy een belemmering vormen voor het (her)gebruiken en delen van hoge kwaliteit data tussen burgers, bedrijven, onderzoeksinstellingen en de overheid. Er bestaat in Europa nog geen goed functionerend juridisch-technisch systeem dat rechtszekerheid en een gunstig investeringsklimaat biedt en bovenal is gemaakt met de datagedreven economie in het achterhoofd. We hebben hier te maken met een complex probleem dat in de weg staat aan exponentiële innovatie.

Auteursrechten, Privacy en Rechtsonzekerheid over eigendom van data

De eerste juridische horde bij datadelen is auteursrechtelijk van aard. Ten tweede kunnen er (sui generis) databankenrechten van derden rusten op (delen van) de training-, testing- of validatiedataset. Ten derde zullen bedrijven na een strategische afweging kiezen voor geheimhouding, en niet voor het patenteren van hun technische vondst. Het vierde probleempunt is rechtsonzekerheid over juridisch eigendom van data. Een vijfde belemmering is de vrees voor de Algemene verordening gegevensbescherming (AVG). Onwetendheid en rechtsonzekerheid resulteert hier in risicomijdend gedrag. Het leidt niet tot spectaculaire Europese unicorns die de concurrentie aankunnen met Amerika en China.

Wat is machine learning eigenlijk?

Vertrouwdheid met technische aspecten van data in machine learning geeft juristen, datawetenschappers en beleidsmakers de mogelijkheid om effectiever te communiceren over toekomstige regelgeving voor AI en het delen van data.

Machine learning en datadelen zijn van elementair belang voor de geboorte en de evolutie van AI. En daarmee voor het behoud van onze democratische waarden, welvaart en welzijn. Een machine learning-systeem wordt niet geprogrammeerd, maar getraind. Tijdens het leerproces ontvangt een computer uitgerust met kustmatige intelligentie zowel invoergegevens (trainingdata), als de verwachte, bij deze inputdata behorende antwoorden. Het AI-systeem moet zelf de bijpassende regels en wetmatigheden formuleren met een kunstmatig brein. Algoritmische, voorspellende modellen kunnen vervolgens worden toegepast op nieuwe datasets om nieuwe, correcte antwoorden te produceren.

Dringend nodig: het recht op dataprocessing

De Europese Commissie heeft de ambitie om datasoevereiniteit terug te winnen. Europa moet een internationale datahub worden. Dit vereist een modern juridisch raamwerk in de vorm van de Europese Data Act, die in de loop van 2021 wordt verwacht. Het is naar mijn idee cruciaal dat de Data Act een expliciet recht op dataprocessing bevat.

Technologie is niet neutraal

Tegelijkertijd kan de architectuur van digitale systemen de sociaal-maatschappelijke impact van digitale transformatie reguleren. Een digitaal inclusieve samenleving moet technologie actief vormgeven. Technologie an sich is namelijk nooit neutraal. Maatschappelijke waarden zoals transparantie, vertrouwen, rechtvaardigheid, controle en cybersecurity moeten worden ingebouwd in het design van AI-systemen en de benodigde trainingdatasets, vanaf de eerste regel code.

Meer lezen
AI, blockchain en quantum: 9 belangrijke technologische ontwikkelingen voor juristen

Negen ontwikkelingen bepalen de juridische agenda van het komende decennium — van de fusie van AI en blockchain tot quantum computing en datamacht. Deze tweede VerderDenken-column van Mauritz Kop, oorspronkelijk verschenen op het CPO-platform van de Radboud Universiteit, bouwt voort op zijn eerste overzicht en zoomt in op de juridische vragen erachter.

Van blockchain tot quantum computing

Het stuk opent bij de wederzijdse versterking van kunstmatige intelligentie en blockchain, gaat via deep learning en smart contracts naar quantum computing — superpositie, verstrengeling en superconducting qubits — en laat zien waarom die niet-lineaire sprong in rekenkracht directe gevolgen heeft voor encryptie, cyberveiligheid en regelgeving.

Aansprakelijkheid, eigendom en datamacht

Centraal staan drie hardnekkige vragen: wie draagt verantwoordelijkheid voor het handelen van autonome AI, of een machinecreatie door een intellectueel eigendomsrecht wordt beschermd, en of de concentratie van trainingsdata bij enkele techgiganten zich verhoudt tot het mededingingsrecht. De column schetst telkens de denklijnen, van onrechtmatige daad tot een Europees recht op data sharing.

Grondrechten by design

De afsluiting is principieel: omdat artificiële intelligentie een transformatieve kracht heeft, horen grondrechten als privacy en het discriminatieverbod in het ontwerp van slimme systemen te worden ingebouwd — een gedachte die later concreet werd in de risicogebaseerde EU AI Act. Verder lezen over de datadimensie kan in The Right to Process Data for Machine Learning Purposes in the EU.

Meer lezen
AI en recht: 8 technologische ontwikkelingen die elke jurist moet kennen

Acht technologieën veranderen de samenleving over de volle breedte — en daarmee ook het werk van de jurist. Deze VerderDenken-column van Mauritz Kop, oorspronkelijk verschenen op het CPO-platform van de Radboud Universiteit, zet de essentiële begrippen op een rij die elke moderne jurist zou moeten kennen.

Van AI tot Internet of Things

Het stuk begint bij de kunstmatige intelligentie zelf: het verschil tussen sterke en zwakke AI, de singulariteit als gedachte-experiment, en waarom vrijwel alle systemen in de praktijk smalle, taakgerichte AI zijn. Vandaar loopt de lijn naar het Internet of Things, waar de juridische vraag verschuift van losse apparaten naar de verantwoordelijkheid in een keten van sensoren en software.

Machine learning en de evolutie van het recht

Centraal staat de gedachte dat revolutionaire techniek vraagt om evolutie van het recht — om techniekneutrale regels die niet meteen verouderen. De column legt uit wat machine learning, deep learning en reinforcement learning zijn, waarom trainingsdata het juridische zwaartepunt vormen, en hoe een systeem als AlphaGo Zero onze intuïties over toerekening en verantwoordelijkheid op de proef stelt.

Grondrechten en de voorbereiding van de praktijk

De afsluiting is principieel: artificiële intelligentie kan een positieve maatschappelijke bijdrage leveren, mits fundamentele vrijheids- en gelijkheidsrechten vroeg in het ontwerp worden meegenomen — een gedachte die later concreet werd in de risicogebaseerde EU AI Act. Voor de praktijkjurist is de boodschap dat hij de grondbegrippen moet beheersen om de juiste vragen op het juiste moment te kunnen stellen. Verder lezen over de eigendomsvraag bij machinecreaties kan in Computer generated works: wie of wat is eigenaar?

Meer lezen