Innovation, Quantum-AI Technology & Law

Blog over Kunstmatige Intelligentie, Quantum, Deep Learning, Blockchain en Big Data Law

Blog over juridische, sociale, ethische en policy aspecten van Kunstmatige Intelligentie, Quantum Computing, Sensing & Communication, Augmented Reality en Robotica, Big Data Wetgeving en Machine Learning Regelgeving. Kennisartikelen inzake de EU AI Act, de Data Governance Act, cloud computing, algoritmes, privacy, virtual reality, blockchain, robotlaw, smart contracts, informatierecht, ICT contracten, online platforms, apps en tools. Europese regels, auteursrecht, chipsrecht, databankrechten en juridische diensten AI recht.

Berichten met de tag kunstmatige intelligentie
AI, Machine Learning & Recht — de VerderDenken-columns (CPO Radboud Universiteit)

Tussen 2018 en 2021 verscheen op VerderDenken.nl, het kennisplatform van het CPO van de Radboud Universiteit, een reeks van acht columns over AI en recht van de hand van Mauritz Kop. Wie ze vandaag terugleest, ziet geen tijdscapsule maar een routekaart: vrijwel elk thema uit de reeks werd nadien Europese wetgeving of internationale onderzoeksagenda.

Acht columns, van machine learning tot quantum

De reeks opent bij de basis — wat is machine learning, en waarom moeten juristen de techniek begrijpen? — en eindigt bij de verantwoorde toepassing van quantumtechnologie. Daartussen: negen technologische ontwikkelingen voor de rechtspraktijk, het eigendom van computer generated works, het pleidooi voor een recht op dataprocessing, de contouren van een wettelijk AI-kader, de juridische waarborgen bij versnelde vaccinintroductie, en een juridisch-ethisch kader voor quantumtechnologie — destijds een vroege verkenning in de Nederlandse vakpers. Het overzichtsartikel geeft van elke column de Nederlandse titel mét Engelse vertaling en een korte duiding.

Een archief dat wetgeving voorspelde

De columns bepleitten een risicogebaseerde benadering van kunstmatige intelligentie vóórdat de EU AI Act bestond, en agendeerden datarecht vóór de Data Act. Die vooruitziendheid was geen toeval maar methode: eerst de techniek serieus nemen — hoe leert een model, waar komt de data vandaan, wat kan quantum wél en niet — en dan pas normeren. Dezelfde denkbeweging kreeg op dit blog zijn meest uitgesproken vorm in De posthumanistische revolutie van AI — en groeide bij de quantumcolumns uit tot het onderzoeksprogramma dat later aan Stanford Law School gestalte kreeg.

Dank aan een redactie die ruimte gaf

Het overzicht is óók een dankbetuiging. De redactie van VerderDenken.nl gaf onderwerpen die destijds exotisch klonken — machinaal auteurschap, quantumregulering — drie jaar lang een serieus podium, dacht mee over kop en opbouw, en hield de reeks scherp én leesbaar voor een breed juridisch publiek. Nu het platform zelf offline is en de columns gearchiveerd zijn, bundelt dit artikel de volledige reeks op één vindbare plek.

Lees het volledige overzicht voor alle acht titels, de doorwerking richting het Europese AI-kader en het Stanfordse quantumwerk, en de blijvende les voor de rechtspraktijk: bouw het recht terwijl de techniek nog vorm krijgt.

Meer lezen
Gasthoogleraar Mauritz Kop in het Financieel Dagblad: AI-chatbots, media-archieven en een Buma/Stemra voor nieuws

Toen Nederlandse en Europese uitgevers hun websites begonnen af te schermen voor AI-chatbots, vroeg Het Financieel Dagblad jurist en gasthoogleraar Mauritz Kop (Stanford) om duiding. In het stuk van redacteur Sandra Olsthoorn (september 2023) schetste hij niet alleen het probleem — AI-modellen die nieuwsarchieven leegtrekken — maar ook een concrete uitweg.

Blokkeren is geen oplossing

Afschermen werkt nauwelijks en heeft een gevaarlijke bijwerking, betoogde Kop: zonder betrouwbare journalistiek worden chatbots gevoed met materiaal uit onbetrouwbare hoeken, met een groter risico op desinformatie en complottheorieën — volgens hem een bedreiging voor de democratie. De kwaliteit van de bronnen waarop AI leunt, is dus een publiek belang, geen privékwestie van de sector.

Een Buma/Stemra voor nieuws

Kops voorstel: een collectief licentiemodel naar het voorbeeld van Buma/Stemra, waarbij mediabedrijven hun artikelen tegen een faire vergoeding beschikbaar stellen aan AI-ontwikkelaars. Te hoog en techbedrijven betalen niet; te laag en er blijft geen geld voor kwaliteitsjournalistiek. Collectief beheer verlaagt bovendien de transactiekosten van het onderhandelen.

Liever Europees, liever samen

Zijn voorkeur ligt bij een initiatief vanuit de Europese Commissie, dat — net als de privacywetgeving — kan overwaaien naar de VS. Boven alles geldt: samen tot afspraken komen is beter dan eindeloze rechtszaken. Deze samenvatting laat zien waarom uitgevers, mediabedrijven en AI-ontwikkelaars nú een licentie- en auteursrechtstrategie nodig hebben.

Meer lezen
Computer generated works: wie of wat is eigenaar?

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/computer-generated-works-eigenaar/

Nieuwe technologieën roepen nieuwe juridische vragen op. Zo ook computers die creatieve werken maken. Wie of wat is de eigenaar van zo’n werk? Mauritz Kop geeft uitleg.

Machines uitgerust met artificiële intelligentie (AI) begeven zich op het terrein van de schone kunsten. Computers schilderen, schrijven en componeren er ijverig op los. Zo genereerde The Next Rembrandt een 3D-geprint meesterwerk, schilderde The Art and Artificial Intelligence Lab een levensechte Mona Lisa, schreef Kurzweils Cybernetic Poet klassieke sonnetten en produceerde Amper Music een complete muziek-cd. Alles in luttele seconden.

Auteursrechten vestigen is problematisch

Het is voorstelbaar dat er auteursrechten rusten op de voortbrengselen van AI-systemen zelf, zoals kunst, muziek, literatuur, uitvindingen, industriële toepassingen, algoritmes, code en andersoortige scheppingen. Men kan zich als wetgever de vraag stellen of er voor computer generated works sui generis categorieën rechten (met een korte looptijd en zonder persoonlijkheidsrechten) in het leven moeten worden geroepen.

Kunnen IE-rechten überhaupt AI-scheppingen beschermen?

De wet in haar huidige vorm erkent geen niet-menselijke auteursrechten. Auteurschap is fundamenteel verbonden met menselijkheid; met scheppingen van de menselijke geest. Dat vloeit bijvoorbeeld voort uit het bekende Infopaq-arrest van het EU Hof van Justitie uit 2009, al is dit arrest niet geschreven met machine learning en kunstmatige intelligentie in het achterhoofd. Is het dogmatisch en doctrinair correct om aan te nemen dat er geen copyright kan zijn op pure AI creations? AI is per slot van rekening niet menselijk en er is bovendien geen menselijke originaliteit en creativiteit aanwezig. Het korte antwoord luidt: ja.

Algoritmisch auteurschap: goed idee of niet?

In tegenstelling tot de benadering van de EU en de VS, heeft het Verenigd Koninkrijk een computer generated works-regime geïmplementeerd, wat betekent dat de programmeur van de AI het auteursrecht krijgt op de output van de machine. Met andere woorden: het VK, en recentelijk ook de Chinese rechter, breiden het menselijke auteurschap uit naar algoritmisch auteurschap.

AI-machine kan geen copyright bezitten

Auteursrechten kunnen alleen eigendom zijn van rechtssubjecten, dus personen of bedrijven. Een AI-machine kan zelf geen copyright bezitten op AI made creations omdat een AI-systeem geen rechtssubjectiviteit en ook geen rechtspersoonlijkheid bezit. AI-systemen kwalificeren als rechtsobject, niet als rechtssubject.

‘Publiek eigendom uit de machine’ en menselijke interventie

Menselijk auteurschap blijft het normatieve orgelpunt van het intellectuele eigendomsrecht. Delen van het meerlagige, uit het Romeinse recht afkomstige eigendomsparadigma kunnen relevant zijn voor AI. Voortbouwend op dit raamwerk is er een nieuw publiek domein model denkbaar voor AI creations and inventions die de autonomiedrempel overschrijden: res publicae ex machina (publiek eigendom uit de machine).

Meer lezen
Data delen als voorwaarde voor een succesvol AI-ecosysteem

Trainingsdatasets voor kunstmatige intelligentie: enkele juridische aspecten

Data delen (data sharing) of liever het vermogen om hoge kwaliteit trainingsdatasets te kunnen analyseren om een AI model -zoals een generative adversarial network- te trainen, is een voorwaarde voor een succesvol AI-ecosysteem in Nederland.

In ons turbulente technologische tijdperk nemen fysieke aanknopingspunten als papier of tastbare producten binnen de context van data -of informatie- in belang af. Informatie is niet langer aan een continent, staat of plaats gebonden. Informatietechnologie zoals kunstmatige intelligentie ontwikkelt zich in een dermate hoog tempo, dat de juridische problemen die daaruit voortvloeien in belangrijke mate onvoorspelbaar zijn. Hierdoor ontstaan -kort gezegd- problemen voor tech startups en scaleups.

In dit artikel een serie -mede in onderlinge samenhang te beschouwen aanbevelingen, suggesties en inventieve oplossingen om anno 2020 tot waardevolle nationale en Europese dataketens te komen.

Data donor codicil

Introductie van een Europees (of nationaal) data donor codicil waarmee een patiënt of consument vrijwillig data kan doneren aan de overheid en/of het bedrijfsleven, AVG-proof. Hier kunnen waardeketens worden gecreëerd door de sensor data van medische Internet of Things (IoT) apparaten en smart wearables van overheidswege te accumuleren. Anoniem of met biomarkers.

Data interoperabel en gestandaardiseerd

Unificatie van data uitwisselingsmodellen zodat deze interoperabel en gestandaardiseerd worden in het IoT. Een voorbeeld is een Europees EPD (Elektronisch Patiënten Dossier), i.e een Electronic Healthcare Record (EMR). AI certificering en standaardisatie (zoals ISO, ANSI, IEEE / IEC) dient bij voorkeur niet te worden uitgevoerd door private partijen met commerciële doelstellingen, maar door onafhankelijke openbare instanties (vergelijk het Amerikaanse FDA).

Machine generated (non) personal data

Een andere categorisering die we kunnen maken is enerzijds publieke (in handen van de overheid) machine generated (non) personal data, en private machine generated (non) personal data. Met machine generated data bedoelen we met name informatie en gegevens die continue door edge devices worden gegenereerd in het Internet of Things (IoT). Deze edge devices staan via edge (of fod) nodes (zenders) in verbinding met datacenters die samen met edge servers de cloud vormen. Deze architectuur noemen we ook wel edge computing.

Juridische dimensie

Data, of informatie heeft een groot aantal juridische dimensies. Aan data delen kleven potentieel intellectueel eigendomsrechtelijke (verbodsrecht en vergoedingsrecht), ethische, grondrechtelijke (privacy, vrijheid van meningsuiting), contractenrechtelijke en internationaal handelsrechtelijke aspecten. Juridisch eigendom op data bestaat anno 2020 niet omdat het -vanuit goederenrechtelijk oogpunt- niet als zaak wordt gekwalificeerd. Data heeft wel vermogensrechtelijke aspecten.

Meer lezen
Artificial Intelligence Impact Assessment

AI Impact Assessment: checklist voor toepassing artificiële intelligentie

Het AI Impact Assessment biedt ondernemers, datawetenschappers en softwareprogrammeurs een gedragscode waarmee AI veilig geïmplementeerd kan worden. Het Artificial Intelligence Impact Assessment is ontwikkeld door het ECP|Platform voor de InformatieSamenleving. De AI Impact Assessment is een wegwijzer voor toepassing van artificiële intelligentie. Via een praktische checklist op zowel juridisch, technisch als ethisch vlak.

De uitvoering van de AI Impact Assessment wordt bij voorkeur begeleid door een daartoe gespecialiseerd jurist.

Risico-inschattingsinstrument

De AIIA vertoont verwantschap met andere risico-inschattingsinstrumenten zoals de Privacy Impact Assessment (PIA, ook wel Data Protection Impact Assessment (DPIA) of gegevensbeschermingseffectbeoordeling (GEB) genaamd). We zien eenzelfde logica terug bij de 3 Robotwetten van Asimov, de IBM Watson AI Guidelines en de 23 Asilomar AI principes. De AIIA heeft eveneens een gidsfunctie, en een vergelijkbaar moreel kompas.

Leidraad voor verantwoorde implementatie van kunstmatige intelligentie

De Artificiële Intelligentie Impact Assessment (AIIA) bevat een overzichtelijk stappenplan met 8 stappen, aan de hand waarvan bedrijven inzichtelijk kunnen maken welke juridische en ethische normen van belang zijn bij de creatie en toepassing van AI-systemen en smart robotics. Ook maken de AIIA en de Gedragscode Artificiële Intelligentie helder welke motieven en beweegredenen de basis vormen van de te maken keuzes en beslissingen tijdens het AI implementatietraject. Dit maakt het gebruik van kunstmatige intelligentie en slimme algoritmes transparanter.

Meer lezen
Algoritmes, Artificiële Intelligentie, Big data, Cloud Computing, Cognitive Computing, Computer Vision, Deep Learning, Extended Reality, Grondrechten, Informatierecht, Intellectueel Eigendom, Internet of Things, Internetrecht, Juridisch Advies, Kunstmatige Intelligentie, Nano Engineering, Neuraal Netwerk, Quantum Computing, Recht, Robotica, Robotlaw, Tech Startups, WetgevingMauritz KopArtificiële Intelligentie & RechtArtificial Intelligence Impact Assessment, robotisering, 4e industriële revolutie, slimme robots, kunstmatige intelligentie, AI Impact Assessment, checklist, stappenplan, ECP, Platform voor de InformatieSamenleving, jurist, legal, ethische normen, risico-inschattingsinstrumenten, Privacy Impact Assessment, PIA, Asimov, GEB, Gedragscode Artificiële Intelligentie, rechtsstatelijkheid, intellectueel eigendom, wet en regelgeving, belanghebbenden, Infinite computing, neuromorphic chips, AI-mind clouds, spintronics, wijsheid, compassie, Harari Home Deus, Singularity, Artificial General Intelligence, bias, Privacyvraagstukken, accessibility, blockchain, dystopische toekomstscenario’s, Orwelliaanse Versificator, 1984, The Matrix, Blade Runner, Ghost In The Machine, Westworld, Mad Max, Robocop, The Terminator, Brazil, Metropolis, Asilomar AI Principes, Privacy en Security by Design, Triple Helix Model, Nederlandse AI Strategie, Conferentie Nederland Digitaal, arbeidsmarkt, disruptie, leidraad, gidsfunctie, open internet, digitalisering, neuraal netwerk, machine learning, Internet of Things, data scientist, software programmeur, Europese AI Alliantie, Cybersecuritywetgeving, NIB-Richtlijn (EU) 2016/1148), NIS-Directive, IEC 62443, eIDAS, veiligheidseisen, Wbni, ISO, NEN, ANSI, end users, IBM Watson, AI Guidelines, ICAI, AINED