AI in de zorg en de wet: AIRecht adviseert het Rathenau Instituut

Kunstmatige intelligentie ontwikkelt zich niet in een juridisch vacuüm. Met die boodschap droeg AIRecht-oprichter Mauritz Kop bij aan het werk van het Rathenau Instituut over AI en recht, met in 2020 een inventarisatie van de Europese wetgeving rond AI in de zorg.

Een dicht web van bestaande regels

De inventarisatie laat zien hoeveel recht er al van toepassing is: productveiligheid en de Medical Devices Regulation, de AVG met haar Data Protection Impact Assessment, consumenten- en patiëntenrechten, en sectorspecifieke kwaliteitsnormen onder toezicht van EMA en Farmatec. Door alles heen loopt het Europese voorzorgsbeginsel.

Eigendom, grondrechten en nieuwe AI-regels

Kop bracht ook de lastige randen in kaart: wie is eigenaar van een AI-uitvinding zonder menselijke maker, hoe verhouden grondrechten als privacy en non-discriminatie zich tot zorg-AI, en hoe de toen nog komende AI-wetgeving (CAHAI, het Commissie-White-Paper, en uiteindelijk de EU AI Act) bovenop de bestaande sectorale regels zou komen te staan.

Waarom dit advies ertoe doet

De kern is een waarschuwing tegen een denkfout: het idee dat één AI-wet alles regelt. De werkelijkheid is multidisciplinair en cross-sectoraal. Wie het hele speelveld overziet, kan innovatie ruimte geven zonder de waarborgen los te laten. Verder lezen over de datadimensie kan in We hebben dringend een recht op dataprocessing nodig.

Meer lezen

Kunstmatige Intelligentie, eHealth, Europees rechtHenry Quentir20 februari 2020Rathenau Instituut, AI-wetgeving, eHealth, Medical Devices Regulation, AVG, Voorzorgsbeginsel, AI Act, Mauritz Kop

AI en recht: 8 technologische ontwikkelingen die elke jurist moet kennen

Acht technologieën veranderen de samenleving over de volle breedte — en daarmee ook het werk van de jurist. Deze VerderDenken-column van Mauritz Kop, oorspronkelijk verschenen op het CPO-platform van de Radboud Universiteit, zet de essentiële begrippen op een rij die elke moderne jurist zou moeten kennen.

Van AI tot Internet of Things

Het stuk begint bij de kunstmatige intelligentie zelf: het verschil tussen sterke en zwakke AI, de singulariteit als gedachte-experiment, en waarom vrijwel alle systemen in de praktijk smalle, taakgerichte AI zijn. Vandaar loopt de lijn naar het Internet of Things, waar de juridische vraag verschuift van losse apparaten naar de verantwoordelijkheid in een keten van sensoren en software.

Machine learning en de evolutie van het recht

Centraal staat de gedachte dat revolutionaire techniek vraagt om evolutie van het recht — om techniekneutrale regels die niet meteen verouderen. De column legt uit wat machine learning, deep learning en reinforcement learning zijn, waarom trainingsdata het juridische zwaartepunt vormen, en hoe een systeem als AlphaGo Zero onze intuïties over toerekening en verantwoordelijkheid op de proef stelt.

Grondrechten en de voorbereiding van de praktijk

De afsluiting is principieel: artificiële intelligentie kan een positieve maatschappelijke bijdrage leveren, mits fundamentele vrijheids- en gelijkheidsrechten vroeg in het ontwerp worden meegenomen — een gedachte die later concreet werd in de risicogebaseerde EU AI Act. Voor de praktijkjurist is de boodschap dat hij de grondbegrippen moet beheersen om de juiste vragen op het juiste moment te kunnen stellen. Verder lezen over de eigendomsvraag bij machinecreaties kan in Computer generated works: wie of wat is eigenaar?