Juridisch advies AI in de publieke sector

Overheden, uitvoeringsorganisaties en publieke instellingen zetten kunstmatige intelligentie in voor handhaving, vergunningverlening, risicoselectie, fraudebestrijding en dienstverlening aan burgers. De maatschappelijke gevoeligheid is hier maximaal: een algoritmisch besluit raakt grondrechten en het vertrouwen in de overheid direct. AIRecht adviseert publieke organisaties over verantwoorde inzet van algoritmes binnen de grenzen van het bestuursrecht, de AVG en de AI-Verordening, met de lessen van de toeslagenaffaire als ijkpunt. Wie de samenhang met ethiek en grondrechten en met de bredere kunstmatige intelligentie en het recht bewaakt, houdt de inzet rechtmatig én navolgbaar.

Typische juridische vraagstukken

De kern van de vraagstukken ligt bij rechtmatigheid, transparantie en toezicht. Wanneer is een risicoselectiesysteem een verboden praktijk en wanneer een toelaatbaar hoog-risicosysteem? Welke transparantie eisen de motiveringsplicht uit het bestuursrecht en de AVG bij geautomatiseerde besluiten? Hoe organiseert u menselijk toezicht dat méér is dan een stempel? Welke grondrechteneffectbeoordeling is verplicht? En hoe borgt u bij ingekochte AI dat de publieke verantwoordelijkheid overeind blijft? Het antwoord bepaalt of een systeem na ingebruikname standhoudt of onrechtmatig blijkt met alle schade van dien.

Algoritmes en het bestuursrecht

Een overheidsbesluit moet zorgvuldig tot stand komen, deugdelijk zijn gemotiveerd en vrij zijn van willekeur, ook als een algoritme heeft meegerekend. De Algemene wet bestuursrecht en de AVG (EU) 2016/679 stellen eisen die in het ontwerp van het werkproces moeten landen: de ambtenaar moet de uitkomst kunnen begrijpen, bevragen en terzijde schuiven, en de burger moet weten waarop een besluit berust. De AVG bepaalt in artikel 5 dat persoonsgegevens worden verwerkt op een wijze die "ten aanzien van de betrokkene rechtmatig, behoorlijk en transparant is" (artikel 5 AVG). Automation bias, het klakkeloos volgen van de systeemuitkomst, is een erkend risico dat in de governance moet worden ondervangen. De Uitvoeringswet AVG vult het nationale kader nader in.

Verboden praktijk, hoog-risico en de grondrechtentoets

De AI-Verordening (EU) 2024/1689 verbiedt bepaalde overheids-AI volledig, zoals social scoring en sommige vormen van predictieve handhaving, en onderwerpt andere aan strikte hoog-risico-eisen, inclusief een verplichte grondrechteneffectbeoordeling vóór ingebruikname. De scheidslijn is niet altijd intuïtief: een ogenschijnlijk neutraal model kan aan de verkeerde kant belanden. Het Europese overzicht via de Europese Commissie helpt de categorieën te duiden, maar de concrete opzet beslist. Een vroege juridische beoordeling voorkomt dat een systeem na ingebruikname onrechtmatig blijkt en voorkomt de schade die daarmee gepaard gaat.

CategorieVoorbeeld in de publieke sectorGevolgVerbodenSocial scoring, bepaalde predictieve handhavingInzet niet toegestaanHoog risicoRisicoselectie, toegang tot voorzieningenGrondrechtentoets, documentatie, menselijk toezichtBeperkt risicoInformatiechatbot voor burgersTransparantieverplichting

Het regelgevend kader

Voor overheids-AI lopen het bestuursrecht, de AVG en de AI-Verordening door elkaar, met de grondrechtentoets en de gegevensbeschermingsbeoordeling als verplichte instrumenten vóór ingebruikname. De samenloop beheersen is de eigenlijke opgave: één werkproces kan tegelijk een gemotiveerd besluit, een hoog-risico-AI en een verwerking van bijzondere gegevens zijn. Een gerichte toetsing tegen de eisen voor compliance en conformiteit maakt vooraf duidelijk waar de zwaartepunten liggen en waar het werkproces moet worden aangepast.

Bij ingekochte AI verdient de inkoopfase aparte aandacht, omdat de publieke verantwoordelijkheid daar gemakkelijk vertroebelt. De overheid blijft eindverantwoordelijk voor het besluit, ook wanneer een leverancier het model bouwt en onderhoudt; die verantwoordelijkheid kan niet worden weggecontracteerd. Wel wordt contractueel bepaald of de organisatie de documentatie, de testresultaten en de logging krijgt die nodig zijn om een besluit te motiveren en te verdedigen. Wij vertalen de publiekrechtelijke plichten naar concrete inkoop- en aanbestedingsvoorwaarden: toegang tot technische documentatie, audit- en toetsrechten, uitlegbaarheid op dossierniveau, en heldere afspraken over wijzigingen en updates die het systeemgedrag veranderen. Zo houdt de organisatie aantoonbaar de regie over een werkproces dat zij deels heeft uitbesteed, en blijft het besluit navolgbaar voor de burger en de rechter.

Veelgestelde vragen

Moeten wij een grondrechteneffectbeoordeling uitvoeren?

Overheidsinstanties die een hoog-risico-AI-systeem inzetten, moeten vóór ingebruikname een grondrechteneffectbeoordeling uitvoeren. Wij voeren die uit of toetsen een bestaande beoordeling en koppelen haar aan de gegevensbeschermingsbeoordeling.

Is risicoselectie door de overheid toegestaan?

Soms wel, soms niet. Bepaalde vormen zijn verboden; andere zijn toelaatbaar onder strikte voorwaarden. De concrete opzet en gevolgen bepalen de uitkomst, zodat een beoordeling vooraf essentieel is om onrechtmatige inzet en latere schade te voorkomen.

Wie is verantwoordelijk als we het algoritme inkopen?

De overheid blijft verantwoordelijk voor het besluit. Daarom moeten transparantie, documentatietoegang en toetsbaarheid contractueel worden geborgd bij de inkoop, zodat de publieke verantwoordelijkheid niet bij de leverancier verdwijnt en het besluit ook bij de rechter navolgbaar blijft.

Vroeg juridisch advies is in de publieke sector geen luxe maar een waarborg: een tijdige toets voorkomt dat een systeem na ingebruikname onrechtmatig blijkt, met alle schade voor burgers en het vertrouwen in de overheid van dien. Staat uw organisatie voor een classificatie, een grondrechteneffectbeoordeling of inkoopvoorwaarden onder de AI-Verordening, het bestuursrecht en de AVG? De gespecialiseerde juristen van AIRecht toetsen classificatie, grondrechten en inkoop afgestemd op uw werkprocessen; leg uw situatie voor via onze contactpagina in Amsterdam.

Zie ook: privacywetgeving en AVG · AI per sector · AI en robotica