Een score krijgt pas betekenis door haar maatstaf
Op een marktplein werd een weegschaal pas vertrouwd nadat zij met een bekend gewicht was beproefd en verzegeld. Bij AI ontbreekt zo'n zichtbaar ijkmerk. Een leverancier presenteert 92 procent nauwkeurigheid, een inkoper neemt het getal over in een offerte en enkele maanden later draait een gewijzigde versie op een andere populatie. De Europese AI Act behandelt nauwkeurigheid daarom als een verklaarde systeemeigenschap. Zodra de hoog-risicoregels toepasselijk zijn — vanaf 2 december 2027 voor zelfstandige systemen en 2 augustus 2028 voor systemen in gereguleerde producten — moeten het relevante niveau en de gebruikte maatstaven in de gebruiksinstructies staan, samen met omstandigheden die de verwachte prestatie beïnvloeden. AI-nauwkeurigheid hoort bij een taak, dataset, drempel, versie en meetmoment.
Een hoog gemiddelde kan zeldzame maar ernstige fouten verbergen. In een test met 10.000 dossiers en 100 fraudegevallen scoort een model dat ieder dossier als niet-frauduleus aanmerkt 99 procent accuracy en toch 0 procent recall voor fraude. Bij krediet, zorg, werk en publieke dienstverlening dragen fout-positieven en fout-negatieven verschillende gevolgen. De leverancier meet op modelniveau; de betrokken burger ervaart de fout als een afwijzing, extra controle of gemiste toegang.
Consumentenclaim en zakelijk contract vragen elk hun grondslag
Het FTC-voorstel van 7 juli 2026 ziet primair op verborgen objectiefsturing en onderscheidt die ontwerpkeuze van gewone technisch veroorzaakte hallucinaties. In de EU gelden productvereisten, informatieplichten en levenscyclustoezicht voor hoog-risico-AI. De Richtlijn oneerlijke handelspraktijken begrenst consumentgerichte claims; zakelijke inkoop vraagt daarnaast een eigen contractuele analyse van prestatieverklaringen, garanties, wijzigingen en remedies. Een algemene belofte van “industry-standard accuracy” zegt weinig wanneer basismodel, databron of gebruik veranderen. Modeldrift in contracten wordt concreet zodra partijen vastleggen wanneer een oude claim ophoudt te gelden.
De demo begint een meetgeschiedenis
Artikel 72 verlangt voor de betrokken hoog-risicosystemen, zodra die regels volgens het genoemde tijdpad toepasselijk zijn, een post-market monitoringsysteem dat prestatiegegevens gedurende de levensduur actief en systematisch verzamelt en analyseert. Een versieregister, toepassingsbereik, referentiedataset, drempelwaarden en incidenten vormen samen een geschiedenis die inkoper, auditor, rechter of toezichthouder kan lezen. Een patiënt, werknemer, student of ondernemer moet kunnen achterhalen welke versie hem beoordeelde en welke foutmarge daarbij hoorde. Marktvertrouwen groeit uit leesbare beperkingen: de nauwkeurigheidsclaim blijft geloofwaardig zolang meetmethode, versie en menselijke gevolgen samen worden bewaard.
Meer lezen