De Wet op de Artificiële Intelligentie
Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/wet-artificiele-intelligentie-belangrijkste-punten/
Nieuwe regels voor AI gedreven producten, diensten en systemen
Op 21 april 2021 presenteerde de Europese Commissie haar langverwachte Wet op de Artificiële Intelligentie (AI). Deze concept Verordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI gedreven producten, diensten en systemen binnen het territorium van de Europese Unie. Het was bemoedigend te zien dat het team van President Ursula von der Leyen een belangrijk aantal van onze strategische aanbevelingen op het gebied van de regulering van AI heeft overgenomen, danwel zelfstandig tot dezelfde conclusies is gekomen.
Doelstellingen wettelijk kader voor AI
Mauritz Kop is Stanford Law School Fellow in Silicon Valley (VS), lid van de Europese AI Alliantie en member bij het World Economic Forum (WEF). Daarnaast is hij directeur van MusicaJuridica BV en managing partner bij AIRecht.
De concept Verordening biedt horizontale overkoepelende kernregels voor kunstmatige intelligentie die op alle industrieën (verticals) van toepassing zijn. De wet beoogt de hoge maatstaven van het EU Trustworthy AI paradigma te codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust dient te zijn en daartoe 7 vereisten hanteert.
De Wet op de Artificiële Intelligentie heeft de volgende 4 doelstellingen:
“1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;
2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;
4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.“
Risico gebaseerde aanpak kunstmatig intelligente applicaties
Om deze doelstellingen te realiseren combineert de concept Artificial Intelligence Act een risk-based approach op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit houdt onder meer in dat er voor AI applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en onacceptabel risico applicaties verboden worden. Tussen deze 2 uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Deze variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zwaar, multidisciplinair extern geauditeerde compliance vereisten inzake kwaliteit, veiligheid en transparantie inclusief risicobeheer, monitoring, certificering, benchmarking, validatie, documentatieplicht en markttoezicht gedurende de levenscyclus van de toepassing.
Handhaving en governance
De definitie van hoog risico AI applicaties binnen de diverse industriële sectoren is nog niet in steen gehouwen. Een ondubbelzinnige risicotaxonomie zal bijdragen aan rechtszekerheid en biedt belanghebbenden een adequaat antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie door SME’s waaronder tech-startups te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is er IP Action Plan opgesteld voor intellectueel eigendom. De concept Verordening voorziet tenslotte in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board. De EAIB zal op lidstaatniveau worden geflankeerd door nationale toezichthouders.
Sectorspecifieke regels
Naast de nieuwe AI-specifieke regels dienen producten en diensten ook te voldoen aan sectorspecifieke regelgeving zoals de Machine Richtlijn en de Verordeningen voor Medische Hulpmiddelen en In Vitro Diagnostiek. Bovendien geldt -naast de Algemene Verordening Gegevensbescherming (AVG) voor privacy en databescherming- straks de nieuwe Data Act voor upstream activiteiten als het gebruik van privacy-preserving synthetic dataset generation techniques en machine learning training en validatie datasets. Voorts dienen audits van producten en diensten uitgerust met AI in bestaande quality management systemen (QMS) van sectoren als Robotica, Logistiek, Energie, Voeding en Gezondheidszorg te passen.
Verordening versus Richtlijn
In de EU resulteren Verordeningen in eenwording, in unificatie van rechtsregels. Lidstaten hebben hier geen beoordelingsruimte voor een eigen interpretatie van de Brusselse voorschriften. Bij Richtlijnen hebben lidstaten die ruimte wel. Richtlijnen leiden tot harmonisatie van rechtsregels. Verordeningen zoals de nieuwe Wet op de Artificiële Intelligentie zijn rechtstreeks van toepassing in de nationale rechtsorden van de lidstaten, zonder dat omzetting of implementatie nodig is. Zoals dat bijvoorbeeld wel bij de recente Copyright Richtlijn nodig was. Zijn het Europees Parlement en de Council of Europe het medio 2022 eens met de uiteindelijke tekst en wordt deze aangenomen, dan is de AI Verordening direct geldend recht in de 27 landen van de Europese Unie.
CE-markering
In lijn met onze adviezen, schrijft de nieuwe Wet op de Artificiële Intelligentie voor dat AI- en datagestuurde producten en diensten die binnen de EU of elders in de wereld worden gecreëerd, moeten voldoen aan EU-benchmarks, waaronder veiligheids- en conformiteitsbeoordelingen. Dit is cruciaal, want betekent dat deze producten en diensten dienen te beantwoorden aan de hoge technische, juridische en ethische normen die de Trustworthy AI-kernwaarden, doel en missie weerspiegelen, voordat ze een CE-markering kunnen bemachtigen en de Europese markten mogen betreden.
De Wet op de Artificiële Intelligentie: Nieuwe Europese regels voor AI gedreven producten, diensten en systemen.
Regulering van kunstmatige intelligentie: trans-atlantische gezichtspunten
Hoewel het begrijpelijk is dat de EU AI als onderdeel van de Europese strategische autonomie beschouwt, en dat er een zekere mate van strategische Europese digitale soevereiniteit nodig is om de Europese cultuur veilig te stellen, is het van existentieel belang voor de EU om samen te werken met landen die ons Europese digitale DNA delen, gebaseerd op gemeenschappelijke respect voor rechtsstatelijkheid, mensenrechten en democratische waarden. Tegen deze achtergrond is het essentieel om systematische, multilaterale trans-atlantische samenwerking te stimuleren en gezamenlijk te komen tot inclusieve, participatieve digitalisering. De trans-atlantische en geopolitieke dialoog over transformatieve technologie, samen met de ontwikkeling van wereldwijd geaccepteerde technologiestandaarden en protocollen voor interoperabiliteit, moet worden versterkt.
Europa zet wederom de standaard
Er is moed en creativiteit voor nodig om al wetgevend door deze stormachtige, cross-disciplinaire materie heen te pionieren, en bedrijven afkomstig uit de machtige technologieblokken van de Verenigde Staten en China te dwingen zich aan EU-normen te conformeren, voordat hun AI- en datagestuurde platforms, producten en apps in aanmerking komen voor een CE-markering en toegang kunnen krijgen tot de Europese markt met zijn 450 miljoen consumenten.
Juridisch-Ethisch Raamwerk Europese Wet op de Artificiële Intelligentie
Door de Wet op de Artificiële Intelligentie vorm te geven en onze normen en waarden in te bedden in de architectuur en infrastructuur van onze technologie, biedt de EU richting en leidt het de wereld naar een betekenisvolle bestemming. Zoals de Commissie dat eerder deed met de AVG, die inmiddels de internationale standaard voor privacy, gegevensbescherming en data soevereiniteit is geworden.
Trustworthy-AI by Design
Hoewel het handhaven van de voorgestelde regels een geheel nieuw avontuur zal zijn, is het voorgestelde juridisch-ethische kader voor AI een verrijking voor de manier van denken over het reguleren van de Vierde Industriële Revolutie.
De nieuwe Europese regels zullen de wijze waarop AI wordt ontwikkeld en gevormd voorgoed veranderen. Het nastreven van Trustworthy-AI by Design lijkt daarbij een verstandige strategie, waar ter wereld u zich ook bevindt.