Robotrecht

Juridische vraagstukken

Ethiek

Grondrechten

Rechtssubject of rechtsobject?

Robotlaw

Juridische vraagstukken inzake robotica: robotrecht

De opmars van robotica in onze samenleving heeft juridische consequenties. Zoals bij iedere opkomende technologie stellen juristen zich de vraag of deze inpasbaar is in het geldende wettelijke systeem, of dat er aanpassingen dienen te worden gedaan, of dat er speciale wetgeving dient te worden gemaakt. In geval van robotica zou er de behoefte kunnen ontstaan aan robotrecht. Er bestaat bijvoorbeeld nog geen eenvormige definitie van wat slimme autonome robots, neurorobots en biologische robots nu eigenlijk zijn.

Wetgeving juiste instrument?

De vraag is voorts of wetgeving het juiste juridische gereedschap is om rechten en plichten te omkaderen, en of dit op nationaal, Europees of internationaal niveau moet worden geregeld. Of dat instrumenten als soft law, zelfuitvoerende code uit software en smart contracts, en de formulering van best practices en branche specifieke governance gedragscodes zoals Security en Responsability by Design en de verplichte Privacy Impact Assessment geschiktere opties zijn om de transformatieve kracht van AI, machine learning en robotica te managen.

Normering door publiek-private samenwerkingen

In combinatie met normering door publiek-private samenwerkingen zoals de AI Impact Assessment, zelfregulering door tech en big data bedrijven zoals AI ontwikkelaars, app bouwers, chipfabrikanten en online platforms. En niet te vergeten educatie aan technische hogescholen en universiteiten over grondrechtelijke en ethische implicaties van technologie. Regulering geheel aan de high tech branche zelf overlaten lijkt ons niet de meest voor de hand liggende route.

Ook is het niet ondenkbaar dat intelligente machines hun eigen recht creëren. Robotrecht zou dan een verzamelnaam kunnen zijn voor een waaier aan rechtsgebieden die relevant zijn voor robotica toepassingen.

Grondrechten en privacy voor mens en robot

Juridische vraagstukken inzake robotica concentreren zich momenteel op enkele deelgebieden van het recht. Dit zijn de waarborging van grondrechten zoals privacy en het recht op persoonlijke autonomie (autonoom denken, machinaties en fake news) voor mensen die in contact komen met intelligente robots, en waarvan persoonlijke gegevens worden verwerkt door robots. Zoals toestemming, beveiliging, encryptie, dataminimalisatie en het recht om vergeten te worden. En hoe zit het met vergaande digitalisering en justificatie van geautomatiseerde besluitvorming, is er inspraak, transparantie en zijn er voldoende waarborgen voor burgers?

Vrijheidsrechten en gelijkheidsrechten

Is de vrijheid van meningsuiting gegarandeerd en kan ervoor worden gezorgd dat bias in algoritmes niet leidt tot discriminatie en schending van gelijkheidsrechten? Hoe zit het met godsdienstvrijheid, demonstratievrijheid en het recht op een eerlijk proces waaronder het recht op hoor en wederhoor en toegang tot de rechter? Is het voor mensen nog uitlegbaar hoe en waarom deep learning systems tot een bepaalde output/oordeel/conclusie komen? Zijn hier voldoende wettelijke grondslagen aanwezig en zijn er checks en balances ingebouwd? Worden vrijheidsrechten en gelijkheidsrechten van alle burgers in voldoende mate gerespecteerd. Waar zitten de knelpunten en hoe worden die weggenomen?

Verantwoorde toepassing van kunstmatige intelligentie

Een praktische tool bij de beantwoording van deze vragen en bij implementatie van smart robotics is de AI Impact Assesment, een leidraad voor verantwoorde toepassing van kunstmatige intelligentie.

Fundamentele rechten van biologische robots

Ook denkbaar zijn fundamentele rechten van robots die uitgerust zijn met kunstmatige super intelligentie en zelfdenkend, bewust van zichzelf zijn gelijk een mens. En over affectieve vermogens beschikken, ingeprogrammeerd door een mens danwel uit een zelflerend artificieel neuraal netwerk geboren. Waaronder zelfbewuste, zichzelf reparerende neurorobots en biologische robots die deels bestaan uit organisch materiaal. De antropomorphische robot als drager van rechten en plichten in de zin van rechtssubject. En niet slechts als rechtsobject. Fundamentele rechten van de mens zijn verankerd in de Nederlandse Grondwet, het Europees Verdrag voor de Rechten van de Mens (EVRM) en het EU Handvest van de grondrechten. Moeten we naar een Europees Verdrag voor de Rechten van de Robot (EVRR)? Of is voogdij over permanent wilsonbekwamen een betere optie?

Europees Verdrag voor de Rechten van de Mens (EVRM)

Artikel 5 van het Europees Verdrag voor de Rechten van de Mens (EVRM) zegt het volgende over fundamentele vrijheidsrechten:

Artikel 5. Recht op vrijheid en veiligheid

1 Een ieder heeft recht op vrijheid en veiligheid van zijn persoon. Niemand mag zijn vrijheid worden ontnomen, behalve in de navolgende gevallen en overeenkomstig een wettelijk voorgeschreven procedure:

a. indien hij op rechtmatige wijze is gedetineerd na veroordeling door een daartoe bevoegde rechter;

b. indien hij op rechtmatige wijze is gearresteerd of gedetineerd, wegens het niet naleven van een overeenkomstig de wet door een gerecht gegeven bevel of teneinde de nakoming van een door de wet voorgeschreven verplichting te verzekeren;

c. indien hij op rechtmatige wijze is gearresteerd of gedetineerd teneinde voor de bevoegde rechterlijke instantie te worden geleid, wanneer er een redelijke verdenking bestaat, dat hij een strafbaar feit heeft begaan of indien het redelijkerwijs noodzakelijk is hem te beletten een strafbaar feit te begaan of te ontvluchten nadat hij dit heeft begaan;

d. in het geval van rechtmatige detentie van een minderjarige met het doel toe te zien op zijn opvoeding of in het geval van zijn rechtmatige detentie, teneinde hem voor de bevoegde instantie te geleiden;

e. in het geval van rechtmatige detentie van personen ter voorkoming van de verspreiding van besmettelijke ziekten, van geesteszieken, van verslaafden aan alcohol of verdovende middelen of van landlopers;

f. in het geval van rechtmatige arrestatie of detentie van een persoon teneinde hem te beletten op onrechtmatige wijze het land binnen te komen, of van een persoon waartegen een uitwijzings- of uitleveringsprocedure hangende is.

2 Een ieder die gearresteerd is moet onverwijld en in een taal die hij verstaat op de hoogte worden gebracht van de redenen van zijn arrestatie en van alle beschuldigingen die tegen hem zijn ingebracht.

3 Een ieder die is gearresteerd of gedetineerd, overeenkomstig lid 1.c van dit artikel, moet onverwijld voor een rechter worden geleid of voor een andere magistraat die door de wet bevoegd verklaard is rechterlijke macht uit te oefenen en heeft het recht binnen een redelijke termijn berecht te worden of hangende het proces in vrijheid te worden gesteld. De invrijheidstelling kan afhankelijk worden gesteld van een waarborg voor de verschijning van de betrokkene ter terechtzitting.

4 Een ieder, wie door arrestatie of detentie zijn vrijheid is ontnomen, heeft het recht voorziening te vragen bij het gerecht opdat deze spoedig beslist over de rechtmatigheid van zijn detentie en zijn invrijheidstelling beveelt, indien de detentie onrechtmatig is.

5 Een ieder die het slachtoffer is geweest van een arrestatie of een detentie in strijd met de bepalingen van dit artikel, heeft recht op schadeloosstelling.

Rechtspersoonlijkheid en werknemersbescherming

Ook de vraag of aan robots een soort van rechtspersoonlijkheid dient te worden toegekend bij wet, richtlijn of verdrag is relevant. Zoals een sui generis rechtsvorm, rechtssubject of rechtsobject, of een juridische entiteit geplaatst tussen een natuurlijk persoon en een bedrijf. Het is voorstelbaar dat er op een gegeven moment een juridische, sociaal-maatschappelijke of economische behoefte zal bestaan aan het verlenen van een vorm van rechtspersoonlijkheid aan autonome AI’s.

Arbeidscontract sluiten met robot of AI?

Van belang is tevens de vraag of aan AI robots in het arbeidsproces een bepaalde mate van werknemersbescherming moet worden toegekend en in het verlengde daarvan of er een arbeidscontract tussen de werkgever en de robot moet worden gesloten. Op dit moment kunnen er geen contracten, en dus ook geen arbeidsovereenkomsten met robots en AI’s worden gesloten.

Civielrechtelijke dimensie

De inzet van kunstmatige intelligentie in machines zal naast een civielrechtelijke dimensie ook bestuursrechtelijke, institutionele, strafrechtelijke en fiscaalrechtelijke implicaties hebben. Deze website heeft primair een focus op privaatrechtelijk aspecten van de robotsamenleving en de gevolgen ervan voor bedrijven en consumenten.

Eenzijdige en meerzijdige rechtshandelingen door robots

Een volgende vraag is wie er aansprakelijk is voor het handelen of nalaten van een robot. Is dit de robot zelf, kan die überhaupt eenzijdige of meerzijdige rechtshandelingen verrichten, of degene die de robot heeft ontwikkeld, geleverd of afgesteld/ingeregeld. Bestaat er productaansprakelijkheid voor alle soorten robots?

Schade door robots

Hoe zit het met robots, biotechnologie en genetisch gemodificeerde organismen (GGO's)? Gelden er vrijwaringen voor aansprakelijkheid door schade bij medical devices en medische implantaten? Kan er tussen robots onderling wilsovereenstemming bestaan gericht op rechtsgevolg? Kan een robot trouwambtenaar zijn?

Aansprakelijkheid en verzekering voor handelen of nalaten van neurorobots en algoritmes

Indien het een autonome neurorobot betreft hoe zit het dan met aansprakelijkheid voor medische fouten. En voor een zelfrijdende auto? Of een datalekkend algoritme? En zijn die fouten verzekerbaar? Past dit in het systeem van het Burgerlijk Wetboek? Boek 6 van het Burgerlijk Wetboek is immers niet geschreven met contracten tussen machines onderling in het achterhoofd. Onrechtmatige daad ex 6:162 BW (schuldaansprakelijkheid) ook niet.

Onstoffelijkheid

Gelden er andere normen voor fysieke robots dan voor onstoffelijke algoritmen en software? Behoeft dit een andere wettelijke kwalificatie? Geldt voor algoritmes en autonome AI’s de gevaarzettingsleer uit het Kelderluik-arrest? Of moeten we het zoeken in risicoaansprakelijkheid zoals aansprakelijkheid voor dieren als in wilsonbekwame wezens gevaar zouden kunnen vormen? Wanneer is art. 6: 173 BW van toepassing en wanneer 6: 162 BW? Of is het wenselijk dat er een alternatieve, strengere aansprakelijkheidsgrondslag voor robots en algoritmes geldt? Zou dat geen remmende werking hebben op innovatie?

Het zal ons in ieder geval niet tegen een Rise of the Machines beschermen, daarvoor zijn waarborgen in het design van algoritmes nodig.

Zorgvuldigheidsnormen

Men kan open normen zoals zorgvuldigheidsnormen en de allesomvattende redelijkheid en billijkheid in principe toepassen op onstoffelijke zaken zoals algoritmes. Daarmee zijn we er echter nog niet. Bovendien maken we onderscheid tussen domme en slimme algoritmes. Evenzogoed moet er een rechtskader worden ontwikkeld voor contractuele en buiten-contractuele aansprakelijkheid en verzekering voor smart autonomous machines.

Intellectuele eigendomsrechten op (onderdelen van) de robot zelf

Voorts kunnen er op (onderdelen) van robots verschillende soorten intellectuele eigendomsrechten rusten, zoals modellenrechten, patenten, merkenrechten en auteursrechten. Mensen zijn eigenaar van die rechten. Ook op big data die machines gebruiken of verwerken kunnen databankrechten liggen. En chipsrechten op de hardware. Op de software, de wijze waarop de AI wordt getraind, het algoritme en het neuraal netwerk kunnen IE-rechten rusten.

Artikel 2 van de Softwarerichtlijn zegt het volgende over de maker van een computerprogramma:

Artikel 2

Auteurschap van het programma

1. De maker van een computerprogramma is de natuurlijke persoon of de groep van natuurlijke personen die het programma gemaakt heeft of, indien de wetgeving van de lidstaat zulks toestaat, de rechtspersoon die door de nationale wetgeving als rechthebbende wordt aangemerkt.

Wanneer de wetgeving van een lidstaat collectieve werken erkent, wordt degene die volgens die wetgeving geacht wordt het programma gemaakt te hebben, als de maker ervan beschouwd.

2. Indien een computerprogramma door een groep van natuurlijke personen gezamenlijk gemaakt is, zijn deze personen gezamenlijk houder van de exclusieve rechten.

3. Indien een computerprogramma gemaakt is door een werknemer bij de uitoefening van zijn taken of in opdracht van zijn werkgever, is de werkgever bij uitsluiting bevoegd de economische rechten met betrekking tot het programma uit te oefenen, tenzij bij overeenkomst anders werd bepaald.

Auteursrechten: Incentive & Reward systeem

Het auteursrecht gaat uit van een systeem van incentive & reward. Het is om die reden verstandig om hier en daar een uitzondering toe te laten op auteursrechten om de drempel voor tech startups niet te hoog te maken. En de zaak niet te grondig dicht willen timmeren. Het wegnemen van marktbarrières stimuleert in die zin technologische innovatie. Het verplicht stellen van een content uploadfilter voor online platforms is zo’n marktbarrière. Uiteraard dienen er daarnaast beschermingstermijnen te zijn waarin de scheppers van een werk of technische vondst hun inspanningen kunnen verzilveren om zo weer nieuwe investeringen te kunnen doen in innovatie. Totdat – na de technologische singulariteit - slimme robots het scheppen van werken zelf voor hun rekening nemen…

Auteursrechten op de creaties van robots

Daarnaast kunnen er onder omstandigheden auteursrechten rusten op de voortbrengselen van AI robots zelf, zoals kunst, muziek, uitvindingen, industriële toepassingen, code en andersoortige creatieve scheppingen. Auteursrechten op machine made creations. Oftewel computer generated works. Dat hangt mede af van welk rechtsstelsel er van toepassing is op de casus. Men kan de vraag stellen of hier sui generis categorieën rechten voor in het leven moeten worden geroepen of dat de creaties van AI’s al afdoende kunnen worden beschermd door een combinatie van bestaande intellectuele en industriële eigendomsrechten.

Werkgeversauteursrecht

Zoals een octrooi, bedrijfsgeheim, naburig recht of i-Depot. Auteursrechten zijn nu problematisch omdat de Auteurswet menselijke creativiteit en originaliteit vereist. Ook werkgeversauteursrecht of een Work Made For Hire zijn problematisch. Het kan ook zo zijn dat er geen intellectuele eigendomsrechten ontstaan maar gewone juridische eigendomsrechten. Over deze zaken bestaat nog geen rechtspraak van onze hoogste rechter.

Artikel 7 van de Auteurswet zegt het volgende over het werkgeversauteursrecht:

Indien de arbeid, in dienst van een ander verricht, bestaat in het vervaardigen van bepaalde werken van letterkunde, wetenschap of kunst, dan wordt, tenzij tusschen partijen anders is overeengekomen, als de maker van die werken aangemerkt degene, in wiens dienst de werken zijn vervaardigd.

Consumentenbescherming

Het is de vraag of Europese normen voor consumentenbescherming afdoende zijn voor smart products, het Internet of Things en robotica toepassingen in en om het huis. Dit kan aanleiding zijn tot aanpassing van de Europese Consumentenrichtlijn. Hoe zit het bijvoorbeeld met productaansprakelijkheid voor autonome slimme machines? Consument en burger dienen bij robotica toepassingen die aan de volksgezondheid en de bejaardenzorg raken, zoals medische robots, social robots, agrobots en drones, extra beschermd te worden. Het is de vraag of normen geformuleerd inzake gezondheidsrecht, farmaceutisch recht, geneesmiddelenrecht, voedselveiligheid en levensmiddelenrecht voldoende zijn afgestemd op de robotsamenleving.

Ethiek

Tenslotte spelen ethische aspecten een rol bij de 360 graden intrede van intelligente robots, cyborgs, bionische mensen (genetisch gemodificeerde upgrade van een mens), human engineering, futuristische augmented humans en cybernetics in onze maatschappij. Ten aanzien van het gedrag van robots in de relatie tot de mensheid heeft sci-fi auteur Isaac Asimov in het jaar 1942 3 universele robotwetten geformuleerd. De gedachte is dat deze gedragsregels, waaronder veiligheid en verantwoordelijkheid, worden ingebouwd in de robot. Bij wijze van Accountability by Design, of Security & Responsibility by Design en Default.

De 3 robotwetten van Asimov zijn:

Eerste Wet

Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet

Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet

Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Controleprobleem van kunstmatige intelligentie

Bent u Robotica ontwikkelaar, producent, leverancier, distributeur, data wetenschapper, uitvinder, gebruiker of consument en wilt u juridische vraagstukken inzake robotics, drones, cybernetics en bionics aan ons voorleggen of wilt u juridisch advies over het controleprobleem van kunstmatige intelligentie neem dan gerust contact met ons op.