Juridisch Advies AI, Robotica, Big Data, Machine Learning

Algoritmes | Wetgeving | Accountability by Design | Bias | Best Practices

Welke wettelijke regels gelden voor algoritmes? Wat zijn Accountability by Design voorschriften voor computerprogramma’s, deep learning en neurale netwerken? Hoe kan code ondubbelzinnig zijn? Hoe voorkom ik dat er bias in mijn genetische algoritme sluipt waardoor ik grondrechten van derden schendt en discriminatie pleeg? Welke juridische vereisten stelt de Europese wetgever aan data wetenschappers, mad scientists en AI-ontwikkelaars inzake autonome AI agents? Hoe zit het met uitlegbaarheid van output? Best practices en legal roadmaps. Artificiële Intelligentie en Recht weet raad!

Algoritme = Software

Wetgeving

Juridisch bescherming

Algoritmes

Wat zijn algoritmes eigenlijk en waaruit bestaan ze?

Algoritmes bestaan uit instructiesets die een bepaald mathematisch probleem beogen op te lossen. Algoritmes worden gekwalificeerd als software. Deze software bevat code, die in een bepaalde computertaal is opgesteld. De meeste algoritmes zijn door menselijk programmeurs geschreven. Er bestaan ook algoritmes die door AI’s bedacht en gemaakt. Daaraan zijn geen mensenhanden meer te pas gekomen.

Het ene algoritme is het andere niet.

Juridische bescherming van algoritmen

Functionaliteit, waaronder de werking van een algoritme, is uitgesloten van bescherming door het auteursrecht, uit hoofde van de Europese Softwarerichtlijn. Een bedrijfsgeheim beschermt voorts niet tegen reverse engineering. De source code oftewel de broncode kan wel met behulp van een intellectueel eigendomsrecht worden beschermd tegen inbreuken. De onderdelen van een AI zullen met een combinatie van patenten, auteursrechten, i-Depots, databankrechten en bedrijfsgeheim zo goed mogelijk moeten worden beschermd. Daartoe behoort ook registratie en onderhoud van depots.

 Algoritmes | Wetgeving | Accountability by Design | Bias | Best Practices

Algoritmes | Wetgeving | Accountability by Design | Bias | Best Practices

Geen Auteursrecht op Functionaliteit van software

Zowel het Europese Hof van Justitie als onze eigen Hoge Raad bevestigen in hun arresten de in de Softwarerichtlijn neergelegde gedachte dat er geen auteursrecht ontstaat op de functionaliteit van computerprogrammatuur, waaronder de functionaliteit van algoritmes. In dat verband citeren wij uit Hoge Raad 19 januari 2018 ECLI_NL_HR_2018_56 (Auteursrecht op software):

‘In zijn arresten van 22 december 2010, C-393/09, ECLI:EU:C:2010:816, NJ 2011/289 (Softwarova) en 2 mei 2012, C-406/10, ECLI:EU:C:2012:259, NJ 2013/270 (SAS/WPL), heeft het HvJEU art. 1 van de Softwarerichtlijn aldus uitgelegd, dat deze richtlijn de uitdrukkingswijzen beschermt van een computerprogramma en het voorbereidend ontwerpmateriaal, die later respectievelijk tot reproductie van het computerprogramma of tot het computerprogramma zelf kunnen leiden (punt 37 van beide arresten). Daaraan heeft het HvJEU mede ten grondslag gelegd dat uit punt 3.7 van de motivering van het voorstel voor Richtlijn 91/250 [COM(88) 816] blijkt dat het belangrijkste voordeel van de auteursrechtelijke bescherming van computerprogramma’s is dat de bescherming alleen de specifieke uitdrukkingswijze van het werk betreft en aldus andere auteurs in voldoende mate vrijlaat om soortgelijke of zelfs identieke programma’s tot stand te brengen, mits zij zich van plagiaat onthouden.

Als de functionaliteit van een computerprogramma auteursrechtelijk zou kunnen worden beschermd, zou bovendien de mogelijkheid worden geboden om ideeën te monopoliseren ten koste van de technische vooruitgang en de industriële ontwikkeling (arrest SAS/WPL, punten 40 en 41).’

Aldus de Hoge Raad.

Machine learning algoritmes

Machine learning algoritmen maken gebruik van digitale hersencellen die allegorisch neuronen of perceptrons worden genoemd. De werking ervan is geoptimaliseerd voor parallelle gegevensverwerking in plaats van serieel. Voorbeelden van algoritmen die worden gebruikt in machine learning, deep learning en neurale netwerken zijn: lineaire regressie, logistieke regressie, SuStaIn (Subtype and Stage Inference), kwadratische discriminant analyse, beslisboom, naïeve Bayes, classificatiemodel (support vector machine), tensor, vector en matrix analyse, gradiënt versterking, neuraal netwerk, random forest, groep clustering, gaussian mix model, aanbevelingssysteem en hiërarchische clustering.




Genetische algoritmes

Deze algoritmes zijn door mensen geprogrammeerd. Er bestaan ook algoritmes die in een AI zelf zijn ontstaan, zoals genetische algoritmes ofwel Darwiniaanse algoritmes. Genetische algoritmes zijn een subgroep van zogenaamde evolutionaire algoritmes. Reinforcement learning wordt ook met behulp van een genetisch algoritme, op basis van trail & error uitgevoerd. De naam zegt het al: deze computatiemodellen zijn geïnspireerd door de natuur en de manier waarop de natuur problemen oplost. Zoals bij Darwiniaanse natuurlijke selectie. Ze vinden toepassing in deep neural networks, in natural computing en in DNA computing.

Controlemechanismen, accountability en privacy by design

In algoritmes dienen controlemechanismen te worden aangebracht om bias, funneling en discriminatie te voorkomen, teneinde Accountability en Privacy by Design te bereiken. Als een roadmap voor veilige software. Het scheppen van randvoorwaarden is vanuit juridisch oogpunt buitengemeen relevant. Ook kunnen hierdoor dystopische Terminator-scenario’s worden voorkomen. Onze juristen kunnen u proactief adviseren over de uitgangspunten en (on)vrijblijvendheid van controlemechanisme zoals accountability en privacy by design. Relevant hierbij zijn ondermeer de Softwarerichtlijn, de E-Commerce Richtlijn en de AVG.

Een praktisch juridisch-ethisch instrument dat wij in dit kader hanteren is de AI Impact Assessment in combinatie met de Gedragscode Artificiële Intelligentie.

Veiligheid, aansprakelijkheid, verzekerbaarheid en ethiek

Deep learning algoritmen doen hun intrede in tal van applicaties in uiteenlopende sectoren. De wijze waarop een neuraal netwerk functioneert mag geen oncontroleerbare black box zijn. Juridische vragen inzake veiligheid, aansprakelijkheid, verzekerbaarheid van schade en ethiek dringen zich hier op. Want wie controleert er bijvoorbeeld de werking en toelaatbaarheid van slimme algoritmen in eHealth applicaties, wearables en medical devices?

Wat heeft er te gelden inzake het NIS Directive en de Wbni, IEC 62443 certificering en cyber security in geval van veiligheidslekken, hackpogingen en DDos aanvallen? En hoe zit het met algoritmes en grondrechten tegen de achtergrond van artificiële intelligentie, big data en het Internet of Thing (IOT)?

Geavanceerde algoritmen in futuristische hi-tech onderzoeksvelden

In zo’n beetje ieder innovatief onderzoeksveld wordt gebruik gemaakt van op maat gemaakte algoritmen, of algoritmen die zichzelf optimaliseren en herprogrammeren, zoals in deep neural networks DNN’s). We noemen hier enkele futuristische hi-tech onderzoeksvelden en computation methoden waarin nieuwe non deterministische algoritmen en programmeertalen op dit moment hun intrede doen.



Cognitive computing algorithms

Elke innovatieve technologie heeft behoefte aan maatwerk computertechniek in de vorm van algoritmes. Voorbeelden zijn cognitive computing algorithms, brain-inspired computing, neurobiological computing, DNA computing, GPU computing en advanced robotics & cybernetics. En natuurlijk de heilige graal van het quantum computing met in superpositie verkerende quantumbits (superconducting qubits). En het veelbelovende optical computing met de snelheid van het licht, waarbij met fotonen (licht) wordt gewerkt in plaats van gegevensoverdracht door elektronen (elektriciteit).

Memrites en 3D integrated circuits

En wat te denken van memrites, de ons door de goden geschonken combinatie van non-volatiel geheugen en processing power op basis van matrix calculatie verenigd in 1 chip. En how about 3D integrated circuits die RAM geheugen en storage bottlenecks oplossen.


Neuromorphic chips

Artificial Super Intelligence (ASI), autonome machines, augmented cyborgs zullen op nieuwe neuromorphic computerchips met neurosynaptic cores draaien, met voor hun doel geschreven en geoptimaliseerde algoritmes. Vergelijkbaar met het zenuwstelsel en de 2 hersenhelften van een mens. Door mensen of machines in dit kader gecreëerde non deterministische algoritmes zullen zich in hun toepassingsomgeving voor mensen onvoorspelbaar gedragen. Hier liggen uitdagingen op het gebied van transparantie en accountability.

Wondermaterialen van 1 atoom dik

Bestaande algoritmen zullen hun berekeningen sneller en met minder energieconsumptie (minder milieu impact) kunnen uitvoeren zodra wondermaterialenmaterialen die grafeen computing in een partnerschap met nano engineering en carbon nano tubes mogelijk maken, hun intrede doen.

Juridisch advies, wetgeving, licenties

Wilt u weten op welke wijze uw creaties, of de scheppingen van uw AI kunnen worden beschermd? Of welke wet en regelgeving er op uw situatie van toepassing is? Bent u een tech startup en wilt u weten wat uw rechten en plichten zijn? Wilt u uw ideeën, producten, apps en gadgets introduceren in buitenlandse markten? Wilt u door anderen bedachte technieken of materialen gebruiken in uw projecten en wilt u weten of er toestemming nodig is of een licentie? Neem dan contact met ons op voor juridisch advies.