Innovation, Technology & Law

Blog over Kunstmatige Intelligentie, Quantum, Deep Learning, Blockchain en Big Data Law

Blog over juridische, sociale, ethische en policy aspecten van Kunstmatige Intelligentie, Quantum Computing, Sensing & Communication, Augmented Reality en Robotica, Big Data Wetgeving en Machine Learning Regelgeving. Kennisartikelen inzake de EU AI Act, de Data Governance Act, cloud computing, algoritmes, privacy, virtual reality, blockchain, robotlaw, smart contracts, informatierecht, ICT contracten, online platforms, apps en tools. Europese regels, auteursrecht, chipsrecht, databankrechten en juridische diensten AI recht.

Berichten in Grondrechten
Safeguards for accelerated market authorization of vaccines in Europe

by Suzan Slijpen & Mauritz Kop

This article has been published by the Stanford Law School ‘Center for Law and the Biosciences’, Stanford University, 15 March 2021. link to the full text: https://law.stanford.edu/2021/03/15/safeguards-for-accelerated-market-authorization-of-vaccines-in-europe/

Download the article here: Slijpen_Kop_Manufacturing Licenses and Market Authorization Vaccines EU-Stanford Law

The first COVID-19 vaccines have been approved

People around the globe are concerned about safety issues encircling the accelerated introduction of corona vaccines. In this article, we discuss the regulatory safeguards for fast-track market authorization of vaccines in Europe. In addition, we explain how the transmission of European Union law into national Member State legislation works. We then clarify what happens before a drug can be introduced into the European market. We conclude that governments should build bridges of mutual understanding between communities and increase trust in the safety of authorized vaccines across all population groups, using the right messengers.

Drug development normally takes several years

Drug development normally takes several years. The fact that it has been a few months now seems ridiculously short. How is the quality and integrity of the vaccine ensured? That people - on both sides of the Atlantic - are concerned about this is entirely understandable. How does one prevent citizens from being harmed by vaccines and medicines that do not work for everyone, because the admission procedures have been simplified too much?

The purpose of this article is to shed a little light upon the accelerated market authorization procedures on the European continent, with a focus on the situation in the Netherlands.

How a vaccine is introduced into the market

In June 2020, the Dutch government, in close cooperation with Germany, France and Italy, formed a Joint Negotiation Team which, under the watchful eye of the European Commission, has been negotiating with vaccine developers. Its objective: to conclude agreements with drug manufacturers at an early stage about the availability of vaccines for European countries. In case these manufacturers are to succeed in developing a successful vaccine for which the so-called Market Authorization (MA) is granted by EMA or CBG, this could lead to the availability of about 50 million vaccines (for the Netherlands alone).

Who is allowed to produce these vaccines?

Who is allowed to produce these vaccines? The Dutch Medicines Act is very clear about this. Only "market authorization holders" are allowed to manufacture medicines, including vaccines. These are parties that have gone through an extensive application procedure, who demonstrably have a solid pharmaceutical quality management system in place and have obtained a pharmaceutical manufacturing license (the MIA, short for Manufacturing and Importation Authorisation). This license is granted after assessment by the Health and Youth Care Inspectorate of the Ministry of Health, Welfare & Sport (IGJ) – by Farmatec. Farmatec is part of the CIBG, an implementing body of the Ministry of Health, Welfare and Sport (VWS). The M-license is mandatory for parties who prepare, or import medicines.

Read more at the Stanford Center for Law and the Biosciences!

Read more on manufacturing licenses, fast track procedures and market authorization by the European Medicines Agency (EMA) and the EC, harmonisation and unification of EU law, CE-markings, antigenic testing kits, mutations, reinfection, multivalent vaccines, mucosal immunity, Good Manufacturing Practices (GMP), pharmacovigilance, the HERA Incubator, clinical trials, compulsory vaccination regimes and continuous quality control at Stanford!

Meer lezen
Workshop Juridische Aspecten AI & Data bij TNO - NL AIC Startups & Scaleups TekDelta Event

Op 24 september 2020 gaf Stanford Law School Fellow Mauritz Kop een masterclass over de juridische dimensie van kunstmatige intelligentie en informatie aan de getalenteerde deelnemers van de Werkgroep Startups & Scaleups van de Nederlandse AI Coalitie (NL AIC), in het kantoor van TNO Research in Den Haag. De workshop maakte onderdeel uit van het TekDelta | NL AIC startup accelerator event, met als centraal thema het versnellen en faciliteren van innovatie door het verbinden van startende ondernemingen met bestaande leading organisaties met slagkracht: het samen bouwen aan een succesvol high tech ecosysteem in Nederland.

Masterclass 'Juridische Aspecten van AI & Data’

De 2,5 uur durende masterclass 'Juridische Aspecten van AI & Data' bij TNO verschafte de cursisten duidelijkheid over de regels voor data delen, privacy en gegevensbescherming, alsmede juridisch en economisch eigendom van informatie. We behandelden onderwerpen variërend van de bescherming van intellectueel eigendom op het AI-systeem, de software, hardware en apps, clearance van data tot het anticiperen op de aanstaande AI & Data Governance wetten van de Europese Commissie.

Multidisciplinair Panel voor Verantwoord Data Delen

Dezelfde middag vond er vanuit het TNO gebouw een online seminar plaats speciaal voor startups, onder leiding van Anita Lieverdink, Senior Orchestrator of Innovation at TNO, Directeur van TekDelta en Program Manager van de Werkgroep Startps & Scaleups van de Nederlandse AI Coalitie.

AIRecht managing partner Mr. Kop nam als juridisch expert deel in het panel dat ging over verantwoord data delen. Het was goed om deel te nemen aan dit multidisciplinaire panel en samen met onze collega's oplossingen te verkennen voor het versneld en verantwoord delen van gegevens. Het is cruciaal en urgent om belemmeringen voor de inzet van benevolente AI weg te nemen en organisaties begeleiding te bieden die rechtszekerheid en vertrouwen in de snelle introductie van deze veelbelovende transformatieve technologie aanmoedigt!

Juridische Cursussen van AIRecht

Onze cursussen ‘AI en Recht – Juridische aspecten van AI, Machine Learning en Data’ bieden een compleet overzicht van de juridische facetten van kunstmatige intelligentie, big (structured/labelled en unstructured, raw) data en de verschillende typen machine learning (supervised, unsupervised, deep reinforcement, transfer, federated). De invalshoek is breed: van beschermen idee tot en met marktintroductie van het product. Cursusdoel is het wegnemen van juridische obstakels voor innovatie. Onderwerpen die hierbij aan de orde komen zijn privacywetgeving, het maximaliseren van uw IP-portfolio (intellectueel eigendom), normering, standaardisering (interoperabiliteit) en certificering (CE mark, keurmerken, conformiteit), het stimuleren van internationaal zakendoen, en het realiseren van (training)data delen op basis van EU regelgeving, licenties, toestemmingen en rechtsgeldige contracten. Maatwerk is mogelijk.

De workshops en masterclasses zijn cross-disciplinair en verbinden de ontwikkeling en toepassing van technologie met geldend nationaal en EU recht.

Meer lezen
Dit zijn de waarborgen bij de versnelde marktintroductie van vaccins

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/waarborgen-versnelde-marktintroductie-vaccins/

De eerste COVID-19 vaccins zijn in zicht

Veel mensen maken zich zorgen over de versnelde introductie van coronavaccins. "Begrijpelijke vragen, begrijpelijke zorgen. Gelukkig is de werkelijkheid een stuk genuanceerder", zegt jurist Suzan Slijpen. In dit artikel gaat zij in op de waarborgen bij de versnelde marktintroductie van vaccins.

De eerste COVID-19 vaccins zijn in zicht. Met effectiviteitsmarges van waarschijnlijk 55% tot 95% gloort er eindelijk licht aan de horizon. Het RIVM bereidt de vaccinatiestrategie alvast voor, zodat er snel geschakeld kan worden als het moment daar is.

Het ontwikkelen van geneesmiddelen duurt normaal enkele jaren

Het ontwikkelen van geneesmiddelen duurt normaal enkele jaren. Dat er nu sprake is van enkele maanden lijkt absurd kort. Hoe zorgt men ervoor dat deze middelen veilig zijn? Dat mensen - aan beide kanten van de Atlantische Oceaan - zich hier zorgen over maken is geheel terecht. Hoe voorkom je dat burgers schade oplopen doordat de vaccins en medicijnen toch niet voor iedereen blijken te werken, omdat de toelatingsprocedures te veel zijn versoepeld?

Hoe een vaccin op de markt wordt gebracht

De Nederlandse regering heeft in nauwe samenwerking met Duitsland, Frankrijk en Italië een Joint Negotiation Team gevormd dat onder leiding van de Europese Commissie onderhandelt met vaccinontwikkelaars. Doel: in een vroeg stadium met producenten afspraken maken over de beschikbaarheid van vaccins voor de Europese landen. Als deze producenten erin slagen om een succesvol vaccin te ontwikkelen waarvoor de zogenaamde Market Authorization (MA) wordt verleend door EMA danwel CBG, zou dat tot een beschikbaarheid van zo’n 50 miljoen vaccins (enkel en alleen al voor Nederland) kunnen leiden.

Wie mogen deze vaccins produceren?

Wie mogen deze vaccins produceren? De Geneesmiddelenwet is er heel duidelijk over. Alleen ‘vergunninghouders’ mogen geneesmiddelen, waaronder vaccins, produceren. Dit zijn marktpartijen die een uitvoerige aanvraagprocedure hebben doorlopen, aantoonbaar beschikken over een gedegen farmaceutisch kwaliteitsmanagement systeem en die - na toetsing door de Inspectie voor de Gezondheidszorg (IGJ) - een zogenaamde F-vergunning (fabrikantenvergunning) hebben verkregen van Farmatec. Farmatec is onderdeel van het CIBG, een uitvoeringsorgaan van het ministerie van Volksgezondheid, Welzijn en Sport (VWS). De F-vergunning is verplicht voor partijen die geneesmiddelen bereiden, doen bereiden of invoeren.

Meer lezen
De posthumanistische revolutie van AI

Hoe voelden de eerste passagiers van een auto zich? Wat ging er door de mensen heen toen er thuis opeens elektrisch licht brandde? Misschien kun je je het moment nog herinneren dat je voor het eerst een e-mail stuurde. Dat zijn historische momenten geweest in onze technologische geschiedenis en dus in de vorming van onze maatschappij. Revolutionaire momenten zelfs; deze uitvindingen hebben de wereld en onze manier van leven ingrijpend veranderd. Hoe opwindend is het om te bedenken dat we nu opnieuw zo’n punt naderen met de doorbraak van artificiële intelligentie (AI).

AI: van belofte naar praktische toepassing

In samenspel met andere technologische ontwikkelingen als 5G, Big Data en het Internet of Things (IoT), is AI bezig met de verpopping van belofte naar praktische toepassingen. Dat betekent niet alleen dat we getuigen zijn van wat later geschiedenis wordt, maar ook dat de keuzes die we nu maken invloed hebben op het verloop ervan. First we shape our tools, then our tools shape us.

Ethisch en juridisch raamwerk

Eén van de grootste uitdagingen van exponentiële innovatie is ervoor zorgen dat we ethisch-juridische principes adequaat kunnen blijven beschermen. AI transformeert de wereld waarin we leven en stelt daarmee de huidige invulling van normen, waarden en rechten ter discussie. Autonomie en vrijheid, privacy en menselijke waardigheid, verantwoordelijkheid en aansprakelijkheid – het zijn centrale uitgangspunten van ons ethisch en juridisch raamwerk, die in het licht van AI vragen om hernieuwde afkadering. Maar AI stelt ook de effectiviteit van bestaande wet- en regelgeving op de proef.

Techniekfilosofie

Eline de Jong neemt ons mee in een korte geschiedenis van de techniekfilosofie, tegen de achtergrond van het ethisch-juridisch raamwerk van een posthumanistische wereld waarin we leven als inforgs binnen de infosfeer.

Meer lezen
Cursus AI, Data, Privacy en Innovatie in de Zorg

Suzan Slijpen, Sander Ruiter en Mauritz Kop over AI in de Zorg

Op 31 oktober 2019 gaven Suzan Slijpen, Sander Ruiter en Mauritz Kop een cursus AI, Data, Privacy en Innovatie in de Zorg in het Maasstad Ziekenhuis Rotterdam. Wij waren daar te gast op uitnodiging van Quint Wellington Redwood, een leading consultancy firm die organisaties ondersteunt bij het ontwerpen en operationaliseren van hun digitale strategie waarbij mensen, processen en technologie centraal staan.

Gebruik van patiëntgegevens, medische hulpmiddelen, datadelen, privacy & AI in het ziekenhuis

Doel van cursus was om helderheid te scheppen in de wettelijke regels over het gebruik van patiëntgegevens, datadelen, eigendom van trainingsdatasets, medical devices, privacy en artificiële intelligentie in het ziekenhuis. AIRecht werd ingeschakeld om expertise te geven over dit complexe en uitdagende onderwerp. Om barrières weg te nemen voor innovatie. Onder de aanwezigen waren het Maasstad Ziekenhuis Rotterdam management team, de CISO (Chief Information Security Officer), enkele artsen, radiologen en verpleegkundigen. Ook waren er data scientists uitgenodigd van Parnassia Groep, specialisten in geestelijke gezondheid.

Keynote Digitale Zorg - Medical Devices, Patiëntdata, MDR & AVG

Nieuwe Europese regelgeving (MDR) voor Medical Devices waaronder zorgrobots, medische producten, hulpmiddelen en medische software vanuit een AI-helicopterview, die in 2020 in Nederland van kracht wordt. Verhouding tussen de AVG en de MDR. Gebruik en uitwisseling van patiëntdata, informatiebeveiliging en digitale zorg: wat mag er wel en niet op basis van de Europese Privacywetgeving (AVG/GDPR)?

Meer lezen
Transparantie en uitlegbaarheid van AI algoritmes

Tijdens het Platform ECP event ‘Transparantie en uitlegbaarheid van AI algoritmes’ gaf AIRecht Managing Partner en lid van de Werkgroep Kunstmatige Intelligentie Mauritz Kop op 27 juni 2019 in Den Haag een korte presentatie over de eerste Europese AI Alliance Conferentie te Brussel, en de aldaar door HLEG Chair Pekka Ala-Pietilä aan EU Commissaris Mariya Gabriel gepresenteerde Policy and Investment Recommendations for Trustworthy AI.

Policy and Investment Recommendations for Trustworthy AI

De Policy and Investment Recommendations for Trustworthy AI van de onafhankelijke High-Level Expert Group on Artificial Intelligence (AI HLEG) bevatten 33 punten, waaronder 11 key takeways die Europese Artificiële Intelligentie naar duurzaamheid, groei en competitiveness moeten leiden. Best practices en Codes of Conduct zoals het ECP AI Impact Assessment spelen in daarin een prominente rol.

Succesvolle eerste Europese AI Alliance Assembly in Brussel

De HLEG kan terugkijken op een succesvolle eerste editie van de Europese AI Alliantie Conferentie in Brussel, die gehouden werd op 26 juni 2019. Tijdens de Assembly - die ook online werd gestreamd - werden de nieuwste prestaties in het AI-beleid en de toekomstperspectieven van de Europese strategie voor kunstmatige intelligentie besproken (i.e. sociale, mensgerichte AI die fundamentele rechten en vrijheden respecteert), inclusief de impact ervan op onze economie en samenleving.

Meer lezen
Legal Status of Robots and AI in Healthcare - Symposium Academy Het Dorp

On December 3, 2018 our office Artificial Intelligence & Law delivered the lecture 'The legal status of smart robots: legal personality, intellectual property and fundamental rights'. On the occasion of the Symposium on robotisation and eHealth in the pharmaceutical industry, organized by Academy Het Dorp and Proeftuin Robotica. The central theme of this seminar on healthcare regulation was: Can you hold a robot liable in case of damages?

How should we deal with liability in robotics?

The following questions were addressed: Should robots equipped with AI have a separate legal status? How do you - as a developer/supplier and consumer/user/patient get a grip on liability for autonomous machines and artificial intelligence algorithms? How do we safeguard ethical principles and fundamental human rights? Who owns intellectual property rights in smart robots and copyrights on computer and AI generated works? How should we deal with liability in robotics?

Meer lezen
What are the main requirements for AI systems in Healthcare?

Main barriers to adoptation of Artificial Intelligence in healthcare.

Absence of a specific AI law, or clear legal framework from the perspective of both professional users (A) and patients (B).

When constructing such a framework, it is important to make a distinction between the various sub-areas of healthcare, such as research and development, professional care providers and recipients of care. Because each sub-area has different needs.

Barriers for professional users.

It is simply unclear for companies and private and academic research institutes in the medical sector what is and is not allowed in the field of AI, blockchain, computer & machine vision and robotics. Both at European level and at national level. This knowledge is important for the commodification of their inventions/creations. Two practical examples are permission from Farmatec and obtaining a CE-marking.

Requirements for sustained use of AI in healthcare.

Since traceability and transparency are key within any healthcare (and food-feed) system, blockchain could play an important role in sustained use of AI in healthcare.

A EU AI Directive or Regulation should be able to implement and/or adhere to principles of Eudralex (The body of European Union legislation in the pharmaceutical sector), Good Manufacturing Practices (GMP) and Good Distribution Practices (GDP) in particular.

Meer lezen
AI Impact Assessment | Netherlands

The AI ​​Impact Assessment offers entrepreneurs, data scientists and software programmers a concrete code of conduct with which AI can be safely implemented. The Artificial Intelligence Impact Assessment was developed by the Dutch ECP | Platform for the Information Society. The AI ​​Impact Assessment is a guide for the application of artificial intelligence. Through a practical checklist from a legal, technical and ethical point of view.

Download or view the English version of the Artificial Intelligence Impact Assessment

Code of Conduct Artificial Intelligence

The starting point of the AI Impact Assessment is the Code of Conduct for Artificial Intelligence. This code of conduct forms the basis of the AI Impact Assessment framework. The Artificial Intelligence Code of Conduct consists of two parts: common European ethical and constitutional values (i.e. liberty, equality, fraternity), legal principles and democratic preconditions, as well as practical rules and codes of conduct for AI applications, deep learning algorithms and autonomous systems.

Risk and safety assessment tools

The AI Impact Assessment is related to other risk and safety assessment tools such as the Privacy Impact Assessment, Algorithmic Accountability and Responsibility & Transparancy by Design. We see the same logic in the Asimov Three Laws of Robotics, the IBM Watson AI Guidelines (Everyday Ethics for Artificial Intelligence, A practical guide for designers & developers) and the 23 Asilomar AI principles. The AI Impact Assessment also has a guide function, and provides a similar moral compass.

Meer lezen
Artificial Intelligence Impact Assessment

AI Impact Assessment: checklist voor toepassing artificiële intelligentie

Het AI Impact Assessment biedt ondernemers, datawetenschappers en softwareprogrammeurs een gedragscode waarmee AI veilig geïmplementeerd kan worden. Het Artificial Intelligence Impact Assessment is ontwikkeld door het ECP|Platform voor de InformatieSamenleving. De AI Impact Assessment is een wegwijzer voor toepassing van artificiële intelligentie. Via een praktische checklist op zowel juridisch, technisch als ethisch vlak.

De uitvoering van de AI Impact Assessment wordt bij voorkeur begeleid door een daartoe gespecialiseerd jurist.

Risico-inschattingsinstrument

De AIIA vertoont verwantschap met andere risico-inschattingsinstrumenten zoals de Privacy Impact Assessment (PIA, ook wel Data Protection Impact Assessment (DPIA) of gegevensbeschermingseffectbeoordeling (GEB) genaamd). We zien eenzelfde logica terug bij de 3 Robotwetten van Asimov, de IBM Watson AI Guidelines en de 23 Asilomar AI principes. De AIIA heeft eveneens een gidsfunctie, en een vergelijkbaar moreel kompas.

Leidraad voor verantwoorde implementatie van kunstmatige intelligentie

De Artificiële Intelligentie Impact Assessment (AIIA) bevat een overzichtelijk stappenplan met 8 stappen, aan de hand waarvan bedrijven inzichtelijk kunnen maken welke juridische en ethische normen van belang zijn bij de creatie en toepassing van AI-systemen en smart robotics. Ook maken de AIIA en de Gedragscode Artificiële Intelligentie helder welke motieven en beweegredenen de basis vormen van de te maken keuzes en beslissingen tijdens het AI implementatietraject. Dit maakt het gebruik van kunstmatige intelligentie en slimme algoritmes transparanter.

Meer lezen
Algoritmes, Artificiële Intelligentie, Big data, Cloud Computing, Cognitive Computing, Computer Vision, Deep Learning, Extended Reality, Grondrechten, Informatierecht, Intellectueel Eigendom, Internet of Things, Internetrecht, Juridisch Advies, Kunstmatige Intelligentie, Nano Engineering, Neuraal Netwerk, Quantum Computing, Recht, Robotica, Robotlaw, Tech Startups, WetgevingMauritz KopArtificiële Intelligentie & RechtArtificial Intelligence Impact Assessment, robotisering, 4e industriële revolutie, slimme robots, kunstmatige intelligentie, AI Impact Assessment, checklist, stappenplan, ECP, Platform voor de InformatieSamenleving, jurist, legal, ethische normen, risico-inschattingsinstrumenten, Privacy Impact Assessment, PIA, Asimov, GEB, Gedragscode Artificiële Intelligentie, rechtsstatelijkheid, intellectueel eigendom, wet en regelgeving, belanghebbenden, Infinite computing, neuromorphic chips, AI-mind clouds, spintronics, wijsheid, compassie, Harari Home Deus, Singularity, Artificial General Intelligence, bias, Privacyvraagstukken, accessibility, blockchain, dystopische toekomstscenario’s, Orwelliaanse Versificator, 1984, The Matrix, Blade Runner, Ghost In The Machine, Westworld, Mad Max, Robocop, The Terminator, Brazil, Metropolis, Asilomar AI Principes, Privacy en Security by Design, Triple Helix Model, Nederlandse AI Strategie, Conferentie Nederland Digitaal, arbeidsmarkt, disruptie, leidraad, gidsfunctie, open internet, digitalisering, neuraal netwerk, machine learning, Internet of Things, data scientist, software programmeur, Europese AI Alliantie, Cybersecuritywetgeving, NIB-Richtlijn (EU) 2016/1148), NIS-Directive, IEC 62443, eIDAS, veiligheidseisen, Wbni, ISO, NEN, ANSI, end users, IBM Watson, AI Guidelines, ICAI, AINED