De posthumanistische revolutie van AI

Hoe voelden de eerste passagiers van een auto zich? Wat ging er door de mensen heen toen er thuis opeens elektrisch licht brandde? Misschien kun je je het moment nog herinneren dat je voor het eerst een e-mail stuurde. Dat zijn historische momenten geweest in onze technologische geschiedenis en dus in de vorming van onze maatschappij. Revolutionaire momenten zelfs; deze uitvindingen hebben de wereld en onze manier van leven ingrijpend veranderd. Hoe opwindend is het om te bedenken dat we nu opnieuw zo’n punt naderen met de doorbraak van artificiële intelligentie (AI). In samenspel met andere technologische ontwikkelingen als 5G, Big Data en het Internet of Things (IoT), is AI bezig met de verpopping van belofte naar praktische toepassingen. Dat betekent niet alleen dat we getuigen zijn van wat later geschiedenis wordt, maar ook dat de keuzes die we nu maken invloed hebben op het verloop ervan.

Eline de Jong neemt ons mee in een korte geschiedenis van de techniekfilosofie, tegen de achtergrond van het ethisch-juridisch raamwerk van een posthumanistische wereld waarin we leven als inforgs binnen de infosfeer.

Ethisch en juridisch raamwerk

Eline de Jong (27) studeerde toegepaste ethiek (UU, cum laude) en journalistiek (UL, cum laude). Op dit moment schrijft ze haar derde masterhesis voor Filosofie (VU) over menselijkheid in een data- en algoritmegedreven wereld. Per 1 juli treedt ze in dienst bij de Wetenschappelijke Raad voor het Regeringsbeleid (WRR), waar ze onderzoek doet naar de impact van artificiële intelligentie op publieke waarden.

Eline is daarnaast presentator van de filosofische talkshow De Idee en redacteur van een nieuw online programma over vergezichten na de coronacrisis. Eline is gastauteur op AIRecht sinds 2020.

Eén van de grootste uitdagingen van exponentiële innovatie is ervoor zorgen dat we ethisch-juridische principes adequaat kunnen blijven beschermen. AI transformeert de wereld waarin we leven en stelt daarmee de huidige invulling van normen, waarden en rechten ter discussie. Autonomie en vrijheid, privacy en menselijke waardigheid, verantwoordelijkheid en aansprakelijkheid – het zijn centrale uitgangspunten van ons ethisch en juridisch raamwerk, die in het licht van AI vragen om hernieuwde afkadering. Maar AI stelt ook de effectiviteit van bestaande wet- en regelgeving op de proef.

Recht, techniek en filosofie

Neem het intellectueel eigendomsrecht. Daarmee beschermen we immers iets van de mens voor de mens. Maar hoe zit dat met werken die zijn voortgebracht door AI, moeten die worden beschermd via het auteurs- of patentrecht? En kan AI als niet-mens overtredingen maken en dat soort rechten schenden? Antwoord op die vragen is van belang voor het kunnen blijven beschermen van onze normen, waarden en rechten in een nieuwe wereld waarin AI een prominente rol speelt. Filosofie kan helpen om na te denken over de nieuwe wereld die AI teweegbrengt, zodat we met die kennis op zak kunnen anticiperen op de implicaties van transformatieve technologie voor ons ethisch-juridisch raamwerk.

Leven in de infosfeer

‘Wat is de mens?’ Het is binnen de filosofie één van de meest fundamentele vragen. De bekendste steller ervan is waarschijnlijk de filosoof Immanuel Kant, grondlegger van de Verlichting. Maar de vraag naar wat mens-zijn precies betekent houdt ons tot op de dag van vandaag bezig. En met recht: ons zelfbegrip vormt het fundament voor de normen en waarden die we in een samenleving willen beschermen en de rechten die we daarop baseren. Wat het betekent om mens te zijn is niet tijdloos volgens de Italiaanse filosoof Luciano Floridi. Floridi stelt dat we ons antwoord op de vraag naar de mens gedurende de geschiedenis een aantal keer hebben moeten herzien. In zijn boek The Fourth Revolution laat hij zien dat ons zelfbegrip drie keer noodgedwongen is herijkt. Door de ontdekking van het heliocentrisme moesten we ons letterlijk herpositioneren toen de mens niet het centrum van het universum bleek te zijn (Copericaanse revolutie). Daarna moesten we onder ogen zien dat we ook op aarde niet de kroon op Gods schepping waren maar onderdeel uitmaken van het dierenrijk (Darwiniaanse revolutie). Om er vervolgens ook nog achter te komen dat we helemaal niet zo rationeel en in control over onszelf zijn als we ons waanden (Freudiaanse of neurowetenschappelijke revolutie).

First we shape our tools, then our tools shape us

Op dit moment voltrekt zich volgens Floridi opnieuw een transformatie in het denken over onze aard en plek in de wereld. De nieuwe generatie informatie- en communicatietechnologieën (ICT’s) transformeren hoe we nadenken over onszelf, hoe we ons tot elkaar verhouden en hoe we de wereld om ons heen vormgeven. De bekende mediawetenschapper Marshall McLuhan vatte het al kernachtig samen: ‘First we shape our tools, then our tools shape us.’ Het idee dat onze technologische artefacten ons sterk beïnvloeden wordt binnen de hedendaagse techniekfilosofie breed gedragen. Technologische ontwikkelingen als AI, IoT en cloud computing drijven volgens Floridi dan ook een ingrijpende culturele revolutie aan waarin we anders gaan nadenken over de positie van de mens, dit keer ten overstaan van slimme technologie. Dit soort technologieën markeert een nieuwe periode in onze geschiedenis, door Floridi aangeduid als hyperhistorie. In de hyperhistorie is ons individuele en sociale welzijn goeddeels afhankelijk van ICT. We leven in een wereld waarvan technologie een essentieel onderdeel vormt, of beter gezegd, die voor een belangrijk deel wordt gevormd door technologie. Floridi noemt deze leefwereld de infosfeer: het geheel van de offline en online wereld. Onze realiteit is dus analoog en digitaal. Het is daarom een conceptuele tekortkoming om nog langer te spreken over de materiële wereld als de ‘echte’ wereld. Wat onze wereld is wordt steeds meer begrepen in termen van informatie: ‘What is real is informational and what is informational is real,’ aldus Floridi.

Inforgs

Wat betekent het nu om mens te zijn binnen de infosfeer?

Wat betekent het nu om mens te zijn binnen deze infosfeer? Tot nu toe begrepen we onszelf primair in termen van complexiteit en mate van intelligentie. Volgens de Franse filosoof Blaise Pascal lokaliseerde de mens al zijn waardigheid in zijn denkvermogen, ‘all our dignity consists in thought’. Dat idee kreeg al een klap te verduren toen Freud en later de neurowetenschap lieten zien dat we lang niet altijd meester zijn over onze gedachten en veel driften onbewust werkzaam zijn. Maar de opkomst van slimme en autonome systemen achterhaalt eens te meer ons beeld van de mens als wezen dat uniek is in zijn intelligente vermogens. ‘AI humbles all of us,’ aldus Pamela McCurdock, auteur van het boek ‘Machines who think’. McCurdock kiest uiteraard expres niet voor ‘Machines that think’; daarmee vermenselijkt (antropomorfiseert) ze de slimme machine. Met het simuleren van onze intelligente vaardigheden en de overname van taken die tot nu toe waren voorbehouden aan de mens, komt AI immers dichtbij de eigenschappen die we als typisch menselijk beschouwden. AI noopt daarmee tot het herijken van wat we verstaan onder een ‘persoon’, en in afgeleide zin een rechtspersoon. Opnieuw moeten we ons herpositioneren. De mens is niet het middelpunt van de infosfeer, maar deelt die wereld met artificiële vormen van intelligentie. Net als bij de drie eerdere revoluties, ontwaken we met de vierde revolutie uit een misconceptie over wat een mens een mens maakt. Dat biedt het conceptuele aanknopingspunten om ons zelfbegrip te herzien; ‘Whatever defines us uniquely, it can no longer be playing chess.’

Autonome AI systemen en verantwoordelijkheid

Dat is ontregelend omdat onze definitie van de mens, bijvoorbeeld op basis van bepaalde vermogens, doorslaggevend is voor wanneer bepaalde rechten van toepassing zijn. Op het moment dat niet-menselijke actoren die vermogens ook aan de dag leggen, heeft dat consequenties voor de manier waarop we ethisch-juridische waarden handen en voeten geven. Is het vermogen om iets te creëren nog wel een adequate grondslag voor bezit? Moeten we informatie over mensen begrijpen als eigendom of onderdeel van de persoon, of geen van beide? En als het vermogen om autonoom te handelen de basis vormt voor aansprakelijkheid, kunnen autonome AI-systemen dan verantwoordelijk worden gehouden voor de consequenties van hun beslissingen?

Het humanisme voorbij

Om antwoord te geven op dat soort vragen moeten we mensen in een informatie intensieve samenleving als de onze volgens Floridi begrijpen als informational organisms, kortweg ‘inforgs’: wezens met een informationele aard, voor wie de leefwereld bestaat uit de gehele infosfeer. Floridi doelt daarmee op een posthumanistisch zelfbegrip. Wat het bekent om mens te zijn is onder invloed van nieuwe ICT’s dusdanig veranderd dat humanistische opvattingen niet meer volstaan; we zijn het humanisme voorbij. We zijn niet langer uniek op de manier waarop we dat dachten te zijn met onze vermogens van logisch redeneren en informatie verwerken. In plaats daarvan gaan we onszelf begrijpen als inforgs te midden van andere, artificiële, hybride en natuurlijke informational organisms. Die verandering in ons zelfbegrip is cruciaal omdat ons beeld van wat de mens is, constitutief is voor wat we beschermenswaardig achten. De komst van slimme systemen achterhaalt bestaande ideeën over de mens en dwingt ons dus om opnieuw na te denken over de vraag: wat willen we precies beschermen en hoe kunnen we dat doen in een nieuwe omgeving van de infosfeer?

Groter speelveld, meer spelers

We gaan onszelf begrijpen als inforgs te midden van andere, artificiële, hybride en natuurlijke informational organisms.

Met de uitbreiding van onze leefwereld die nieuwe ICT’s met zich meebrengen, breidt ook het toepassingsgebied van het recht zich uit. Centrale principes moeten in de gehele infosfeer worden beschermd en nageleefd. Daarvoor kan het nodig zijn om bestaande regelgeving te updaten naar een nieuwe context, of om daarvoor nieuwe regels op te stellen. Marleen Stikker wijst in haar boek ‘Het internet is stuk’ bijvoorbeeld op tekortkomingen in het huidige zelfbeschikkingsrecht met het oog op wat we hier de infosfeer hebben genoemd. Het recht op zelfbeschikking is volgens Stikker offline goed verankerd, maar in het digitale domein ontbreken daarvoor nog de juiste waarborgen. Met andere woorden, het zelfbeschikkingsrecht verdient in haar ogen een update in het kader van de vierde revolutie.

De rol van mens en machine in onze informatie-intensieve wereld

Maar niet alleen het speelveld van het recht wordt uitgebreid onder invloed van nieuwe technologieën als AI; ook de spelers transformeren. Het feit dat AI kan optreden als handelende actor binnen de infosfeer maakt dat we de nieuwe generatie ICT’s niet langer kunnen beschouwen als louter gereedschap in handen van de mens. Dat zou, om met Floridi te spreken, een conceptuele tekortkoming zijn in het licht van onze nieuwe leefwereld en ons nieuwe zelfbegrip. Die tekortkoming treedt nu al aan het licht. De manier waarop we nu mensen en geavanceerde technologie als kunstmatige intelligentie van elkaar onderscheiden leidt namelijk tot scheve situaties, waarbij een AI systeem vrijuit kan gaan voor een zelfde handeling die voor een mens als overtreding of zelfs misdrijf geldt. Zo wijst Grimmelmann (2016) er in zijn artikel ‘Copyright for Literate Robots’ op dat auteursrecht op dit moment bescherming biedt tegen menselijke inbreuk maar niet tegen inbreuk door een robot. Om bepaalde rechten te waarborgen is het dus zaak om kritisch te bekijken welke rol technologieën in onze informatie-intensieve wereld spelen.

Recht in een posthumanistische wereld

Hoe voelden de eerste passagiers van een zelfrijdende auto zich? Wat ging er door mensen heen toen ze voor het eerst incheckten op de luchthaven via gezichtsherkenning? Misschien kun je je nog het moment herinneren dat je voor het eerst een vraag stelde aan Siri of Alexa. Het zijn de eerste momenten van een revolutionaire tijd. Hoe gaan we hierop terugkijken, of beter gezegd, hoe willen we erop terugkijken? De eerste auto’s hadden geen rem, de eerste stopcontacten waren niet geaard en de eerste mails waren niet versleuteld. Zoals auto’s, elektriciteit en mailverkeer een wereld hebben gecreëerd waarin nieuwe regels nodig waren voor veiligheid, zo zal ook AI een nieuwe wereld creëren die vraagt om een kritische reflectie op bestaande ethisch-juridische kaders als we onze waarden willen blijven beschermen.

Technologische emergentie

Inforgs in de infosfeer: technologie transformeert mens en maatschappij.

Wie is er verantwoordelijk voor fouten van AI-systemen? Wanneer, en vooral waarom is het belangrijk dat bepaalde beslissingen worden genomen door een mens? Aan vragen geen gebrek, en voor de antwoorden is het waarschijnlijk nog te vroeg. We weten immers niet hoe AI zich de aankomende jaren gaat ontwikkelen, niet het minst vanwege de emergentie die optreedt in samenspel met andere technologische ontwikkelingen zoals blockchain, big data en 5G. Speculeren over toekomst van AI is ‘zelfs naar de maatstaven van speculatie nog hoogst speculatief’[1]. Exponentiële innovatie staat op gespannen voet met bestaande regelgeving.

Inforgs in de infosfeer

Dat betekent niet dat we met lege handen staan. Ook de AI in vivo die nu al wordt toegepast werpt legio vragen op, niet in de laatste plaats ten aanzien van waardekaders, grondbeginselen en toepassing van het recht. Misschien fungeert het recht zelfs als een soort rookmelder voor dit soort vraagstukken. De ontoereikendheid van de manier waarop we bepaalde principes momenteel hebben gecodificeerd, zal in het recht namelijk snel worden gesignaleerd: wet- en regelgeving leidt in dat geval niet meer tot de bescherming van principes zoals we dat hebben bedoeld, maar tot rechtsonzekerheid, willekeur en stagnatie. AI dwingt ons om precies op dat punt nauwkeuriger te zijn: wat willen we precies beschermen en hoe kunnen we die bescherming blijven realiseren in een posthumanistische wereld waarin we leven als inforgs binnen de infosfeer.

[1] Grimmelmann, "Copyright for Literate Robots," 101 Iowa Law Review (2016) p.678