Hoogste tijd voor wet- en regelgeving voor Artificial Intelligence en Smart Industry

In april 2018 onderschreef Andrus Ansip (Europese Commissie, EU) de invloed van artificial intelligence (AI) al door het belang ervan te vergelijken met de vroegere ontwikkeling van elektriciteit en het uitvinden van de stoomtrein. Hierbij kondigde de eurocommissaris direct een investering in AI (kunstmatige intelligentie in het Nederlands) aan voor de komende twee jaar van minstens 20 miljard euro, wat het belang dat de EU aan de technologie hecht nog maar eens onderstreept.

 

EU loopt achter op China & Verenigde Staten

De aankondiging van een investering in AI is volgens velen terecht en hoogstnodig gelet op de ‘achterstand’ die EU heeft op onder andere China en de Verenigde Staten – met betrekking tot de ontwikkeling van technologieën die gebruik maken van AI. AI is echter al lang geen toekomstmuziek meer, maar omschrijft verschillende technologieën die we in steeds verregaandere mate om ons heen kunnen waarnemen.

Zo gebruiken onder meer zelfrijdende auto’s de mogelijkheid om zelfstandig te leren van nieuwe omstandigheden in het verkeer (een vorm van AI die ook wel ‘machine learning’ wordt genoemd). Ook wordt in de rechtspraak en rechtshulpverlening gebruik gemaakt van AI bij het nemen van juridische besluiten en uitspraken. Dit om onder andere de efficiëntie te verhogen en de kwaliteit van ‘het recht’ te verbeteren door te leren van eerder uitgebrachte uitspraken en opgelegde sancties.

 

Tijd voor wet- en regelgeving

Met het oog op deze opkomst van AI is het daarom de hoogste tijd voor verdere wet- en regelgeving. Wetenschappers en andere AI-experts hinten met name op een raamwerk dat sturing geeft aan ethische vragen omtrent het gebruik van AI. Zo gaf technologie ondernemer Elon Musk aan dat“we absoluut proactief moeten zijn om wetgeving te ontwerpen met betrekking tot AI’’, omdat volgens Musk “AI een fundamenteel risico vormt voor het voortbestaan van het menselijk ras’’. Niet de EU, maar de Europese Raad heeft een handvest gepubliceerd dat gericht is op het stimuleren van ethisch gebruik van AI in de rechtspraak en rechtshulpverlening. Want hoewel het onwerkelijk lijkt dat AI de rechtspraak volledig in haar greep zal krijgen, is het van belang om te waarborgen dat AI in dienst blijft staan van het recht en dat het geen rechten van individuen schendt.

 

Een vijftal principes

Het handvest, dat zowel voor publieke als private partijen is bedoelt, omvat een vijftal principes zoals hieronder te zien. Hoewel het merendeel van deze principes bruikbaar zijn als richtsnoeren bij het ontwikkelen en/of implementeren van AI-oplossingen in het recht, is het vanwege het niet bindende karakter van het handvest interessant om te zien of, en zo ja, hoe ontwikkelaars van deze toepassingen de principes zullen gaan hanteren.

Het principe van respect voor fundamentele rechten;
Dit principe omvat het idee dat ervoor gezorgd dient te worden dat het ontwerp en de implementatie van AI in lijn ligt met de fundamentele rechten van individuen (door de Europese Raad opgenomen in het Europees Verdrag voor de Rechten van de Mens).

Het non-discriminatie principe;
Een principe gericht op het algeheel voorkomen en/of het verminderen van discriminatie tussen individuen of groepen van individuen.

Het kwaliteits- en veiligheidsprincipe;
Dit principe is met name gericht op het gebruik van veilige en geverifieerde bronnen van juridische uitspraken en data, middels veilige technologie.

Het principe van transparantie, onpartijdigheid en rechtvaardigheid;
Mogelijk het belangrijkste principe gelet op het belang van het hebben van invloed op de wijze waarop gegevens verwerkt worden door de gebruikte AI, en het belang van begrijpelijkheid van wat er aan de verwerking ten grondslag ligt.

Het principe van ‘onder controle van de gebruiker’;
Dit principe vertegenwoordigt het idee dat het gebruik van AI uiteindelijk niet moet inhouden dat de gebruiker ervan niet meer in controle is. De eindgebruiker dient dus altijd controle te houden over de gemaakte keuzes en dient deze te kunnen begrijpen door middel van een goede informatievoorziening.

 

Meer lezen over Artificial Intelligence en Smart Industry? Download hier kosteloos de Datacenter & Recht publicatie.