“In 2030 zullen computers rechtspreken”, aldus informaticus en professor Jaap van der Herik.1 Zou het écht mogelijk kunnen worden dat in de toekomst robotrechters de taken van rechters overnemen, zonder dat er een mens aan te pas komt?
Generatie Y groeit op in een gedigitaliseerde wereld. De pandemie heeft de digitalisering daar bovenop nog een geweldige boost gegeven. Technisch gezien is thuiswerken vandaag de dag voor niemand een probleem. Dat geldt ook voor studeren, los van het sociale aspect. Want zeg nou zelf, je had al een laptop, een internetverbinding en de koffie thuis is lekkerder dan die uit de automaat. Over het laatste aspect gesproken: “koffiezetapparaten gaan binnenkort leven”, voorspelt ontwerper Eibert Draisma: “Kunstmatige intelligentie gaat ons inhalen en het leven veel gemakkelijker maken.”2 Intussen speelt kunstmatige intelligentie ook al een rol in de advocatuur en rechtspraak.
Artificial Intelligence
Artificial Intelligence (hierna: AI) is een nabootsing van menselijke intelligentie.3 AI is onder meer bedoeld om problemen op te lossen op basis van big data. Er is geen twijfel over mogelijk dat AI beslissingen kan maken, ook in juridische zaken. Er zijn verschillende soorten kennissystemen waardoor dat mogelijk is. Ik licht er twee uit: machine learning en regelgebaseerde systemen.
Machine learning
Artificial Intelligence in de hoedanigheid van machine learning is zelflerend: de software wordt beter in zijn taak naarmate het deze vaker uitoefent.4 Gaandeweg neemt de computer zelf beslissingen op basis van zijn opgebouwde bevindingen. De computer weet echter niet waarom hij bepaalde conclusies trekt: we weten dus niet hoe een beslissing tot stand komt en wat de grondslag daarvoor is geweest (de zogenoemde black-box situatie).5
Machine learning
Er is in de computer geprogrammeerd dat een kat vier poten, een staart en een ronde kop heeft. Ook is in dezelfde software van tevoren geprogrammeerd dat een hond vier poten, een staart en een lange snuit heeft. Dit is echter erg abstract. Bij machine learning wordt de software beter naarmate het deze vaker gebruikt. We laten de computer vervolgens een reeks foto’s van katten en honden zien. De computer gaat zelf aan de slag met de meer uiterlijke verschillen, waardoor hij zelf beter de twee dieren van elkaar leert te onderscheiden. Hetzelfde geldt eigenlijk ook voor een baby: je legt een baby weliswaar het verschil tussen een hond en kat uit, maar de baby zal in het begin toch fouten maken. Naarmate de baby het vaker oefent zal ze de twee dieren makkelijker kunnen onderscheiden.
Regelgebaseerd leren
Een kennissysteem waar de kennis en redeneerregels vooraf in het systeem worden opgeslagen is ook mogelijk, hierin wordt de black box vermeden. De programmeur heeft dan wel enig inzicht op hoe het systeem tot zijn beslissing is gekomen, maar het systeem kan dit zelf niet uitleggen. Voor de motivering is tussenkomst van de programmeur vereist
De computer in de rechtspraak
Indien AI geen motivering geeft over de beslissing, voldoet deze niet aan de vereisten van een rechterlijk besluit genomen door de menselijke rechter. Het zwaartepunt ligt in de beslissing en de motivering daarvan. Deze voorwaarde is vastgesteld in artikel 121 Grondwet. Daarnaast is het niet ‘toevallig’ dat één van de cassatiemiddelen ex artikel 79 RO – bij verzuim van vormen – zijn toepassing vindt in het motiveringsgebrek. Indien een kennissysteem zo geprogrammeerd wordt dat het zelf kan motiveren, kan het wél gelijkgesteld worden met een besluit genomen door de menselijke rechter.
Kunstmatige intelligentie kan een zaak niet inhoudelijk beoordelen.6 De beslissing wordt gemaakt op basis van de big data en niet op de inhoudelijke merites van de zaak zelf. Doorgaans kan AI alleen beslissingen nemen met ja of nee. Vooralsnog komt het door deze binaire beslissing dat de ‘robotrechter’ nog ontoereikend is als vervanging van de rechter.
Het rechtsgevoel
Rechter wordt men niet ‘zomaar’. De rechter heeft een grote maatschappelijke verantwoordelijkheid.7 Door zijn of haar beslissingen kan iemand voor het leven getekend zijn. Er komt een stempel – die van dader – op de
betrokkene te liggen. Daarnaast zorgt de rechter voor het vertrouwen in een rechtvaardige samenleving. Naast een opleiding en de nodige ervaring, moet een rechter ook over een aantal persoonlijke kenmerken beschikken om zijn beroep te kunnen uitvoeren. Zo moet hij standvastig zijn, hij moet zijn beslissingen durven nemen en hier ook consequent in zijn.
Robotrechter objectief?
Voor het maatschappelijk belang is de onpartijdigheid van de rechter één van de belangrijkste kenmerken. Hierdoor krijgt de rechter legitimiteit en vertrouwen.8 Echter kan het heel moeilijk zijn voor rechters om hun vooringenomenheid compleet uit te schakelen. AI kent op zichzelf geen vooringenomenheid, het is een systeem zonder eigen geloof, geslacht of afkomst. Wel kán een kennissysteem zo vooringenomen zijn als de programmeur. Hij kan het systeem bouwen naar zijn geloofs- en levensovertuiging en op die manier van het in beginsel objectieve systeem een subjectief systeem maken. Hierdoor bestaat de mogelijkheid dat de robotrechter gewraakt kan worden. Wellicht kan zelfs de programmeur veroordeeld worden voor het manipuleren van het systeem.
Een rechter kan op basis van zijn rechtsgevoel de knoop doorhakken. In de woorden van rechtsgeleerde Paul Scholten: “Het recht is altijd tegelijk én intellectueel én intuïtief werk.”9 Een civiele rechter kan oordelen dat een verbintenis ten dele is nagekomen. AI kan enkel beslissen of de verbintenis wel of niet is nagekomen. Tevens is een kennissysteem niet maatschappelijk betrokken. Dit behoort de rechter wel te zijn, omdat burgers mogen eisen dat hen recht wordt gedaan. Om dit te kunnen bewerkstelligen moet hij zich bewust zijn van de impact van zijn handelen en weten wat zich in de samenleving zich afspeelt.10
Een programmeur kan bij de bouw een kennissysteem manipuleren.
Digitale hulprechter
Complete implementatie van de robotrechter in de rechtspraak is onmogelijk. Kennissystemen kunnen wél worden ingezet ter ondersteuning van de menselijke rechter. Dit kan technologische ondersteuning zijn, zoals het ophalen van informatie en sorteren van processtukken. Daarnaast kan het ook gaan om technologische vervanging zoals digitaal procederen.11
Tevens kan een digitale hulprechter worden ingezet in het beslissen van routinezaken. Hierbij gaat het om zaken met een eenduidige uitkomst zonder complexe bewijs- en interpretatieproblemen.12 Een valkuil is dat de aangevoerde feiten moeten worden vastgesteld en juridisch gekwalificeerd moeten worden. Pas als aan beide voorwaarden voldaan kan worden door een kennissysteem is volledige automatisering mogelijk. Vaak is dat niet zo. Het kennissysteem kan wel worden ingezet om één van die twee voorwaarden vast te stellen. Vervolgens hoeft de menselijke rechter enkel naar de andere voorwaarden te kijken. De menselijke rechter en de robotrechter staan dan samen sterker dan alleen.
Kortom: de robotrechter is juridisch gezien een utopie. Of een verschrikking?
Informaticus Frank van Harmelen: “Computer- en menselijke intelligentie verschillen aanzienlijk. In samenwerking zijn ze beter dan ieder apart.”
Chantal van Huffelen
