Een strikt oordeel, tussen goeden en slechten, tussen tarwe en onkruid. Het is niet direct een idee waar de meesten onder ons op zitten te wachten vandaag de dag. We hebben niet graag dat iemand een oordeel uitspreekt over ons gedrag. Dat iemand anders voor ons beslist. Zeker God niet!
We hebben ons toch zeker eindelijk vrijgevochten van al die bangmakerij van vroegere tijden? Van een Kerk die wilde bepalen hoe we moesten leven. Van de angst voor de hel. Van een gesloten cultuur waar zogezegd niets mocht en iedereen alles zag en over alles iets te zeggen had.
En toch, … en toch, blijft het oordeel alomtegenwoordig in onze samenleving.
Op de eerste plaats het oordeel van mensen onderling. Kijk maar eens vijf minuten rond op Facebook, daar word je niet altijd vrolijk van.
En daar blijft het ondertussen niet meer bij. De paus nodigt ons in zijn eerste encycliek, Magnifica humanitas, uit na te denken over de manier waarop we steeds meer belangrijke beslissingen uitbesteden aan algoritmes.
Velen van ons hebben al eens de ervaring gehad dat we met grote moeite een helpdeskmedewerker moesten overtuigen dat de ‘nee’ die uit de computer gerold kwam onterecht was. Dat het wel degelijk ‘ja’ moest zijn.
En toch laten we steeds meer beslissingen over aan deze onpersoonlijke systemen zonder te weten hoe ze tot hun oordeel komen.
Filtert een computer je sollicitatie er al uit voordat er überhaupt iemand naar gekeken heeft? Geeft je datingapp je wel een eerlijke kans, of heeft een computersysteem je al op basis van je foto’s onderaan de stapel gelegd? Moet je die toeslag terugbetalen omdat er inderdaad iets fout is gegaan, of omdat je toevallig de verkeerde postcode of achternaam hebt?
Of stel dat je in Kiev woont: vliegt er morgen misschien een AI-gestuurde drone je huis in?
Zaken die essentieel zijn voor onze toekomst, voor sommigen zelfs kwesties van leven of dood, liggen in handen van een computer die ons nooit in de ogen zal kijken.
Een algoritme dat alleen statistiek kent, geen moraal. En toch binnen een fractie van een seconde over ons kan oordelen.