‘Ingenieurs maken ook morele keuzes’

Door Aafke Kok, wetenschapsjournalist.

Katleen Gabriels, moraalfilosofe met een specialisatie in computerethiek (Universiteit Maastricht), wil niet moraliserend zijn. ‘Niemand zit te wachten op dat vingertje. Mensen moeten zelf leren kritisch na te denken.’

We zitten middenin een enorme technologische vooruitgang. Volgens jou zou dat gepaard moeten gaan met een ethische vooruitgang. Waarom?

‘Aan nieuwe technologieën zijn ethische aspecten verbonden waar we over moeten nadenken. Die ethische aspecten zie je naar voren komen bij schandalen, zoals Cambridge Analytica (databedrijf Cambridge Analytica kwam in opspraak toen bleek dat het gegevens van miljoenen Facebook-gebruikers gebruikte voor politieke campagnes van klanten, red.). Het is wrang, maar door zo’n schandaal stijgt het maatschappelijk bewustzijn. ‘De ontwikkelaar van de eerste iPhone heeft spijt van zijn ontwerp. Bij de ontwikkeling nam hij zijn eigen leven als norm: twintiger, ongehuwd, kinderloos. Ondertussen is hij getrouwd en heeft hij tienerkinderen. Hij hield toen geen rekening met verschillende vormen van gebruik. Natuurlijk is het lastig op voorhand alle gevolgen te overzien, maar er zijn ook veel zaken waar je wel rekening mee kunt houden.’

Katleen Gabriels spreekt tijdens het Doxis Seminar 2019

Katleen Gabriels, moraalfilosofe en spreker tijdens het Doxis Seminar.

"Algoritmes zijn door mensen gemaakt. Een algoritme heeft geen vrije wil. Ethische vraagstukken beantwoorden kan een algoritme niet."

Marc Zuckerberg, de oprichter van Facebook, verweerde zich tijdens de rechtszaak rondom het Cambridge Analytica-schandaal met ‘We weten zelf ook niet goed hoe het werkt’. Kun je een ontwerper verantwoordelijk houden?

‘Ja komaan, die verantwoordelijkheid lag zeker wél bij Zuckerberg. Een algoritme kan misschien beslissingen nemen, maar die verantwoordelijkheid kun je als mens niet ontlopen. Algoritmes zijn door mensen gemaakt. Een algoritme heeft geen vrije wil. Ethische vraagstukken beantwoorden kan een algoritme niet. Dus we moeten niet doen alsof daar de autonomie ligt.
‘We denken vaak dat bètawetenschappen neutraal zijn. Maar als een bepaald algoritme systematisch mensen discrimineert, dan is dat wel degelijk de verantwoordelijkheid van de ontwerper van het algoritme. Ontwerpers maken niet alleen functionele maar ook morele keuzes, en daar moeten ze rekening mee houden.’

Dat is toch ingewikkeld voor een ingenieur die daar niet per se voor is opgeleid?

‘Voordat een nieuwe technologie op de markt komt, wordt al gekeken of de technologie zorgt voor schade op het gebied van veiligheid, milieu en gezondheid. Daar kunnen we best ook andere zaken bij opnemen. Een ingenieur hoeft echt niet uit het hoofd met al die dingen rekening te houden.
‘En natuurlijk moet ethiek ook in hun opleiding worden opgenomen – dat gebeurt al wel, maar nog onvoldoende systematisch. Zonder direct te beginnen over Immanuel Kant, kun je ingenieurs aanspreken op hun interesses en op basis daarvan ethiek doceren. Ingenieurs zeggen vaak dat ze de wereld beter willen maken. Maar wat is beter? En wie wordt er beter van? Dat is al een moreel vraagstuk. Zij richten mede onze maatschappij in.

’Welke rol is er weggelegd voor de overheid bij deze ethische vooruitgang?'

‘Politici kiezen vaak voor oplossingen die op de korte termijn werken. Dan verkies je makkelijker veiligheid boven privacy, terwijl je die allebei in acht zou moeten nemen.
‘Voor de minister van onderwijs is een grote rol weggelegd. Vanaf de kleuterschool zou mediawijsheid gedoceerd moeten worden. Dat klinkt misschien gek, een kleuter kritisch leren denken, maar YouTubefilmpjes zitten vol reclame. Als kinderen daar op jonge leeftijd mee in aanraking komen, moeten ze ook op jonge leeftijd leren er kritisch naar te kijken.
‘De overheid moet zich niet lam laten leggen door het woord ‘innovatie’. Ze moet ook vragen stellen. En dan niet als in een paternalistische technocratie zomaar maatregelen opleggen, maar in dialoog treden met de maatschappij. Natuurlijk moet de overheid niet zeggen hoe we ons leven moeten leiden. Ze moeten de randvoorwaarden scheppen.’