IenW experimenteert met methoden voor het bespreken van ethische dilemma’s

Op het terrein van Infrastructuur en Waterstaat (IenW) wordt steeds meer gebruik gemaakt van de nieuwste digitale inzichten en technieken. Denk bijvoorbeeld aan het volgen van weggebruikers met camera’s, de inzet van drones voor monitoring, het gebruik van kunstmatige intelligentie, big data en robots.

Dit brengt ethische vragen met zich mee: is alles wat technisch mogelijk ook wenselijk in termen van publieke waarden. Om deze vragen te beantwoorden organiseerde het Overlegorgaan Fysieke Leefomgeving (OFL) een dialoog over ethiek en digitalisering. We spreken hierover met de twee secretarissen die deze dialoog hebben begeleid: Tom Schuurmans en Liset Verschoore.

Tom en Liset opereren beiden op het snijvlak van data science en participatie en werken zowel voor het OFL als voor de Directie Participatie van het ministerie van IenW. Het Overlegorgaan Fysieke Leefomgeving (OFL) houdt zich bezig met het samenbrengen van de rijksoverheid en maatschappelijke partijen voor dialoog en samenwerking. Liset: “Aanleiding om ons te storten op ethiek en digitalisering was de wens binnen het departement om in gesprek te gaan over ethische dilemma’s bij digitalisering, datagedreven werken en kunstmatige intelligentie. Hiervoor heeft het OFL een zogenaamd ‘moreel beraad’ ingezet. Het instrument van het moreel beraad is eerder succesvol ingezet in de zorg en bij dierenwelzijn. In opdracht van onze Bestuursraad (met Inspecteur Generaal Jan van den Bos als portefeuillehouder informatievoorziening) hebben we toen aan de hand van een aantal concrete cases, die spelen op het terrein van het Ministerie van IenW, een dialoog georganiseerd tussen ambtenaren en de samenleving. De gesprekken werden gewaardeerd en hebben bij de participanten vooral geleid tot bewustzijn van de ethische dimensie in vraagstukken. Het OFL-project heeft geresulteerd in een concreet stappenplan over hoe je het moreel beraad praktisch kunt inzetten voor een ethisch vraagstuk bij digitalisering.”

Deep democracy en begeleidingsethiek

Tom: “We zijn gestart met desk research naar het belang van ethische reflectie bij digitalisering, met als doel om een gespreksvorm te vinden. In de eerste fase hebben we geëxperimenteerd met het moreel beraad. In de tweede fase met deep democracy en begeleidingsethiek. De deep democracy-methode is gericht op het nemen van een inclusief democratisch besluit door aandacht te hebben voor andere opvattingen. De methode bekijkt hoe je tegemoet kunt komen aan de argumenten die vanuit een minderheidsstandpunt worden aangedragen om zo samen tot consensus te komen. De aanpak van begeleidingsethiek is gericht op het komen tot handelingsperspectieven. De vraag of de inzet van een digitale technologie wenselijk is bij deze methode, in tegenstelling tot bij een moreel beraad, is vaak al een gepasseerd station. Beide methodes zijn interessant in het kader van ethiek en digitalisering, omdat je enerzijds toewerkt naar een inclusief besluit over een bepaalde technologie en anderzijds op zoek bent naar handelingsperspectieven voor ethische dilemma’s.”

Moreel beraad in zeven stappen
Liset: “Voor het morele beraad hebben we gebruik gemaakt van een canvas, wat in een keer een overzicht biedt op de uitkomsten van alle stappen die we in het beraad doorlopen:

Stap 1: Introductie en kennismaken
Stap 2: Ethiek als kader
Stap 3: Introductie morele vraag
Stap 4: Redenen voor en tegen
Stap 5: Waarden onderzoeken
Stap 6: Spanningen benoemen, issues noteren
Stap 7: Moreel oordeel uitspreken

Voor deze aanpak is een overzichtelijke handleiding gemaakt.

Voorbeeld van een ingevuld canvas, terug te vinden als bijlage in het OFL-rapport Ethiek en Digitalisering

Getting the whole system in the room
Wie nemen deel aan een moreel beraad? Liset: “In ieder geval de vraagsteller en een deskundige en onafhankelijke gespreksleider. Daarnaast belanghebbenden, bijvoorbeeld diegene wiens data wordt verzameld of anderen die wakker zouden kunnen liggen van deze kwestie. Het is belangrijk zoveel mogelijk van de verschillende perspectieven aan tafel vertegenwoordigd te hebben. Bij voorkeur zijn alle belangen vertegenwoordigd, dit wordt ‘the whole system in the room’ genoemd. Wij gaan uit van een maximum van tien personen.” In de praktijk kan het soms lastig zijn om bepaalde belangen ook echt aan tafel te krijgen. Commerciële partijen zoals de ontwikkelaars van applicaties kunnen het maar gedoe en tijdrovend vinden.

Ethiek en spanningen
Er zijn in totaal zes morele beraden gehouden. Waren er terugkerende thema’s als het gaat om ethiek en waarden? Tom: “De waarden autonomie, economie, veiligheid en privacy kwamen in ieder moreel beraad naar voren. Ook de waarden gelijkheid, innovatie, rechtvaardigheid en verantwoordelijkheid kwamen in vier van de zes moreel beraden naar voren.” Liset: “Hetzelfde gold voor spanningen. Het nut van leren/innovatie over de inzet van technologie versus nadelige gevolgen, zoals dat het bijvoorbeeld mensenlevens kan kosten, kwam in drie van de zes morele beraden naar voren. Deze spanning werd onder andere zichtbaar in de cases over de inzet van robots in het verkeer en het automatisch openen en sluiten van spitsstroken. Een andere spanning die in drie van de zes morele beraden inzichtelijk werd, is de spanning tussen veiligheid en privacy. Slimme camera’s in de fysieke leefomgeving kunnen de veiligheid vergroten, terwijl de privacy van individuen onder druk komt te staan.”

Zinvol
Wat waren de conclusies van dit hele traject? Tom: “Zowel het moreel beraad, deep democracy als begeleidingsethiek zijn zinvolle methoden om een gesprek over ethische dilemma’s bij digitalisering te structureren. Iedere methode heeft zijn eigen toegevoegde waarde. Ze kunnen of door elkaar of los van elkaar ingezet worden. Op basis van dit inzicht is het interessant om ook met andere methoden voor ethisch reflecteren aan de slag te gaan.”

Meer weten?

Handleiding moreel beraad

Rapport Ethiek en Digitalisering