Slangenolie, Olifantepaadjes & Detectiepoortjes - Marc van Meel

Wat is eigenlijk ethiek?

Ja, wat is het niet? Nee, geintje. Heel flauw. Maar serieus, het is een vraag die vaak gesteld wordt en waarop niet altijd een helder antwoord komt. Hoe ik het meestal uitleg is door het onderscheid te maken tussen menselijke ethiek en moraliteit, want die worden nog wel eens door elkaar gehaald. Dat helpt vaak om duidelijkheid te scheppen. Moraliteit is wat jij als individu, als persoon, goed of fout vindt, goed of slecht vindt. Dat is jouw persoonlijke kompas. Ethiek heeft daarentegen vaak een collectief karakter. Het gaat dus niet om wat ik als individu goed of slecht vind, maar om wat wij als groep, als organisatie bijvoorbeeld, in een collectieve setting wel of niet willen zien. Dat is het heel kort door de bocht. Ethiek heeft altijd dat collectieve karakter. Daarom vind ik ook dat de uitwerking ervan vaak in principes en guidelines plaatsvindt, dat soort dingen. Je kunt erop sturen vanuit een bepaald abstractieniveau. Het is concreet genoeg om houvast te bieden, maar ook niet zo concreet dat het geen ruimte laat voor interpretatie in specifieke situaties.

Hoe verhouden normen en waarden zich tot ethiek?

Ja, zeker, die hebben daar alles mee te maken. Als wij bijvoorbeeld organisaties helpen, dan beginnen we vaak bij de fundamenten. Bedrijfsethiek is trouwens iets wat ook al heel lang bestaat. Vaak als we het hebben over ethiek in de context van AI, dan hebben we het over data ethics. Maar ethiek bestaat al 2500 jaar of zo. Het is helemaal geen nieuwe discipline die we nu ineens bedacht hebben omdat AI er is. Bedrijfsethiek bestaat bijvoorbeeld ook al heel erg lang. Bij KPMG helpen we organisaties al heel erg lang met vragen zoals: wat is nou jouw bedrijfsethiek? Hoe wil je nou effectief sturen op het gedrag van medewerkers? Hoe moeten ze wel en niet met elkaar omgaan? Diezelfde methodologie, dat kunstje wil ik het niet noemen, maar die aanpak kun je natuurlijk ook toepassen op wat je dan data-ethiek noemt. De ethiek van data, van algoritmes en de toepassing daarvan. Je kunt dus ook sturen op hoe je wilt dat je medewerkers omgaan met het ontwikkelen en het inzetten van, laten we het dan even een AI-systeem noemen, of datagedreven besluitvorming. Het gaat uiteindelijk om het gedrag van mensen die deze technologie maken en gebruiken.

Wat bedoel je met detectiepoortjes als voorbeeld van ethische vraagstukken?

Ah ja, dat is een mooi voorbeeld. Ik geef vaak presentaties over ethiek en technologie, en daar breng ik ook meestal het punt naar voren dat AI niet per definitie nieuw is. Technologie bestaat al heel erg lang. De technologie van wat we deep learning noemen, bestaat al sinds de jaren zestig of zo. Technologie zelf bestaat al duizenden jaren, bijna zo lang als de mens. Ethiek bestaat ook al duizenden jaren. En heel veel problemen die voortkomen uit datagedreven besluitvorming, het toepassen van algoritmes en modellen, dat zijn vaak nieuwe problemen, maar het zijn eigenlijk gewoon nieuwe instanties van bestaande problemen. Ik geef graag voorbeelden uit de praktijk om dit te illustreren. Een leuk voorbeeld vind ik zelf detectiepoortjes op het station. Dit is een vorm van wat ik noem 'invisible barbed wire', dus een onzichtbaar prikkeldraad. Heb je jezelf wel eens afgevraagd waarom die poortjes daar staan? Als je bijvoorbeeld naar Utrecht gaat, op station Utrecht kom ik vaak, dan kan ik niet naar de Starbucks als ik geen OV-kaart heb. Ik moet eerst dat poortje door, dan pas kan ik naar de Starbucks. Of ik kan lingerie gaan shoppen op het station. Ik weet niet waarom mensen dat doen, dat heb ik nooit begrepen, maar goed. Het punt is: ik kan dus niet naar de Starbucks als ik geen OV-kaart heb. En dit zie je wel vaker in de samenleving, dat er fysieke barrières worden opgeworpen die je gedrag sturen. Wat dit doet is dat het afbreuk doet aan jouw autonomie als mens. Je kunt er letterlijk niet naartoe, zelfs niet als je daar een goede reden voor zou hebben.

Kun je het voorbeeld van olifantenpaadjes verder uitleggen en hoe dat verschilt van detectiepoortjes?

Ja, olifantenpaadjes zijn een van mijn favoriete voorbeelden. In het Engels heten ze 'desire paths', een heel mooie naam vind ik. Jullie kennen dat allemaal wel. Je hebt een grasveldje of een park, en de gemeente heeft het geweldige idee om de flow van mensen te reguleren. Ze leggen een pad aan of ze zetten meestal zo'n hekwerk neer, of twee van die paaltjes. Maar je moet er dan een beetje omheen fietsen. Verschrikkelijk. Mensen komen dan tot het geniale idee van: nou, ik ga gewoon afsnijden. Dat is een olifantenpaadje. Ik neem een shortcut. En dan zie je mooi op het gras zo'n paadje ontstaan waar iedereen loopt. De gemeente denkt dan vaak: wacht even, dit is niet de bedoeling. Dus we gaan nog een hek zetten om mensen te dwingen om onze bedoelde route te nemen. En dan denken mensen: nou oké, dan gaan we daar weer omheen. Ik heb al grasveldjes gezien met een hele opeenvolging van hekjes en paaltjes, een soort evolutionaire race tussen planners en gebruikers. Waarom ik dit zo'n mooi voorbeeld vind, is omdat dit raakt aan menselijke autonomie. Met andere woorden: de mogelijkheid om in principe de regels te kunnen breken. Ja, er staat een poortje of een paaltje, maar ik kan er omheen. Ik heb nog steeds die keuze. Die paaltjes op het station daarentegen, dat is een hardcoded oplossing om jou er niet doorheen te laten gaan. Die poortjes op het station doen dus letterlijk afbreuk aan jouw autonomie als mens. Je kunt ergens letterlijk niet naartoe, punt uit. Terwijl je met olifantenpaadjes, die zou je ook kunnen zien als een design improvement, een verbeteringssignaal. Er werd recentelijk de term 'menselijke maat' in de loop gebezigd. Dat vond ik op zich wel een mooie term. Het is wel moeilijk hoe dat in de praktijk eruitziet, maar het idee is dat je inderdaad, eigenlijk wat ik zeg, je moet nog steeds ervan af kunnen wijken indien nodig. Er moet nog ruimte zijn voor menselijk oordeel en afwijking van de regel.

Hoe verhouden mensen zich tot technologie als het gaat om bijvoorbeeld rekenen en patronen herkennen?

Dat is een beetje duaal, die verhouding. Enerzijds zijn er dingen waar mensen heel goed in zijn, en dingen waar wij heel slecht in zijn. Bijvoorbeeld rekenen: we kunnen eigenlijk helemaal niet goed rekenen. Daar zijn we helemaal niet voor gebouwd. Maar bijvoorbeeld afstanden inschatten of gezichten herkennen, daar zijn we weer heel goed in. Onze zintuigen zijn ook heel makkelijk voor de gek te houden. Je kent al die optische illusies wel. Je hebt zo'n plaatje met een pijl, en dan draai je die dingetjes om en dan lijkt de ene pijl twee keer zo lang als de andere, terwijl ze even lang zijn. Dus wij zijn heel slecht in bepaalde visuele zaken op te vatten en te beoordelen. Terwijl in andere dingen zijn we weer heel erg goed. Bijvoorbeeld het menselijk oog kan de meeste verschillende soorten groen onderscheiden vergeleken met andere kleuren. Enig idee waarom dat is? Dat komt nog uit ons reptielenbrein, zeg maar, vanuit de oertijd. We stammen allemaal af van, laten we zeggen, neurotische apen. En de meest neurotische apen hebben het overleefd. En dat waren degenen die slangen konden zien, bijvoorbeeld in het gras. Dus hoe meer kleuren groen jij kunt zien, dat bepaalde letterlijk of je wel of niet goed een slang kon zien in de vegetatie. Dat was het verschil tussen overleven of niet. Maar goed, sorry, ik dwaal een beetje af van het punt.

Wat wilde je eigenlijk zeggen over de menselijke capaciteiten in relatie tot AI?

Wat ik eigenlijk wilde zeggen was dat we bijvoorbeeld de menselijke intuïtie hebben, het aanvoelen van iets, en daar zijn we dan weer heel erg goed in. Terwijl we in objectief rekenen weer helemaal niet goed in zijn. Dus ik denk dat AI-systemen in potentie eerlijker kunnen zijn, laten we eerlijkheid als voorbeeld pakken, dan mensen. We hebben geen last van vooroordelen op dezelfde manier. Maar tegelijkertijd ook weer niet helemaal eerlijk, omdat ze heel rigide zijn. Heel zwart-wit. Er zit heel weinig grijs in, terwijl wij als mens heel erg goed zijn in nuance zien. Wij kunnen dingen in een grotere context plaatsen. En dan zeg je: normaal gesproken doen we het zo, dat is echt altijd de regel, maar in dit specifieke geval maken we een uitzondering om deze reden. Dan moet ik weer denken aan het voorbeeld uit de vorige aflevering, deel één. Je vriend die zegt: nou, ik kon toch niet komen, want er was wat tussengekomen. Een noodsituatie of zo. Daar gaan we dan als mensen anders mee om. We begrijpen de context. Terwijl een systeem gewoon zou zeggen: ja, afspraak niet nagekomen, punt. Succes ermee. Minnetje erbij in je score.

Hoe functioneren AI-systemen eigenlijk als het gaat om patronen en besluitvorming?

Ik wil het wel een beetje spannend maken. We kunnen het een beetje politiek maken ook. Als je kijkt naar wat AI-systemen nou eigenlijk doen, of machine learning-systemen, dat zijn toch vaak systemen die gebaseerd zijn op statistische methodes, en ook geïnspireerd op evolutie. Die zijn niet altijd in het voordeel van wat ik dan noem 'minority distributions', dus minderheidsverdelingen. Dit soort systemen zijn eigenlijk simpelweg patroonherkenningssystemen. Die herkennen patronen op basis van grote hoeveelheden historische data. Als je geluk hebt, heb je daar labels bij, dus je weet wat je zoekt. En daaruit leiden ze eigenlijk generalisaties af over hoe de wereld werkt. Maar die generalisaties zijn altijd vaak op groepsniveau. En vaak zijn de twee meest voorkomende business cases om dit soort systemen te ontwikkelen ook dat we de middelen niet hebben om alle gevallen individueel te bepalen. Het zou te duur zijn, te tijdrovend. Of de feature space, dus de ruimte van kenmerken, is te complex. We hebben eigenlijk geen idee hoe we iets moeten bepalen. Dat is deep learning in essentie. De feature space is te groot, te complex. Ik zie meteen of dit een hond of een kat is, maar ik kan het niet in regels programmeren. Ik kan niet uitleggen waarom ik het zie. Dus daarom nemen we dit soort systemen in gebruik. En dat is natuurlijk heel erg fijn. We profiteren van de schaalbaarheid van dat soort systemen, van de efficiency. Maar het probleem is dat we daardoor niet meer zelf hoeven na te denken over het eigenlijke doorgronden van wat er voor ons wordt geautomatiseerd. We verliezen het inzicht in hoe beslissingen tot stand komen. Dus ik denk dat we dat in de praktijk ook vaker moeten toepassen: bewust stilstaan bij wat we automatiseren voordat we het doen.

Hoe zou je dan aanraden dat organisaties met automatisering omgaan?

Wat dat betreft zie ik parallellen met software engineering en data engineering. Ik ben van mening dat we pas iets moeten automatiseren als we het ook een keer handmatig gedaan hebben. Puur om eigenlijk die weg te kennen, het proces te begrijpen, en vervolgens pas te gaan automatiseren. Dus ik denk dat we dat juist heel vaak zouden moeten doen. Het is verleidelijk om meteen naar automatisering te grijpen, maar je moet eerst begrijpen wat je automatiseert. Welke beslissingen worden er genomen? Welke afwegingen spelen een rol? Wat zijn de uitzonderingen? Als je dat niet weet, bouw je eigenlijk een black box zonder te weten wat erin zit.

Wat zijn de bredere effecten van technologie op ons gedrag, bijvoorbeeld met Google Maps?

We hadden het net al even over omgevingseffecten. Google Maps is eigenlijk ook een soort digital twin van, nou ja, van Nederland, van de wereld eigenlijk. Een digitale kopie van de fysieke werkelijkheid. Als je het hebt over gevolgen op bredere schaal, vanuit een omgevingsperspectief, dan zie je bijvoorbeeld tegenwoordig Google Maps-files ontstaan. Dus iedereen gaat massaal dezelfde route nemen, neemt die ene afslag bijvoorbeeld omdat Google Maps dat aanraadt. En dan ontstaat daar juist een file omdat iedereen hetzelfde algoritme volgt. Dat is een, ik zeg nogmaals ik maak geen normatieve statements hier, ik maak alleen een observatie die ik leuk vind om te delen, maar dat is bijvoorbeeld een transformatief effect op de samenleving. Het is iets wat er voorheen niet was. Voor Google Maps moest je zelf nadenken over je route, je had lokale kennis, mensen namen verschillende routes. Nu volgen we allemaal dezelfde digitale instructies. Dat is echt een interessant fenomeen om over na te denken. Hoe technologie ons collectieve gedrag verandert op manieren die we niet altijd voorzien.

Heb je een voorbeeld waarbij ethiek heel goed is aangepakt bij een AI-project?

Dat is een goede vraag. Een voorbeeld waar je echt de stempel 'goed gedaan' op zou kunnen zetten. Dat is lastig, want je ziet vaak meer wat er misgaat dan wat er goed gaat. Maar ik denk, om even met complimenten te gaan strooien, dat de overheid, als je bijvoorbeeld kijkt naar die speeches en teksten van de staatssecretaris van digitalisering, Alexandra van Huffelen, daar zie je wel dat in ieder geval de overheid, en dat is natuurlijk ook logisch in de nasleep van een aantal schandalen waar we het al even kort over hebben gehad, wel enigszins wakker is geworden. Ze willen laten zien dat ze de mens centraal willen stellen, inderdaad, in de digitalisering. Dus ik zie steeds meer awareness, bewustzijn. Voorheen had ik wel eens het gevoel dat ik de enige was die zei dat techniek niet neutraal is. Dat was een eenzame roep in de woestijn. Tegenwoordig is dat bijna mainstream geworden. Ik zie politici dat zeggen, ik zie bestuurders dat zeggen. Ik heb eerlijk gezegd niet altijd het idee dat ze precies weten wat het betekent, wat de implicaties zijn. Maar op zich vind ik dat al een positieve trend. Het bewustzijn is er, de erkenning is er. Nu is het zaak om dat ook om te zetten in concrete acties en richtlijnen. Maar die eerste stap, die erkenning dat we hier actief over moeten nadenken, die is denk ik wel gezet. AIToday Live is een podcast die zich richt op de nieuwste ontwikkelingen in AI en de impact ervan op verschillende sectoren. In elke aflevering spreken hosts Niels Naglé en Joop Snijder met experts uit het veld om inzicht te krijgen in de mogelijkheden en uitdagingen van AI-technologie. Luister via je favoriete podcast app: Spotify, Apple podcasts, YouTube Music, en meer.