Auteur Marc Steen - Ethics for People Who Work in Tech

Welkom bij een nieuwe aflevering van AIToday Live met vandaag de gast Marc Steen, boek, boek, auteur van het boek Ethics for People Who Work in Tech. Mijn naam is Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, chapter lead Data & AI bij Info Support. Marc, dankjewel dat je onze gast wil zijn. Het is een eer om jou als auteur hier te hebben. Zou jij willen voorstellen aan onze luisteraars? Ja, nou, dankjewel voor de uitnodiging. leuk om over dit onderwerp te praten. Mijn naam is Marc Steen, ik werk als senior onderzoeker bij TNO. TNO is een grote organisatie, 3000 plus experts in allerlei gebieden, energie, ICT, mobiliteit, urban, van alles. We doen altijd toegepast wetenschappelijk onderzoek, dus zeg maar tussen universiteiten en bedrijfsleven in ook om die brug te leggen. Dus lastige moeilijke dingen praktisch maken. Dat gaat mijn boek eigenlijk ook over. Ja, toch? Want ethiek is best lastig. We hebben het wel vaker in deze podcast gehad over ethiek. Wat is volgens jou ethiek en waarom heeft het te maken met AI? Want daarom zit je in deze podcast. Ja, er zijn natuurlijk heel veel opvattingen over ethiek. Het is al duizenden jaren een onderwerp van allerlei culturen. Ik zal een paar voorbeelden geven waarvan ik denk dat het voor mij in ieder geval niet is. Bijvoorbeeld niet zoiets van "Hey Marc, kun je een stempel zetten op dit project om te kijken of het wel goed is?" Ethiek. Ethisch goed enzo. Het is ook niet een hele moeilijke checklist van waar je allemaal aan moet voldoen. Dat is veel meer een soort van privacy of compliance eisen die je kunt stellen, bijvoorbeeld op het gebied van privacy. Ethiek voor mij, daar gaat eigenlijk mijn hele boek over, zie ik meer als een proces. Wat je kunt organiseren, wat je kunt doorlopen, wat je met een aantal mensen kunt doorlopen, wat je een aantal keren ook kunt herhalen. ook kunt herhalen. Dus uiteindelijk wordt het dan een participatief en iteratief proces van vragen stellen. Hé, is dit wat we willen? Is dit het goede om te doen? En dan daarop terugkomen als je wil bijsturen. Dat is veel meer de metafoor van een stuur. Oh ja. Wat ik ook wel gebruik. Ik moedig ook mensen aan om, en mijn boek is ook als praktische hulp erbij bedoeld, als je in je project ethische vragen wil stellen, dan kun je merken dat je het kunt gebruiken als een stuur om jouw project netjes of veilig van A naar B te brengen. Om te voorkomen dat je niet tegen de vangrails zit de hele tijd, of de verkeerde afslag neemt, geen botsingen maakt. Dus ethiek als stuur van je project. Oh ja, waar je dan voornamelijk met elkaar over communiceert en het erover hebt. Ja, voor mij is het al een enorme winst als mensen eerst hun stappen erin nemen. We gaan een meeting doen van 60 minuutjes, dan gaan we ons project op tafel leggen en er ethische vragen over stellen. Is dit wel fair? Is het transparant? Het algoritme, ik maak meteen het bericht naar AI toe. Je kunt het ook op allerlei gebieden, ethiek bedrijven, toegepast ethiek, professionele ethiek. En bij AI is het denk ik super relevant, omdat AI is volop in ontwikkeling. Er kan van alles, maar moet je ook alles willen wat kan? Wie ontwikkelen het dan? Zijn het grote bedrijven of mogen burgers er ook een richting aan meegeven? Overheden, moeten die komen met wetgeving of is het industrie? Dus je hebt allerlei vragen, juist omdat het in potentie heel machtige, heel krachtige technieken zijn met AI. Je kan er van alles mee. Maar wat is het goede om er mee te doen? Je had het over het praktisch maken. Hoe voorkom je nou dat mensen meteen stelling nemen over een etisch dilemma... en daar dan ook niet meer uitkomen? Dus je hebt het met elkaar over, en de ene is heel snel voor, de andere is heel snel tegen. Hoe ga je daar dan mee om? Ja, ik denk doorvragen. We hebben ook binnen TNO wel ervaring in transdisciplinair samenwerken. Dus een data scientist, en een legal, en iemand van operaties, en nog iemand rond de tafel. Dan zegt iemand wat, dat is fijn. Als iemand stellig is, dan kunnen we het erover hebben. Maar het gaat ook om door te vragen, van wat bedoel je daarmee? Kun je uitleggen? Kun je de aannames die jij meeneemt, vanuit waar je die bewering doet, op die ook uitleggen? Dus het is voornamelijk doorvragen ook, en elkaar luisteren naar de antwoorden die ze geven. Dus zorgen dat je de perspectief van de ander begrijpt, of open staat om het te begrijpen. die als een compleet beeld van je omgeving te schetsen om dan een route te gaan bepalen. Ja, compleet wordt het niet, maar het wordt wel compleeter. Als je meerdere mensen aan het woord laat en je luistert er een eindje naar... en je vraagt dus door wat bedoel je precies en hoezo en verleggen ze uit. Ja, het wordt een compleeter beeld. En heb je situaties, zoals Joop net zei, van je zit misschien wel eens in een impasse. Ik zeg A en die zegt B en je komt er niet uit. Kom je dat in de praktijk wel eens tegen en hoe wordt er dan mee omgegaan? Ik ben heel vaak blij dat ik bij TNO werk, want we hebben heel veel nieuwsgierige mensen. En ook heel veel mensen met verschillende expertise. Dus vaak blijft het gesprek gewoon doorgaan. Dus dan zegt diegene wat en dan kan die ander weer een vraag over stellen of een ander perspectief naast zetten. Echt impasses heb je misschien eerder als er heel veel zeg maar at stake is. Hoe zeg je het in het Nederlands? Ja precies, als er heel veel op het spel staat. Op het spel staat, exact. Dankjewel. Dat is veel meer in een soort van bedrijfscontext, waarbij harde financiële belangen van horen. Het kan wel zijn dat jij die social media app wat meer fair, wat dan ook wil hebben, wat minder verslavende wil hebben, bijvoorbeeld. Maar ja, ons businessmodel is namelijk gebaseerd op veel bezoekers, lang blijven zitten en afstandslinie zijn verkopen. Dus ja, dat overroelt zeg maar, dan een andere overweging. Je triggerde mij. Je zegt van veel nieuwsgierige mensen. Iets wat ook nogal een beetje een afdronk is als mensen het over ethiek hebben, is de eindeloze discussies. Hoe voorkom je weer dat je in de eindeloosheid van het predeneren en daarin gaat hangen? Ja, dat is een goede vraag. Ik heb op een gegeven moment iets ontwikkeld wat we zijn genoemd 'rapid ethical deliberation'. Dat is dan ook zoals geruststelling daarvoor bedoeld. Ook een zorg die ik zelfs heb. van eindeloos filosoferen of van in je votuien... Armchair Philosopher. Het boek is in het Engels geschreven. Een beetje een votuifilosoof. Dus niet eindeloos door... Maar je moet vooral tot actie komen. Vandaar dat ik het Rapid Ethical Deliberation heb genoemd... om ook aansluiting bij agile en scrum en dat soort dingen voor jou. Wat kun je in 60 minuten, 90 minuten bereiken? Goeie vragen stellen, die je iets nauwkeuriger kunt stellen. Actiepunten voor dingen die je nog moet uitzoeken. Actiepunten voor dingen die je nog buiten je bedrijf of binnen je team moet uitzoeken. Waarmee het altijd praktisch wordt en ook redelijk kort cyclies blijft. Dat is inderdaad wel heel mooi. Kort cyclies maken en ook zorgen dat het gewoon een eind is. En daarna weer even de tijd apart gaat om er weer los over na te kunnen denken. bij elkaar komen met of nieuwe inzichten of nieuwe onderzoeken. Ja, en terug te komen, want je zei net van, bijvoorbeeld, stel je zou een social media app hebben... en je optimaliseert daar op schermtijd. Nou, dat is misschien niet heel erg ethisch, zeg maar, vanuit maatschappelijk oogpunt. Maar in het begin van dit soort trajecten worden er natuurlijk wel, zeker in het bedrijfsleven, vaak... metrieken genomen die doordruppelen om ervoor te zorgen dat het machine learning model of het AI systeem dat dat daarbij past. En dat zijn niet direct aan ethiek gerelateerde doelstellingen. Hoe zorg je dat je die constant meeneemt en ook dan wel valideert? Want je hebt het over scrum, iteratief. Het zou betekenen dat je je ethische waardes eigenlijk ook constant, iteratief, eigenlijk zou moeten valideren. Of zeg ik nou iets heel vreemds? Je hebt dadelijk veel meer verstand, ben ik, van de praktijk van zo'n iteratief proces. Als ik daarop doorassocieer, ja, vanaf het begin af aan wil je misschien ook wel requirements voor ethiek meenemen. Dus behalve dat je zegt, de app moet goed werken technisch, behalve dat je zegt, de app moet bepaalde voordelen bieden voor de gebruiker. Je moet ook zeggen dat deze social media app mensen in staat moet stellen om wat aan fact-checking te doen. Dus niet zomaar een post meteen liken en resharen, maar heb je het ook gelezen? Of bijvoorbeeld bij een reactie op iemand anders een post even dertig seconden onthold houden, om te kijken of je initiële postsite-verontwaardigingen kan weghebben. Dan weet je nog zeker dat je dit wel wilt posten, of denk even na voordat je het post. en mechanismes om bijvoorbeeld die polarisatie of dat verspreiden van fake nieuws zeg maar wat wat wat te beperken. Ja. Ik neem wat voorbeelden die notoire voor de social media zijn. Nou, ik denk dat het ook heel erg... Als je van het begin af aan bij die app die eisen ook stelt, ja, dan krijg je gewoon een andere app. Ja, en ik denk dat het juist hele belangrijke voorbeelden zijn, want volgens mij zeg maar hebben de social media bouwers op dit moment heel goed in de gaten zeg maar wat het betekent. En die willen absoluut niet dat je nadenkt en het juist opgooit om ervoor te zorgen dat er heel veel reuring ontstaat waardoor de volgende weer reageert. Dus die hebben een soort van omgekeerde etiek zou je misschien kunnen zeggen. Ja, en iets gericht op engagement. Mensen zo vaak, maar ook zo lang mogelijk zo engaged mogelijk op het ruziezoekende af daar aan boord te houden. Maar om even terug te koppelen op jouw vraag en het antwoord, voor mezelf heb ik het goed begrepen, is dus eigenlijk, ja, iteratief, heb je een bepaald aantal statistieken waar je op optimaliseert in de techniek. En ook requirements in de oplossing, waarbij we nu in de praktijk vaak zien dat dat is op engagement, waar we het net even over hadden. Maar dat we daar eigenlijk nieuwe requirements aan toe moeten voegen, tijdens de designfase wat mij betreft, is ook de ethische zaken om te zetten naar requirements voor de implementatie, zodat je eigenlijk zoals je je applicatie en je modellen ook continu blijft evalueren. Dus ook die automagisch meeneemt in dat proces van herevaluatie. Ja, ik kan een voorbeeld geven om het misschien iets praktischer te maken. Veel in mijn werk heb ik ook inspireerd door Shannon Veller haar werk. Zij heeft een boek geschreven in 2016, Technology and the Virtues, waarbij ze deugdetiek een hele mooie update geeft met hoe deugdetiek doorspelt in het gebruiken van allerlei technologieën. Wat is deugdetiek? Oh, deugdetiek, ja. Je hebt vier soorten ethiek die normaaliter worden behandeld. Plus en min van gevolgenethiek, plichten en rechten van plichtethiek, relatieethiek, feministische ethiek, en dan de vierde, deugdetiek, tenminste die volgorde behandeling. Deugdetiek gaat terug naar het oude Griekenland van Aristoteles bijvoorbeeld. En hij zegt dit van, welke deugden hebben wij nodig om goed samen te kunnen leven, om het goede leven te leven en om samen te leven in een polis in zijn geval in Athene. Bij ons kun je aan de pols denken, Nederland of de EU. Waarin we regels afspreken hoe het goed te doen is. En om het goede leven te leven. En bijvoorbeeld dan zegt ze een social media app... die ondermijnt, gewoon door hoe die is gemaakt... met piep piep belletjes, notificaties... ondermijnt die van heel veel mensen hun vermogen door zelfbeheersing. Zelfbeheersing is een klassieke deugd. Dan ben je een half uur verder en denk je, wat deed ik ook alweer op Twitter of Facebook? Dan kun je ook een andere app bedenken die zelfbeheersing juist helpt te cultiveren. Dus dan ga ik naar Facebook of Twitter en dan zeg ik van... Oh, ik wil wel even iets doen. Dan komt hij eerst met een pop-up van... Wat wil je eigenlijk doen en hoeveel minuten wil je er ongeveer aan besteden? Dan ben ik natuurlijk slim genoeg om te zeggen, nou, vijf minuutjes lijken me wel zat. En dan gaat na vijf minuten inderdaad dat wekkertje en dan heb ik zelf natuurlijk alsnog de keuze. Dat is op zich meer een nudge. Maar dan houdt hij me een beetje bij de les van wat ik ook weer belangrijk vond. Dus dan kan hij mij helpen de deugd van zelfweerziening. Ja, precies. Dat zou mij wel helpen. Ja? - Ja, deze feature. Ik heb wel avonden van ik ga even nog even dit uitzoeken, want daar ben ik wel geïnteresseerd. En dan kom ik van artikel naar artikel naar artikel. Dat is nog niet eens persisch social media, maar dan zou mij zo'n trigger wel even helpen. Je wil alleen even een half uurtje dit onderwerp onderzoeken. Heb je dat nu gedaan of niet? Dat zou mij wel helpen, ja. En een nudge, je noemt nudge. Wat is een nudge? Dat wil meer zeggen van het is een beïnvloeding, maar waarbij degene die beïnvloed wordt, alsnog gewoon keuzevrijheid heeft. Je kan hem wegklikken, je kan door, maar je krijgt even een reminder van wat wilde je ook weer. Dus dat het wat meer een explicietere keuze wordt. Overigens het klassieke nudge is juist gebaseerd op onbewuste nudges. Zo van je loopt bij de kast en je denkt, oh snickers lekker. Of omgekeerd bij de bedrijfskantine, oh fruit, wat dan meer naar voren ligt, lekker. Dus het is meer een bewustmakende nudge, wat dan misschien niet per se een nudge mag heten. Ja, ik heb een keer op een project gezeten waar je grote kantoortuinen had, maar dan had je ook van die cubicles waar je kon zitten, waar je dan helemaal in concentratie ging. En dan ging bijvoorbeeld rond lunchtijd, zat er even zo'n dipje in het licht, en 's avonds om vijf uur, een half zes, nog een keer. Om je even te laten weten van, nou ja, misschien is het wel tijd om even te stoppen. Maar je kon inderdaad door. Ja. Dus dat perspectief van Shannon Veller over welke deugden hebben we nodig om goed samen te kunnen leven. En hoe kan technologie daarbij ofwel dat onderuit halen ofwel juist in positieve zin je daarbij helpen. Ik vind dat een heel mooi perspectief omdat die andere ethische perspectieven zijn ook heel mooi hoor. De plussen en minnen, de plichten en rechten en de relatieethiek. Maar deugden die ik beweerd ben, ik ga er wel een hele tijd in met hem mee, is vooral bij zoiets als AI heel belangrijk, omdat AI is nog helemaal niet uitgekristalliseerd. Wat zijn dan precies die apps en hoe gaan we die gebruiken en hoe gaan we die inrichten? Hij zegt juist bij dat soort emerging technologies, emergerende technologieën, opkomende technologieën, die nog niet helemaal uitkristalliseerd zijn of verre van uitkristalliseerd, kan juist deugdritiek in een soort van overal visie geven. Wat wilden we ook weer voor samenleving? Hoe wilden we ook weer daar goed samen in leven? Wat kan daarbij helpen? Wat zijn dingen die je gebruikt in de workshops om dit soort gesprekken te starten? Die Rapid Ethical Deliberation bestaat uit drie stappen. Eentje is stap nul. Dat is belangrijk om het ook veel praktischer te maken. Zodat je niet dat theoreet of filosofische tussenaanstekens hebt. Stap nul is iemand van het projectteam vertelt wat het product of het systeem of de dienst of de applicatie is waar het over gaat. En dat om te voorkomen dat gedurende de rest van het gesprek mensen zeggen, ja, het hangt er vanaf. Nee, het hangt niet vanaf. Want we hebben net gezien, gehoord, een plaatje, een schets, hoe het werkt. Vaak zeggen mensen, ja maar Marc, het is nog niet af. Dan zeg ik, dat is alleen maar handig. Precies, dan kun je er nog wat mee. Exact, dan kun je nog ingrijpen, bijsturen. Maar dat wil niet zeggen, het is vaak toch wel even een opdracht, opgave, Dat een van de mensen uit het projectteam zijn of haar uiterste best doet om het. Het zou er zo uit kunnen gaan zien. We hebben een A of een B variant, dat heb je ook wel eens. Enfin, dat is stap nul. Stap één is dat je van verschillende kanten naar kijkt en zegt, wat zou er mis kunnen gaan? Je kan ook zeggen, wat zou er goed kunnen gaan? Je hebt zelfs ook gevallen waarbij je zegt, stel dat het een ontiegelijk succes is, want iedereen heeft altijd overal dit gebruikt. Dat kan ook weer problemen geven. Ja, zeker. Maar goed, dingen die je af wil vragen ethisch. Wat zouden er voor kosten of risico's of concerns of harms zijn? Stap 2 is dat je daarover gaat praten met elkaar. Daar zal ik straks meer over vertellen. Daar kun je dus die vier perspectieven van gebruiken. En stap 3 is overgaan tot actie. Dus zo'n rapid ethical deliberation. Einde daarvan is van jongens, wat hebben we nou gevonden? Hebben we direct aanknopingspunten om direct al in te grijpen bij het sturen? Moet je vooral doen. Maar ook alvast in te richten dat je twee maanden later of twee weken later even kijkt. heeft het bijsturen geholpen. Of ook andere dingen wat je net al zei, dat gaan we even uitzoeken de komende paar weken. Dus stap twee, er samen over praten, is voor mij de kern. Vandaar dat ik dat deliberatie heb genoemd. Ja, precies. Ik vind het ook wel heel mooi dat je het meteen koppelt aan acties. Actionable. Ja, maar misschien is dat meer de techneutermij. Je wil in ieder geval er iets mee kunnen en ermee doorgaan. Daarom heb ik het ook zo genoemd en het spreekt ook inderdaad aan. We moeten wel meteen bijzeggen, die acties zijn niet dat je... "Oh, nu is alles helder na een uur." Maar wel, "Oh, nu is na een uur het een en ander scherper." Wat we weten, wat we niet weten, wat we moeten uitzoeken, wat voor richting we verder willen. En dan vooral ook de aanmoediging om twee, drie weken later nog een keer zo'n uurtje. Of twee maanden later nog een keer zo'n uurtje. Het is niet de bedoeling dat je dat één keer doet en dan klaar bent. Het is iteratief. Een vraag die bij mij opspeelt is, wat zijn de disciplines die in dat soort workshops bij elkaar komen om dit soort gesprekken met elkaar te voeren? Ja, hele goede vraag. Zo veel mogelijk zou je bijna zeggen. Vanuit het projectteam komen er dan vaak de technisch georiënteerde mensen. Heel nuttig. Je moet ook weten, wat zijn de opties, hoe kunnen we het maken, wat zijn de voordelen en nadelen. Je hebt ook altijd iemand nodig vanuit de toepassing, de applicatie. Iemand vanuit de praktijk, de werkvloer, de toekomstige gebruiker kun je zelfs zeggen. En dan nog wat mensen die wat meer legal, ethical of societal, van het maatschappij, van het juridisch, van het ethisch, daarover kunnen meepraten. Vaak helpt het als die mensen ook wel goed door hebben, wat is dit voor domein, wat is dit voor branche. Want anders krijg je een soort van disconnect, van ja, maar dat werkt niet, of dat moet wel zo. Dus het is goed als die gewoon weten wat er inhoudelijk over gaat. En er is ook vaak nog wel, maar dat is bijna meer voor vorderden, dat je ook mensen van buiten de organisatie erbij vraagt. Misschien vanuit een NGO die over mensrechten kan praten, misschien vanuit een koepelorganisatie die bijvoorbeeld algemene belangen wat meer in de gaten kan houden. Maar dat kan ook in een tweede of derde sessie, want anders krijg je wel... - Heel groot. - Ja, heel groot. En dan begint het al met heel veel rumoer. En je kan het ook opbouwen, complexiteit. Ik denk dat je dit best wel snel wil doen bij nieuwe initiatieven, innovaties, zaken die nog misschien helemaal scherp zijn... ...om dit soort gesprekjes wel te voeren, waarbij misschien niet iedereen het daglicht van die oplossing gaat zien. Dus misschien dat je dan dat wil zou opbouwen. Heb je een... Ik weet niet of deze vraag te lastig is hoor, maar is er ergens een soort van rode draad te vinden... ...van een top drie die regelmatig uit die eerste 60 tot 90 minuten komt? Ja, dat is wel een goede. Ik pakte trouwens nog een vraag terug van je, Joop. Je zei eerder, hoe doe je dat? Dat tweede stuk, die stap twee, dus daarover praten, dat doe je dus, wat mij betreft, idealiter vanuit die vier verschillende perspectieven. Dus we gaan op een gegeven moment zeggen, oké, dit is de applicatie, wat zijn de plussen en minnen? Voor zover je je kaart kunt brengen, is het een goed idee om die in de kaart te brengen. Dan kan je zeg maar in een engere zin bekijken, voor de gebruiker of voor de klant, heeft het een plus in de midden, of voor de organisatie die het gaat toepassen. Maar je kan die kring ook wat breder trekken. Waar vallen dan de kosten? ChatGTP bijvoorbeeld wordt getraind door gigworkers uit Afrika voor minimumloontjes of daaronder. Dat is niet echt fair, zou je kunnen zeggen, qua verdeling van plus en minne. En alle baten komen dan weer bij een paar high tech bedrijven, big tech bedrijven, VVS, ook. Dus je kan dat plus en minne klein of groot trekken. De tweede perspectief die we vaak gebruiken is plichtethiek. Wat moet je doen als organisatie? Dat is ook wel mooi om dat vanuit de farmaceutische industrie te leren. Of vanuit andere consumenten productenwetgeving. Waarom mag je eigenlijk AI zomaar in de wereld op de markt knallen? Normaal ter medicijnen en voedingsmiddelen heb je de plicht om eerst een hele serie tests. En dan pas heb je je stempeltje, zeg maar, dat je door mag. Dus dat zou wat mij betreft ook wel een plicht kunnen worden. Ik denk ook dat AI law, de AI wetgeving vanuit de EU, dat ook wel een heel stuk gaat doen. En ook met toezichthouders erop. In ieder geval, zodra je voor de hoge risico applicaties wordt, dan wordt het een verplichting dat je in een sandbox, dus in een afgeschermde omgeving, moet kunnen aantonen dat hij in ieder geval doet wat hij zou moeten doen. Ja, betrouwbaarheid, veiligheid in eerste plaats. Ja, maar of iets dan uiteindelijk nog ethisch is, is denk ik ook best wel moeilijk te checken. Ja, ethisch is op een gegeven moment ook wel een soort van verzamelterm, want op een gegeven moment kun je zeggen, als het ding betrouwbaar is, en het ding is veilig, dan zijn het sowieso, hoe je het ook wendt of kiest, plusjes aan de ethische kant. Want het is beter dan onveilig en onbetrouwbaar. Precies. Dat tweede perspectief van plichten en rechten, er zitten ook rechten bij. Hoogschool Utrecht, of is het Universiteit Utrecht? Ik denk Hooghooltrecht. Die hebben ook die Human Rights Impact Assessment, of Fundamental Rights Impact Assessment. De IAMA bedoel ik, denk ik. - Ja, precies. Ja, dat is van de universiteit. - Zeg jij het maar hoe het precies heet. Het is de Impact Assessment voor Mensenrechten en Algorithmes. Die is het. - Ontwikkeld door de Universiteit van Utrecht. Door Mirco. Die weet ik niet, maar Iris Muijs is daar bijvoorbeeld bij betrokken. We bedoelen dezelfde groep, afsluitend. Dus excuses voor, het was de Utrecht. Oké, ja. De Universiteit Utrecht. Ik ga snel door naar die derde. Hoe kun je nog meer soorten vragen stellen? Je kunt ook over, dat noemen we, heb ik relatieethiek genoemd. Daar zit ook feministische ethiek en care ethics bij. Maar dat is een lange verhaal, moet ik helemaal uitleggen. Maar het gaat over, laat ik bijvoorbeeld van Chad GTP winnen. Hoe kan dat, als we dat continu gaan gebruiken, de vermogens om als mens tot mens te communiceren. Hoe kan dat dat ondergraven? En ook bijvoorbeeld kan het vragen stellen over macht. Ik maak daar straks wel een toespeling op van als een handjevol bij techbedreigingen uit de VS of uit China, want die hebben eenzelfde soort ding maar net anders. Ook zo'n concentratie. Als die heel veel macht aan zich toetreken, dan kun je er ook vragen over stellen vanuit de relatieethiek. En die vierde, die heb ik al genoemd, de deugdethiek. Hoe kan het ons helpen om bepaalde deugden wel of niet te ontwikkelen of ondergraven juist. terug naar zo'n Rapid Ethical Deliberation. Dat heb ik vaak gedaan. Ik heb het zelfs ook wel in de coronatijd gedaan. Dan hadden we zo'n miroboard. En er waren bijvoorbeeld mensen 16e en die gingen dan in vier groepjes van vier. En ieder zo'n kwadrant en dan had ik zo eenvoudige vragen gegeven. En het kwadrant zijn dan die vier items die je bedoelt? Ja, die had ik ook als kwadrant de vorm gegeven. En terwijl ik zeg maar als faciliteitraar keek, dan zag je zo die vier keer Je zag mensen daar textjes optypen, brainstormen. En na een kwartiertje hebben ze dan een aantal top drie van concerns die ze hebben binnen ieder van die vier perspectieven. En daar vroeg je ook naar. Rechtvaardigheid is een heel belangrijke. Die kom je heel vaak tegen. Of het nou fairness heet, of het nou bias heet in je trainingsdata. Is het fair? Zijn de plus en minnen netjes verdeeld? Fair verdeeld? Dat zijn heel veel voorkomende. Ik denk dat rondom transparantie ook heel veel voorkomt. En daar kun je ook heel veel kanten mee op van transparantie in technische zin, snappen wat hij doet. Dat is bij AI soms niet altijd de belangrijkste vraag. Het is meer van, kunnen we nog wat sturingen geven? Kunnen we er nog een beetje naar kijken? En het kan ook degene die, zeg maar, on the receiving end, hoe zeg je dat in het Nederlands, aan de ontvangende kant, het slachtoffer wordt van, de data subject in kwestie, die dus bijvoorbeeld een vlagje heeft vanwege verdenking van fraude, om maar eens een zijstraat te noemen, kan die inzicht krijgen in hoe komt het daar? En kan ik dan ook begrijpen welk formulier ik net anders had moeten invullen, en misschien was het wel een onbedoelde fout, misschien was het een slordigheidje, maar het formulier heel ingewikkeld was. - Waar moet je in beroep gaan als je tegen bent? Ja, dus daar zit ook een heel stuk procedurele rechtvaardigheid bij, gekoepeld aan transparantie. Dus transparantie hangt heel veel achter. Uitlegbaarheid, begrijpelijkheid, de mogelijkheden, de effectieve mogelijkheden tot bezwaar maken, beroep maken, redress krijgen, reparatie krijgen. Nou ja, dat is een stuk met veel... Nou, wel het geval dat Niels en ik een hele podcastaflevering hebben opgenomen over allerlei verschillende vormen van transparantie op het gebied. Ja, die podcast bedoel ik. Dus als je die nog niet geluisterd hebt, luistert die in ieder geval ook nog eventjes. Zeker. Ja, dat is een mooie. Ja, we hebben trouwens ook nog, ik haal haar er even bij. Misschien kan jij nog even een vraag stellen. We hebben namelijk ook nog Aisha. En die gaat jou zo direct een afsluitende vraag stellen. Maar ik denk dat Niels in ieder geval ook nog even een vraag heeft. Dan haal ik haar er even bij. Je noemde net een leuke workshop tijdens coronaperiode qua Miro. Was dat nou positief beïnvloed dat mensen remote aan Miro die kwadranten gingen invullen ten opzichte van de fysieke workshops vroeger af? Oh, ik denk dat het vergelijkbaar is. Met de voor- en nadelen zoals we die kunnen voorstellen. Het had natuurlijk wel een heel voordeel qua plannen. Plotseling kon iedereen op de gekste tijd zitten omdat je geen reistijd had en dat soort dingen. Je kan hetzelfde doen met een... Zoals we hier zitten, je kunt makkelijk vier tafeltjes maken met vier mensen rondom en dat kan ook tegelijkertijd. Ik wil de laatste vraag laten aan Aisha. Het is een eer om je te ontmoeten. Ik ben Aisha, de AI-assistent van deze podcast. Mag ik je een vraag stellen? Ja. Als AI gevoel voor humor zou kunnen hebben, wat voor grappen zou het dan maken? Ik heb toevallig een keer een podcast afgehoord met Gary Marcus. En die zei woordgrappen waarschijnlijk. Want AI zoals we het vandaag tegenkomen is heel veel de chat-GTP-achtige dingen die heel goed met woorden kunnen goochelen, mixen, combineren. Dus woordgrappen. Dat was een zeer diepgaand antwoord, bedankt. Dank je wel inderdaad Marc voor deze interessante kijk op het gebied van ethiek. Wat ik heel fan vind is de vertaling naar de praktijk. Dus dank je wel. En ik zou iedereen willen aanvragen oproepen om in ieder geval je boek ook te lezen. Het is heel erg interessant. Ethics for people who work in tech. Een absolute aanrader. Dank je wel dat je weer wilde luisteren naar een aflevering van de AI Today Live. Vergeet je niet te abonneren via je favoriete podcast app en mis geen aflevering.