Ethics for People Who Work in Tech: hoe pas je dit toe in de praktijk?

[Muziek] Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de AI Today Live. Met vandaag hebben we te gast Marc Steen. We praten verder over zijn boek 'Ethics for People Who Work in Tech'. Heb je deel 1 nog niet geluisterd? Doe dat dan eventjes. Hele interessante aflevering toch? Zeker. Dus we praten verder met Marc. Marc, dankjewel dat je in onze podcast aanwezig wil zijn. Praat over je boek. We hebben het erover gehad. Voordat we daarmee verder gaan, zou je voor de luisteraar die misschien deel 1 niet geluisterd heeft, je toch nog even willen voorstellen? Ja, dat is een goede. Marc Steen. Ik werk bij TNO als senior researcher. Al de hele tijd. TNO is een mooie organisatie met 3000 plus experts op allerlei gebieden. Energie, mobiliteit, ICT en nog honderden onderwerpen. En we doen toegepast wetenschappelijk onderzoek. Dus iets praktischer dan universiteiten. En iets, ja hoe moet je dat zeggen? Je moet zeggen iets theoretischer. Iets grommiger dan de industrie soms. Dus om die link te kunnen leggen. Kennis toepasbaar maken. Ja, mooi. Ik heb jouw boek gelezen. Nu wil ik dat meenemen naar mijn project. Dus ik heb nu theoretische kennis opgedaan. En je zegt overal, we zitten tussen theorie en praktijk in. Hoe pas ik nou de dingen die ik hier gelezen heb in jouw boek in de praktijk toe? Ja, dat is een mooie vraag. Ik heb in heel veel hoofdstukken, sluit ik af, ook met een soort cursiefje met een uitnodiging, een opdracht van hoe je de inzichten in het boek in de praktijk kunt toepassen. Dus het hoofdstuk wat gaat over gevolgenethiek, de plus en min in kaart te brengen, dat heeft een hele eenvoudige uitnodiging. In het project waar je nu in zit, doe dat dus. Testnotes voor jezelf, misschien met iemand samen, misschien heel oppervlakkig, misschien iets grondiger. De plus en min in kaart brengen van zelfde het project een groot succes wordt, het komt in de wereld, het komt in de maatschappij, het komt in mensen dagelijks leven. Wat zijn dan zoal de plus en minnen? Dus er staan altijd soort opdrachten in, maar ik denk dat je ook bedoelt met ja, oké, in mijn hoofd heb ik het al wel gedaan, in het verleiden heb ik het al wel gedaan, maar nou zeg maar, the proof of the pudding. Je zit in een project met een deadline en een budget en een projectmanager die zegt, jongens het moet wel vooral technisch werken en er zijn nog compliance dingen en ja, hoe breng je dan de inzichten naar de praktijk. Ja, precies. Kan uitdagend zijn. Ja, ja, je hebt natuurlijk verschillende contexten. Het ene bedrijf is veel moeilijker om dat soort te sprake brengen. Ik kan me ook wel bedrijven voorstellen waarbij het juist makkelijker is relatief. Dat zijn bijvoorbeeld bedrijven die zich ook profileren met, we doen privacy by design, of wij vinden bijvoorbeeld diversiteit en inclusie belangrijk, ook hoe we mensen aannemen en de producten en de systemen die op de markt brengen, ja daarmee willen we bekend zijn als betrouwbaar en ook ondersteunend aan goede dingen. Dan zit je al in de goede richting. En dan maak je een scherp contrast met als je bij een bedrijf zit wat beursgenoteerd is in de slechte zin van het woord in zin van kortetermijn financiële winst is het enige wat telt. Ja, dat is gewoon soms heel moeilijk om dan te sprake te brengen dingen als zullen we ethiek grondig aanpakken? Want ja, hoe betaalt het uit? Ja, sommige dingen kun je juist moeilijk in kortetermijn financieel uitdrukken. Ik kan me zelfs voorstellen in bedrijven die het echt willen, Als er druk erop komt, deadlines komen eraan, er zijn net van allerlei dingen misgegaan, dat er echte druk erop komt en dat je erachter komt. Je bent op je project en je komt erachter dat in de trainingsset toch echt wel bijvoorbeeld bepaalde problemen zitten. Hoe ga je daar? Welke tips zou jij dan willen geven aan zo iemand? Van waar je begint, hoe doe je dat? Ja, mooie vraag. En ik pak hem ook terug waar we vorige keer ook even te spraken brachten. Namelijk deugdethiek is een manier van tegen ethiek aan kijken wat het gaat over welke deugden hebben we nodig in onszelf om samen goed samen te leven. Het goed leven samen te leven. Het mooie van deugdethiek vind ik dat het ook meteen kan toepassen naar jezelf toe. Dus de IT professional die kan een analyse maken van deugdethiek. Hoe kan deze technologie, die applicatie, mensen helpen om deugd te ontwikkelen. Maar die kan ook vooral naar zichzelf kijken. Welke deugden heb ik dan nodig. Terug naar jouw voorbeeld. Diegene zou dan baat kunnen hebben bij het ontwikkelen van de deugd van moed. Van moedigheid. Oh zo moet. Ja, want je hebt wel lef nodig om met de deadline in zich en een gedoeotje en nog wat en nog wat te zeggen, hoor eens, ik wil toch even een punt maken. En dan zie je ook het mooie van deugdetict, het is ook niet iets wat je in je eentje doet. Want als diegene het in zijn eentje moet doen, dan kunnen de andere 5, 6 rond de tafel om zo mee waaren gaan kijken, dat dacht het niet. Dus er is ook een inbedding en een samenwerking voor nodig. En een projectleider bijvoorbeeld zegt van, oké, goed, laten we het er wel even over hebben op zijn minst. En dat iemand anders zegt van, ja, ik kan me iets meer voorstellen wat je zegt. Dus dan wordt het meer gedeeld. Dit is ook wel eens zeg maar het beeld van één iemand die het moedig moet zijn. En dan de rest, nee dat werkt niet. Je moet het ook samen op willen. - Nou en zeker dat moet, want ik was even bang dat jij moet met een T bedoelde. Of je bedoelt moet met een D. Ik heb best wel in een hoop projecten gezeten, Niels ook. En als we dit terugbrengen naar discussies die we gehad hebben over privacy, van een aantal jaren geleden, er werd namelijk heel vaak gesproken over 'moet' met een 't'. En dan krijg je meteen enorme tegenstellingen. Dus 'moet' met een 'd' vind ik eigenlijk wel een hele mooie. Die heb je inderdaad wel nodig. Je hebt wel een moedige iemand nodig die dan even opstaat, zeker waar de druk zo hoog is. Ja, en ook, dat wil ik toch ook bij nadrukken, om die deugden ook meer als iets gezamenlijks te zien. Als één iemand lukt dat gewoon veel moeilijker. Diegene heeft wel een soort van backup, support nodig van bijvoorbeeld de projectmanager... of degene die de agenda bewaakt van de projectmeeting. Dat er wel even ruimte voor kan zijn. Ja, voor mezelf is het een stukje cultuur en hoe zit het binnen de organisatie, hoe is de cultuur. En cultuur kan natuurlijk heel veel begrippen zijn, maar een stukje professionaliteit... in het al dat je eigenlijk bijna verplicht bent om dit soort dingen die gewoon de kwaliteit niet te goed te komen... of risico's met zich meebrengt, moet kenbaar maken. Wel met een T inderdaad, omdat dat moeten gewoon om die professionaliteit te kunnen waarborgen en de kwaliteit te kunnen waarborgen. Maar ja, daar komt heel veel ook cultuur en organisatie in. Ja, mooi ook Niels, de associatie die ik ook vaak leg, die leg je ook van, het heeft ook met kwaliteit te maken, met professionaliteit. Want hallo, hoe ben je nou een professionaliteitsontwikkelaar als je zeg maar maling zou hebben aan privacy... of maling zou hebben aan de gevolgen van het toepassen van de applicatie waarin je werkt. Dat hoort er ook bij. Je ziet het ook in codes of conduct, bijvoorbeeld van de ACM of de IEEE. Daar staat het ook. Ik ben verantwoordelijk, ik pak mijn verantwoordelijkheid voor de gevolgen van waar ik aan werk. Dus professionaliteit, ook betrouwbaarheid, dat zijn ook hele mooie... Die liggen in dezelfde richting als ethiek. Ja, zelf ben je bijna plichtsbesef. Ik heb een plicht om hier gewoon een red flag omhoog te doen van, hé, er is een risico inderdaad. De plichtethiek, dat was het nummertje twee waar we vorige keer over gesproken hebben. Dat vind ik heel belangrijk. Kom je ook in de praktijk dingen tegen dat mensen zeggen van stop er nou mee, want stop deze discussie, het is wettelijk, mogen we dit, dus door. Nee, zo hard ben ik dat gelukkig niet tegengekomen. Oké, kijk. Nee, dat is ook bijna wel, ik zou bijna zeggen een beetje een ouderwetse manier. Alsof je legal en ethical als twee losse dingen hebt. Er wordt vaak voorbeeld gegeven, dat geef ik ook in mijn boek, er zijn dingen die vroeger op een bepaald moment illegaal waren, maar die we nu moreel het juiste vinden. Dat was Rosa Parks, tijden van de rassenwetgeving in de Verenigde Staten, die ging op de verkeerde plaats in de bus zitten. Dat was illegaal. Maar een paar jaar later waren er gelukkig betere wetten, die meer moreel kloppen. En ook andersom kan het ook. Het was weliswaar illegaal, maar een paar jaar later is het moreel het juiste en ook legaal gemaakt door de wet aan te passen. En ook andersom zie je dat bijvoorbeeld met belastingontduiking. Als je op een gegeven moment een groot bedrijf bent en je hebt tig lawyers in dienst om al die belastingen... Ja, het kan wel, maar in toenemende mate is daar maatschappelijk minder geduld en minder acceptatie voor. Dus over vijf jaar zijn die wetten weer beter. Dus dan heeft zeg maar, wat weliswaar legal mocht, gingen we een ethisch afkeuren om ook het legal weer terug aan te passen. Ik denk dat meteen aan de mondkapjesdeal van onze SeaWorld. Het legaal, nou dat moet nog blijken of het legaal was, maar het lijkt legaal. Maar we vinden het in ieder geval breedmaatschappelijk, we vinden het moreel niet afvaardbaar. En dan zie je ook de interactie tussen legal en ethical, want ja, die beïnvloeden elkaar. Je triggerde mij nog wel, want we hebben het pas gehad over de angst voor AI in een aflevering. En daarbij hadden we het ook over de maatschappij en dat we zelf ook een hand hebben om de ontwikkelingen die gaande zijn en eraan zitten te komen, dat we daar invloed op hebben. Hoe zie je in de praktijk dat de maatschappij wordt betrokken bij organisaties? Zie je dat al? Ja, wat is jouw, heb jij er voorbeelden van? We zien dat mensen, ik bedoel je mensen als IT ontwikkelaar? Nee, de echte consumenten, de burgers die er last van hebben. Dan komen we bij fraude detectie en dat soort zaken natuurlijk. Maar zien we het ook in andere scenario's, al dat de eindgebruikers vaker betrokken worden bij bijvoorbeeld die ethische vraagstukken. Willen we dit eigenlijk wel als product, eigenschap of feature? Ik denk dat je het relatief weinig ziet en ik denk dat je het te weinig ziet. We lopen er denk ik in Europa in voorop. Ik maak wel een soort onderscheid, dus in de VS mogen bedrijven alles en zijn ook bedrijven eigenlijk te machtig. China is machten staat alles niet is de staat dan machtig. In de EU, in de Europese Unie hebben we een soort alternatief daarvoor dat we zeg maar publieke waarde of maatschappelijke belangen, die vinden we dan belangrijk. En natuurlijk een schipper tussen die verschillende dingen. Dus daar hoort ook heel veel bij. Burgers een stem geven of via democratische processen of via wat meer laagdrempelige inspraakdingen of rond de tafel gesprekken. Een organisatie is ALAI, A-L-L-A-I. Ja. Vijf, zes jaar geleden was ze opgericht door Catalijne Jonker, of ik zeg haar naam verkeerd. Catalijne Muller. Oef, dan zeg ik het bijna verkeerd. Zet me in de show notes. Ja, zet me in de show notes, dat sowieso. In ieder geval, ALAI is het goede woord. Zij zeggen dus van, zij zijn een NGO in Nederland en Amsterdam, ja, het maatschappelijk nut, de maatschappelijke plussen en minnen goed in beeld te brengen. En dus ook het onderwerp wat jij zegt, burgers of maatschappelijke actoren, een rol, een stem erbij te geven, een plaats aan tafel. Wij doen toevallig vanuit het TNO, niet toevallig, dat zijn de dingen die we ook belangrijk vinden, maar ik zit er ook in, een Europees project dat heet Transcend. Het gaat over methodes waarmee we letterlijk burgers mee kunnen laten doen in het ontwikkelen van technologieën, Zelfs nog een beetje spannere technologie in de security domein. Zo van camera's, gezichtsherkenning, border control, tot en met dat soort. Dus dat zijn best wel onderwerpen die je normaal in negatieve zin in de krant ziet staan van jemig. Het ging weer eens mis of het dreigt mis te gaan. Om dat juist voor te zijn. Maar dat het een Europees onderzoeksproject is, wil al zeggen dat we daar nog stappen in kunnen maken. Ik ben al blij om te horen dat je het voor mij perspectief even breed zet. Ik kijk vooral naar Europa en de omgeving waar ik vaak voor klanten ook actief ben. Dat het in VS al anders is en China al anders is, is goed voor mij om dat perspectief ook mee te nemen. Dit wordt dus heel grove penseels, denk ik. Je hebt vast ook wel NGOs in VS en China weten we het niet van. Dat het binnen Europa al wel wat meer besproken wordt. Maar als je de guidelines voor Trustworthy AI, Mariana Mazzucato met Mission Driven Innovation, die heeft ook veel advies gegeven aan de Europese Commissie, voor de maatschappij en ook voor een deel door de maatschappij, om innoveren zo te organiseren, is wel iets van de EU. Ja, dat kan ik op die manier wel zeggen, onderbouwen. Ja, dat is in ieder geval mooi om te horen inderdaad. En ik denk dat we daar veel meer mee moeten doen in de toekomst, zeker. Ik had een vraag aan jou. Ik geef ook trainingen en workshops en ambdatsen en dingen schrijven ook graag. En als je dan, dan moet je dingen gaan structureren. Soms vallen er puzzelstukjes die je wel in je hoofd had, maar eigenlijk niet wist dat er een verbinding in zat. Welk inzicht heb je zelf gekregen op het gebied van AI of AI ethiek? Waarvan je zegt, dat is me eigenlijk opgevallen door het schrijven van dit boek. Leuke vraag. Ik denk wel dat, ik heb het aangestipt, ethiek is aan één kant iets persoonlijks. Het speelt zich af in iemand zijn hoofd, of zelfs, dat doe ik ook wel vaak in het boek, dat heeft ook een van de reviewers achterop ook opgemerkt, hoofd, hart en handen. Ethiek is ook iets van niet alleen denken, het is ook denken en analyseren van dingen, maar ook voelen. En waardes kunnen erkennen in jezelf, wat vind ik van waarde. En ook handelen en doen. Tot actie overkomen, het juiste doen, het project in de goede kant opsturen, wat we ook in de vorige podcast hadden uitgelegd. Hoofd handen, hoofd hart handen, mooi. Ja, dus dat en dat is dus nog maar één lijf. Maar dat vroeg ik ook net over moedigheid. Het is ook iets gedeels. Ethiek is ook iets wat je in je eentje doet. Zo werkt het niet. Ethiek is ook in context. Daar heb je ook support van anderen bij nodig. Of ruimte van anderen. Dus dat inzicht. Ethiek is een proces. Ethiek speelt zich af in je hele lijf. Hoofd, hart, handen. En er gebeurt ook tussen mensen. Heeft ook anderen nodig. Het is ook een gezamenlijk iets. En daarmee denk ik dat ik een heel aantal, zeg maar, vooroordelen of stereotypen over ethiek heb achterhaald. Is ethiek alleen maar ingewikkelde analyses in je hoofd en je eentje? Nee. Dat is gaandeweg het boek wel helder voor me geworden. Ja, mooi. Ja, dat zijn mooie inzichten. Die wat je zegt, hoofd, hart, handen, die ga ik niet meer vergeten. Denken, doen, voeden. Ja, ook dat. Absoluut. Oh, mooi. Eentje die ik nogal uit het boek interessant vond, was de term die je noemde "wicked problems". Zou je in je eigen woorden willen toelichten, wat is eigenlijk een wicked problem? Uberhaupt de term, klinkt al lekker. Het is een term uit, oh dan ga ik weer een referentie uit de hoofd zeggen. Ik ben beter in schrijven, hart op. Ik denk 1973, Rittel en Weber, maar die zullen we in de show noot zetten. Die hadden het over wicked problems. En dan zeggen ze, dat zijn problemen, ingewikkelde problemen vaak. En ook op een bepaalde manier ingewikkeld. Namelijk niet alleen maar dat het heel veel elementen heeft, maar het is behalve 'complicated' is het ook 'complex'. En dan werken ze dat verder uit van, dat zijn van die problemen waarin je in het begin nog niet precies weet wat nou het probleem precies is. Daarvoor heb je nodig dat je het probleem begint beter te kennen. En dat beter kennen doe je door te beginnen met oplossingen verzinnen. 'Oh, en dan wordt het probleem helderder.' En dan kun je verder met oplossen. En dat begrip spreekt me ook aan, want ik heb een achtergrond in Industrial Design Engineering in Delft. En dat is heel erg het design proces. Ook in deel 1 van deze podcast was het ook van ja, ethiek als proces. Dat komt ook daar vandaan. En het is ook iteratief en het is ook participatief. En in design thinking, in het proces, dan maken we ook onderscheiden tussen problem setting en solution finding. En dat is voor mij een manier, ook als een reminder, je kan heel vaak met ingewikkelde dingen niet in één keer doorstoten naar de oplossing. Want heb je het probleem wel goed begrepen? En belangrijk, dan kan je ook met verschillende disciplines, transdisciplinaires samenwerken, hebben we verschillende experts van verschillende disciplines de kans gegeven om vanuit hun verschillende expertise's, disciplines, naar het probleem te kijken. Covid, dat kwam daar straks al kort in sprake. Wat was dat eigenlijk? Het was gezondheid, het was ook veiligheid, het was ook welzijn, het was ook werkgelegenheid, het waren ook mondkapjes, het waren ook statistieken. Dus ja, dan heb je al acht mensen die het rond de tafel nodig hebben. Wat is nou het probleem? En waarschijnlijk is het nooit één probleem, het is een samenstelsel van problemen. En voor dat kan je een oplossing bedenken. Maar ja, die oplossing veroorzaakt juist weer een ander probleem. Of die oplossing is goed voor die twee problemen, maar slecht voor die andere twee problemen. Dat hele samenspel zou je, denk ik, Wicked Problems als meervoud kunnen noemen. Van, ja, het is niet helder, wat nou precies. En als je denkt dat je helder precies het probleem is, dan heb je misschien niet goed genoeg gekeken. Ben je te snel gestopt. Ben je te snel gestopt met mensen uitnodigen om daar van verschillende kanten naar te laten kijken. Dus Wicked Problems is voor mij een manier om ruimte te maken in een project, om nog eens het probleem van verschillende kanten te bekijken. En om dan pas te beginnen met oplossingen te verzinnen. En om gaandeweg oplossingen te verzinnen, ook ruimte te maken om de probleemstelling nog eens opnieuw te doen. Dit klinkt misschien abstract, omdat ik vaak van abstracte beschrijving hou. Maar we willen in de praktijk zeggen dat je drie maanden gaande, drie maanden in het project zeg maar, nog eens een vraag kan stellen over de initiële probleemstelling. En drie maanden later nog eens een keer kan zeggen, we willen misschien een stapje terug om daarna twee stappen in een goede, betere richting te kunnen doen. En dus alles zeg maar om niet bam van ANWB te willen, maar om... Ik zie jou heel erg denken, dit is jullie vak, want jullie weten hoe je ontwikkelprocesen organiseert. Ik kan zeggen, het is het mooie namelijk, dat het zo erg koppelt aan innovatie, zaken die we kunnen oplossen of denken te kunnen oplossen, waarbij we eigenlijk al heel snel naar de solution gaan. En even niet stilstaan bij het probleem, hebben we nou echt een probleem, of hebben we gewoon een gave oplossing, daar we aan aan het ontwikkelen zijn. En daarnaast het stukje van, hey, question everything. niet continu, maar wel blijf niet bij die ene probleemoplossing, maar kijk of het probleem ook heel simpel te lossen is. Door niet AI in te zetten, gewoon regelgebaseerd, of door eigenlijk misschien gewoon een proces in te richten zonder een heel technische oplossing ervoor neer te zetten. Ja, maar Marc zag inderdaad bij mij hele diepe denkringen tot. En dat komt namelijk door dat je zegt van, dat een wicked problem een probleem is dat je niet weet. Hoe identificeer je dan een wicked problem? Wanneer is iets een wicked problem? Is het sowieso belangrijk om te identificeren, als zijn een wicked problem? Ik ga het precies proberen te herinneren uit mijn definitie. Waarbij de problem niet op voorhand helemaal helder is. En waarbij gedurende het denken aan oplossingen, het werk aan oplossingen, het probleem helderder krijgt. Dat is volgens mij... - Dus je begint eigenlijk wel ergens... Iemand heeft wel een probleem, zeg maar, gezegd van... 'Hé, maar dit lijkt een probleem.' En je gaat daarmee aan de slag met het proces wat jij beschrijft... en je komt er eigenlijk achter dat het probleem misschien... of groter of ergens anders ligt. En dat is zo'n wicked problem. En ik kan me zo voorstellen dat het op een gegeven moment zo aan het schuiven is... dat je af en toe helemaal zoekend bent van... 'Wat zijn nou de echte problemen?' Ja, en je krijgt ook nog iets van, hier ligt natuurlijk voor het hele team wat er aan werkt, maar ook al voor de projectmanager best wel een taak van, oké, ik wil ruimte inbouwen om de initiële problemenstelling in vragen te stellen, te questionen. Maar niet de hele tijd altijd overal. En daar moet je ook ruimte voor maken. Dus dat is best een kunst om dat zo te managen, dat het project wel degelijk voortgang blijft houden op een goede manier. Maar op een gegeven moment is er ook iets voor te zeggen, wij komen dat, ik ga straks bijvoorbeeld van een Europese project, Europese projecten zijn een aparte manier. Dan doe je zeg maar in jaar nul een proposal indienen. In jaar twee gaat die echt van start. En dat is bijvoorbeeld vier jaar. Dus dan zit je in jaar vier van je project, dat is zes jaar nadat je hebt zet die passie nog kan volgen. En daar staat dan, oh ja, wat gingen we precies doen? Ja. Ook best wel in detail soms, wat er in die deliverable moet staan. Op dat moment wil je ruimte inbouwen om dat aan te passen. op basis van voorschijn en inzicht wat redelijk is, op basis van veranderingen in de buitenwereld wat redelijk is. Dus je moet vaak wel op zoek naar... Je gaat als projectleider niet blij zijn met de hele tijd alles over en om verder gooien. Maar als er goede redenen zijn, dan is het ook zot om die niet te nemen, de mogelijkheid om te veranderen. Wij zijn typisch systeemontwikkelaars. Wij bouwen dit soort systemen, machine learning systemen, maar ook andere software systemen. En het probleem wat je daar hebt, is dat je dingen maakt waarvan je denkt... ...dat een gebruiker het op een bepaalde manier gaat gebruiken of nodig heeft. Als ik deze analogie gebruik voor ethiek, en dus dan hebben we dat binnen een projectteam besproken... ...denken we dat we de oplossing hebben tussen aanhalingstekens. Weet jij gevallen van hoe je die ethische keuzes die je hebt gemaakt, hoe je die test voor de groep waar het uiteindelijk ook voor bedoelde als het product? Ja, dat is een goede vraag. Ik heb mijn opleiding dus gehad in Delft, zei ik al. Human-centered design is daarbij een centraal begrip. Op het einde van het boek doe ik ook een paar van dat soort methodes. Human-centered design, value-sensitive design en responsible innovation. Wat meer een benadering is en niet een methode. Human-Centered Design, dat is een manier om dat beter te doen. In een vroeg stadium, de toekomst of mogelijke eindgebruikers aan het woord laten, aan het werk te zien, te bevragen, hé, wat doe je, zou dit je kunnen helpen? Om dus dat gaandeweg te kunnen evalueren al vanaf heel vroeg. Hetzelfde kun je doen met ethiek. Dus je kan liever niet binnen je projectteam blijven, maar liever al redelijk vroeg, mensen vanuit buiten, dat zijn mensen vanuit de praktijk, de werkvloer, degene die de applicatie zal gebruiken of zal ondergaan, om die ook te betrekken bij het gesprek van... wat zijn de plus en minder die je ziet, wat zijn de plichten en rechten, et cetera. Ja, en ik denk ook niet bij die ene keer houden, maar ook als het, want dat zien we ook vaak, dan is het uitgerold, het wordt gebruikt en daarna, it's gone viral. Iedereen gaat het gebruiken, iedereen op een andere manier, om het dan ook eigenlijk wel weer met elkaar te bespreken. Maar willen we dat het zo gebruikt wordt? Want we zien het de kant op gaan. Ja, dat is een begrip dat kwam ik ook tegen in een klassieker weapons of math instruction van K.T. O'Neill. Aan het begin van het boek en ook aan het einde van het boek, dan legt ze ook best wel een mooi vind ik de nadruk op de feedback loop. Dus je denkt dat je algoritme het lekker doet, dat doet hij misschien ook wel, maar alsjeblieft bouw een edel van de feedback loop in. Of technisch, of qua proces, of op wat voor manier dan ook. om ervoor te zorgen dat als het een maandje of twee, drie werkt, dat je dan weer checkt. Doet hij het nog in de goede richting of is hij aan het ontsporen? Is hij de verkeerde kant op aan het lopen? Dus dat is superbelangrijk. Ja, ik denk dat dat een hele belangrijke is, die feedback loop. Die heb je niet alleen nodig voor het bijtrainen van je systeem, maar vooral ook inderdaad kijken van blijft hij doen wat je vindt dat hij zou moeten doen? Ja, vooral vindt dat hij zou moeten doen en hoe het gebruikt zou moeten worden. Naast jouw boek, mensen wat meer willen weten over mogelijke problemen rondom... Nee, we praten heel snel in problemen. Laat ik eerst een andere vraag stellen. Heb jij ergens een positief voorbeeld van een organisatie of een project waarin je hebt gewerkt... ...die zegt van, hier is eigenlijk de ethiek, was misschien zelfs wel ethics by design... en vloeide dat zo door. En weet je, dat was de happy flow. Zo zou ik het graag willen zien. Ik heb wel een paar voorbeelden. Vaak word ik erbij gevraagd trouwens, als het zich afvragen zou het mis kunnen. Dat is toch wel een beetje een associatie. Vandaar ook dat ik erg houd van dat perspectief van deugdethiek, wat ik al eerder noemde. Het gaat toch over goed samenleven, het goede leven leven, Dat mensen de mogelijkheden krijgen, de daadwerkelijke mogelijkheden, om betere versies van zichzelf te worden. Daar komt het ook ongeveer op neer. Dus dat is een hele positieve insteek. Hoe kunnen we goed samenleven? Maar terug naar jouw opmerking. Het is vaak vanuit een denken in wat zou er mis kunnen gaan. Ik denk dat dat ook komt doordat we het zo vaak hebben zien misgaan. Social media was leuk. Op een gegeven moment helemaal niet meer naar Cambridge Analytica. AI is nu, is dat nu leuk? ChatGTP als voorbeeld. Mensen gaan redelijk snel over de risico's, toch? Ja. Het hoort er ook gewoon bij dat ze iets nieuws aan het maken zijn. Zo van, wow, wat zou er mis gaan? Zeker wat jij al zei, bij die opkomende technologieën, dan zijn we heel snel geneigd om te kijken van, waar kan die ontsporen, waar stort iets neer? We gaan met z'n allen dood. Ja, die 'we gaan met z'n allen dood', dat doet niet aan mij. Nee, ik ook niet, gelukkig. Tenminste, eerder aan de klimaatcrisis. Ja, we gaan wel met z'n allen dood. En stuk voor stuk gaan we allemaal in de keer binnen 80, 90 jaar, wat onze gegevens al zijn, et cetera. Ja, zelf wat ik een erg goede documentaire vind, als je in de AI-machine learning wereld zit, om hier bewust van te worden, is ook de coded bias van Netflix. Dat geeft niet alleen aan waar het allemaal mis kan gaan, maar vooral eigenlijk ook wat het kan betekenen voor jou als individu als je daar onderwerp van bent. En dat kunnen we allemaal zijn, als je die documentaire hebt gezien. Heb jij ook, zeg maar, zoiets wat je aan onze luisteraars nog zou kunnen aanbieden, naast je boek uiteraard, om bewust te worden van hoe ethiek eigenlijk in je dagelijks leven een rol speelt? Toen was ik even stil. Ik heb zo mijn eigen inspiratieberonden. Waar die zijn soms wat... Ik kijk bijvoorbeeld... Ja, er zijn best hele mooie TED-talks ook. Ja. Al ben ik op een gegeven moment wel gestopt bij TED-talks, Tijken. Want op een gegeven moment werd het een beetje een chabloon, zeg maar. Ja. Op de website die bij het boek hoort, ethicsforpeoplewhoworkintech.com, Ja. Daar heb je op een gegeven moment ook een hele pagina met wat ik exemplars noem. Ja. Dat zijn mensen die ik bewonder vanwege de deugden die zij belichamen. 16 stuks, keurig man-vrouw, zoveel mogelijk ook wel diversiteit in andere opzichten gezocht. En dat zijn mooi voorbeelden van mensen die een goed punt maken over wat je zegt, hoe kun je bias voorkomen en al die dingen meer. Mooi. Je vroeg ook nog op een gegeven moment van bedrijven. Die vraag werd me eerder gesteld. Zijn er ook bedrijven of projecten of bedrijven die dat helemaal goed doen al? En ik vind het soms jammer dat ik daar niet heel veel voorbeelden van heb. Ik kan wel zeggen, nou Fairphone is volgens mij een aansprekende. Amsterdam is tien jaar geleden, vijf jaar geleden, al een heel aantal jaar in ieder geval. Die maken dus hardware, mobiele phones, die zoveel mogelijk op een goede manier de grondstoffen zijn gewonnen. De Fairphone, en die is dan ook goed repareerbaar. Dus je kan zelf maar open schroeven en één dingetje vervangen in plaats van het hele ding. Oh, mooi. Ja, dat moet je vervangen. Patagonia is ook eentje die geregeld in het nieuws is, ook door zijn manier waarop die winsten terugstopt in het bedrijf. En onlangs heeft hij het hele bedrijf in een stichting gedaan om ervoor te zorgen dat het altijd een b-corp of iets dergelijks blijft. En ook bijvoorbeeld de praktijk van Patagonia. Spullen, je jas, die kun je terugbrengen en dan repareer je ze en dan krijg je hem terug. Want ja, waarom zou je mensen aanmoedigen om nieuwe spullen te kopen, als de vorige prima te repareren zijn? En in die richting zou ik het echt superleuk vinden, kan ik misschien ook de luisteraars toe oproepen, als je die voorbeelden weet van een mooi bedrijf in Nederland, dat het goed doet, of een leuk project, ik hoor het graag. Ook om elkaar te inspireren. Ik denk dat het misschien ook wel een mooie is, Want wij als podcast willen namelijk jouw boek eigenlijk ook... Ja, winnen is dan misschien niet het juiste woord, maar aan een luisteraar geven. En degene die met een mooi voorbeeld komt op dit gebied, die krijgt van ons het boek opgestuurd. En dan zorgen we dat het bij je komt. Ja, wat leuk. - Ja, toch? Ja, super. - Ja. En we hebben ook nog, net als in de vorige aflevering, een afsluitende vraag van onze co-host, onze AI co-host. Ja, ben benieuwd. Het is fijn om je hier te hebben. Als je me nog niet kent. Ik ben Aisha. De AI van deze podcast. Mag ik je een vraag stellen? Ja? Als een AI een fictief personage zou kunnen zijn, wie zou het dan moeten zijn? Oeh, ik zit allemaal tekenfilm figuurtjes aan het denken. Ik denk zo'n geest uit de fles achtig type die zo... ...wat zijn je wensen? En dan moet je goed nadenken wat je gaat wensen. Oh mooi. Ik waardeer je zorgvuldige uitleg, bedankt. Nou, dat is een mooie afsluiter, een geest uit de fles. En wat ik in ieder geval echt blijf onthouden is... ...hoofd, hart, handen. Dankjewel, Marc. Je luistert weer naar een aflevering van AIToday Live. Zorg dat je geen aflevering mist. In je favoriete podcast app kun je je abonneren. En dan krijg je vanzelf een seintje als er een nieuwe aflevering live staat. Dankjewel. (C) TV GELDERLAND 2021