AI en Ethiek

Wat hebben artificial intelligence en ethiek met elkaar te maken en hoe kijkt de markt

je tegenaan? Nog veel belangrijker, hoe geven we praktische invulling aan het onderwerp ethiek?

Iedere twee weken duiken we dieper in het nieuws rondom AI en hoe je AI inzet in je organisatie.

Ik ben Mark Wolfenbuttel, chapter lead AI zorg bij Info Support. En ik ben Joop Snijder,

naar de research center artificial intelligence, ook bij Info Support.

Mark, vandaag gaan we het hebben over ethiek, maar voordat we beginnen is het misschien wel even

handig om te horen wat ethiek nou precies is en hoe zich dat nou tot artificial intelligence

verhoudt. Goeie vraag Joop. Kijk, ethiek is een wetenschap waarbij wordt geprobeerd om

bepaalde handelingen als goed of fout te kwalificeren. Daarnaast worden gekeken naar

de bewegingen van die bepaalde handelingen. Wanneer dat door mensen gebeurt, kan je dat

beargumenteren en kan je ook wel weer gaan kijken, oké dat snap ik, dat snap ik niet,

kan ik volgen en dan heb je een oordeel over. Maar wanneer je zich dat verhoudt tot een computer,

of tot computer software, wordt het alweer wat meer ongrijpbaar. En wat men eigenlijk bij ethiek

vaak doet, is dat men het reflecteert aan zichzelf en vanuit de situatie probeert te zien. En daarin

zie je ook dat hoe dichter het bij jezelf of hoe dichter bij een bepaalde situatie, denk bijvoorbeeld

aan de gezondheidszorg, hoe moeilijker het wordt, hoe lastiger ook de beslissing goed of fout is te

maken voor de mens. Maar op het moment dat dat gebeurt met een computer, ja dan staat het nog

iets verder van je af en dan wordt het nog moeilijker. Wat ik dan ook vooral vaak zie,

is dat er veel te filosofisch over wordt nagedacht. De zelfrijdende auto wordt natuurlijk heel veel

als voorbeeld gebruikt en dan wordt het dilemma opgeworpen, je rijdt op een bepaalde verkeers

situatie af en het algoritme moet gaan kiezen tussen moet die de moeder achter de kinderwagen

doodrijden of moet een bejaarde oma doodgereden worden. Dat soort discussies is wel bijzonder

vind ik altijd, want die worden heel erg gekaderd alsof dat de enige twee keuzes zijn, weet je.

Als we het over etiek hebben, het gaat er altijd om dat je dit soort hele moeilijke keuzes moet

maken. Terwijl wat ik denk, is dat we voorlopig en met voorlopig denk ik echt wel tientallen

jaren misschien, dat de beslissingsbevoegdheid heel snel neer wordt gelegd nog steeds bij de mens.

Dat is dat dat zo'n zelfrijdende auto dat hij dan als die er uiteindelijk niet uit komt,

zeg van dit is niet meer veilig, dan geeft die een piepje of whatever en dan zullen we het moeten

overnemen. Ja dat denk ik ook. Het is vooral ondersteunend en dat zal nog een hele tijd

ook alleen in die vorm en misschien wel altijd in die vorm blijven. En daar hebben we natuurlijk ook

nog te maken met het feit dat etiek cultureel verschillend is. Want wat ze bijvoorbeeld in

China normaal vinden of prima vinden, ja dat dat vinden wij Nederlanders of Europeanen of mensen

weer uit Amerika echt totaal niet. En andere landen kijken dan ook natuurlijk weer vol afschuw naar

ons gedoogd beleid. En dat vinden ze ook weer iets wat niet past of niet kan of niet in een algoritme

te plaatsen is. En daarom zijn over het algemeen ethische vraagstuk gewoon erg moeilijk. Als je

bijvoorbeeld kijkt naar de energiemarkt, dat ligt wat verder van je af en dat gaat om machines.

Machines die energie opwekken en uiteindelijk een prijs op jouw rekening laten zien. Als het

dichterbij komt, dus als het gaat om ziekenhuisbedden of inderdaad het voorbeeld wat je geeft tussen

met de zelfrijdende auto, dan wordt het alweer veel en veel moeilijker. Daarom ook van zou ik

bij dit soort vraagstukken ook wat verder af willen van de filosofische vraagstukken en veel

meer kijken naar hoe geef je daar nou praktisch invulling aan. En dat lijkt me veel zinvol om

daarop op te focussen. En het is niet alleen in deze aflevering, maar gewoon in het algemeen.

En dus als je dit soort systemen maakt, heb je natuurlijk wel te maken met ethische vraagstukken.

En hoe ga je daar nou praktisch mee om? Zie jij dat dat ook leeft in de markt op die manier?

Ja, dat leeft zeker wel in de markt. Hoe dichter je bij menselijke vraagstukken komt,

hoe sterker het leeft. Maar wat we wel daar vooral zien eigenlijk, is dat het als drempel wordt

gebruikt. Dus er wordt wel over nagedacht en dat zijn dan vraagstukken waar je toch als mens of

als groep mensen helemaal niet uitkomt. Want je kan niet kiezen tussen, in het ergste geval de dood

van een een of de dood van een ander. Maar waar je het moet omdraaien, is dat je het kan toepassen

in het eigenlijk ondersteunen van je werk. En daar zien we toch wel dat verschillende branches daar

moeite mee hebben. Als je kijkt bijvoorbeeld naar de financiële markt, dan is het ja wel wat makkelijker

om een fraude project te starten. Want ja, fraude levert geld op en staat wat verder van je af en

is eigenlijk een soort misdaadbestrijding. Terwijl als je kijkt in markten als de zorg, dan gaat dat

wat minder snel, omdat dit soort vraagstukken eerst beslecht moeten worden. En dan vaak,

omdat we er niet uitkomen, en dat heeft soms ook, en dat moet ik dan maar wat zachter zeggen,

te maken met een stukje kennisachterstand. Heeft te maken met dat men dan zich verschuilt achter

de ethiek en dat daar dan maar wetgeving voor moet komen. Ja, aan de andere kant zie je ook wel dat

er, bij de overheid hadden ze natuurlijk Siri. Dat is niet de Apple Siri, maar onze Nederlandse Siri.

Waarbij er zoveel aan elkaar geknoopt werd, dat dat door in ieder geval de maatschappij niet meer

als ethisch verantwoord werd gezien. Ja, het is ook natuurlijk echt wel zoeken naar een balans,

van waar raak je zodanig de impact van het leven van mensen en op een niveau dat je dat echt niet

wil. En waar blijf je daar onder. En dat zal ook iedere keer een verschil zijn en een afweging

in hoe je dat doet. Maar dat hebben we natuurlijk al behandeld, want dat kan terug te reflecteren

zijn van hoe start ik een project, hoe start ik een AI-project. Want is het dan niet zo dat je

je bij het ontwerpen al rekening kan houden met dit vraagstuk? Dat kan en dat sterker nog,

dat moet je ook doen. Want bij ieder project waar het gaat om kunstmatige intelligentie,

ben je verplicht wat mij betreft om te kijken naar die ethische kwesties. En het mooie is dat

er zijn allerlei guidelines daarvoor, die je kunnen helpen bij het nadenken over juist die

specifieke gevallen waar jouw product dan mee te maken heeft. Je hebt een initiatief,

dat heet de guidelines for a trustworthy AI. Dat is vanuit de Europese Unie is dat gestart. Daar

kan je je ook aan lieren. Dus wij zijn er als Info Support bijvoorbeeld ook aan gelieerd. Dat

zijn guidelines die zijn ook nog in ontwikkeling. Die kun je nu al gebruiken. Maar je hebt ook iets

bijvoorbeeld ethicalos.org. Dat is een site, daar kun je ook hele goede guidelines vinden. En die

helpen je bij het stellen van vragen. Het is niet zozeer een checklist van heb ik dit allemaal

gedaan. Maar het is een set van vragen waar je over nagedacht moet hebben. En waar je antwoord

op moet kunnen geven. En ook moet voor jezelf kunnen zeggen van dit is echt wel wat wij willen.

Het helpt je bij het nadenken over je ethische vraagstukken. En dat neem je dan mee in je ontwerp.

Leuk dat je luistert. Abonneer gratis op ons account in de Apple podcast en Google podcast.

En zorg dat je geen aflevering mist. We kunnen dit alleen blijven maken met jullie support.

Mark, we hebben het nou gehad over ethiek en de markt. Maar waar ik nog heel erg benieuwd naar

ben is, staat dit ook op de agenda's van de directies? Ja, goede vraag. Nou, in principe

staat het op de agenda natuurlijk van de directie. Op het moment dat ze met hun hele beleid bezig zijn,

is ethiek iets wat daarop ophoort. Het is iets wat in een cultuur van een bedrijf kan zitten.

En echt zeker iets wat besproken moet worden. Wat je wel vaak ziet in de wat meer business

to business kant en business to consumer bedrijven, is dat het wat verder in projectgroepen wordt

belegd. En dat de directie zich vooral bezighoudt met de uiteindelijke toepassing van bijvoorbeeld

een AI-project. Dan is het wel belangrijk dat het daar ergens, en daarom zijn denk ik de guidelines

die je al noemde, erg belangrijk, er rekening mee gehouden wordt dat ethiek een plaats heeft

in dit project of in een uitvoering. Maar datzelfde geldt voor security en datzelfde geldt voor

privacy. Dus het is wel te vergelijken met die onderwerpen. Directies willen vaak zien dat

er over nagedacht is, dat het een plek heeft gekregen. Wat wij minder zien is dat er echt

een beleid opgevoerd wordt. Wat zou daarvoor nodig zijn? Hoe zouden ze daar daarmee kunnen

starten met het maken van beleid? Nou wat denk ik belangrijk is, is dat toch op het moment dat

je het hebt over de toepassing van daadwerkelijk AI binnen een bedrijf, heb je toch een stuk

kennis nodig. Dus je moet aan de basis beginnen en toch echt een stukje kennis opdoen van waar

krijg ik eigenlijk allemaal te maken wanneer ik dit project start, als ik AI wil toepassen in

mijn bedrijf. Nou meestal, zoals we ook in de eerste aflevering van onze podcast hebben gezegd,

begin je gewoon heel klein. Maar dan is het wel goed om al gelijk te laten zien in je ontwerp,

waar je dan het onderwerp ethiek hebt toegepast, of waar je het de invulling kan geven. Zo groeit

het namelijk ook mee op het moment dat het project ook groter wordt. En dan gaat het bij directies

en aan tafel van management ook leven. En kan je ze daar in stap voor stap meenemen. Want op het

moment dat je zegt, hey ik ga de directiek kamer binnen, ik zeg hey wat is het beleid op AI en op

de ethiek die dat, ja dat is veel een veel te moeilijke vraag om zomaar neer te leggen. Want

het heeft heel veel raakvlak. Ja snap ik. Maar klein beginnen, ook hier. Ja dat is sowieso altijd

natuurlijk een goed advies. Klein beginnen, langzaam uitbouwen. Ja wat wij daarin zien, dat

gaf ik al eerder even aan. Vaak wordt gezegd, ja dat moet maar in de wet geregeld worden. Want

dan wordt het toch te moeilijk en toch te groot. En ja is het toch weer uit de klauwen gelopen,

om het maar even zo te zeggen. En dan wordt het teruggegrepen op iets wat we kennen, namelijk

wetgeving. Als jij daarnaar kijkt Joop, is er dan voldoende wetgeving voor? Ja het is wel grappig

dat je dat zegt, want dat hoor ik inderdaad ook heel veel. En dan ook van allemaal stellingen,

dit moet in Europa geregeld worden, dit moet de overheid regelen. En nou een hoop gedoe wat mij

betreft. Want de meeste vraagstukken worden door onze huidige wetgeving volgens mij behoorlijk goed

afgedekt. Dus we hebben artikel 1 over het niet discrimineren. Dus alles wat te maken heeft met

discriminatie van algoritmes of wat dan ook, is allemaal al afgedekt. Dat mag helemaal niet.

Vooroordelen in algoritmes, allemaal dat soort zaken is niet mogelijk. Of is wel mogelijk,

maar mag niet. Dat is wat anders natuurlijk. De privacy wetgeving is natuurlijk goed geregeld

binnen, in ieder geval binnen de EU. Dus er is heel veel wetgeving, zelfs als je een financieel

product aanvraagt, mag je niet afgewezen worden omdat een algoritme nee zegt. De computer says

no is geen aanvaardbare uitleg waarom jij een bepaald financieel product niet mag hebben.

Dat soort zaken zijn allemaal al geregeld in onze wet. Dus ik denk dat we met de huidige wetgeving,

de guidelines die er zijn, dat wij prima aan allerlei ethische vraagstukken wetgeving kunnen

voldoen. Er zullen best wel randen zijn, uitzonderingen, die nu niet toekomstbestendig

zijn. Maar met de huidige wetgeving komen we echt een heel eind. Ja, daar heb je dat denk ik ook.

Wat ik nog wel veel tegenkom, dat zit ook in deze toch wel hoek van ethische vraagstukken,

gaat over de vervanging van kunstmatige intelligentie, dat die uiteindelijk de mens

gaat vervangen. Hoe wordt daar dan tegen aangekeken in de markt? Nou, die vraag komt best wel op tafel,

van hoe ver gaat dit eigenlijk en hebben we wel goed genoeg zicht. Je hoort wel eens van die

brandende vraagstukken van ja, maar wat nou als het in verkeerde handen komt. En dat is natuurlijk in

principe met alles zo. Dat is met iedere stuk innovatie software, als het nou gaat om iets

als AI of iets ongrijpbaars als wapens. Het moet nooit in verkeerde handen komen. Maar het gaat

het gaat never nooit de mens vervangen. Het gaat in mijn optiek eerder de mens enorm veel versterken.

Want het gaat je namelijk meer tools geven die jou helpen om je werk nog beter te doen. En de vraag

die ik daarbij ook vaak krijg is, ja maar gaat het niet heel veel banen kosten? En nou ja, misschien

misschien gaan er bepaalde banen geautomatiseerd worden. Maar dat zijn dan banen die heel vaak toch

niemand al echt heel erg leuk vindt of juist allemaal van die repeterende taken met zich

meebrengen. Die kunnen prima geautomatiseerd worden door een goed AI model. Het gaat ook aan de andere

kant en dat is iets dat we dan vaak weer niet horen. Het gaat heel veel banen creëren. Ja,

wat nog even over dat verdwijnen van die banen. Want wat mij altijd wel opvalt, is dat we dit

soort vraagstukken helemaal niet hebben gehad überhaupt bij de automatiseringen. Automatisering

doen we al tientallen jaren. En is dat helemaal geen vraagstuk geweest. En nu dat het gaat over

kunstmatige intelligentie, misschien heeft het iets met de term te maken ofzo, is dat dat een heel

heikel punt lijkt te worden. En begrijp me niet verkeerd, want kijk als je door automatisering

op welke vorm dan ook je baan verliest, is dat echt wel heel erg vervelend. Maar ik vind het

wel opvallend. Weet je, waarom nu? Ja, nou dat komt denk ik omdat het mogelijkheden biedt en

ook een stukje dichterbij komt. Dus je kunt je, misschien heb je ook wel gelijk zit het in de

term kunstmatige intelligentie, zelflerend. Dat soort termen maken natuurlijk spannend, want

hey ik ben als mens ook zelflerend. En gaat het dan mij vangen? Nou ja, dat zijn dingen die kunnen

wij ons afvragen. Een computer niet, want een computer wordt gewoon geprogrammeerd. En een

model leert alleen maar beter dat procesje waar die voor dient te verbeteren. Maar omdat wij als

als mens kunnen wij ons voorstellen wat dat doet en hoe zeg maar die volgende stap van

automatisering eruit ziet, kunnen wij begrijpen. Waardoor het ook een beetje spannend wordt,

want je gaat hem namelijk, en daar komt etiek natuurlijk weer terug, je gaat hem reflecteren

op je eigen werk. En dan ga je eens nadenken, zou mijn werk vervangen kunnen worden? Nou ja,

zou theoretisch kunnen. En dan wordt het spannend. Alleen wat er dan bij komt kijken,

om dat überhaupt te kunnen doen. Ja daar, daar ontbreekt dan een stukje kennis, waardoor het

toch een beetje spannend wordt of het wel of niet kan. En vaak wordt het overschat,

wat we op dit moment, waar de stand van de techniek staat met kunstmatige intelligentie,

moeten we echt niet vergeten dat het wat we kunnen automatiseren is in taken en geen

beroepen. Dus wat jij net zei van AI versterkt de mens, daar geloof ik ook heel erg in,

is dat het je gaat helpen bij repeterende taken, herhalende taken, taken die moeilijk in ons hoofd

passen, die de machine heel goed kan doen. Maar er zullen nog ontzettend veel taken overblijven,

waar we juist meerwaarde in hebben. Ja en als je hem toch plot op het ondersteunen. Kijk er was

een pas een bericht dat het eerste medicijn door AI is gemaakt. Nou dat is fantastisch,

want voorheen werden deze processen ook geautomatiseerd. Precies zoals jij net al

zei, automatisering hadden we al lang en rekenkracht hadden we al lang en ook al nodig

om dergelijke medicijnberekeningen te kunnen maken. Het is niet zo dat we met z'n allen aan

de lopende band stonden om medicijnen te maken, dat werden al lang heel veel computers voor

gebruikt. Alleen nu wordt het in een AI model gestopt, waardoor net even wat meer kracht heeft

en net even wat sneller kan. Waardoor men denkt, hé maar wacht even is dat dan wel een veilig

medicijn? Nee, alle processen daaromheen en testen en dat soort zaken zijn nog allemaal gewoon door

de mens geleid en bepaalt ook de mens zelf wat hij daarmee doet met deze output. Maar het proces

om tot een medicijn te komen dat is een factor 10 versneld en dan zie je weer dat het dus echt

ondersteunt. Ja. En zo gaat het nog veel meer in de praktijk. Ja en in een veel kleiner verband,

ik gebruik bijvoorbeeld Microsoft Outlook en die kan, die maakt voor mij een prioriteitsinbox aan.

Het is, die selecteert voor mij al de e-mails in belangrijk, niet belangrijk waarbij ik zelf

helemaal de sturing heb in welke ik wel of niet lees, maar helpt mij in de schrifting van wat dan

belangrijke mailtjes zijn waardoor ik mijn werk beter kan doen. Ik moet nog steeds die mail zelf

beantwoorden, zelf lezen, zelf lezen, zelf beantwoorden, zelf actie ondernemen op de

vragen die daar gesteld worden. Maar het helpt mij wel in de uitvoering van mijn werk. Het is

op een hele kleine schaal is dat zo. Ja, hij is het niet een leuk idee Joop om een podcast te maken

over allemaal praktijkvoorbeeld. Ja, laten we dat volgende keer doen. Nou, gaan we dat afspreken.

Oké, tot de volgende aflevering. Tot de volgende keer.

Bedankt voor het luisteren naar AIToday Live. Bezoek ook eens onze website

ai2day.ai en abonneer je gratis op ons e-magazine Bordeval AI Praktijkvoorbeelden van vandaag de

dag. Houd ons podcast in de gaten. Elke week beschrijven we een nieuw onderwerp online.

Vergeet hem niet te delen, mocht je het interessant vinden.

Ondertitels ingediend door de Amara.org gemeenschap