Niet onze AI: waarom regie pakken belangrijker is dan voor of tegen AI zijn

In deze aflevering praten we met Gabriella Obispa en Laurens Vreekamp, auteurs van het boek Niet onze AI. De titel klinkt fel, maar hun verhaal is genuanceerd, en ze zijn niet tegen AI. Ze zijn juist voorstander van AI. In dit gesprek leggen ze uit wat AI wel kan zijn als het meer van ons wordt. Joop: Dat je weer luistert naar een nieuwe aflevering van AIToday Live. Joop: Mijn naam is Joop Snijder, Head of AI bij Info Support. Niels: Mijn naam Niels Naglé, Area Lead Data & AI bij Info Support. Joop: En we zijn heel blij met onze gasten in de studio, Gabriella Obispa en Laurens Vreekamp, auteurs, beide van het boek Niet onze AI. Joop: En daar gaan we het ook vandaag over hebben. Joop: Maar voordat we daarover beginnen, zouden jullie jezelf even willen voorstellen. Gabriella: Ja hoor, ik ben Gabriella Obispa. Gabriella: Ik ben momenteel werkzaam bij de Politie Nederland als Projectleider AI Ethiek en Digital Rechten. Gabriella: en ik ben medeauteur van het boek Niet onze AI. Laurens: En ik ben Laurens Vreekamp, schrijver, journalist, trainer, werk veel met mediabedrijven, uitgevers, redacties. Laurens: Ook wel opleidingen soms, en soms een uitstapje in de advocatuur, die dan over creativiteit en AI dingen willen weten. Laurens: En ik heb samen met Gabriella het boek geschreven, Niet onze AI. Joop: Ja, en hoe zijn jullie zo bij elkaar gekomen? Joop: Want het is niet zomaar dat je als adviseur bij de Politie Nederland en journalist. Joop: Gabriella begint altijd met appeltaart, dus misschien moet jij dat ook al. Gabriella: Ja, dus we hebben elkaar voor het eerst ontmoet in Dudok, in Den Haag. Gabriella: Jullie zijn vast bekend met appeltaart van Dudok. Gabriella: En onder het genot van een appeltaart, hebben wij een gesprek gevoerd over AI en over het AI-debat. Gabriella: En wat we eraan missen nu en vooral wie er ontbreekt. Gabriella: En zodoende kwamen we op het idee voor dit boek van laten we een podium bieden aan andere perspectieven als het gaat om AI. Joop: En hoe kwamen jullie erop? Joop: Want het boek heeft best wel een heel mooie opbouw van Niet onze AI, hun AI. Joop: Jouw AI. Laurens: Ons jou. Joop: Hoe zijn jullie daarop gekomen? Laurens: Ja, ik denk ook wel door er zelf over na te denken, en we hebben ook een eindredacteur gehad, Sanne Wouters, die heeft ons ook wel geholpen. Laurens: Want in het begin zo hadden we bedacht we gaan gewoon heel veel mensen interviewen van die wij kennen waarvan we weten, die hebben net iets andere ideeën dan die nu die je nu vaak hoort in de media of in de krant leest of op podia staan. Laurens: En dan schrijven we die interviews uit en dan zetten daar zoeken we zelf dingen uit, zetten we stukken tussendoor, en toen zei Sanne, ja, dat is voor jullie leuk, maar voor de lezer is dat ingewikkeld. Laurens: Dus je kunt beter zelf thema's bedenken, dus een rode draad en onderwerpen en dan de onderdelen uit die interviews daarbij plakken. Laurens: Dus het werd echt een puzzel. Laurens: Ik begreep later dat wetenschappers dat ook doen met coderen als ze dan interviews hebben. Laurens: Dus het was voor ons als auteurs een hoop gepuzzel, maar dat scheelt de lezer een hoop werk en die krijgt een vee llopender verhaal. Laurens: Dus dat was een van de van de adviezen van Sanne. Joop: Het leek mij leuk om vandaag ook deze indeling ook aan te houden en te kijken van dat de rode draad is. Joop: Dus om te beginnen bij jullie hebben geschreven over Niet onze AI. Joop: Waarom. Gabriella: Omdat we dachten van oké, de huidige AI is gewoon niet onze AI. Gabriella: Het is natuurlijk ontwikkeld door een groep homogene vooral mannen uit Silicon Valley. Gabriella: En het is niet ontwikkeld AI met onze waarden in gedachten, met ons perspectief, met ons als gemeenschap en gedachten. Joop: En wie is in dit geval ons? Gabriella: Ja, je kan zeggen als organisatie of als land of als persoon. Gabriella: Dus op die laag, inderdaad. Gabriella: Dus wij vonden van het gaat vooral nu over hun AI, over hoe zij AI zien, hoe zij AI willen ontwikkelen en voor wie ze het willen ontwikkelen. Gabriella: Nou, daar missen we gewoon nog een hoop mensen, groepen en ook perspectieven in. Gabriella: Dus zodoende kwamen we uit laten we eerst dat stuk van hun AI goed definiëren. Gabriella: Wat het betekent en waarom het zo belangrijk is om daar ook tegenwicht aan te bieden. Gabriella: Maar ik denk dat Laurens daar ook komt. Laurens: Ja, dit is één van de dingen dat Niet onze AI. Laurens: Dus het is niet van ons, want het is vooral ontwikkeld in eerste instantie in de VS, maar wel met data die en inhouden die op zich van ons zijn, maar er is geen toestemming gevraagd, geen naamsvermelding, geen compensatie financieel. Laurens: Dus onze informatie wordt wel gebruikt. Laurens: Maar daar zien we eigenlijk helemaal geen vruchten van terug als samenleving. Laurens: En je zou ik zeggen, als je kijkt naar Grondwet artikel 1. Laurens: en dat en ieder die zich in Nederland bevindt moet op dezelfde manier behandeld worden. Laurens: Maar als je dan twee feitjes hebt dat als je als vrouw aan ChatGPT om salarisadvies vraagt, en je upload hetzelfde cv in hetzelfde, je hebt dezelfde competentie, dezelfde ervaring. Laurens: en je bent een man of vrouw, dan krijg je een ander advies van ChatGPT, en zal jullie niet verbazen wie een hogere salarisadvies krijgen, zijn man, omdat die biases, die voordelen. Joop: En zit er nou. Joop: Het is wel een heel leuke voorbeeld, namelijk. Joop: Zaten er nog meer verschillen in dat je kan herinneren, behalve dan dat salaris. Joop: Is er dan ook een verschil in hoe je je moet opstellen als degene. Niels: Harder erin, lossen erin. Laurens: Volgens mij. Laurens: Ik weet niet of dat er ook bijstelt, maar het ging in ieder geval over dat getal. Laurens: en het gaat natuurlijk vaak over vrouwen hebben hier twee strijden te strijden, twee, twee gevechtstrijden. Laurens: Dan wordt er gezegd, je moet workshops doen, je moet je moet stoerder zijn en je moet beter onderhandelen. Laurens: Dus dan zouden ze als het al een probleem is moeten oplossen en ze moeten ook nog zorgen voor gelijkheid. Laurens: Terwijl we moeten dat systeem anders aanpakken en niet vrouwen helpen in een verkeerd systeem beter te worden, we moeten het systeem eigenlijk aanpakken. Laurens: Daar kwamen ook achter tijdens het boek, ik ben veel meer feminist geworden, ook sinds het niet. Laurens: En een andere feit is ook, en nog even terug naar die grondwet, is dat zelfrijdende auto's. Laurens: Die reageren ook minder goed op kinderen en mensen van kleur. Laurens: En als je bedenken naar de technologie die straks op straat uitgerold wordt, Tesla heeft nu die self-driving mode, geloof ik in Nederland als een van de eerste. Laurens: Ik vraag me af hoe veilig dat is en hoe dat getest is. Laurens: Want dat werkt niet voor alle Nederland. Laurens: Sterker nog sommige Nederlanders lopen gevaar. Laurens: En als je dus bedenkt hoe in de keten AI tot stand komt, dan hebben wij is ons niet geconstateerd wat willen we eigenlijk voor toepassen, willen we die taalmodellen wel en waarvoor. Laurens: Als je bedenkt dat er 0,1% van de ChatGPT gebruikers in een psychose raakt, dan denk je naar 0,1%. Laurens: Maar ze 900 miljoen gebruikers maandelijks hebben, dan zijn het 500.000 mensen. Laurens: Als het een drankje was of een medicijn of voedsel, dan werd het van de markt geweerd. Laurens: Dus dit soort dingen zijn eigenlijk niet door ons met ons in gedachten gemaakt of met onze besproken willen we dit wel. Laurens: Het wordt soms, en daar lijkt het op als een natuursverschijnsel over ons uitgestort. Laurens: En echt ja, er zijn, we kunnen er anders mee omgaan, we kunnen de technologie op een andere manier ontwikkelen zo zijn we gestart. Niels: Ik was opnieuw nieuwsgierig, want het geeft een moet heel anders kijken naar het vraagstuk. Niels: Als ik jullie boek lees, je kan van heel verschillende perspectieven kijken, maar niet eentje die voor de hand ligt. Niels: Hoe zorg je ervoor dat de mensen dus er ook zo naar kunnen gaan kijken? Niels: Want die vragen worden nu niet hardop gesteld. Laurens: En welke vragen denk je dan? Niels: Nou ja, waar wordt het gebruikt? Niels: Nu wordt gewoon de tool worden ingezet, ik gebruik het en je kan ermee aan de slag. Niels: En mensen stellen niet de vraag: van, wat zit hier achter, welke data is er gebruikt, is dit wel een goede technologie om voor dit probleem op te lossen. Niels: Die vragen worden niet gesteld, want het wordt gewoon gebruikt. Niels: Maar hoe zorgen we ervoor dat ze de vragen wel gaan stellen. Gabriella: Ja, ik denk ook wel, het is ook een stuk van ja, bewust worden, denk ik, gaat ook meer om geletterdheid, ook AI kunnen begrijpen. Gabriella: Van oké, wat kan het betekenen in verschillende contexten. Gabriella: En wat je heel vaak merkt, wat mijn ervaring is, dat die, ik noem het meest fundamentele basale vragen worden gewoon niet gesteld. Gabriella: En ik denk dat het ook echt wel ligt aan eigenlijk marketing natuurlijk om AI heen. Gabriella: Dus iedereen denkt van oh ja, dit moeten we gebruiken als dit is de oplossing voor ons probleem. Gabriella: Toen kom je echt een soort van een soort van tunnelvisie van dit moet het worden. Gabriella: Terwijl het heel mooi zou zijn als er meer een gezond kritische houding tegenover AI komt. Gabriella: En hoe je dat doet, is vooral begrijpen vooral van waar heb je het over. Gabriella: Ook in een boek hebben we het over nauwkeurigheid, boven snelheid bijvoorbeeld, door Sara Mohamed. Gabriella: En die laat het heel erg duidelijk uit van moet het nauwkeuriger gaan praten over AI. Gabriella: En bewust zijn van dit begrijpen we nog niet, of hier moeten we toch iets langer bij stilstaan. Gabriella: Dus die vertraging opzoeken om beter te begrijpen wat is nou passend of niet. Gabriella: Maar inderdaad, er is nu wel een situatie waar men gewoon die vragen niet stelt. Gabriella: Dat is echt een gemiste kans ook voor innovatie, naar mijn mening. Gabriella: Omdat ik denk van juist die vertraging zorgt voor betere innovatie. Gabriella: Het is juist helemaal geen rem op innovatie. Gabriella: Het zorgt juist voor dat je er meer waarde uit kan halen, dat je dat echt goed doordenkt. Gabriella: Dus in die zin, ja, ik heb die vraag soms ook van inderdaad, van zo wordt die vraag, maar ik denk dat het echt te maken heeft met het geletterdheid, maar ook een stuk van zijn we ook kritisch genoeg. Gabriella: En ja, zijn we kritisch genoeg over AI. Joop: Toen ik de titel van het boek las, dacht ik eigenlijk dat jullie misschien nog veel kritischer waren dan wat ik in het boek gelezen heb. Joop: Want ik denk dat dat een heel goed genuanceerd verhaal is. Joop: Ik heb het echt met heel veel plezier gelezen. Joop: Maar kan je uitleggen hoe je zelf ten opzichte van deze technologie staat. Joop: Want volgens mij zijn jullie niet tegen de technologie. Gabriella: Nee, helemaal niet. Gabriella: Nee, het gaat ook natuurlijk om welke AI natuurlijk. Gabriella: Het kan echt verschillende deelgebieden van AI. Gabriella: Maar wij zijn niet tegen. Gabriella: We zijn juist voor doordachte AI. Gabriella: En dat betekent dat je de juiste vraag stelt op de juiste momenten om te bepalen of dat inderdaad de meerwaarde biedt, wat waar je op hoopt. Gabriella: Maar we zijn wel genuanceerd. Gabriella: Want wij kunnen ook niet van tevoren vind ik altijd stellen dat AI per definitie goed of fout is. Gabriella: Dat is gewoon een gesprek wat je moet hebben met elkaar. Gabriella: Dus je verhouding, je technologie is heel belangrijk. Gabriella: Van oké, wat vind ik hiervan? Gabriella: Wat is mijn houding? Laurens: En ja, wat Gabriella zegt en dan dank je wel, je ook goed om te horen dat het genuanceerd is. Laurens: En dit is een beetje een felle titel, niet onze AI. Laurens: Omdat niet dat impliceert ook iets negatiefs, maar we zijn helemaal niet tegen. Laurens: Maar als het meer van ons is, kunnen we ook bedenken waar we het voor gaan inzetten. Laurens: En je zou kunnen. Laurens: We hebben voor het boek, dat hebben we achterin ook in de verantwoording gezet, waar we het voor gebruikt hebben. Laurens: We hebben negen mensen geïnterviewd en die hebben natuurlijk al ergens een presentatie gegeven, hebben in een podcast gezeten, een interview ergens gedaan online of in een blad. Laurens: Dat hebben we natuurlijk allemaal in research opgezocht, hebben bijvoorbeeld een NotebookLM gebruikt om vragen te stellen aan de YouTube-video's. Laurens: Heel handig om te vragen waarin Ruha Benjamin, een van de filosofen en denkers uit Amerika die we aanhalen. Laurens: Die heeft een heel mooi andere invulling van AI. Laurens: Dat noemt ze dan abundant imagination. Laurens: En ze vertelt nog wat dingen. Laurens: En dan kan je vragen in de video waarin leggen ze dat begrip abundant imagination uit. Laurens: En dan krijg je dat heel netjes terug. Laurens: En dat zijn meerdere vormen van AI waarvan we leren dat zijn de discriminatieve AI. Laurens: En we hebben het vaak nu over AI als generatieve AI, de taalmodellen, de chatbots. Laurens: Maar dit is eigenlijk een oude vorm die gewoon je helpt op schaal van snelheid snel iets te vinden of te clusteren of te transcriberen, vertalen, classificeren, maar ook voorspellen. Laurens: Maar die niet zelf op de makersstoel gaat zitten. Laurens: En dan vinden we het vaak al gevaarlijk. Laurens: En we zeggen ook in die vragen van hoe zet je AI nou in als je kunt uitleggen van wanneer levert het nou voor iedereen van ons iets op. Laurens: Dus het kan wel zijn dat ik dit taakje sneller doe, maar dat betekent dat ik met die andere collega die me samenwerken, dat vond ik nou juist zo'n leuk onderdeel van mijn werk, dan zal mijn manager dat misschien niet de efficiëntst te zien. Laurens: Maar daar heb ik wel heel veel arbeidsplezier in. Laurens: Zonder als je dat wegsnijdt. Laurens: En je ziet nu veel van die rapporten dat we dan workslop noemen. Laurens: Dus dan is het werk wat ik vroeger vond om leuk te doen, daar vraagt mijn manager van om dat door Claude Cowork of een bordje of een chatbot te laten doen. Laurens: Dan krijg ik vervolgens machine resultaat om te corrigeren. Laurens: En dan wordt dat mijn werk. Laurens: Ja, dat vind ik niet zo leuk. Laurens: Dus ik denk dat als we die als zeggen, we willen sneller en efficiënter zijn, wat betekent dat voor ons voor mijn werk, voor ons werk, hebben we nieuwe collega's nodig, nou dan is dat te gek. Laurens: Gaan de collega's hele andere dingen doen die ze niet meer leuk vinden, nou dan moeten we dat afwegen. Laurens: En die vragen, als mensen zeggen, we willen de boot niet missen of de trein rijdt al, stel dan eerst die vraag om te vragen, moeten we op die trein? Laurens: Kort, gaat er nog eentje en waar gaat hij eigenlijk heen. Joop: Je hadden het beide over snelheid. Joop: En dat is een vraag die aan ons ook heel veel wordt gesteld. Joop: Hoe kunnen we versnellen, zijn we wel snel genoeg. Joop: Er zijn heel veel mensen die last hebben op dit moment van FOMO. Joop: En dat wordt natuurlijk van dat schrijven in het boek ook, maar dat zien we natuurlijk ook. Joop: Dat er heel veel van buitenaf wordt gezegd. Joop: Je moet nu anders mis je de boot. Joop: Hoe kijken jullie daartegen aan? Joop: Want je zei net al van, je moet vertragen, maar hoe vertraag je dan? Joop: Laat ik het concreeter maken, hoe vertraag je? Gabriella: Ja, ik denk je vertraagt er bewuster keuzes te gaan maken in het proces als je AI wilt gaan inzetten of implementeren. Gabriella: Want wat wij merken bijvoorbeeld in mijn ervaring, is dat dan je het heel erg hebt over oké, ik hoor heel vaak snelheid en snelheid. Gabriella: Maar ik denk altijd van oké, maar die vertraging zorgt juist ervoor dat je wat nauwkeuriger kunt gaan kijken naar het probleem, naar het groter plaatje, dan alleen maar naar AI als doel. Gabriella: Maar je gaat het meer zien als een interventiemogelijkheid. Gabriella: Je gaat er wat neutraler in staan, zodat je goed kan bekijken van oké, waar in het proces heeft een meerwaarde, waar niet. Gabriella: En soms het helemaal niet. Gabriella: Dat is ook helemaal oké. Gabriella: Maar ik denk dat het vooral die vertraging, in mijn ervaring, heeft juist geholpen om betere AI-systemen te ontwikkelen of in te zetten. Gabriella: Omdat je juist details gaat zien, wat ook Sarah Moomet heel mooi in het boek zegt, die niet eerder zag. Gabriella: Voor wat wij maken gebruik van digitale ethiek bijvoorbeeld. Gabriella: Dat helpt ons echt om bewuster keuzes te maken en afweging te maken. Gabriella: Nou, hier zien we geen potentie voor deze use case. Gabriella: Nou, voor deze use case wel. Gabriella: En zo heb ik het gevoel gehad, konden we veel meer werk aan doordachter AI, dus eigenlijk meer een lijn te volgen van fundamentele vragen aan de voorkant, dus de waarom vraag en vervolgens richting de hoe vraag. Gabriella: En nu wordt vooral de hoe vraag gesteld en niet de waarom vraag. Gabriella: Waardoor je toch wel vastloopt, uiteindelijk van waarom deden we dat ook alweer. Gabriella: En wat was ook alweer de meerwaarde hiervan? Gabriella: En na een jaar evolueer je denk je van ja, maar durven we ook nu te zeggen na een jaar van nou, het had niet dat meerwaarde gehad die we wat op hadden gehoopt. Gabriella: Dus kunnen we ook nu nee zeggen daar tegen. Joop: Heb jij Laurens een voorbeeld uit de journalistiek van die vertraging? Laurens: Ja, er zijn nu de journalisten zijn al, nou, ik denk, sinds sinds de komst van het internet niet direct, maar na een aantal jaar dat mensen digitaal gingen lezen en op kleine schermpjes. Laurens: A het zoeken naar van hoe moeten we ons nou verhouden tot publiek en tot verdienmodellen en vertrouwen en zijn onwijs het bereiken van jongeren, meegaan op externe platformen, dus dat zijn allemaal uitdagingen. Laurens: En een van de ideeën is nu van kijk, daar moet ook alles snel nieuws is dan al vaak snel. Laurens: Je moet ook nog op heel veel platformen aanwezig zijn en podcast en nieuwsbrieven en video's en krant en online en app. Laurens: En ja, daar komt daar eigenlijk alleen maar meer bij. Laurens: Maar ze verliezen ook steeds meer aandacht van mensen en vertrouwen. Laurens: Dus hoe los je dat dan op? Laurens: En een van de ideeën is dat je dus eigenlijk veel meer naar mensen toe moet en dat is eigenlijk een hele dure vorm. Laurens: De vraag is ook wie dat gaat bekostigen, of de mensen dat zelf doen of de overheid of toch misschien adverteerders. Laurens: Dus eerst vragen we heel veel aandacht en nu zijn mensen dan denken van wat als we aandacht geven aan onze gebruikers. Laurens: Het interessant is dat ik wat van economen leren, want journalisten zijn eigenlijk geen goede toekomstvoorspellers, eigenlijk niemand weet ik sinds kort ook. Laurens: En technologen al helemaal niet. Laurens: Maar economen hebben vaak een heel ander soort kijken. Laurens: En die hebben we in ons boek misschien nog wat minder, maar door het boek komen we daar in gesprek op. Laurens: En er zijn natuurlijk eerst de economen die kijken, wat is nou de impact van AI op de arbeidsmarkt. Laurens: en economen zeggen bij dit soort grote transformaties, ook met technologie in de samenleving, dan krijgen we meer van hetzelfde. Laurens: Daar zijn wij in principe niet per se heel zien we niet met heel veel plezier naar uit. Laurens: Maar je kunt ook nieuwe luxe, producten die nu luxe zijn, of diensten, kun je binnenhand bereik gaan krijgen. Joop: En ze noemen dan voorbeelden als een gezinscoach voor een gezin waar niet heel veel mis mee is, die de puntjes op die komt zetten, dat zou je nu niet betalen, want het is hartstikke duur: een binnenhuisarchitect voor studenten als überhaupt al een kunnen vinden, misschien een schoonmaker. Laurens: Je zou kunnen zeggen dat wij ooit naar cappuccino's buiten de deur gaan omdat we Senseo kregen, we hadden dat stapje nodig. Laurens: Dat de AI van nu is de Senseo en straks komen we bij de cappuccino uit, want dat is dan de luxe koffie. Laurens: En ik vind het veel interessant om ook met de ideeën uit ons boek na te denken in de journalistiek ook. Laurens: Wat zou dan wat is nu heel erg luxe? Laurens: Wat dankzij ergens in de keten met AI, dus misschien wel sneller of makkelijker of überhaupt gedaan kan worden op schaal en snelheid en heel veel documenten dingen doorzoeken, wat je als mens niet kon. Laurens: Nou, dan kan AI software best wel goed bij helpen. Laurens: En dat je dan als mensen op vakantie gaan, aan jou vragen, omdat jij de Portugal correspondent, hoe is het eigenlijk met Portugal? Laurens: Want ik zie toch wel wat verval en wegen zijn. Laurens: Dat je wil weten hoe dat zit, en dat je dat dus niet aan ChatGPT vraagt, omdat we weten, daar kunnen de antwoorden niet altijd van vertrouwen. Laurens: Als ik een soort abonnement neem op een journalist of een redactie, dan kan ik daar persoonlijke vragen die meer lager zijn. Laurens: Dan krijg je ook antwoord op. Laurens: En als je dat nu zou doen, dan kan de journalist misschien drie mensen per dag servicen. Laurens: Maar misschien met een AI-powered journalist, kan dan veel meer mensen bedienen. Laurens: Dus dat denken vind ik wel interessant. Laurens: Maar over die race en die snelheid wil ik nog wat zeggen, dat is eigenlijk ook een Amerikaanse frame. Laurens: En dat zien we heel veel dingen worden gepresenteerd als een race en een wedstrijd. Laurens: Terwijl in het leven, je familie is geen wedstrijd lief hebben, iemand lief hebben, dat is geen wedstrijd. Laurens: Heel veel dingen in het leven zijn geen wedstrijd, maar dat is best wel een Amerikaanse manier van benaderen verkiezingen. Joop: Passie voor mijn vak ook geen wedstrijd. Laurens: Nee, het is toch geen wedstrijd. Laurens: En ik snap wel dat in business dingen soms concurrentie zijn en een strijd. Laurens: Maar net zoals de honderd dagen van dit kabinet. Laurens: Ja, hoezo? Laurens: Die kan kabinetten niet vergelijken, maar wat heeft het voor zin om te kijken wat ze hebben gepresteerd de eerste honderd dagen? Laurens: Het is een soort false frame, waardoor we allemaal zenuwachtig worden, laatst wat ik erover wil zeggen. Laurens: Sprake Cyberzoek, ook in het boek. Laurens: Er zeiden heel veel mensen, tweeënhalf tot 4 miljoen Nederlanders, zijn niet zo digitaal geletterd. Joop: En dat kunnen wij even uitleggen wat Cyberzoek is. Laurens: Ja, Cyberzoek is een organisatie als ik het goed zeg, die mensen helpen in de samenleving, zijn nu vooral in Amsterdam gevestigd. Laurens: Die er digitaal in het leven niet goed uitkomen, die bijvoorbeeld ook vragen, ik heb van mijn kleinzoon een USB-stick met foto's gekregen. Laurens: Ik weet niet wat een USB-stick is. Laurens: En wij vier denken, nou ja, hoe kan dat? Laurens: Maar er zijn dus tweeënhalf tot vier miljoen mensen die moeite hebben met DigiD om bijvoorbeeld zwemlessen aan te vragen en rijbewijs te verlengen en noem maar op. Laurens: En als je bedenkt dat zij dus best wel zenuwachtig worden van digitale technologie, en dan wordt het nu tegen ze gezegd, AI komt eraan, gaat alles bij je baan gaat veranderen, we gaan er allemaal aan. Laurens: Je moet mee. Laurens: Die worden alleen nog maar meer gestrest. Laurens: Dat zijn heel veel Nederlanders die helemaal niet zo blij worden van dit soort technologische ontwikkelingen. Laurens: En die krijgen juist uit de boot te vallen. Niels: Het lijkt me ook wel lastig, inderdaad, in de huidige situatie. Niels: Het is goed dat er organisaties zijn die daar dus mensen bij helpen, want het wordt alleen maar meer. Niels: Ik was wel nieuwsgierig naar die frames. Niels: Want jullie hebben heel verschillende frames en dat vond ik heel mooi in het boek. Niels: Welke frame was voor jullie ook echt tijdens het schrijven van het boek? Niels: Oh, zo had ik er nog niet na gekeken. Gabriella: Ja, ik heb wel één, maar die heb ik al twee keer gedoe. Gabriella: Ik heb er eigenlijk twee bedoel je de perspectieven neem ik aan de smaken. Gabriella: Ik vond bescheiden AI ook een hele mooie uitgangspunt van Judit zo blijden. Gabriella: Omdat het gaat veel meer over wees bescheiden over de belofte van jou, of de technologie die je als oplossing aandraag, dat ook ontwikkelaars zich een bepaalde houding moeten aannemen, dat het voor een veel eerlijker gesprekken kan zorgen. Niels: Hoe bedoel je de houding aannemen van de ontwikkelaars? Gabriella: Ja, nou, vaak hebben ontwikkelaars, tenminste als vanuit het Amerikaans natuurlijk perspectief, maar ook wel hier, denk ik. Gabriella: De houding van oh ja, mijn oplossing, mijn technische oplossing, is de oplossing, dat er niet andere aspecten meespelen. Gabriella: Dus wat jullie ook mooi uitleggen, is relationele autonomie. Gabriella: Dat gaat dus over dat er veel meer is alleen maar een app die je kan helpen. Gabriella: Je bent verweven met allerlei relaties in je leven. Gabriella: Dus je kan niet zeggen van de technologie is de oplossing. Gabriella: Dat vond ik heel mooi en ook heel eerlijk. Gabriella: En daar ben ik echt naar op zoek als het gaat om AI, ik ben erg op zoek met jou ook naar heerlijke gesprekken over AI. Gabriella: En ik vond natuurlijk dat van Sara moment heel verfrissend. Gabriella: Omdat vertraging is vooruit. Gabriella: Dat hoor je gewoon op. Gabriella: Ik hoort alleen maar van ja, snelheid, meer en die vertraging om dat bevestigd te krijgen door iemand anders. Gabriella: gaf me wel weer de moed om het ook vaker te gaan gebruiken en te zeggen. Gabriella: Want daarvoor was ik vooral bezig met oké, hoe ga ik hier dit goed voor worden, maar zij zei het gewoon van hey, die vertraging gaat juist zorgen vooruitgang. Gabriella: Daar kon ik me heel goed in vinden. Gabriella: Want dat zit ik ook terug in mijn werk. Gabriella: En ja, dat zijn twee van mij. Gabriella: Misschien wil jij dat toevoegen. Joop: Nou, nou heel even langs, want hoe zie je dat dan terug in je werk? Gabriella: Dat ik dat zelf ook toepas, dat ik zelf dus bijvoorbeeld processen help in te richten, waardoor we vertragen. Gabriella: Maar wel met de kanttekening van hey, we gaan het gewoon verrijken, de technologie. Gabriella: Of met de kanttekening van als we dit zo onderzoeken, kan het ook niet de passende oplossing is. Gabriella: En daar moeten we ook oké mee zijn. Niels: Maar hoe gaat je omgeving daarmee om? Niels: Want die willen juist versnellen. Niels: En jij zegt weer gaat vertragen. Gabriella: Wat doet dat met de dynamiek inderdaad? Gabriella: Ja, heel interessant. Gabriella: Nou, ik moet zeggen dat hoe volwassenen we ook als maatschappij worden hierin en ook ik werk ook bij een grote publieke organisatie. Gabriella: Is het vooral om met elkaar samen te werken van de technici hebben een beeld, ik heb een beeld. Gabriella: Maar hoe komen we bij elkaar om samen te bepalen van oké, wat is ons gezamenlijk doel als verantwoordelijk dat iedereen dat doel is. Gabriella: Nou, dan heb ik daar ideeën voor, hebben zij ideeën voor. Gabriella: En ons disciplines raak elkaar ook heel sterk. Gabriella: Dus stel je voor, je hebt een AI-tool en je zegt van hallucinatie is echt een ethisch aandachtspunt of een ander aandachtspunt. Gabriella: Dan kan een technisch met je meedenken van zie kunnen we daar maatregelen voor nemen die dan wel passend zijn om dat wel minder te maken. Gabriella: dit is niet echt voorbeeld, maar hoe het zou kunnen gaan inderdaad. Gabriella: Dus als je met elkaar in gesprek blijft om toch die vertraging op te zoeken om het verbeteren. Gabriella: En vanuit verschillende disciplines natuurlijk. Niels: Laurens wilde ook notg wat zeggen, maar voordat we dat bruggetje maken, had ik toch nog even een vraag dat we nu even perspectieven raken, ik was wel nieuwsgierig. Niels: De perspectieven. Niels: Jullie hebben ook een eigen perspectief waar kwam het overheen, maar ook waar botst het bij jullie. Niels: Want dat zijn interessante gesprekken geweest lijkt mij. Gabriella: Tussen ons twee. Laurens: Ik weet niet of we heel veel gebotst zijn, we hebben wel een gesprek gehad met iemand en die zei bijvoorbeeld, als je bijvoorbeeld het leven van een ander kunt begrijpen dank zijn chatbot en in gesprek te gaan met de chatbot, dan is dat toch ook wat waard. Laurens: En toen kwamen we later achter, maar je wil toch eigenlijk liever met de mens zelf dan in gesprek, want dan wil je de mensen van vlees en bloed zijn. Laurens: Maar ja, maar als er nou een groep mensen is die deze mensen nooit spreekt, dan is het een soort proxy en manier om dat dan toch te bewerkstelligen. Laurens: En toen hebben we daarna bij stilgestaan van ja, maar het is toch eigenlijk iets heel geks. Laurens: Dus dan zeg je doel heiligt dit middel. Laurens: Wij zeggen eigenlijk voor heel veel oplossingen heb je geen AI. Laurens: Heel veel problemen heb je geen AI nodig als oplossing. Laurens: Wat het 2026 is, proberen we heel veel problemen met AI te lijf te gaan. Joop: En wat ze dan zeggen van je gooit spaghetti tegen de muur en see what sticks. Laurens: Dat doen we natuurlijk ook. Laurens: En ik denk dat dat hoort bij die fase om erachter te komen, wat we wel niet met de AI moeten doen. Laurens: En we komen volgens mij best wel snel achter soms dingen wisten we al, dit moet je niet doen. Laurens: En hier werkt het heel handig voor bijvoorbeeld voor het boek zelf. Joop: Dat dan nog even eentje. Joop: Want ik heb in een documentaire ergens gezien, volgens mij op NPO. Joop: En daar is er een jongen op het autism. Joop: En die oefent dus met chatbot. Joop: Ze gesprekken van hoe die dat in de praktijk zou kunnen doen. Joop: Want dan krijgt hij heel veel feedback. Joop: Dat is zeg maar zo'n proxy. Joop: Die je dus inzet om dingen te oefenen. Joop: Dat vond ik dan juist wel weer een hele mooie. Laurens: Dus dit soort dingen zou wel kunnen. Laurens: Ik heb wel met zijn psycholoog gesproken, die zei: Ik heb dan ook, en in zijn geval ook vaak autistische jongens of mannen. Laurens: En die hebben dan heel veel moeite om hun gevoelens onder woorden te brengen. Laurens: Dus die zei, ik zou wel als een exercitie, ik weet uiteindelijk niet of die gedaan heeft, aan hen kunnen vragen, spreek nou eens je gevoelens met een chatbot. Laurens: En kom dan terug met bijvoorbeeld verschillende antwoorden. Laurens: En zeg dan welke wel begrijpt en welke niet. Laurens: Want dan kan ik daarmee werken. Laurens: Dus als je het zeg maar gecontroleerd en onder begeleiding doet, kan het best een vorm zijn die werkt. Laurens: Maar dan willen we natuurlijk van zo'n systeem, zo'n psycholoog weten van zo'n systeem. Laurens: Hoe ver gaat dat gesprek? Laurens: Wanneer wordt er aan de bel getrokken, met wat voor soort casuscasuïstiek is dat model gevoerd. Joop: Waar worden het problematisch? Joop: Ja, precies. Laurens: Wat ik nog wilde zeggen, avond op Gabriella, toen we met Sarah Mohammed spraken, toen ze ook, en dat is nog een frame van Silicon Valley ook. Laurens: Toen ze, we zijn heel bezig met die toekomst. Laurens: Probleem en toekomst. Laurens: Maar zijn we wel klaar voor het nu. Laurens: Dat vond ik heel mooi, want die bracht ons weer in het nu. Laurens: En ik leerde vorige week van een filosoof, Carissa Verlies. Laurens: Dat zij zeiden, feiten gaan over het verleden en het nu. Laurens: En beloften gaan over de toekomst. Laurens: En dat zijn het nog, het is nog niet gebeurd. Laurens: Dus het is geen feit. Laurens: Er kunnen altijd dingen anders gaan. Laurens: Dus we kunnen dat helemaal niet voorspellen. Laurens: Maar er wordt al steeds verkocht dat als we maar genoeg data, als we maar dit doen, straks worden de modellen beter. Laurens: En dat zijn allemaal beloftes. Laurens: Dus het zijn geen feiten. Laurens: En we zijn heel veel problemen nu die we moeten oplossen. Laurens: En dat kan bijvoorbeeld bij een publieke organisatie de werkdruk zijn. Laurens: Ja, AI gaat die werkdruk niet oplossen, die kan een taak misschien helpen versnellen. Laurens: Maar dat lost niet de systemische problemen op. Joop: En wat ook mooi terugkomt in het boek, want over die beloften en de feiten. Joop: Dat beloftes over waar we naartoe gaan, superintelligentie. Joop: Alle in mijn beleving flauwekul, worden echt als feit gepresenteerd, waar zelfs jaartallen op worden geplakt. Joop: De techbro's worden daar gewoon met gemak, jaartallen opgeplakt. Joop: Ik vond het heel mooi, jullie hadden ergens in de boek staan van Peter Thiel had ergens gezegd. Joop: In 2025 zijn we zover met de superintelligentie. Joop: Nou, zijn we voorbij, het is niet gelukt. Laurens: Ja, ze kunt het ook niet eens worden wat de definitie is. Laurens: Dus als we het zien, hoe ziet het er dan uit. Joop: Het wordt ook gepresenteerd als zijn er een feit dat dat moment er gaat komen. Laurens: Ja, maar dat is dat weten natuurlijk helemaal niet. Laurens: En ik heb nu ook begrepen dat Karl Popper, een filosoof en wetenschapper, die zei, ja, het is eigenlijk heel eenvoudig. Joop: Want als we zouden kunnen weten hoe de toekomst eruit ziet, dat de wetenschap dit kan ontwikkelen, als we weten hoe dat pad loopt, dan zijn we. Joop: En dan hebben we het al. Laurens: Maar het feit dat er onduidelijke dingen zijn die nog moet uitgevonden moeten worden, waar iemand nog een doorbraak voor moet hebben en niet weten hoe we daar gaan komen of wie dat dan doen is. Laurens: En of het kan, kunnen we daar niet komen. Laurens: Want als we het wisten, dan hadden we het al wel gedaan. Joop: Het is eenvoudig is het dan eigenlijk. Joop: Ik wil even gaan naar deel onze AI. Joop: En dat begint eigenlijk met een stukje van dat jouw wifi en 5G het altijd doen, vinden we niet meer dan vanzelfsprekend. Joop: Dat je vrije tijd hebt, boeken kunt lezen en de ruimte hebt om na te denken over het gevolgen van AI. Joop: Het zijn voorrechten van een kleine minderheid, zelfs binnen Nederland. Joop: Dat vond ik dat vond ik voor mij eigenlijk wel. Joop: Ik weet dat ik in een bubbel zit. Joop: Dit was voor mij wel best wel een heel belangrijk stukje in jullie boek. Joop: Dat je zegt van dat doen wij hier ook. Joop: Dus wij hebben de privilege om over dingen na te denken. Joop: waar bij jullie daarna zeggen van ja, met de gemiddelde winkel bediende, horecachef, asperge steker, pakketbezorger of fabrieksmedewerker, heeft die mogelijkheid veel minder dan wij. Joop: Of dan jij eigenlijk. Joop: Ik als lezer word aangesproken. Joop: Die kwam bij mij, die kwam bij mij binnen. Joop: Waarom hebben jullie hiervoor gekozen om het ook zo op te schrijven? Joop: Waarom was dit zo belangrijk? Laurens: Omdat wij zeggen, we willen graag perspectieven kantelen. Laurens: En de verhalen over technologie worden vaak als eerste verteld door mensen die er al warmpjes bij zitten. Laurens: En die er waarschijnlijk wel de vruchten van kunnen plukken. Laurens: Die dus zoals in een podcast of op een podium of met een groep collega's over na kunnen gaan denken en werkgroepjes opstellen. Laurens: Maar er zijn natuurlijk heel veel mensen die helemaal die invloed niet hebben. Laurens: Maar daar hebben we wel een verantwoordelijkheid voor. Laurens: Want wij zitten wel dingen te bepalen. Laurens: Voor hoe wij ons jullie ook bijvoorbeeld hoe jullie organisatie gaat vormgeven. Laurens: tussen nu in twee jaar. Laurens: Ja, dat betekent iets voor mensen. Laurens: Dat betekent iets voor waardigheid voor. Laurens: En ze hebben in principe weinig invloed. Laurens: Mensen worden er vaak niet gekend over dit soort beslissingen over de Amerikaanse thema wij in Nederland al niet. Laurens: Dus eigenlijk behoren wij tot een hele kleine groep. Laurens: Dat we hier zoveel ruimte voor hebben om over na te denken. Gabriella: En daarom is het ook belangrijk ook om ook daar dan heel erg voor. Gabriella: En zorgvuldig mee om te gaan. Gabriella: Want het is best wel een privilege om hierover te mogen praten. Gabriella: Te mogen invloed te kunnen uitoefenen. Gabriella: Dus ik neem ook mijn werk als auteur, maar ook als mijn professionele werk ook heel serieus. Gabriella: We hebben een maatschappelijke aanplicht als groep. Joop: Laurens, heb jij binnen jouw vakgebied? Joop: Jouw vakgebied een verandering teweeg kunnen brengen. Laurens: Ik zeg, ik heb niet de illusie dat ik heel veel invloed heb. Laurens: Maar wat ik wat we wel merken sinds het boek uit is, is dat steeds meer mensen nu openlijk durven twijfelen. Laurens: Misschien twijfelden ze ze zelf al, en tussen mensen die ze kenden. Laurens: Want het verhaal was natuurlijk, dat beschrijf ook dat je in Nederland is het niet zo bekend dat je een Luddiet bent. Laurens: Als je zegt, nou dat AI, ik ben er niet zo ben er niet zo van. Joop: Wat is een Luddiet? Laurens: Dan, dat waren dat was een soort fictief personage, bedacht als door een protestgroep in de 18e eeuw, toen kwamen de weefmachines, dus de weefgetouwen en zo. Laurens: En de wevers, die zeiden, ja, maar dit we vinden het niet zo erg dat het nu geautomatiseerd wordt. Laurens: Maar doordat het geautomatiseerd wordt, ziet ons dorp, onze samenleving heel anders uit. Laurens: Want de werkzaamheden zijn anders en alles begrepen in elkaar, was daar rondom gebaseerd. Laurens: En nu gaat dat eigenlijk helemaal kapot. Laurens: Onze sociaal weefsel, eigenlijk, sociale cohesie. Laurens: Dus die machines, die grijpen in op ons hele bestaan eigenlijk. Laurens: Dus je kregen dat soort vraagstukken en daar zijn we eigenlijk niet blij mee. Laurens: Want ja, die bazen die vonden dat een goed idee, maar de wevers zelf niet. Laurens: Dus die gingen die weefgetouwen molesteren, kapot maken. Laurens: En toen zeiden mensen die bent tegen vooruitgang zijn. Laurens: Nee, we zijn niet tegen vooruitgang. Laurens: Er is ons niet gevraagd hoe wij die vooruitgang zelf zien en hoe we die. Laurens: En dat is heel vaak. Laurens: Als je tegen AI bent, ben je tegen tegen innovatie. Laurens: Nou, dan ben je ouderwets, of je snapt het niet, of je hebt je huiswerk niet gedaan. Laurens: O en wij zeggen van nee, je bent helemaal niet tegen vooruitgang. Laurens: Je vindt alleen de manier waarop het nu gebeurt, daar heb je moeite mee. Laurens: Of dan heb je je vraagtekens bij. Laurens: En nu, dankzij het boek zeggen mensen, ja, ik kan wel openlijker twijfelen. Laurens: Dus daar helpt het boek, maar dat ze mensen ook, we zijn een keer bij een boekclub geweest van data en ethiek. Laurens: En dan zei je iemand, ja, ik had vanochtend een gesprek. Laurens: En vorige week had ik ook zo'n gesprek, wist ik niet zo goed wat ik moest zeggen, dan heb ik het boek gelezen. Laurens: Nu wist ik welke vraag ik kon stellen. Laurens: En hebben we hier en daar aan gedacht. Laurens: En ik voelde me gesterkt om die vraag te stellen. Laurens: En toen dachten we, ja, het is goed als mensen, ja, dan ben je soms vervelend. Laurens: En dan ben je tegen vooruitgang. Laurens: Maar ja, als straks heb je een paar duizend euro verspeeld. Laurens: en mensen niet blij gemaakt om erachter te komen om nee te zeggen. Laurens: Nou, dan heb je geïnformeerd nee. Laurens: Maar als je een paar vragen had gesteld aan het begin, was je daar iets sneller gekomen. Niels Naglé: En ook een heel mooi compliment richting het boek, als je dat zo hoort. Laurens: Ja, en we denken wel dat het ondertussen wel wat meer anti-AI-sentiment groeien is tegen datacenters en de klimaatimpact natuurlijk. Laurens: En studenten ook, zeker in Amerika, dit zijn de eerste lichting studeert af, die ChatGPT volop heeft omarmd of heeft moeten omarmen, omdat heel veel onderwijsinstellingen zijn. Laurens: Ja, we gaan dat dit is de toekomst, dus we gaan het gebruiken. Laurens: Nu zijn ze afgestudeerd en dan zeggen ze ja, alle banen verdwijnen dan. Laurens: Dus eerst moest ze er volop inzetten. Laurens: Nu krijg ze geen werk meer voor. Joop: Maar krijg je niet de tegenbeweging. Joop: Dat het straks iets bijna religieus gaat worden. Joop: Dus aan de ene kant hebben we natuurlijk de mensen die al zeggen van ja, maar je moet het overal gebruiken. Joop: Ik denk dat de andere kant, we bent anti-AI. Joop: Dat dat ook niet een gezonde houding is. Joop: Want dan ga je er ook zeg maar rigide in zitten. Laurens: Ja, dus dat polariseert dan ook weer op die manier. Gabriella: Maar ik zie zo zo inderdaad, want wat wij dan belangrijk vinden een stukje van regie pakken. Gabriella: Dus meer van je bent je niet tegen of voor, maar meer van oké, hoe wil jij het doen? Gabriella: Wat is je invloedsfeer? Gabriella: En hoe pak je die regie eigenlijk op AI? Joop: En dan ga je meer richting onze AI of jouw AI daar. Gabriella: Dus dat vonden we ook heel belangrijk, dat stuk van oké, pak die regie, het is niet voor of tegen, maar bepaal waar het wel of niet aan passend is. Laurens: Ja, en er zijn in de journalistiek wel aardige voorbeelden. Laurens: Ik weet zelf dat nu.nl heeft bijvoorbeeld voor hun gebruikersreactie. Laurens: En dat gaat ook over frames. Laurens: Vroeger was het, als mensen gaan reageren online. Laurens: En dat weten natuurlijk wel op social media of asociale media. Laurens: En dan wordt het toxisch en haat en ophef wordt gestimuleerd, maar bijvoorbeeld op eigen platform. Laurens: We willen onmenselijke reacties, zouden we tegen willen houden. Laurens: Dat heeft nu.nl een aantal jaar gedaan. Laurens: En toen kwamen ze terug met nu.nl en zeiden, nou, dankzij machine learning kunnen we die reacties wel ongeveer op sentiment en op haat, zeg maar, klassificeren. Laurens: Maar mogen ze wel of niet. Laurens: Maar ze dachten, maar wat nou als we met een andere bril kijken? Laurens: Welke reacties zijn constructief? Laurens: Helpen het gesprek onder, help onze journalisten om meer onderzoek te doen, brengt ons op nieuwe leads. Laurens: Als we het zo insteken, dan helpt die machine. Laurens: En nogmaals, dit is weer die oude vorm die dus alleen classificeerd zeggen. Joop: Dit is een haat, dit is constructief. Laurens: Je zit een nieuwe bron in, wellicht een suggestie. Laurens: Dat helpt de journalistiek. Laurens: En ze zeiden, daardoor worden die gesprekken vaak beter sneller, omdat reacties sneller door kunnen. Laurens: En dan blijft het gesprek ook gaande. Laurens: Dus ze hebben daar best wel veel vruchten van. Laurens: En OS heeft Joost Schelvis onder andere, die heeft over die Ierse kalfjes die naar Nederland kwamen, maar die dan niet te eten en te drinken krijgen tijdens dan sport. Laurens: Die mogen geloof ik niet eens hier naartoe geëxporteerd worden. Laurens: Hij zei, ja, we hadden daar een idee van, maar dan moesten we al die nummers van bepaalde katten, die krijgen allemaal zo'n soort idee. Laurens: En dat was bijna niet te doen, want dat zijn duizenden records in spreadsheets. Laurens: En dan hadden ze ook AI voor gebruikt en deels een taalmodel om te voorspellen welke nummers, welke badges er dan van Ierland naar Nederland kwamen. Laurens: En dan steeksproefwijs werkte dat heel goed. Joop: En zij waarde dat idee om het te onderzoeken, dat was AI nooit meegekomen, maar we had het onderzoek ook niet kunnen uitvoeren zonder. Laurens: En dit soort toepassingen, die vind ik heel krachtig. Laurens: En als die taalmodellen dan ook nog eens eerlijk zijn ontwikkeld. Laurens: En we weten met welke data en dat mensen toestemming hebben gegeven en waar de fouten zit, als ze dat allemaal weten, en ze draaien Europees en ze nemen niet en je kunt ze lokaal draaien, dat zijn best wel wat voorwaarden. Laurens: Dan vinden we dat hele zinvolle toepassing. Joop: En over, zeg maar, hoe zijn je de nou van onze AI jouw AI. Joop: Daarvoor moet je dan ook het gesprek voeren. Joop: En laten wij daar nou wat voor hebben. Joop: Want dat is wel een belangrijke waarom we dit hebben ontwikkeld. Joop: Dus we hebben samen met het ETZ, Elisabeth twee steden ziekenhuis, hebben we een kaartspel ontwikkeld rondom de inzet van AI in de zorg. Joop: En dan gaat het er niet om van ben je het ergens mee eens of niet eens, maar hoe kijk je er eigenlijk naar? Joop: Dus we hebben een heel kaartspel vol met wel met stellingen, waarbij je met elkaar bespreekt van hoe kijk ik ten opzichte van zo'n onderwerp. Joop: Dus die willen we jullie graag voorleggen. Muziek: Je denkt verhalen. Niels: Het thema deze keer is wetgeving en beleid. Niels: En de stelling luidt als volgt. Niels: Iedere zorgverlener moet verplicht AI geschoold zijn. Gabriella: Als ze omgaan met AI. Niels: Iedere zorgverlener moet verplicht AI geschoold zijn. Niels: Dus iedere zorgen. Gabriella: Dus toch afhankelijk van de context volgens mij ook wettelijke verplichting uit de AI-verordening. Gabriella: Maar ik vind inderdaad wel dat als we met AI omgaan of nou ontwikkelen is of gebruiken of inzetten, is het heel belangrijk om geletterd te zijn, om goede gesprekken te kunnen voeren, is het ook wel belangrijk om te weten van oké, over wat hebben we nou eigenlijk, en daar draagt gaat het heel erg aan bij. Gabriella: En het zorgt ook vaak vind ik afhankelijk van hoe je zoiets aanvliegen. Gabriella: Want het gaat niet in de wij van hoe je nou dit moet uitdragen aan een organisatie. Gabriella: Maar wel belang dat je kritische houding wel benadrukt. Gabriella: Van oké, je hebt ook een verantwoordelijkheid hier ook. Gabriella: Je hebt ook invloed. Gabriella: Dus ga wel bewust mee om. Gabriella: Dus nee, ik ben eens met de stelling als het gaat om het. Gabriella: 100%. Joop: Laten we een andere doen voor Laurens. Joop: Maakt het niet uit, worden het niet van mij al. Joop: Dat is de menselijke kant. Niels: De volgende die eruit komt, is risico's en uitdagingen en een stelling luidt. Niels: Onze datakwaliteit is goed op orde voor gebruik van AI in de zorg. Joop: Het is gemaakt ervoor voor zorginstanties. Niels: Maar op basis van misschien je eigen ervaring van wat is er bij jou bekend over jouw data. Niels: Is dat goed genoeg voor gebruik in de zorg? Laurens: Wat mij betreft is deze stelling heel algemeen. Laurens: Want wat is goed gebruik in de zorg, dan zou ik zeggen, dan wil ik de doelen weten, dus die de patiënt adequaat helpt. Laurens: En soms is dat iets wat ik zelf zou willen, maar waarvan een specialist weet, dat moet je eigenlijk, daar moeten we meer tijd voor nemen of dit onderzoek. Laurens: Dus dat adequaat moeten door een specialist worden ingeschat en de context bepaalt. Laurens: Ik denk als ik. Laurens: Ik heb laatst met een arts gesproken en die zei zij doen dan de anamnese. Laurens: Wat heeft de patiënt nodig? Laurens: Wil die gehoord worden, wil die gewoon pillen, wil die zijn leefstijl aanpassen. Laurens: En de meeste artsen weten nu, we moeten eigenlijk naar leefstijl kijken, heel vaak begint het daar. Laurens: Dus het soort wens en behoeften die die patiënt heeft, kijk, als je acute problemen hebt, dan wil je ook meteen geholpen worden. Laurens: Ja, die spelen daar ook in een rol. Laurens: En dan is sommige data helemaal niet nodig, net zoals als ik pizza bestel, hoef ze niet te weten welk jaar ik geboren ben, toch? Laurens: Dat zijn gelukkig al AVG-wetten, maar het is heel lastig om vanuit data zelf te zeggen dat de kwaliteit goed is of niet, of dat het veilig is of niet. Laurens: Het gaat om de context waarin het gebruikt wordt. Niels: Helemaal helemaal eens. Niels: Ender mooi. Joop: Ja, duidelijk. Joop: Ik pak nog even het boek erbij. Joop: Het is heel lastig om een leesbril om te zetten. Joop: samen met de koptelefoon. Joop: Even kijken hoor, wat ik nog had aangemerkt. Joop: Ik heb een hele hoop ezelsoortjes in het boek gezegd, toch? Joop: Dat zien we graag. Joop: Een van de van de hoofdstukken is ook meer keuzes, andere smaken. Joop: En daar wordt eigenlijk gekeken: hoe zou je nu naar de implementatie kunnen kijken, toch? Joop: Hoe je het hoe je het gebruikt. Joop: En jullie pakken best wel de smaken van de mensen die jullie geïnterviewd hebben. Joop: Maar ik ben eigenlijk wel benieuwd naar jullie smaak. Joop: Ik moet eigenlijk nog beginnen. Joop: Want dat vond ik wel heel grappig. Joop: Jullie zeggen van ja, als AI nou net als gas een geur zou hebben. Joop: Dat vond ik zo'n goede. Joop: Laat me daar beginnen. Joop: Hoe zou die voor jou ruiken, Gabriella? Gabriella: Door dag. Joop: Door dacht. Joop: En jij Laurens. Joop: Ik weet niet hoe je het doordacht kan ruiken. Joop: Oh, echt een geur mee geven. Gabriella: Dan zou het zijn, denk ik. Niels: Goede vraag. Laurens: Misschien naar Kiwi. Gabriella: Misschien is waarom je. Joop: Het zit wel iets bitters in, maar het is ook wel iets zoiets hebben. Gabriella: Ik zag een sterke geur. Gabriella: Ja, ik denk juist een zware geur. Gabriella: Ja, misschien een kiwi, dat kan ook. Joop: Ik weet het eigenlijk nog niet. Joop: Maar goed, uiteindelijk komen er op allerlei smaken. Joop: En even gewoon als voorbeeld voor de luisteraar. Joop: Dus de eerste smaak is bijvoorbeeld nauwkeurigheid, boven snelheid. Joop: Of het tweede smaak, AI die past als breiwerk op maat. Joop: Zo zijn er een aantal smaken beschreven door jullie. Joop: Maar wat zouden jullie eigen smaak zijn? Gabriella: Ja, nu ben ik natuurlijk wel biased door al die negen mooie smaken. Gabriella: Maar mijn eigen smaak zou zijn, goede vraag. Gabriella: Ik weet of jij al een idee om kan ik even nadenken. Laurens: Ik heb wel van de week iets vorige week iets geleerd of een soort inzicht gekregen door iemand stelde vraag, toen was ik bij de Buma, de muziekbrancheorganisatie. Laurens: Die hadden een dag over media in motion en ook over muziek. Laurens: En dan mocht ik bij een ronde tafelgesprek zijn en toen zei iemand iets. Laurens: Als een artiest, een muzikant, als die muziek maakt zelf. Laurens: Die heeft een songtekst geschreven, of die speelt een gitaar of een piano op zo'n manier dat het je raakt. Laurens: En dat je denkt, deze persoon voelt mij, of die snapt mij door de tekst, of dat nummer dat raakt me. Laurens: Dan kan je naar diegene toe. Joop: En dan zeg je, dankjewel, dan kan je complimenten geven. Laurens: Ik heb veel steun aan je gehad, of je hebt me vervoerd, of ik word blij van je. Laurens: Dat kan van alles allerlei soorten emoties zijn. Laurens: En wij zeggen heel vaak dat we zeggen een machine, dat zij IBM al, een machine can never be held accountable. Laurens: Dus het zijn mensen kun je ter verantwoording roepen, maar machines niet. Laurens: Maar ik vond dit de positieve variant. Laurens: Hier kun je een mens verantwoordelijk houden voor iets wat jou te wegen wat jou vervoerd heeft of bewogen heeft. Laurens: En we hebben het vaak over, dat was bijvoorbeeld met die Kids Top 20 was er dan een AI-presentatie die de levensecht uitziet. Joop: En die zou dan nu de hitlijst voor kinderen presenteren, als televisieprogramma. Laurens: Het platen label wat daar de recht die had een AI-presentator in het leven geroepen. Laurens: Maar daar niet bij gezet dat het AI was, het zag je fotorealistisch uit, het leven is echt bewogen als video. Laurens: En kinderen wisten dan niet van is het nou echt mens of niet. Laurens: En pedagogen en eten hebben er allerlei dingen bij. Laurens: Maar een van de dingen is als die presentator straks een band aankondigt of een muzikant. Laurens: Kan ze een grapje maken of iets over zeggen, wat een kind die fan is, misschien niet leuk vindt of die snap de grap niet. Laurens: Die kan dan niet naar die presentator toe en zeggen, ik vind het eigenlijk niet zo leuk wat je gezegd hebt of deed me zeer, of het is niet waar. Laurens: Dus je kunt die AI-presentator niet verantwoordelijk houden voor als het mis is. Laurens: Dus dat wil naar een mens toe. Laurens: Maar wij leggen het, ik legde het vaak negatief uit ter verantwoording. Joop: Het gaat altijd over als iets mis is of onleuk of lullig. Laurens: Maar deze persoon zei, ja, maar het is ook als je een compliment wil geven aan iemand als je iemand zegt. Laurens: Je hebt iets, je hebt niets geleerd of je hebt niets verteld, of je hebt het anders laten zien. Laurens: Je zag, dat werkt ook weer twee kanten op. Laurens: Ik weet niet of dit de smaak is. Niels: Nee, maar het is wel een bepaald perspectief om bewust even stil te staan om ook de andere kant. Laurens: En daarom is het zo belangrijk dat we dat we mensen zijn en dat we kunnen voelen. Laurens: Want dat horen we wel vaak terug. Laurens: Ja, maar machine, maar mens maakt ook fouten. Laurens: Maar dan zeg ik al, naar een mens kun je toe gaan. Joop: Ik vind die omdraaiing naar het positief. Joop: Dat je inderdaad dat je niemand kan complimenteren. Laurens: Ja, kun je een machine een compliment maken. Joop: Ja, dat kan wel. Joop: Dus als je dat nu doet. Joop: En die zegt dan oh, dankjewel. Joop: Ze zeggen dankjewel terug, maar dat heeft geen waar het heeft geen waarde. Niels: Doen jullie het wel. Joop: Nou, nee, soms zeg ik wel iets van top en dan ga ik verder of zo. Joop: Dus dat is wel een soort van compliment. Gabriella: Ik had trouwens wel nog eentje, maar ik dacht vooral voor, het wordt wel benoemd in het boek, maar kwam ook wel voort uit mijn eigen overtuiging, vooral over feminisme en AI. Gabriella: Dus AI eigenlijk voor wie. Gabriella: En feminisme kan dat heel mooi aan. Gabriella: Dat is ook in het boek heel mooi uitgeschreven. Gabriella: Maar dat is voor mij wel echt iets waar ik echt nog steeds voordat ik het boek al schreef al veel mee bezig was. Gabriella: Omdat gelijkheid binnen AI vind ik gewoon heel belangrijk. Gabriella: Dus dat is één. Joop: En hoe draagt AI dan bij in jou in jouw smaak op het gebied van feminisme. Gabriella: Een feminisme bijdraagt aan AI eigenlijk. Joop: Allebei, misschien wel. Joop: Ja, andersom ook. Joop: Het heeft altijd een tweeweg invloed, toch? Gabriella: Ja, nou ja, ik denk zo dus feminisme en AI, ik denk dat het vooral te maken heeft met wat de vraag die ik al net uitlegde over wie eigenlijk. Gabriella: En hoe kunnen we als het gaat om data of als het gaat om allerlei andere AI-aspecten, meer op zoek naar gelijkheid. Gabriella: En niet meer op zoek naar hoe zeg ik dat? Gabriella: Wat we in het begin al zeiden, meer op zoek gaan naar de dominantie, maar meer van voor iedereen. Gabriella: Want ik had een keer wat ik op de hogeschool was ik in gesprek met een docent. Gabriella: En toen zei ze tegen mij, ja, maar AI voor wie. Gabriella: En dat is me altijd bijgebleven. Gabriella: Voor wie is zo'n belangrijke vraag. Gabriella: Die we eigenlijk nooit stellen, ook niet als het gaat om vooral nu als het gaat om hun AI. Gabriella: Dus ik denk feminisme juist. Gabriella: Het opent juist vind ik het gesprek over wie doen we het eigenlijk en voor wie is AI wel of niet passend. Laurens: Het is ook geen verrassing, denk ik dat Gabriella. Laurens: De rol van ethicus, bij de politie vervult. Laurens: Want er was vorig jaar was er wat onderzoek en dan was het frame. Laurens: Vrouwen blijven achter bij AI gebruiken. Laurens: En die twijfelen meer. Laurens: Wat is het eigenlijk het nut? Laurens: Waar gaat dit naartoe en is het wel verstandig. Laurens: En dus het frame was: ja, vrouwen bij verwachten en mannen, die gaan vooruit. Laurens: Die durven dingen en die proberen dingen uit en die gaan mee met de tijd en de toekomst. Laurens: Maar ik dacht, ja, draai het om. Joop: Mannen denk je niet na. Laurens: Die gaan gewoon maar wat zitten doen. Laurens: Terwijl misschien vrouwen en ik chargeer natuurlijk erg is van wat kan ik hier eigenlijk mee en wil ik dat eigenlijk wel en is het wel handig, kan het ook misgaan. Laurens: En dat wordt door mannen dan gezien als vertragend en vervelend en tegen vooruitgang. Laurens: Terwijl je kunt ook zeggen, als we dat als die andere blik dominant maken, hé mannen, wacht eens even, kom eens even terug. Laurens: Wat ben je nou precies aan doen? Joop: Ja, weet ik ook niet wat is vet. Laurens: En ik merk zelf, daar moet ik ook weer eerlijk toegeven dat ik heb die vermissing houdt ook. Laurens: Dus ik ben laatst ook misschien voor de meer technische luister met MCP service en klant CoWork aan de slag gaan. Laurens: Als mensen zeggen, ook wat jij zei, Joop. Laurens: Anders polariseert het zo. Laurens: Dus ik ben niet tegen. Laurens: Soms moet ik het ook uitproberen om te begrijpen waar mensen dan zo enthousiast over zijn. Laurens: Want dan wil ik het ook snappen. Laurens: En ik kan natuurlijk over lezen en andere mensen over spreken, maar soms wil je het ook zelf doen. Laurens: En dan voel ik die lokroep ook om dat te doen. Laurens: En toen had ik mijn Stravadata gekoppeld aan klant met een MCP-server. Niels: Helemaal blij, het kost het toch veel meer tijd dan ik dacht. Laurens: En toen dacht ik, ja, ik snap wel als ik dan kan vragen, hoeveel mountainbike kilometers heb ik de afgelopen negen maanden afgelegd en hoeveel hoogte meten is rondom de Veluwe. Laurens: En dan krijg je dat best wel goed terug, maar ik snap die data heel goed, dus ik weet er goed waar het over gaat. Laurens: Maar toen dacht ik daarna, ja, wat ben ik dan eigenlijk als ik uitzoom. Niels: Waarom? Laurens: Waarom doe ik dit? Laurens: Wat betekent dit? Laurens: En ik begrijp nu wel, maar er zit ook nog heel veel haak en oog. Laurens: Het gaat niet altijd goed en ik moet heel veel kennis nog steeds hebben van mijn data van wielrennen of mountainbiken. Laurens: Dus ja, dan denk ik, nee, ik moet toch ook weer even terug van oké, als dit dan een nieuwe evolutie is, hoe gaat dit wie dan weer helpen? Laurens: Dus ik moet mezelf dus bewust blijven roepen. Gabriella: Maar daar gaat toch ook feminisme ook over van die machtsbeschrijvingen, toch? Gabriella: Dus van oké, van die hun AI van big tech, naar gemarginaliseerde groepen die worden geraakt, zeg maar door dit soort systemen. Gabriella: Dus dat vind ik wel mooi, het is ook kern van ons boek, toch? Gabriella: Die machtsverschuiving in kaart brengen en te kijken, oké, naar wie gaat de macht nu en naar wie niet. Gabriella: En wat kunnen daar we aan doen, daarom vind ik feminisme daarvan echt een mooi om. Joop: En jij zei er straks, je bent meer feminist geworden. Joop: Hoe komt dat tot uiting dan? Laurens: Nou komt het tot uiting, omdat ik in presentaties en workshops heel erg naar voren brengen, wat er al wat er ook wat er mis is en wat de impact op vrouwen is. Laurens: En een van de voorbeelden is die Nudifier apps, die uitkleedapps, daar worden 99% van de gevallen worden vrouwen en meisjes daar de dupe van. Laurens: Mannen niet. Laurens: Als het andersom zou zijn, zouden ze dan. Laurens: Ze zijn nu gelukkig verboden. Laurens: Dan was dat waarschijnlijk veel sneller aangepast. Laurens: Dus heel veel van die software. Laurens: Daarvan zien we, omdat die met de mannelijke blik ontwikkeld zijn en heel veel dingen als uitgangspunten nemen die van mannen vanzelfsprekend zijn ze niet alleen vrouw, maar werken ze vaak ook tegen ze. Laurens: En dat lijkt ja, dan zeggen mensen technologisch neutraal, maar dat is. Laurens: We weten dat het een socio-economisch, sociotechnische context heeft. Laurens: En dan worden bestaande systemen meegenomen. Laurens: En mij heeft dat de ogen geopend. Laurens: Misschien door technologie, maar ook door met Verlieren Hermans te praten en andere filosofen en Maa Harbours. Laurens: En dan komen we daar kom je er eigenlijk achter. Laurens: Het zit er heel erg in dat we vrouwen moeten maar mee. Laurens: O we laten AI-assistenten taken doen die we als soort vrouwentaken, assistenten, die mannen eigenlijk al niet doen, oh, dat is niet zo belangrijk werk, dat kunnen machines wel. Laurens: En zo wordt misschien niet. Laurens: Elke man denkt zo natuurlijk, maar het is een heel soort mannelijke manier. Joop: Gewoon even chargeren. Niels: Er zitten heel veel denkbeelden in de technologie, in de oplossingen die worden gemaakt waar we niet bij stilstaan, dat vind ik zo mooi, dat stilstaan. Niels: En dat voelt als vertragen, maar eigenlijk betekent dat nadenken. Niels: Nadenken, waarom doen we zoiets? Niels: Waarom willen we dit? Niels: Maar ook hoe is het tot stand gekomen en bereiken we daarmee ons doel, eigenlijk allemaal vragen. Niels: Wat is jullie beeld? Niels: Worden de vragen vaak genoeg gesteld in de media. Niels: En hoe kunnen we dat vergroten? Gabriella: In de media? Niels: Dit is iets wat bij veel meer mensen moet gaan leven. Niels: Het boek helpt erbij, maar om die vraag te gaan stellen, maar niet iedereen leest een boek. Niels: Ik ben zelf ook meer een webcaster en wat minder boeken lezen. Niels: Hoe zorgen we ervoor dat dit beeld en dit gesprek meer gedaan wordt. Gabriella: Mooi vraag, maar wel heel ideeën bij. Laurens: Je ziet het bijvoorbeeld, dus meteen heel heftig, maar die Epstein zaak, daarin gaat het in de gewone berichtgeving heel vaak over de mannen. Laurens: En die worden eigenlijk niet veroordeeld. Laurens: Tenminste, ze zitten niet vast. Laurens: Ze krijgen een groot huis, zoals de Prins Andrew. Laurens: O ze verliezen een baan, maar ze worden nooit echt berecht en vastgezet. Laurens: En de vrouwen die zeggen van je moet veel meer die verhalen van de vrouwen. Laurens: Nu worden nog steeds de verhalen van de mannen verteld. Laurens: Terwijl de vrouwen hier geschaad zijn. Laurens: Krijgen de vrouwen alleen in de opiniepagina's vaak de aandacht. Laurens: Dus daar zitten al best wel een groot verschil. Laurens: Dus die verhalen die we vertellen, ik weet dat heel veel redacties bezig zijn. Laurens: We moeten veel meer die gendergelijkheid in onze berichtgeving terug laten komen. Laurens: Dat kost moeite. Laurens: En dat hebben wij ook gedaan. Laurens: Want we hadden makkelijk negen mannen kunnen vinden die over over AI had kunnen vertellen. Laurens: En we dachten, wij moeten juist wat verder doorzoeken. Laurens: Als je één of twee gevonden hebt, kan je gewoon een sneeuwbal. Laurens: Want dan zei jullie Judith Zoë Blijden weer. Laurens: Je moet Ruben Brave hebben. Gabriella: En Braaf vertelde, weet je, kan met die gaan praten. Laurens: Zo kwamen wij een hele nieuwe netwerken. Laurens: Maar je moet er ergens expliciet, misschien niet of het moeite is, maar ja dan moet je een andere weg inslaan waarvan je niet weet wat dan gaat gebeuren. Laurens: Op een gegeven moment gaat dat balletje wel rollen. Gabriella: Maar ook als iemand mij vraagt van hey, wil je iets komen vertellen? Gabriella: En stel, ik kan niet of zo, dan stel ik ook andere namen voor met een ander perspectief, die ook heel interessant zijn voor het medialandschap. Gabriella: En denk ook van ja, wie laat je aan tafel ook op de televisie of in de krant. Gabriella: Dus wie geef je het woord? Gabriella: En nou, mogen verschillende mensen zijn, natuurlijk, zijn dat één perspectief alleen aan tafel moet zitten. Gabriella: Maar vaak zie je wel alleen maar één dominant persoon of perspectief binnen de media. Gabriella: Maar als we dan met elkaar dan elke keer meer mensen aandragen van hey, dit is ook interessant geluid, of meer mensen een podium bieden met een ander kijk of blik, dan komen we denk ik wel ver, wat jij zegt dan, Laurens. Gabriella: Dat geloof ik ook. Joop: En een deel jouw AI zitten ook oefeningen. Joop: Ik denk dat het hele leuke oefeningen zijn. Joop: Maar een van de van de leuke die voorbij kwam, is die van Verlien Herman. Joop: En dat gaat over anders dingen omdraaien. Joop: En zij vertelt wat over een andere manier naar de Turingtest kijken. Joop: Ik weet niet of jullie die scherp hebben. Joop: En die zouden kunnen uitleggen. Joop: Of moet ik hem even. Joop: Ik heb zelf ook een boek geschreven, en ik weet ook niet alles precies meer. Joop: Zo werken dat soort dingen. Joop: De Turingtest gaat er om of wij of we geen onderscheid meer kunnen maken met antwoorden die terugkomen, of het een mens is of een machine. Joop: En zij zegt van ja, dan wordt er een soort van wij moeten gaan bijna gaan bewijzen, dat wij nu een mens worden door die capcha's die we moeten gaan invullen. Joop: Dus dat je overal op moet klikken, de bussen, de bruggen, de motoren. Joop: Ik ben geen robot. Joop: En zij zegt eigenlijk, we zouden eigenlijk naar een andere turingtest moeten. Joop: Namelijk laten wij robots in een wachtkamer zetten. Joop: En ze tot eeuwig laten wachten totdat ze zelf tot de conclusie komen. Joop: Nee, mensen komen dan tot de conclusie. Joop: Dit slaat nergens op. Joop: En dat is eigenlijk dan de robottest. Joop: Dus de robot blijft zitten. Joop: En de mens die zegt van ja, maar dit gaan we niet doen. Laurens: Ja, dat noemen ze nu dat de ergenistest. Joop: En daarmee draait ze eigenlijk het om: van ja, maar wij, wij moeten niet iedere keer bewijzen dat wij geen robot zijn. Joop: De robot moet maar onderzoek bewijzen dat hij geen mens is. Laurens: Wat daar ook in zit, is denk ik het soort van vrijheid versus veiligheidsprincipe. Laurens: Bijvoorbeeld als je gaat vliegen, dan moeten we allemaal door die door die controlepoortjes en soms moet je en je koffer wordt gescand en je soms moet je je riem afdoen in je schoenen uit en zo. Laurens: En dan zou je kunnen zeggen, ja, dan is dus een hele grote groep te dupen, omdat er heel af en toe iemand met kwade zin. Laurens: Ja, best wel effect kan hebben negatief. Joop: En zeg ik het heel even. Laurens: Maar we hebben dan onze vrijheid op dat moment en ons comfort even opgegeven voor de veiligheid van een grotere groep. Laurens: Ik vind het altijd moeilijk om te accepteren op dat moment, maar ik geef het wel een overheid. Laurens: Maar dat hebben we geaccepteerd. Laurens: En dat is met bijvoorbeeld preventief fouilleren is dat ook zoiets. Laurens: Dan geef je ook de vrijheid van het individu op voor de veiligheid van de groep. Laurens: En dat is dit ook. Laurens: Dus wat geven we eigenlijk op als we als wij dat als mens moeten bewijzen dat we mens zijn, kan je het ook omdraaien. Laurens: Wat gebeurt er als die machines. Laurens: En dan is die capcha test, die kunnen daar komen taalmodellen en chatbots nu ook langs. Laurens: Dus dan is zo'n ergernistest misschien best wel een aardige. Laurens: En ik kreeg van de week een filmpje doorgestuurd van een vriend. Laurens: Die had twee. Laurens: Dus in dat filmpje was een man had twee telefoons met ChatGPT de spraakversie opstaan. Laurens: En die zei. Laurens: hey, guys, ik wil het wat jullie hebben over onze favoriete films. Laurens: Kunnen we ze vertellen wat wij al. Laurens: En die chatbots komen daar niet uit, want er zijn drie mensen in het spel. Laurens: En dat gaat dan helemaal mis. Laurens: Dus daar komen ze eigenlijk al niet uit. Laurens: En dat is ook weer wat jullie dit zou je blij, moet ik het altijd denken. Laurens: Die relationele autonomie, heel veel van onze technologie wordt bedacht van één op één, één gebruiker die heel homogeen is, die eigenlijk wel gezond en goed is en heel duidelijk zijn behoefte kan formuleren en het allemaal wel voor elkaar heeft. Laurens: Maar in dit geval zie je, als er dan drie personen zijn, dan komen die chatbots, die kunnen helemaal niet luisteren naar twee andere mensen, maar die moeten hele regen. Laurens: Die zijn helemaal niet zo ontworpen. Laurens: Dus in heel veel gewone mensen situaties gaat deze technologie de hele tijd mank. Laurens: En dan de laatste wat Felienne zegt over dat omdraaien vind ik ook wel mooie. Laurens: Zij zegt magister, ik denk dat een hoop luisteraars dat ook kennen, omdat ze misschien kinderen hebben die wiens school dat gebruikt. Laurens: En dat ze een soort leerling volgsysteem. Laurens: Dan word ik, ik word een surveillant, ik word een politieagent, ik moet kijken of er iemand aanwezig was, of die laat komt, of die boek bij zich heeft, of die huiswerk had gedaan, die presentatie goed was. Laurens: En maar kan niet zeggen, één student heeft heel mooi een heel mooi antwoord gegeven op een open vraag. Laurens: Of zij helpt altijd haar haar muur, haar klasgenoten en komt dan zelf niet aan het werk toe. Laurens: Voor complimenten is geen ruimte in het surveillance. Laurens: En we richten die systemen vaak in op surveillance. Laurens: Hoe zou het zijn als we op complimenten zouden inrichten. Joop: En dat triggerde met juist deze oefening. Joop: Want dat gaat ook in wordt ook heel vaak ingezet in bijvoorbeeld fraudebestrijding of dat soort zaken. Joop: Terwijl als je het hebt dan in de publieke sector, zou je ook kunnen omdraaien. Joop: Als je het hebt over de oefening, draai het om. Joop: van zouden we het kunnen inzetten om te kijken van wie heeft waar recht op. Joop: in plaats van dat je we denken altijd zeg maar in een soort van repressie of in wat niet goed. Joop: Dus dat vond ik mooi aan deze oefening van als je nou zo'n systeem bedenkt. Joop: Als je het nou eens omdraait, zouden we er dan ook een positieve variant van kunnen maken. Laurens: En moeilijk is dat het ook gebeurd is met de gemeente Amsterdam. Gabriella: Ja, klopt. Gabriella: Nee, maar ik denk ook een stukje van vertrouwen natuurlijk, vanuit vertrouwen het meer benaderen. Gabriella: In plaats vanuit wantrouwen als het gaat om fraude en gemeente, natuurlijk, Amsterdam. Gabriella: Boen je dan van een slimme. Gabriella: Ja, dat ze inderdaad dan hebben gekozen om dan niet daarmee door te gaan. Gabriella: En dat is ook wel van ja, volgens mij was het project dat zij zeiden van zo'n mensen kregen een soort bijstand. Laurens: En als ze moesten opletten of ze bijvoorbeeld als ze weer geld ging verdienen, dan moet je laten terugbetalen. Laurens: En dan zei, we zien dat u nu inkomen heeft. Laurens: Dus let op, je moet het nu stopzetten. Laurens: Dus ze wilden mensen helpen om iets te voorkomen in plaats van te beboeten of te controleren. Laurens: En toen hebben ze volgens mij echt wel meer dan twee jaar aan het systeem gewerkt. Laurens: Kwamen ze eruit, dat bleef maar vooroordelen en discrimineren. Laurens: Welke knoppen ze ook draaien. Laurens: Ze hebben dat heel openlijk gedeeld. Laurens: Heel veel mensen geconsulteerd in het open ook. Laurens: Het is eigenlijk heel lovenswaardig en uiteindelijk besloten om het niet in te zetten. Laurens: Dus daar bleek toch die inherente vooroordelen die aan dit soort machines zitten. Laurens: Dat konden ze dus niet wenselijk toepassen. Gabriella: En dan hebben ze ook naar nee gezegd inderdaad van hier stoppen wij mee gedaan. Gabriella: Dat vind ik best wel een beetje. Laurens: Dat is best wel toch. Joop: Als je daar zoveel geld en tijd nee. Joop: Moedig vooral. Laurens: Maar ja, dit is een project waarvan we weten hoe ze het hebben aangepakt, waar ze eerlijk over zijn geweest. Laurens: Er zijn heel veel projecten niet zo getoetst, wel doorgezet. Laurens: En daarna de schadelijke effecten. Gabriella: Dat hebben we vaak gezien. Joop: Daar kennen we allemaal de voorbeelden van. Niels Naglé: Dan gooien we het geld weg inderdaad, want dan hebben we er niet van geleerd. Niels Naglé: En we moeten ervan leren. Niels Naglé: En daar hebben we de transparantie. Niels Naglé: Misschien wel best. Niels Naglé: Dan is het een investering geweest. Niels Naglé: En anders is het inderdaad. Gabriella: Wel benutten trouwens, wat jullie hebben opgepakt bij jouw AI. Gabriella: Hebben jullie er nog wat? Gabriella: Ja, het pas je niet toe. Gabriella: Van dit hoofdstuk. Joop: Geef je eigen invulling van AI. Joop: Kijk, ik heb hem hier erbij gezet. Joop: De valkuil 1, we moeten echt meer met AI gaan doen. Joop: En dat is niet dat ik dat nu vanwege het boek ben gaan doen, maar het is iets. Joop: Ik zit al heel lang, zeg maar in deze technologie. Joop: Dus sinds 2017 geef ik bijvoorbeeld workshops rondom waar je AI in kan zetten in je bedrijf. Joop: En 9 van de 10 keer en dat is nog steeds zo, is de beginvraag waar kunnen we AI in zetten. Joop: En ik heb dus al vanaf 2017 zit in die workshop de omdraaiing in van wat is je doel, wat wil je bereiken, waar zitten je problemen. Joop: En daar zou eventueel dus als we dat helemaal afbellen van hoe je daar zou kunnen verbeteren, zou AI een middel kunnen zijn. Joop: Maar dat is niet het uitgangspunt. Joop: Dus dat was vooral eigenlijk een herkenning. Joop: Een bevestiging van ja, fijn dat dat ook steeds meer gezien wordt. Joop: Dat is niet het juiste uitgangspunt. Joop: Behalve als je een leerdoel hebt. Joop: Je zegt van ja, maar we willen dingen gewoon leren over deze technologie. Joop: Wat kan het, wat kan het niet, wat zijn kansen en risico's? Joop: Dan kan het een uitgangspunt zijn. Joop: Maar dan zeg ik altijd. Joop: Maar dan moet je ook je leerdoel formuleren en het als een leerdoel zien. Gabriella: En ook een eind en beginnen eind. Laurens: Wat zijn de reacties van die workshoppers dan als jij zegt van we moeten de vragen omdraaien. Laurens: En misschien ergens is AI misschien een optie. Joop: Over het algemeen positief. Laurens: Maar je wordt gegeven om we gaan met AI werken, denk ik. Joop: En dan kom je het niet. Joop: Of heel vaak niet of zo weinig. Joop: Het leuke is dat ze dat ze uiteindelijk zeg maar een oplossing willen voor een probleem. Joop: En daar komen we wel. Joop: Wat moeilijker is, en daar loop ik wel eens tegenaan. Joop: En dan worden dat soms stevige gesprekken, is dat ze die doelen moeten formuleren. Joop: En als ze die niet hebben of nog niet scherp hebben, dan komt er wel eens van ja, maar kom op, we willen gewoon door. Joop: We willen dit inzetten. Joop: En dan ga ik niet zomaar overstag. Joop: En dat zorgt wel eens voor wrijving. Joop: Maar dat is wel gezond, toch ergens? Joop: Vind ik ook. Joop: En ik doe het vanuit een positieve intentie. Joop: Want ik geloof dat ik ze daar ook mee help. Joop: Want als je het gewoon iets maakt om te maken. Joop: Ja, wat heb je daar dan aan? Laurens: Want dan komen ze over drie maanden terug. Laurens: Wij zijn heel enthousiast voor jou over die taalmodellen, maar nu blijken ze vol foute verkeerde orders. Joop: Of we hadden dat alleen maar niet nodig. Joop: Dat je de een of andere suboptimalisatie. Niels: Niet passend bij het vraagstuk. Laurens: Vorige week die workshop bij de politie, daar vroeg ik aan het eind. Laurens: Want dan kwamen we vaak op adviezen uit doordat ze wat dingen van deze oefeningen uit het boek gebruikten om iets niet te doen met AI. Laurens: En toen vroeg ik aan het eind. Joop: Zijn er mensen nu ook teleurgesteld eigenlijk. Laurens: Er waren dus ook best wel wat mensen die zeiden en voornamelijk mannen trouwens. Laurens: Ja, nee, want ik had wel graag iets met AI willen doen. Laurens: En zei, maar hoe vind je het dan? Laurens: Nu zijn? Laurens: Ja, dus daar ben ik wel teleurgesteld over, maar ik snap nu wel dat we dat inderdaad niet zomaar moeten doen. Laurens: En dat ik nu goede vragen heb en dat dat inderdaad eerst veel meer duidelijk moet worden. Joop: Dus het is goed dat we nee zeggen, maar ik vind het toch jammer dat snap ik ook heel goed. Laurens: En dat maakt je heel erg menselijk. Laurens: Dus iets kunnen snappen en ergens van balen tegelijk, maar kunnen uitleggen, de kunnen machines. Niels: Ja, mijn puntje was vanuit het hoofdstuk was de kracht van de double diamond model. Niels: Dus designing the right thing, designing the thing right. Niels: En soms beseffen we niet aan welke kant van de diamant we eigenlijk aan het werk zijn. Niels: En daar bij stilstaan. Niels: Welke kant zijn we nu mee bezig? Niels: En hebben we die andere kant van de diamant eigenlijk wel bevraagd. Laurens: Ja, dat hoor ik Joop eigenlijk ook zeggen als jij binnenkomt, dan hebben ze eigenlijk het eerste deel van de diamant. Laurens: Ze willen gewoon iets designen. Laurens: Maar weet je wel of je de juiste ding aan het doen bent. Gabriella: De waarom vraag ook wel? Gabriella: Die probleemdefiniëring inderdaad, dat wordt te weinig. Niels: Jullie noemen de doordachte AI. Niels: Ik zeg het passende innovatie. Niels: Het moet passen. Gabriella: Precies. Gabriella: Allemaal mooi uitgangspunten trouwens. Joop: Gezien de tijd, volgens mij zouden wij nog een uur met elkaar kunnen vullen. Joop: Maar dat willen we de luisteraars. Joop: Ja, ik weet niet of het niet aandoen is. Joop: Is er een vraag die wij niet gesteld hebben, of wil je nog iets zeggen over het boek, wat gezegd moet worden. Joop: Want anders ga je hem niet met een goed gevoel naar huis. Gabriella: Ik denk wel dat we één ding wat duidelijk is, AI is gewoon mensenwerk, dus je hebt invloed. Gabriella: Welk niveau je ook maar zit, en maak daar vooral gebruik van. Laurens: Twijfel is ook een soort vermomde nieuwsgierigheid. Laurens: Dus omarm die twijfel, sterker nog maken je kracht van zeggen. Laurens: Ik heb gewoon nog wat vragen en niet om het proces te traineren. Laurens: Maar hebben we hier aan gedacht, als we dat gedaan hebben de antwoord prima. Joop: Je zou best wel op de muur kunnen. Joop: Twijfel is vermomd nieuwsgierigheid. Laurens: Maar je hebt gewoon nog wat dingen onduidelijk. Laurens: En nu durf je dat heel misschien niet te uiten, omdat we wat we in het boek zeiden, omdat je bang bent, omdat ze je voor je baan. Laurens: Omdat zeggen, jij zit altijd zo tegen te houden, slechte beoordeling. Laurens: Of jij gaat niet op dat team met de leuke dingen. Laurens: En daar mag jij niet op. Laurens: Dus mensen houden dat voor zich, maar presenteer je twijfel als nieuwsgierigheid. Joop: Ik zou de luisteraar mee willen geven: lees het boek niet in onze AI fijne diepgang. Joop: Ik weet zeker dat je er wat van leert. Niels: En je gaat ook praktisch mee aan de slag, daar ben ik ook 100% zeker. Joop: Dankjewel dat jullie in de studio wilden zijn. Joop: Bedankt voor dit gesprek. Joop: Leuk dat je weer luisterden naar deze aflevering, vergeet je niet te abonneren via favoriete podcast-app. Joop: Dan mis je geen aflevering, iedere maandag en donderdag. Joop: En tot de volgende.