AI-beleid: laat de juridische afdeling het niet schrijven

Aisha: Niels en Joop spreken met Charlotte Meindersma. Aisha: Zij is jurist bij Charlotte's Law & Fine Prints. Aisha: Ze schreef het boek AI met beleid. Aisha: Herstelling is verrassend. Aisha: Laat je AI-beleid niet door de juridische afdeling opstellen. Aisha: Dan krijg je alleen maar dit mag niet en dat mag niet. Aisha: Maar dan is het de vraag, waar begin je dan? Aisha: En wat mag er eigenlijk wel? Aisha: In deze aflevering krijg je concrete handvatten om AI-beleid te maken dat op de werkvloer blijft hangen. Aisha: Veel plezier. Joop: Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Joop: Ik ben Joop Snijder, Head of AI bij Info Support. Niels: Ik ben Niels Naglé. Joop: En je bent het altijd. Niels: Ik weet niet wat ging. Joop: En in de studio hebben we Charlotte Meindersma, auteur van het boek AI met beleid, daar gaan we het vandaag over hebben. Joop: Maar voordat we meteen het boek induiken, figuurlijk gesproken, zou je jezelf eerst even willen voorstellen. Charlotte: Ik ben Charlotte Meindersma. Charlotte: Mijn nieuwste boek is AI met beleid. Charlotte: Ik ben in principe jurist en uiteraard op het gebied van AI, privacy, auteursrecht en merkenrecht, dat soort zaken. Charlotte: Dus vanuit ook dat ik dit boek eigenlijk heb geschreven, misschien wel iets meer gericht op beleid en hoe je erover na moet denken, in plaats van dat het alleen maar heel strikt juridisch is, ik wil het graag iets praktischer maken. Joop: We zijn heel blij dat je terug bent. Joop: Want er is al een eerdere aflevering, die zullen we ook in de shownotes zetten, daar verwijzen we naartoe. Joop: Maar het boek, waarom moest het boek er komen? Charlotte: Nou, voornamelijk omdat er nogal zwart-wit gesproken wordt over AI. Charlotte: Of je bent een voorstander en vindt alles fantastisch, of je zegt, nou is helemaal ruk en helemaal niks. Charlotte: Ook een beetje omdat er heel veel mensen over AI praten, alsof het alleen maar generatieve AI is. Charlotte: Terwijl AI heel erg veel meer is dan dat. Charlotte: En om er dus een beetje voor te zorgen dat mensen misschien meer een eigen afweging kunnen maken. Charlotte: Waarom willen we het wel of niet gebruiken? Charlotte: Op welke manier, dan, hoe breed, et cetera, dat je er wat meer zelf over leert na te denken, in plaats van dat je veel op LinkedIn kijkt, wat iemand zegt en dat volgt. Joop: Ik moet zeggen dat het eerste deel, of de eerste twee hoofdstukken, vier hoofdstukken, het boek, grote hoofdstukken. Joop: Verraste me inderdaad dat je hier ook over schreef, omdat ik. Joop: Ik ging het lezen met AI met beleid. Joop: Ik dacht, ik lees alleen maar over beleid. Joop: Dus dat verraste me. Joop: Waarom die drang, zeg maar, dat je dat ook wilde vertellen? Charlotte: Omdat ik denk dat als je binnen een bedrijf beleid moet maken over AI. Charlotte: dat dat ook veel meer gaat over het maken van de afwegingen en veel meer begrijpen waar je allemaal over na zou kunnen denken. Charlotte: Wat AI allemaal wel en niet is, wat daar de kansen van zijn, wat daar de gevaren van zijn, dat je dat hele spectrum begrijpt, weet dat het daar is, dat je dan betere keuzes kunt maken en dus een beter beleid kunt bouwen. Charlotte: En dat ik daardoor ook denk dat je beleid wat flexibeler kan zijn. Charlotte: en wat minder rigide in de zin van dit is het en zo mag het wel en niet. Charlotte: En zo blijven we dat de komende tien jaar doen. Charlotte: Dat gaat niet met AI. Charlotte: Je moet die flexibiliteit er een beetje in krijgen. Charlotte: Die nuance moet er een beetje in komen, je daarna dan een beetje richting dat beleid. Niels: En waarom gaat dat niet? Niels: Waarom kan je het niet zo rigide neerzetten? Charlotte: De luisteraar snappen wel wat AI is, toch. Niels: Nee, nee, nee, zeker. Joop: Wat ik wel echt leuk vond, je bent jurist. Joop: Dat je ook zegt in het boek van: laat het beleid niet eigenlijk opstellen door de juridische afdelingen. Charlotte: Nee, ben je mal. Charlotte: Dan krijg je alleen maar dit mag niet, dat mag niet. Charlotte: Dit is een risico, vooral niet doen. Charlotte: Ja, dat is onwerkbaar. Joop: Wie moet het wel initiëren en starten en aan tafel zitten in eerste instantie? Charlotte: Nou, ik denk dat je heel erg op de werkvloer moet beginnen. Charlotte: Ook om gewoon shadow IT, shadow AI te voorkomen. Charlotte: Want als je zegt, het mag allemaal niet of we zijn daarmee bezig, je maakt het allemaal heel moeilijk. Charlotte: En dan gaan mensen zelf een beetje lopen klussen en gebruiken met privé-accountjes aan de slag. Charlotte: Dus je moet absoluut, wat mij betreft, beginnen bij de werkvloer, kijken wat mensen nu al gebruiken, wat ze willen gebruiken, waarom dat zo is. Charlotte: En dus liever niet bij de managementlaag beginnen. Charlotte: Want die beslissen dingen voor anderen, maar weten vaak eigenlijk niet voldoende hoe het in de praktijk werkt. Charlotte: En uiteraard IT'ers daarin mee. Charlotte: En eventueel wat security mensen die daar weer wat van weten. Joop: Dan mag je aan het eind misschien de jurist bij de laatste check, moeten ze jou nog wel even laten komen. Charlotte: Nou ja, kijk, het kan natuurlijk wel zijn dat je anders beslissingen neemt op basis van puur wat praktisch is, wat je graag zou willen. Charlotte: Maar waardoor je misschien toch net iets te veel risico's neemt. Charlotte: Of dingen doet die juridisch niet mogen, maar je denkt, zo werkt het handig, zo werkt het praktisch. Charlotte: Dus dit willen we. Charlotte: Er zitten nou eenmaal wel wat juridische kaders en grenzen aan. Charlotte: Dus daar moet je uiteindelijk nog wel rekening mee houden. Joop: Heb je ergens een paar voorbeelden waar je vond dat het veel te strikt was genomen? Charlotte: Nou ja, genoeg bedrijven zeiden, we gebruiken maar geen AI, want het is eng. Charlotte: Hoeveel dat wel niet nog steeds wel voorkomt ook. Charlotte: Dat werkt niet. Charlotte: Want daardoor krijg je heel veel mensen die dan denken, ja, wacht even, maar het gooit wel even in ChatGPT, want dan is dit en dit veel sneller voor mij gedaan. Charlotte: Ja, dat doen ze met een privé-accountje gratis. Charlotte: Dan kun je leuk dat schuifje wel aanzetten en je mag er niet mee trainen. Charlotte: Maar ChatGPT mag gewoon alles analyseren wat daar binnenkomt. Charlotte: Dus ze zien het sowieso wel. Charlotte: Je deelt je gegevens alsnog wel, misschien een model strikt genomen en niet met in- en de output direct mee getraind wordt. Charlotte: De analyse gebruiken ze misschien wel om maar mee te trainen. Niels: Dus dat is ook een stukje begrip, ook vanuit de werkvloer, wat het effect is als je inderdaad het zelf gaat gebruiken. Charlotte: Nou ja, en zie je wat er gebeurd is bij de gemeente Eindhoven, waar ambtenaren gewoon hele dossiers over uitkeringen en zo. Charlotte: In ChatGPT hebben gegooid. Charlotte: Omdat ze dacht, het is praktisch om daar veel analyse op te lossen laten. Charlotte: Wat ze exact hebben gedaan, weet ik niet. Charlotte: Maar dat kwam eigenlijk alleen maar omdat de gemeente Eindhoven een aantal maanden wat steekproeven had gedaan. Charlotte: En daaruit bleek dat meerdere medewerkers dit deden. Niels: Ik ben wel nieuwsgierig, want dan zeg je begin op de werkvloer. Niels: En werkvloer en beleid. Niels: Voelt voor mij altijd wel een afstand. Niels: Dus hoe krijg je ze dan mee van, goh, wat neem je van de werkvloer mee en hoe vormt dat zich dan naar beleid? Charlotte: Nou, je gaat dus eerst eens inventariseren. Charlotte: Wat gebruiken mensen eigenlijk al? Charlotte: Wat zouden ze willen gebruiken? Charlotte: Wat zouden ze willen doen. Charlotte: Dus specifieke tools, maar ook gewoon de toepassingen. Charlotte: Zodat je daar eigenlijk al een controle op kunt doen. Charlotte: willen wij dit gebruiken, hoe zit dat financieel in elkaar. Charlotte: Wat zijn eventueel alternatieven, et cetera. Charlotte: Dus dat je ook goed voor jezelf argumenten kunt hebben, waarom je het wel of niet zou willen gebruiken. Charlotte: Zodat dus ook weer terug kunt geven aan de werkvloer. Charlotte: Oké, jullie willen eigenlijk dit en dit en dit kunnen. Charlotte: Daar gebruiken jullie nu zo voor. Charlotte: Maar dat wordt te duur, of we hebben nu te veel verschillende tools en dat gaat niet. Charlotte: En we hebben om deze en deze redenen nu gekozen voor deze en deze tools. Charlotte: En die van jullie, ja, dat gaat helaas even niet. Charlotte: Want nou dit en dat. Charlotte: Dus dan nemen ze helemaal mee eens. Charlotte: We begrijpen wat je wil. Charlotte: We weten ook waarom je het wil. Charlotte: We hebben wel geluisterd naar waarom je het wil gebruiken. Charlotte: En we hebben dus ook een alternatief voor je. Charlotte: O we kunnen aan je uitleggen waarom het nu niet kan, maar het voor de toekomst meenemen. Niels: Klinkt als een hele logische stap, maar in de praktijk vaak. Charlotte: Nee, maar dat gaat op niet alleen met AI, maar gaat met al het beleid natuurlijk mis. Charlotte: Dat het van bovenaf wordt opgelegd en dan wordt het een soort papieren tijger. Charlotte: Waar we mensen alleen maar denken, ja, dat is allemaal te lastig, het is te rigide, dit is niet werkbaar. Joop: En dan wordt het ook alleen maar een stok om mee te slaan, dat als je iets verkeerd hebt gedaan. Joop: Dat je je daarmee eigenlijk een soort van afgedekt hebt of zo. Charlotte: Ja, en in hoeverre heb je je dan afgedekt. Charlotte: Want dan kun je een werknemer op zo kop geven, maar die mag toch niet ontslaan. Charlotte: Dus je aansprakelijkheidsproblemen heb je dan nog steeds. Charlotte: Dus ja, dat schiet eigenlijk niet op. Charlotte: Dus kun je juist beter zorgen dat je mensen meeneemt, dat je de problemen voorkomt, in plaats van dat je zegt, ja, nee, we hebben altijd wel opgeschreven hoor, dat het niet goed. Joop: Wel helemaal geen AI. Joop: Die zien wij ook wel. Joop: Maar als we een laagje dieper gaan, zijn het toch ook nog wel bepaalde regels waarvan je zegt, dat is eigenlijk raar, weet je dat ze die als beperking opleggen. Charlotte: Heb je een voorbeeld wat voor regels je doet. Joop: Nee, niet per se. Joop: Ik was gewoon benieuwd of jij dat uit de praktijk ziet. Joop: Dat als je zo'n beleid krijgt die denken van ja, weet je, waarom zet je dit, waarom probeer je dit nou te beperken? Charlotte: Ja, precies. Charlotte: Nou ja, kijk, er zijn natuurlijk wel heel veel misverstanden over persoonsgegevens of zo bijvoorbeeld. Charlotte: En op welke manier dat wel en niet mag. Charlotte: Dus waardoor soms iets in het geheel niet gebruikt mag worden. Charlotte: Dat denk ik, nou, als je nou zorg dat je voordat je het in AI gooit alvast wat filtert, zodat je het anonimiseert en dan goed anonimiseert, niet alleen maar namen eruit, maar alles wat herkenbaar zou kunnen zijn. Charlotte: Ja, dan kan dat natuurlijk heel fijn zijn om dat los te laten op je data om daar goede analyses uit te draaien. Charlotte: Dus dan is het wel heel vervelend als je echt zegt alles wat over mensen gaat, mag in het geheel niet of zo. Joop: En ik kan me ook voorstellen dat er, want er is natuurlijk heel veel te doen rondom de AI-act. Joop: Dat die ook dat daar zoveel ruis omheen zit, dat mensen ook besluiten nemen. Joop: Omdat ze zeggen, ja, dat moet van die wet. Joop: Terwijl het misschien niet behoeft, of veel genuanceerder ligt. Charlotte: Dat is inderdaad, met elke wet wel zo dat er dan gezegd wordt, nou, dit en dat mag in het geheel niet. Charlotte: En dat is dat is niet waar. Dat was een fout in mijn vorige antwoord; hieronder de correcte gecorrigeerde SRT vanaf het begin. Charlotte: En dat is dat is niet waar. Charlotte: Juist ook in de AI, inmiddels een regeling dat je mag zoeken op bias, juist om te voorkomen dat een bias ergens in kan zitten. Charlotte: Er zitten heel veel positieve elementen in. Charlotte: Terwijl er inderdaad vaak gekeken wordt naar ja, dit en dit en dit mag dus allemaal niet. Charlotte: Emotieherkenning is zo'n ding, dat is deels inderdaad een verboden AI-toepassing. Charlotte: Maar dat hangt er heel erg van af hoe je het gebruikt, want anders valt het vooral onder hoog risico. Charlotte: Emotieherkenning mag niet op de werkvloer, niet in het onderwijs. Charlotte: Maar in heel veel andere gevallen, mag het best met wat waarborgen eromheen en zo. Charlotte: Maar dat mag wel. Charlotte: Maar mensen hebben dan ergens gelezen, het mag niet. Charlotte: Dus gaat het opeens voor alles verbieden. Charlotte: En dat kan natuurlijk heel erg zonde zijn. Niels: Zeker wat ik ook wel leuk vond aan hoofdstuk 1 en 2, inderdaad, wat jij dan een beetje verrast was, omdat je allemaal beleid had gewacht, is een stukje onbewust, niet voldoende aan de wet, onbewust data delen, onbewust de biases. Niels: Een stukje bewustheid toch, toch kennisgebrek of niet te diepte in. Charlotte: Zoveel kennis gebruik. Niels: Heb je een voorbeeld wat je tegen bent gekomen onbewust niet voldoende aan de wet. Niels: Waar moeten mensen dan aan denken als ze. Charlotte: Nou, omdat mensen heel vaak komt het gewoon dat mensen te veel bezig zijn met praktisch. Charlotte: Dus dit wil ik doen. Charlotte: Dit kan er met AI. Charlotte: Dus dan gaan we dat ook zo doen. Charlotte: Dat zie ik in heel veel trainingen, workshops, ook van gerenommeerde trainingsbureaus en zo terugkomen. Charlotte: Dan krijg je een cursus Copilot of die dergelijks, of een cursus Claude, of whatever. Charlotte: Ja, dan kun je dit mee doen. Charlotte: Je kunt er dat mee doen, je kunt er zus mee doen. Charlotte: En iedereen gaat naar huis met oh wat fantastisch. Charlotte: En dit en dit en dit kunnen we er allemaal mee doen. Charlotte: Niemand die er bij nagedacht heeft of dat dan ook wel mag. Charlotte: Want ja, als het kan, dan zal het dus ook wel mogen. Charlotte: Zo zit die software natuurlijk niet in elkaar. Charlotte: Bovendien is het eigenlijk veel te zonde om je AI al zo of je tools zo strikt in te regelen, dat het daar helemaal niet mee zou kunnen. Charlotte: Want dan loop je ook het risico dat je hem dus te strak in zou regelen. Charlotte: Dus dat is iets waar het juist normaal gesproken met medewerkers over zou moeten hebben. Charlotte: En dat je ze misschien dus intern dan ook opleidt met ja, liggen de grenzen. Charlotte: En dit mag wel en niet. Niels: Als we een praktisch voorbeeld die ook in je boek noemt, is het meetingssoftware. Niels: Volgens mij hebben we allemaal Teams overleggen waar we een tegenwoordige notitie op maken, zoomen en noem het allemaal op. Niels: Waar moet je dan aan denken? Niels: Vanuit de wet? Charlotte: Nou ja, iedereen gebruikt het nu met automatisch een opname en we laten het transcriberen. Charlotte: En nou weet ik veel wat je er allemaal mee wil doen verder. Charlotte: Maar dan hebben we bijvoorbeeld ook nog gewoon met wat privacy te maken natuurlijk. Charlotte: Er zijn er al een hoop van die tools die zijn hartstikke Amerikaans, waardoor ik zelf wel een beetje vind dat je daar mee uit zou moeten kijken. Charlotte: Strikt juridisch mag het nog. Charlotte: Maar er lopen ook weer procedures bij het Hof van Justitie van de Europese Unie om Amerikaanse software eigenlijk ook weer, of tenminste, ook van verzwaarde cloud en zo werkt uit te bannen. Charlotte: Dus als je zo'n opname maakt, dat is ook weer een verwerking van persoonsgegevens. Charlotte: Dus daar moet je weer voldoen aan de AVG, transcriber als je dat soort dingen allemaal door AI laat doen. Charlotte: Welke gegevens gaan daar allemaal in. Charlotte: Mag dat eigenlijk wel, wat gebeurt daarmee? Charlotte: Weten mensen wel dat je het opneemt. Charlotte: Ook hier kan het zijn dat daar of gevoelige persoonsgegevens in zitten, of dat er allerlei bedrijfsinformatie dus opeens. Charlotte: AI ingaat. Charlotte: Welke tools gebruik je daarvoor? Charlotte: Wil je dit ook eigenlijk allemaal wel? Charlotte: We doen het. Charlotte: Want het is zo lekker praktisch, het is zo lekker makkelijk, hoeven we zelf niet meer te notuleren. Joop: Het aantal meetings, zeg maar, waar ik in kom bij Firefly, zeg maar de transcribeersoftware al als eerste al in de meeting zit. Joop: Die zijn niet meer op één hand te tellen. Charlotte: Ik ga er ook vanuit dat als ik ergens zit dat het allemaal gewoon wordt opgenomen. Charlotte: Als ik ergens een workshop geef of zo, mag je het opnemen. Charlotte: Nou, heel strikt juridisch niet, want dan is het ook nog eens mijn auteursrecht, wat je dan aan het opnemen bent en het verveelvoudigen bent, et cetera. Charlotte: Dus nee, dat zou eigenlijk niet zomaar mogelijk, mag niet zomaar. Charlotte: Ik weet dat het gebeurt. Charlotte: Deels denk ik ook wel een beetje zorgen dat je er rekening mee houdt dat het gebeurt, ook als het niet zou mogen, als je het niet zou willen en dat je dus vooraf hele duidelijke afspraken maakt. Charlotte: Om het om wel of niet zo'n opname te maken of op welke manier daar wel of niet een AI-tool aan te pas komt. Niels: Dus maak weer die stap bewust, van onbewust naar bewust, waar kies ik voor. Joop: In dat kader had ik een vervolgvraag. Joop: Die had ik van tevoren genoteerd. Joop: Want in je boek heb je het erover dat er juridisch een verschil zit tussen het opnemen van een privégesprek en een zakelijk gesprek. Joop: Waarom is dat verschil gemaakt? Charlotte: Nou, deels ligt dat bijvoorbeeld al in het strafrecht. Charlotte: Als je een gesprek waar je zelf aan deelneemt, dat mag je altijd opnemen zonder daar wat van te zeggen. Charlotte: Als je het voor jezelf opneemt, gaat het ook over de AVG, dan hoef je daar niet verder mededeling over te doen. Charlotte: Maar dan is het wel belangrijk dat je dat dus niet deelt met anderen. Charlotte: Dus ook niet deelt met een AI-tool die je mee kan lezen. Charlotte: En dan valt het onder strikt privé en huiselijk gebruik. Charlotte: Nou, dat kan zakelijk al niet. Charlotte: Dus zakelijk zou je als je niks zegt over het opnemen van een gesprek, zou dat een heimelijke opname zijn, dan is dat strafbaar. Charlotte: In de AVG, dan gaat er over dat dat niet meer strikt persoonlijk en huiselijk gebruik is. Charlotte: Dus dan moet je zorgen dat je of wel een gerechtvaardigd belang hebt, of bijvoorbeeld toestemming hebt, of dat dat onderdeel is van je overeenkomst, waardoor je die opname mag maken en dat soort gegevens mag delen. Charlotte: Ja, daar zit er daar best wel een verschil in. Joop: Ja, want waarom ik daar opkwam, is dat ik zat te denken van kijk, als ik als ik lokaal een gesprek op zou nemen, en met lokale modellen daar een transcriptie van zou maken. Joop: Dus dan gaat het nergens anders naartoe. Joop: Ik bewaar het transcript, gooi de opname weg. Joop: Wat is daar dan anders aan dan dat ik notities zou maken? Charlotte: Nou ja, voor de AVG zou dat inderdaad niet bijster veel uitmaken. Charlotte: Behalve dat die eerste opname, natuurlijk wel gewoon een verwerking van persoonsgegevens is. Charlotte: Ook als je hem daarna weggooit. Charlotte: Die notities hangt natuurlijk vanaf wat je dan precies opschrijft, of dat nog herleidbaar is tot een persoon of niet, want de datum van je meeting en de locatie van je meeting. Charlotte: Ja, dan kun je misschien zelf niet in één keer uithalen met wie dat geweest is. Charlotte: Maar die andere heeft ook een agenda. Charlotte: Als je bij beide agenda's kunt, dan kun je die match zo maken. Charlotte: Of er wordt gewoon iets in die meeting gezegd, waardoor alweer duidelijk is wat iemands functie is of waar die werkt, of zoiets dergelijks, waardoor je ook weer kunt achterhalen over wie het gaat. Charlotte: Dus je transcriptie zal ook sowieso al meer zeggen dan de notities alleen. Charlotte: Dus in de basis is gewoon al beide wel de AVG van toepassing. Charlotte: Het kan alleen zijn dat je zulke sumiere notities maakt, dat daar geen persoonsgevens te zitten als je AVG niet van toepassing is. Charlotte: En dat dat beide zijn opname en je transcriptie wel zo is. Charlotte: En ook als je die dus vervolgens laat samenvatten, of dat als een meer soort van notule opslaat, dan was dat eerste deel viel dan wel onder de AVG, alleen je eindproduct dan misschien niet meer afhankelijk van wat er is overgebleven. Niels: Dat is wel een heel interessant, inderdaad, want inderdaad, als je notities maakt, dan heb je daar misschien ook functie en dat soort zaken genotuleerd, maar dan heb je dus hetzelfde is van toepassing qua wet. Niels: Ja, de subscriptie, de subtitles en dat soort zaken, zal veel specifieker zijn, transcriptie, inderdaad. Niels: Dan dat je dat inderdaad zelf zou notuleren, waarom we het ook gebruiken natuurlijk. Niels: Oké, maar voor eigen gebruik, is dat dus nog steeds weer prima, als het niet gedeeld wordt en ook niet gedeeld met AI dan. Charlotte: Dat het bijvoorbeeld een van de redenen. Charlotte: Die ziet het in de discussie wel over de camerabril van Meta. Charlotte: Er zit natuurlijk AI in, maar Meta traint een AI daar ook mee. Charlotte: Daar lopen eigenlijk ook een beetje twee discussies, de camerabril zelf. Charlotte: Maar dus ook het feit dat al die data naar Meta toe gaat en daar modellen mee getraind worden. Joop: Ja, want eigenlijk gaat het niet zozeer over AI. Joop: Het gaat eigenlijk over een derde die het verwerkt. Joop: Want je kan lokaal kan je dingen doen. Joop: Dan stuur ik nergens data naartoe. Charlotte: Nee, dan is het nog steeds een verwerking van persoonsgegevens. Charlotte: Dat is alleen allemaal een stuk veiliger. Charlotte: Dan als je dus ook nog eens met een derde te maken. Joop: En met het geval van Meta of Claude of ChatGPT, heb je altijd te maken met een derde. Charlotte: Ja, en dan moet je dus ook afvragen, voldoet die derde dan wel aan de AVG, of heb je daar wel een verwerkersovereenkomst mee. Charlotte: Wat mogen zij daar eigenlijk allemaal mee doen? Charlotte: En Meta gebruikt natuurlijk alles ook nog eens voor zichzelf en gebruikt dat allemaal heel reed. Joop: Nou ja, Metadisch staat. Joop: Hoe zeg ik het zo netjes mogelijk? Joop: Die hebben al heel wat dingen laten zien laten zien dat ze er niet zo netjes mee omgaan, ze hebben misschien wel te weinig leermomenten. Joop: Heel veel momenten bijna van geleerd. Niels: Laat we hem zo zeggen. Charlotte: Veel momenten bij het zo mooi. Joop: Wat ik ook nog een hele interessante case vond uit het boek, is dat je een voorval beschreef van een advocaat. Joop: Die een prompt niet kon overleggen bij een rechter. Joop: Dat ze een dispuut hadden over een ondernemingsplan. Joop: Daar vond ik wel buitengewoon interessant. Joop: Dat je dan een prompt moet gaan leveren. Joop: Je schreef zelfs dat de rechter zelfs naar de temperatuurinstelling vroeg. Joop: Dat wordt steeds moeilijker tegenwoordig, maar goed, daar maakt me niet zoveel uit. Joop: Wat ik daar fascinerend aan vond, is kijk, de technologie is juist niet reproduceerbaar. Joop: Dus wat doet dan zo'n prompt, zeg maar, in zo'n rechtszaak. Joop: Wat biedt dat dan aan een soort van zekerheid in de rechtspraak dat je zo'n prompt kan aanleveren. Charlotte: Niks. Charlotte: Kijk, de rechters die doen ook maar hun best. Charlotte: Ik zeg wel eens gekscherend. Charlotte: Rechters weten nog net hoe ze hun computer moeten aanzetten. Charlotte: Over het algemeen, de gemiddelde rechter weet niet zo heel veel van. Charlotte: In het algemeen laat staan dat ze AI begrijpen. Charlotte: Dus ik denk dat je hier nog iemand te pakken hebt gehad die nog een klein beetje misschien zelf, er is wat mee geprobeerd heeft, wat meer geklust heeft en een beetje een beetje hoe het werkt of zo. Charlotte: En dacht ik van ja, prima, je hebt dus een analyse met AI gemaakt, daar zou dan iets uit blijken. Charlotte: Maar hoe kunnen we dan weten of het betrouwbaar is, ja, dan zouden we die betrouwbaarheid moeten afleiden uit de prompt. Charlotte: Dat is een poging van zo'n rechter geweest, denk ik om te zeggen, nou goed, misschien moeten we AI niet volledig uitsluiten, maar moeten we dan een manier vinden om de betrouwbaarheid te toetsen, of zo. Charlotte: Ik denk dat dat er een beetje achter ligt. Charlotte: Er zijn natuurlijk echt wel dingen die niet nu de standaardpraktijk en de rechtspraak. Charlotte: En dit soort dingen gaan echt nog wel zich uitkristalliseren en veranderen. Charlotte: Maar je merkt daar wel heel goed aan dat het voor onze dagelijkse praktijk best wel eens lastig kan zijn om te bepalen hoe moeten we nou hiermee omgaan, hoe werkt het nou? Charlotte: Wat moeten we hier mee? Charlotte: Als het gaat om de output die eruit komt. Charlotte: En hoe mogen we dat beoordelen? Joop: Het is in ieder geval heel moeilijk om samen een prompt met input. Joop: Dat geef je uiteindelijk eigenlijk maar heel weinig informatie. Charlotte: Zeker, maar dat moeten we de rechters wel nog even uitleggen. Joop: Ik ga er vanuit dat zo iemand dat inderdaad met de beste intenties heeft gevraagd in ieder geval. Charlotte: Ik denk dat je ergens juist heel blij mag zijn dat er iemand is die zich er al een beetje in verdiept heeft en deze poging heeft gedaan. Joop: Zie jij pak nog pak nog een andere die ik die ik ook had opgeschreven, zit er lekker veel voorbeelden. Joop: Ja, precies, en deze zaten ook behoorlijk dicht bij elkaar. Joop: Want er was namelijk ook nog een geval waarin, en dit is natuurlijk typisch Amerikaans van dat software de mede verantwoordelijk was, en de software is natuurlijk de AI. Joop: Dat een Amerikaan werd veroordeeld voor moord en levenslang. Joop: De software gaf met een zekerheid van 90% aan dat deze man schuldig was zonder nog extra ondersteunend bewijs. Joop: Zie jij sprankjes van dit soort dit soort dingen ook in het Nederlands recht ontstaan. Joop: Dus dat er ergens wordt gesteund op software op modellen. Joop: Waar het eigenlijk misschien best wel wankel is. Charlotte: Ja, nou ook modellen wel, dat is nog geen AI geweest. Charlotte: Maar de Bulkare affaire en de toeslagenaffaire zijn daar voorbeelden van. Charlotte: Er was geen AI voor de duidelijkheid, dat wordt wel veel beweerd, dat was het niet. Charlotte: Dat leek meer gewoon op Exceletjes dan op het anders. Charlotte: Maar ja, dat is wel zoetje, een bepaald soort checklistje hebt, als het ware, zegt, hier wordt aan voldaan, dus deze mensen zullen wel gefraudeerd hebben. Charlotte: En dan gaan ze eigenlijk met oogkleppen op op zoek. Charlotte: Ja, dan zitten daar ook wel mensen bij die daadwerkelijk gefraudeerd hebben, maar ook mensen bij wie dat helemaal niet het geval is, maar waardoor omdat het in eerste instantie eruit lijkt te komen, het zou wel zo zijn. Charlotte: Dus we gaan zoeken naar nog meer bevestiging daarvan, ook als je dat eigenlijk niet goed kunt vinden. Charlotte: Dus zeker, dit gebeurt wel meer, ook als er wel algoritmes worden gebruikt, dat zal steeds vaker het geval zijn, dat dat ook met AI gebeurt. Charlotte: Ik heb bijvoorbeeld ook over de toekenning van woningen, huurwoningen of zo. Charlotte: Wie krijgt daar wel of niet toegang tot zo'n woning, waar wordt ook eigenlijk alle data van zo iemand verzameld qua inkomen werken, ander soort geschiedenis, maar dus ook ja afkomst, studie, dat soort dingen. Charlotte: En dan wordt er een soort risicoprofiel van die mensen gemaakt. Charlotte: En op basis daarvan krijgen ze dan te horen of ze wel of niet zo'n woning toegewezen krijgen. Charlotte: Terwijl mensen zijn die misschien heel hard aan het werk zijn en gewoon de pech hebben dat ze omringd zijn door andere mensen die misschien een negatievere reputatie hebben. Charlotte: Dus dat ze bepaalde kenmerken hebben. Charlotte: Die bij andere mensen wel iets negatiefs teweeg hebben gebracht. Charlotte: Dan krijgen zij opeens zo'n woning keer op keer niet toegewezen. Joop: Ja, kwalijk. Niels: Ik was wel nieuwsgierig. Niels: Ja, we gaan helemaal door je boek aan het doen. Niels: Ik was wel nieuwsgierig of wat meer van de transparantieverplichtingen zou kunnen toelichten. Niels: Want dat speelt nu heel erg. Niels: Ook in de reclameland zie je overal tegenwoordig wel ook op tv weer van die kleine notities onderin. Niels: Wat is nu wel, wat is nu niet verplicht, wat wordt ons voorgeschreven, het wordt voor mij af een beetje diffuus. Charlotte: Er zijn wat verschillende verplichtingen, ook voor verschillende rollen, zeg maar die je kunt hebben binnen AI. Charlotte: Dus de aanbieder van een AI toer met een persoon direct contact heeft, bijvoorbeeld een AI chatbot, die moet eigenlijk jezelf kenbaar maken als het ware als een AI chatbot. Charlotte: Dus dat moet duidelijk zijn voor mensen. Charlotte: Als je bijvoorbeeld gebruikt maakt van generatieve AI, dan moet de aanbieder ervoor zorgen dat een machine leesbaarder in verwerkt is, dat het met AI is gemaakt. Charlotte: Ook als het met AI is bewerkt. Charlotte: Daar zijn sommige mensen dus ook wel boos over, omdat je daardoor als je het post op social media bijvoorbeeld, daar al een automatisch AI-label bij komt. Charlotte: En ze zeggen, ja, maar het meeste heb ik zelf gemaakt, maar een heel klein beetje AI in voor een kleurfiltertje of zoiets dergelijks. Charlotte: En dan zit die markering er al in. Charlotte: Hetzelfde met tekst output Claude, geloof ik, die daar al mee begonnen was. Charlotte: Als je dat vooral hebt gedaan om je tekst nog even te structureren en van kopjes te voorzien. Charlotte: Dan hoeft dat niet per se. Charlotte: Maar dat is dan geautomatiseerd dat makkelijker om dat om dat wel te doen. Charlotte: Dan hebben we ook nog de versie dat als je zelf iets maakt met voornamelijk generatieve AI. Charlotte: En dan gaat het over tekst, beeld, muziek, whatever. Charlotte: En het is een deep fake. Charlotte: Dat is wel even een belangrijk verschil. Charlotte: Want heel veel mensen denken het moet bij alles. Charlotte: Dat is niet zo. Charlotte: Het gaat alleen maar over op het moment dat het kan lijken op iets dat echt zou kunnen bestaan. Charlotte: Dus als je een mens maakt, hoeft dat niet op een bestaand mens te lijken, maar wel alsof het een echt mens is. Charlotte: Er zijn bijvoorbeeld tegenwoordig van die AI-influencers. Charlotte: Ja, zij ziet er vrij echt uit. Charlotte: Het is gebouwd op het voorkeuren van 2000 mensen. Charlotte: Ja, daar moet je dus wel duidelijk bij vermelden dat dat een AI-persoon is. Charlotte: Maar zo werkt dat dus ook bij omgevingen, gebouwen, dieren, evenementen, wat maar. Charlotte: Daar moet je dat in principe stemmen, moet je dat allemaal bij vermelden, als je het daar of mee hebt met AI echt hebt gemaakt. Charlotte: Of als je het met AI hebt bewerkt. Charlotte: En dan alleen standaard bewerkingen die vallen daarbuiten. Charlotte: Nou dan wordt er in de guidelines wel wat voorbeelden genoemd met wat dan standaardbewerkingen zijn. Charlotte: Voor tekst geldt het als het een tekst is van algemeen belang. Charlotte: Dus ik geef altijd graag het voorbeeld teksten bij webshops bijvoorbeeld. Charlotte: Het is heel makkelijk als je zegt, weet ik veel veel producten die ik online moet knallen, laat ik nou ook automatisch maar die teksten daarbij genereren, productomschrijvingen. Charlotte: Als je die ongecontroleerd ook online knalt, dan zou daar een label bij moeten. Charlotte: Als je daar nog iemand tussen zet die het even controleert of het klopt, kan het best zijn dat je daar niks aan wijzigt. Charlotte: Maar dan gaat er om, dan is er menselijke redactie geweest. Charlotte: Dan hoeft dat label er niet meer bij. Charlotte: En dan is denk ik nog wel belangrijk om te weten dat degene die het maakt, moet dat label erop plakken. Charlotte: Degene die het publiceert, als die het weer elders los heeft ingekocht, dus niet de opdracht heeft gegeven om het te maken. Charlotte: Dan zou die het dus eigenlijk niet meer hoeven te vermelden. Charlotte: Want dat is niet degene die het geproduceerd heeft, of ten behoeve van wie het geproduceerd is. Charlotte: Dus als je een ZZP'er of zo inschakelt of een reclamebureau of zo die content voor jou laat genereren, die dat namens jou doet, dan is het als het ware alsof je het zelf gedaan hebt. Charlotte: Dan moet dat label er wel bij. Charlotte: Maar als je hier en daar wat dingen inkoopt, zoals je vroeger stockbeelden of zo zou inkopen. Charlotte: Maar dat zijn dan beelden die nu met AI zijn gegenereerd, dan hoef je dat er eigenlijk niet meer bij te worden. Joop: Dat is wel een grappige indirectie. Niels: Ja, dat is de verplichting van de maken dan weer om dat te doen. Charlotte: Dus de maker moet dat doen. Charlotte: Dus stel dat je AI-beelden even in een stockbankbeeldbank zou hebben zitten, dan moet je daar dus wel kunnen zien: oh, dit gebouw bestaat helemaal niet. Charlotte: Dit is met AI gegenereerd, zodat je bewust een nep gebouw beeld daarvan aan kunt kopen. Charlotte: Maar dan hoef je het zelf dus niet meer te vermelden. Joop: Dat is mooi inzicht. Charlotte: Dat is inderdaad wat heel veel mensen dus niet weten of niet zo bewust zijn. Joop: Nee, zeker niet. Charlotte: Eigenlijk staat er vrij duidelijk in de AI. Charlotte: De gebruikers verantwoordelijke die het maakt, die moet het erop zetten. Charlotte: En het idee daarachter is ook vooral, je kunt dat in die keten uiteindelijk helemaal niet goed handhaven. Charlotte: Dus om die verplichting zo door te geven, waarbij iedereen dan aan elkaar de hele tijd dat zou moeten vermelden en door zou moeten geven. Charlotte: Dat is eigenlijk niet houdbaar. Joop: Dan hebben we cookie meldingen door zijn keten heen. Niels: Persoonlijke vraag. Niels: Als ik wat powerpoints heb gemaakt en er zijn AI-beelden in, wat een beetje naar stripvorm is, maar wel personen zijn, moet ik het er dan nog bij vermelden. Niels: Dat AI gegenereerd is, want ik publiceer dan mijn slides. Charlotte: Lijken die stripfiguren op echte mensen. Niels: Het is wel een cartoon van mezelf zelf. Niels: Het is een cartoon variant van mezelf. Charlotte: Maar het is een cartoon variant, zou je dan kunnen denken. Niels: Nee, dat lijkt mij niet. Niels: Dus dan zou dat weer. Niels: Dankjewel. Niels: Even een checkvraagje voor mezelf. Charlotte: Maar daarom is het. Charlotte: Dat is een beetje wat ik met het boek ook proberen te doen. Charlotte: Ik probeer je juist even die vraag te stellen: eigenlijk weer terug te geven. Charlotte: Zodat je zelf daarna gaat denken. Charlotte: Oh ja, nee, maar wat was de regel nou? Charlotte: Dat is dat. Charlotte: Of het op een echt persoon lijkt, of het een deepfake is. Charlotte: Het ziet er echt uit als een cartoon. Charlotte: Als het echt een cartoon is, en is het heel overduidelijk, dan maakt het ook niet meer uit of het met AI is gemaakt of niet. Charlotte: Dit is net, snapt iedereen. Charlotte: Dan hoeft het niet meer. Niels: En dat is denk ik ook het mooie van het boek. Niels: Want ik snap het ook wel dat het heel moeilijk is. Niels: Want er zijn zoveel wetgevingen en zoveel zaken om een rekening te houden, dat je af en toe gewoon eentje vergeet. Charlotte: Ja, natuurlijk gebeurt dat. Charlotte: Daarom is het boek ook juist zo bewust niet een juridisch boek geworden. Charlotte: Want wat had ik dan gedaan, de hele AI-act uitgewerkt of zo. Charlotte: Dat is dan al niet voor iedereen interessant. Charlotte: Voormige mensen het ene deel interessanter dan het andere. Charlotte: En dan zijn we nog niet klaar. Charlotte: Want we hebben het net ook een paar keer over de AVG gehad. Charlotte: We kunnen het ook nog over auteursrecht hebben. Charlotte: We kunnen het nog over. Charlotte: Er zitten zoveel dingen de hele tijd maar aan vast. Charlotte: Dat krijg je niet in een boek verwerkt om dat ook nog praktisch te maken. Charlotte: Dus daarom heb ik veel liever dat je daarover nadenkt. Charlotte: En dat je bewust wordt van de dingen waar je nu nog niet bewust van bent, zodat je eventueel op zoek kunt naar het juist. Charlotte: Of denkt, hier moeten we wat mee, kunnen we dat zelf achterhalen of niet, of moeten we daar, met collega's over gaan praten, mensen voor inschakelen. Charlotte: Wat even. Charlotte: Dat zal van geval tot geval een beetje verschillen. Charlotte: Maar zoek je dan meer bewust van bent, oké, hier moeten we actie op ondernemen. Niels: En onze vraag zijn de bevestiging, dus dat dat gaat gebeuren als je dat boek leest. Joop: Zeker. Joop: Nog even over die transparantie. Joop: Want er is natuurlijk nu ook heel veel te doen over detectie. Joop: Dus kijken of we ergens wat kunnen vinden. Charlotte: Of het met AI gemaakt. Joop: En het vreemde daarvan is, is dat we daar weer AI voor inzetten, die helemaal niet betrouwbaar is, zo is het ook weer. Joop: Ik weet niet wat de stand nu is, maar ik moet toen ik dat weer las, moest ik weer denken aan de eerste detectiesoftware, die er was en die zei dat jeetje, ik kan even niet op de Nederlandse term komen Declaration of Independence van Amerika, de onafhankelijkheidsverklaring dat die met AI was gegenereerd, want die zat natuurlijk zo vaak in dat model. Joop: Dat vond ik een hele mooie van zo'n honderden jaren later aangewezen. Joop: Om tot daadwerkelijk een vraag te komen. Joop: Zeker op het gebied van onderwijs. Joop: Vinden ze dit iets heel interessants, die detectiesoftware. Charlotte: Het levert mij heel veel werk op, dus ik laag. Joop: Het leuke is dat er staat van onder hoog risico. Joop: AI valt bij onderwijs het monitoren of detecteren van ongeoorloofd gedrag. Joop: En als jij dus als onderwijsinstelling zegt, wij vinden het ongeoorloofd dat jij met AI je werkstuk maakt, mogen zij dan nog wel die detectiesoftware inzetten. Charlotte: Dat zou op zich nog wel mogen als ze dus maar wel zorgen dat daar genoeg menselijke controle bij zit. Charlotte: En vooral ook geen automatische beslissingen genomen worden. Charlotte: En ze dus wel dan echt nog kijken van oké, weet je, dit is niet iets wat we als mens kunnen controleren. Charlotte: En je mag natuurlijk in de basis wel gewoon onGEOorloofd gedrag bekijken, registreren, opmerken en daar iets mee doen. Charlotte: Het gaat veel meer over automatische beslissingen die daarmee genomen worden. Charlotte: Of dat je teveel zegt. Charlotte: Nee, maar de software heeft dit zo gezien. Charlotte: Dus dit geloven wij dan ook. Joop: Maar betekent het wel dat als je die detectiesoftware inzet, dat je die als hoog risico AI moet benaderen in het onderwijs. Joop: Ik vind dat ook terecht hoor. Charlotte: Als je hebt gewoon wat extra waarborgen te treffen, dat is het. Niels: Duidelijk. Niels: Voor mij dan is dan waarschijnlijk om inderdaad te voorkomen dat je vals beschuldigd wordt in die hoedanigheid. Charlotte: Dat je niet kan zeggen computer zet nou. Joop: Ja, daar kan heel veel probleem uit eigenlijk. Charlotte: Je hebt dus nu inderdaad genoeg studenten die erop aangesproken worden dat ze papers of scripties of whatever met AI zouden hebben gemaakt. Charlotte: Of daar te veel AI voor hebben gebruikt. Charlotte: De meeste universiteiten en hogescholen zijn heus wel toe dat je daar op een bepaalde manier gebruik van maakt. Charlotte: En hebben eigenlijk vooral de regel dat je daar dan transparant over moet zijn. Charlotte: Dus dat je moet vermelden wat je dan precies met AI hebt gedaan, of dat wat ideeën genereren is, of dat de spellingschecks zijn, of je allemaal dat soort dingen. Charlotte: Want dan vinden ze het vaak nog wel prima als er maar niet hele teksten meegeschreven zijn. Charlotte: Dus er zijn nu genoeg studenten met rijke ouders die dan zeggen, ja, nee, maar dit is niet eerlijk en hier moeten we wat mee. Charlotte: Als je die studenten spreekt, dan blijft je vaak toch ook wel iets meer met AI te hebben gedaan dan misschien strik genomen mocht. Charlotte: Dan is dus de kunst om daar creatief mee om te gaan zeggen. Niels: Ik was wel nieuwsgierig, want we hebben nu best wel wat dingen in handen. Niels: Je hebt ook een hoofdstuk dat verstandig en handig aan I-beleid. Niels: Wanneer is het verstandig en wanneer is het handig? Charlotte: Nou ja, verstandig gaat er vooral over zorgen dat je ervoor zorg je te weinig dat je niet te veel risico's loopt wanneer je AI gebruikt. Charlotte: Dat je niet zomaar denkt, ja, maar we gaan alles doen wat we willen. Charlotte: Maar handig betekent wel vooral dat je je mensen mee moet krijgen. Charlotte: Dus je kunt wel beleid maken, alleen maar gebaseerd op dat risico, maar als je daardoor al weet dat niemand zich eraan gaat houden, dan heb je er geen zak aan. Niels: Dan werkt het alleen maar tegen. Charlotte: Precies. Niels: En je beschrijft dan ook management of medewerkers. Charlotte: Ja, waar we het eerder eigenlijk al over gehad hebben, vanaf het management bovenaf naar beneden toe opleggen, waar we mensen zeggen, joh, maar sowieso werkt hij helemaal niet. Charlotte: Dit doen wij daar helemaal niet mee. Charlotte: Dit is niet hoe het voor ons handig is, maar we willen er ook dit en dit en dit mee kunnen doen, dat is nu niet geregeld. Charlotte: Ja, laat maar ik ga niet vragen of het mag, want dan duurt het allemaal zo lang gaat gewoon doen. Charlotte: Ik zie wel of ik erop gepakt wordt. Charlotte: Dan gaat het dus mis. Niels: En heb je dan een voorbeeld waar voor jou een schoolvoorbeeld is van, hier hebben ze het goed aangepakt door bij de werkvloer te beginnen, maar ook management naar elkaar toe te werken. Charlotte: Behalve dat ik klanten heb die bij mij komen vragen hoe ze het moeten doen en dat ik ze dit vertel. Charlotte: En dan hoop ik maar dat ze dat ook uit zijn kan voeren. Charlotte: Want het eindresultaat zie ik meestal niet. Charlotte: Maar ik heb ik daar nu niet specifiek praktijkvoorbeelden van gezien, ze zullen vast mensen op LinkedIn wat over gepost hebben. Charlotte: Het zou vast bestaan. Niels: Er zijn niet heel veel die. Charlotte: Niet dat ik weet die daar heel groot over vertellen dat ze dat op die manier doen. Charlotte: Maar vast zullen vast mensen zijn die dit wel goed doen. Joop: De huisartsen hebben heel lang last gehad van mensen die alles al gegoogeld hadden en eigenlijk wisten wat er met ze aan de hand was. Joop: Wordt er tegenwoordig bij jou ook al voorwerken gedaan op juridisch gebied. Charlotte: Ja, en daar ben ik maar op ingespeeld en zegt prima, maak jij lekker je contractje met AI gaan we het samen controleren. Charlotte: Ik ga het dan alleen niet voor ze redigeren en aanpassen. Charlotte: Want dat vind ik rotwerk. Charlotte: Dan doen we het wel. Charlotte: Dat is een mondelinggesprek, dat neem je dan maar weer lekker op. Charlotte: Als jij dat dan weer door AI wil halen, moet jij lekker weten. Charlotte: Of je laat het wel door een persoon uitwerken. Charlotte: Misschien een tekstje verstandiger, maar goed. Charlotte: Jou pak je al verder. Charlotte: En dan spreken we het gewoon door. Charlotte: En dan zeg ik, nou, en dit klopt niet en daar zou ik dit doen, heb je hier al aan gedacht. Charlotte: Waarom staat er niks over? Charlotte: Dit in waarom heb je hier zo'n lang verhaal over? Charlotte: Wat moet je daar dan mee? Charlotte: Dus je doel er eigenlijk van. Charlotte: En zo komen dan uiteindelijk alsnog tot een vrij goed document. Charlotte: Maar het komt zeker veel voor. Charlotte: En mensen die dus zeggen, nou, ik heb zelf al wel een briefje geschreven of zo, aan een wederpartij. Charlotte: Waarom staat dit er nou zo? Charlotte: En je voelt het wel aan alles. Charlotte: Ze gebruiken natuurlijk daar ook geen juridische tools voor, dat helpt ook niet altijd. Charlotte: Want anders heb je nog in elk geval bronnen die wat beter zijn dan het algemene internet waarbij je een leuke reddit-resultaat krijgt. Charlotte: Het is ook allemaal niet onmogelijk, maar het is het is nu nog niet zo ver dat je daar echt iets goed uitkrijg en elk van niet met alle algemene beschikbare tools. Niels: Ja, dus dus lage kwaliteit, veel generiekheid. Charlotte: Over het algemeen is beter in dingen samenvatten en in ideeën genereren. Charlotte: Maar echt een goed juridisch houdbaar, iets of feiten checken of zo. Charlotte: Daar is niet zo goed in. Charlotte: Bronnen benoemen, is het niet zo goed in. Charlotte: En dan hebben we natuurlijk vooral ook last van als het als het internet wordt geraadpleegd. Charlotte: Dat het daar ook niet goed op beschikbaar is. Charlotte: Als je een specifieke juridische bronnenbank hebt, dan zou dat al beter moeten gaan. Charlotte: Maar op dit moment hallucineert hij ook nog net iets te veel. Charlotte: Dus dat zijn van die dingen. Charlotte: Ik denk, als je daar specifiekere tools voor krijgt en het evalueert nog allemaal wat, dan zal het allemaal wel beter worden, maar daar zijn we nog niet. Joop: En dan heb je nog van schrijf je het juiste voor het doel wat je eigenlijk voor ogen hebt. Joop: En dat wordt natuurlijk heel erg lastig om dat goed te formuleren. Joop: Misschien krijg je straks een stuk wat wel goed in elkaar zit, waar de bronnen van kloppen. Joop: Maar niet de juiste tekst is voor wat je wat eigenlijk je bedoeling is. Charlotte: Ja, de stijl maakt natuurlijk ook uit voor wat je wil bereiken. Charlotte: Hoe spreek je mensen aan? Charlotte: En soms ook wat zeg je wel of niet. Charlotte: Dus iets kan juridisch wel juist zijn. Charlotte: Soms wil je ook dingen door je mond te houden. Niels: Ja, de kracht van het weglaat, inderdaad. Joop: Soms niet mee. Niels: Toch een punt te willen maken. Charlotte: Ja, nou ja, maar dat is aan het niet waar in je liefde en weet ik van. Charlotte: Maar dan ga je opeens op dat punt de hele tijd door. Charlotte: Wat ga je daarmee bereiken, misschien wel helemaal niks. Charlotte: Dus soms moet je wel even zorgen dat je het bepaalde focus houdt of zo. Charlotte: Ja, daar is AI nu al helemaal niet goed in. Charlotte: Maar dat zijn denk ik wel dingen die meer, ja die toch wat meer voortkomen uit ervaring, stijl, dat soort dingen. Charlotte: Een beetje invoelen wie je tegenover je hebt. Charlotte: Waardoor je misschien een andere beslissing neemt. Charlotte: Terwijl als je heel strikt juridisch zou kijken, zou het misschien inderdaad zo'n output zou kunnen kloppen. Charlotte: Maar of dat strategisch en ook het handigste is om te doen, dat is nog een ander verhaal. Niels: Soms is het goed om afstand te kunnen nemen. Niels: En sommige punten kan je misschien geen afstand van nemen, omdat het zo raakt, inderdaad. Charlotte: Of we kennen of we kenden Ines Wesky van de hele lange pleitnota's, heel veel papierwerk, tekst, waarvan soms ook gezegd werd, nou daar was geen touw aan vast te knopen. Charlotte: Dat wilde nog niet zeggen dat het juridisch onjuist was. Charlotte: Maar het werd wel eens heel onprettig ervaren dat hielp niet altijd. Charlotte: Ja, AI is ook heel goed in heen. Charlotte: Formule, weet ik hoe. Charlotte: Is dit nodig? Charlotte: Nee, eigenlijk niet. Joop: Schrijvende schappen zijn ze eigenlijk. Joop: In je boek kwam ik eigenlijk voor mij in ieder geval een nieuwe term tegen. Joop: Dat was de AI omnibus. Joop: Zou je daar wat over kunnen vertellen? Joop: Wat is dat? Charlotte: Dat is eigenlijk een wijziging van de AI-act. Charlotte: De AI-act was gemaakt. Charlotte: Er zijn er een hoop klachten geweest over onder meer termijnen, wanneer alles in zou gaan. Charlotte: Over een paar onderdelen, zoals ik eerder al zei, met die bias, of je AI nou wel of niet zou mogen inzetten om juist ergens bias uit een dataset te halen. Charlotte: Nou, dat mocht eerst eigenlijk niet. Charlotte: Nu staat er expliciet in dat dat wel mag, om dus je data op te kunnen schonen en zojuist een betere analyses kunnen draaien. Charlotte: Daar is bijvoorbeeld bijgekomen dat van die New Defy apps, die expliciet verboden zijn, dat zat eerst niet in de AI-act, was natuurlijk op allerlei andere gronden, voor allerlei andere wet al lang verboden, maar goed, nu ook in de AI-act. Charlotte: Er zijn wat data verschoven met wanneer wat in zou gaan. Charlotte: Dus dat was inderdaad de AI-omnibus en die was nog niet 100% aangenomen, maar eigenlijk wel op definitief toen ik dat mijn schrift moest inleveren. Charlotte: Dus ik heb hem daar maar wel in meegenomen, omdat ik wist dat er niks aan zou veranderen. Charlotte: En daar is er inderdaad ook niks aan veranderd. Charlotte: Dus ik dacht, dat nemen we daar toch maar even mee. Joop: Ja, nee, fijn. Joop: Ik probeer natuurlijk ook veel bij te houden, maar deze was als term in ieder geval bij mij nog niet langskomen. Charlotte: Ik denk ook omdat dat te veel voor juristen was. Joop: Sufijn. Niels: Ik was nog nieuwsgierig, de luisteraar die heeft nog geen AI-beleid of is niet eens met AI-beleid in de huidige organisatie waar ze actief zijn zitten te luisteren. Niels: Wat is de eerste stap die ze vandaag of de volgende dag naar dit luisteren moeten gaan zetten? Charlotte: Nou, als je het er niet mee eens bent, vooral even uitzoeken bij wie je mag melden om daar wat van te vinden. Charlotte: Is daar überhaupt in je organisatie bij een aangewezen persoon voor. Charlotte: Als het II-beleid slecht is, dan is de kans ook best wel groot dat ook dit niet goed GEOrganiseerd is. Charlotte: En dan moet je wel even met een goed verhaal komen, want anders gaan ze het natuurlijk allemaal niet van je aannemen. Charlotte: Dus je moet wel vertellen van hier en hier lopen we tegenaan. Charlotte: Dit is wat er nu in het beleid staat. Charlotte: Wat kunnen we daaraan doen, hoe kunnen we dit anders inrichten. Charlotte: En het ook als medewerker dan aanbieden, hoe kun je daarbij helpen. Charlotte: Als je alleen maar komt klagen, is de kans veel te groot. Charlotte: Ze zeggen: je bent weer zo'n klagende medewerker. Charlotte: Hier hebben we geen zin in. Charlotte: Dat doen we niet. Charlotte: Als je hoger in de boom zit en je mag wel mee bepalen, ze zorg dan dus dat als het beleid er wel al is, dat je even checkt: goh, hebben we hier mensen al wel in meegenomen. Charlotte: Het is sowieso een werkdocument. Charlotte: Je beleid hoeft niet vast te staan, is zeker met AI denk ook heel onverstandig als je dat zou doen. Charlotte: Dus kijk even of je anders misschien nog terug moet naar de werkvloer. Charlotte: Zorg dat je dus eigenlijk een soort loket opent voor mensen die vragen of ideeën hebben, zodat dus ook op kunt reageren en eventueel eens kunt uitleggen waarom jullie voor iets gekozen hebben, waarom iets wel of niet mag. Charlotte: En misschien dus ook op welke manier het eigenlijk wel al kan, wat iemand wil, maar dat hij dat gewoon nog niet weet, maar uitgelegd kan krijgen. Charlotte: En probeer vooral je beleid dan wel steeds bij te werken. Charlotte: En als je nog helemaal niks hebt, dan is even je informatie op gaan. Charlotte: En dan is open spreken. Charlotte: Oké, wat willen we eraan uit gaan geven? Charlotte: Hoe kunnen we dat beheersbaar houden? Charlotte: En hoe ga je dat dus verder allemaal organiseren? Charlotte: Want AI wordt natuurlijk ook duurder omdat ze geld gaan vragen voor de output. Charlotte: En dat is dan weer waarom je output altijd zoveel langer wordt. Charlotte: Zo is het natuurlijk ook wel. Charlotte: Het zijn wel dingen waar je allemaal rekening mee moet houden. Joop: Het verlengde. Joop: Want dit gaat echt over puur het beleid. Joop: Ik las op een gegeven moment jouw titel ook in de zin van AI met beleid, AI met maat als het ware. Joop: Het beginstuk. Charlotte: Dat is inderdaad een beetje de dubbele boodschap van de titel. Charlotte: Doe er voorzichtig mee. Charlotte: Of wees genuanceerd en neem bewust je beslissingen. Joop: En wat zou je daarvan nog mee willen geven die zeggen van dit vind ik echt een heel belangrijk punt, dat je daarover nadenkt met beleid gebruiken. Charlotte: Nou, dat gaat me eigenlijk nog het meest om dat onbewust niet voldoen aan de wet, dus dat je niet alleen maar bezig bent, maar dit kan en dit wil ik en dit ga doen. Charlotte: Nog heel even die slag maakt. Charlotte: Oké, wat gebeurt er dan eigenlijk? Charlotte: Welke gegevens gaan erin? Charlotte: Wat zijn dan hier de risico's, moeten we misschien nog even checken of dit juridisch ook kan en of we deze risico zelf daadwerkelijk willen nemen. Joop: Hartstikke mooi, dankjewel. Joop: Ik schiet eigenlijk een beetje klaar. Joop: Ik wilde nog wel even zeggen. Joop: Het boek heet Jij met beleid, maar dat zal iedereen wel begrepen hebben. Joop: Praktisch sturen op wetgeving, ethiek en draagvlak. Joop: Ik denk overal verkrijgbaar. Charlotte: Zeker, via je favoriete boek. Joop: Dankjewel, Charlotte dat je bij ons in de studio wilde zijn. Joop: Leuk dat je weer luisterde naar deze aflevering. Joop: Vergeet je niet te abonneren op je favorietie. Niels: Het kan allemaal. Joop: En in de nieuwsbrieven, dat is wel leuk. Joop: Haven we van alles over de achtergrond van de podcast. Joop: Dus abonneer je daarop. Joop: Link allemaal in de show notes. Niels: Tot de volgende keer.