De AI revolutie - Maarten Sukel

Maarten, kun je jezelf kort voorstellen aan onze luisteraars?

Ik ben Maarten Sukel, Machine Learning Engineer of Data Scientist, eigenlijk een beetje allebei. Wat precies het verschil is kunnen we misschien later over hebben, want ik heb daar verschillende meningen over. Daarnaast ben ik bezig met mijn proefschrift afronden rondom multimodale machine learning, ook iets wat we kunnen uitleggen. En ik heb een boek geschreven: De AI Revolutie. Eigenlijk is het iets waar ik altijd heel erg mee bezig ben: wat ik nou elke dag doe met die technologie, en hoe heeft het nou invloed op de samenleving? Daarover gaan schrijven. En dat is afgelopen maand in de boekwinkel terechtgekomen.

Het boek gaat lekker, begreep ik?

Hij gaat heel lekker! We zijn al bij de tweede druk. We hadden in ieder geval ons eigen succes onderschat. Dat is natuurlijk altijd prettig om te merken dat er veel interesse is in het onderwerp.

We begonnen met een AI-stem die een vraag stelde over humor. Wat vind je ervan als AI gevoel voor humor zou hebben - wat voor grappen zou het dan maken?

Hele mechanische grappen, denk ik. Het zijn altijd een beetje van die one-liners, van die moppenboeken die eruit komen. Ik denk ook omdat, als je het laat zeggen, om een grap vraagt, dat dat de data is waarop het getraind is. Ja, ze zijn soms wel grappig, moet ik zeggen, maar ik kan er niet nu eentje vertellen. Ik kan me voorstellen dat als je op een gegeven moment echt een AI-systeem hebt dat je ook camera's kan ophangen in een theater, de reactie kan pakken en dat het dat ook weer gebruikt om grappen te maken, dat dat heel erg kan helpen. Maar ik denk ook dat de timing en hoe je het levert, dat dat ook wel een heel erg groot deel ervan is. Dus dat als je gewoon een AI-stem dat laat doen nu, dat het waarschijnlijk de zaal snel leeg is.

Er was toch iemand die stand-up comedy deed met alleen AI-grappen?

Klopt! Volgens mij had ik pas iemand op de radio die had een challenge. Die moest stand-up comedy doen van een half uur volgens mij, met alleen maar AI-grappen. En nou ja, haar reactie op wat ze aan het voorlezen was, wat AI haar voorbracht, zorgde dat het publiek ging lachen. Niet toezichtig grappen, maar wel inderdaad. Daar zit nogal winst in.

Jullie hebben bewust gekozen voor mechanische stemmen in jullie podcast. Waarom die keuze?

We hebben wel de stemmen serieus, zeg maar, mechanisch gehouden. Je kan met tools als ElevenLabs of dat soort dingen veel natuurlijkere stemmen nemen. Maar juist vanwege de transparantie, vanwege de aankomende EU AI Act waarbij het transparant moet zijn dat je met een AI praat, was het wel belangrijk. Omdat vind ik zeg maar dat het wel, voor mij voegde het wat toe dat het mechanisch klinkt. Toen ik bij NPO Radio 1 langskwam, had ik van tevoren gezegd dat een AI-stem wel handig zou zijn. Ik had gezegd dat ik de koning wel wat woordjes kon laten zeggen. Zij hadden zoiets van: we moeten even uitzoeken of dat mag. Dan kreeg ik een half uur later wel de vraag: we kunnen wel de host nadoen, die vindt dat vast goed. Die had zichzelf, hij zette aan het begin van de uitzending het bericht aan in zijn eigen stem. Ik zag zijn ogen, hij dacht: hé? Wat gebeurt er hier? Toen had hij het door, toen dacht hij: oké. Maar hij dacht waarschijnlijk: dit is een oude opname, ik herinner me dit niet.

Je hebt ook bij je boeklansering iets gedaan met bekende stemmen?

Bij mijn boeklansering in Amsterdam had ik Femke Halsema, de koning en Maarten van Rossem die waren er allemaal - nou ja, niet fysiek natuurlijk. Dat had ik wel heel groot op het scherm gezet, want dit is natuurlijk deepfake-technologie. Maar dat is wel het leuke, dat mensen ook beseffen: dit kan nu echt. Het is niet meer science fiction.

Hoe groot is het probleem van deepfakes eigenlijk, vooral rondom verkiezingen?

Het wordt steeds groter. We zien in verkiezingstijd steeds meer dat dit soort technologie wordt ingezet om mensen te misleiden. Het mooie - of het gevaarlijke, afhankelijk van hoe je het bekijkt - is dat de technologie zo goed is geworden dat het voor het gemiddelde oog nauwelijks nog te onderscheiden is van echt materiaal. Wat ik zelf altijd probeer te doen, is mensen bewust maken. Vandaar ook dat ik het op mijn boeklansering zo groot op het scherm zette. Als mensen beseffen dat dit kan, worden ze voorzichtiger met wat ze zien en horen. Ze gaan kritischer kijken. En dat is denk ik de belangrijkste verdediging die we hebben tegen deze technologie.

Wat kunnen we als samenleving doen om ons hiertegen te wapenen?

Educatie is cruciaal. In mijn boek besteed ik hier ook aandacht aan. We moeten mensen uitleggen hoe deze technologie werkt, zodat ze begrijpen wat wel en niet mogelijk is. Daarbij helpt wetgeving zoals de EU AI Act ook, omdat die transparantie verplicht stelt voor bepaalde toepassingen. Maar het gaat verder dan alleen wetgeving. We moeten als samenleving mediawijs worden. Dat betekent dat we kritisch moeten kijken naar wat we online zien, bronnen moeten verifiëren en niet zomaar alles moeten geloven wat we zien of horen. Het is eigenlijk een nieuwe vorm van geletterdheid die we allemaal nodig hebben.

Je noemde dat je verschillende meningen hebt over het verschil tussen Machine Learning Engineer en Data Scientist. Kun je dat uitleggen?

Dat is een interessante vraag waar je in de praktijk veel discussie over ziet. In essentie komt het hierop neer: een Data Scientist richt zich meer op het analyseren van data, het vinden van patronen en het doen van voorspellingen. Het is vaak meer exploratief werk. Je duikt in data, stelt hypotheses op en test die. Een Machine Learning Engineer daarentegen is meer bezig met het bouwen van systemen die daadwerkelijk in productie draaien. Dat betekent dat je niet alleen een model moet kunnen trainen, maar ook moet zorgen dat het schaalbaar is, goed presteert en onderhouden kan worden. Het is meer softwareengineering met een focus op machine learning. In de praktijk zie je dat deze rollen vaak overlappen. Bij Picnic bijvoorbeeld, doe ik van beide een beetje. Ik analyseer data om te begrijpen wat er speelt, maar ik bouw ook de systemen die uiteindelijk gebruikt worden om bijvoorbeeld voorspellingen te doen over wanneer klanten hun boodschappen geleverd willen hebben.

Je bent bezig met een proefschrift over multimodale machine learning. Wat houdt dat precies in?

Multimodale machine learning gaat over het combineren van verschillende soorten data om betere voorspellingen te maken of beter begrip te krijgen van situaties. In plaats van alleen te kijken naar bijvoorbeeld tekst, of alleen naar afbeeldingen, combineer je deze verschillende modaliteiten. Een praktisch voorbeeld: stel je hebt een foto van een product en een tekstuele beschrijving. Een multimodaal systeem kan deze twee informatiebronnen combineren om beter te begrijpen wat het product is en wat de eigenschappen zijn. Het is een beetje zoals hoe mensen ook werken - wij gebruiken ook meerdere zintuigen tegelijk om de wereld om ons heen te begrijpen. Dit is ook waar we bij large language models zoals GPT-4 steeds meer van zien. Die kunnen tegenwoordig niet alleen tekst verwerken, maar ook afbeeldingen begrijpen. Dat maakt ze veel krachtiger, omdat ze context uit verschillende bronnen kunnen halen.

Wat zijn de belangrijkste uitdagingen in dit vakgebied?

De grootste uitdaging is om de verschillende modaliteiten op de juiste manier met elkaar te verbinden. Tekst en beeld zijn fundamenteel verschillende soorten data. Tekst is discreet - het bestaat uit woorden die een specifieke betekenis hebben. Beeld is continu - het bestaat uit pixels die samen een geheel vormen. Het lastige is om een representatie te vinden waarin beide soorten informatie goed tot hun recht komen en waarbij de relaties tussen de modaliteiten behouden blijven. Daarnaast is er vaak een probleem met de beschikbaarheid van gelabelde data die beide modaliteiten bevat. Je hebt vaak veel voorbeelden nodig waarbij je weet hoe tekst en beeld aan elkaar gerelateerd zijn.

Hoe pas je al deze kennis toe in je werk bij Picnic?

Bij Picnic zijn we continu bezig met het optimaliseren van processen met behulp van machine learning. Denk aan voorspellen wanneer klanten hun boodschappen willen ontvangen, het optimaliseren van routes voor de bezorgers, voorraadplanning, en het personaliseren van aanbiedingen. Wat heel interessant is aan Picnic, is dat het een bedrijf is dat volledig data-gedreven werkt. Vrijwel elke beslissing wordt ondersteund door data en analyses. Dat betekent dat je als data scientist of machine learning engineer echt impact kunt maken. Je ziet direct het resultaat van je werk in de praktijk. Een concreet voorbeeld: we gebruiken machine learning om te voorspellen hoeveel van elk product we nodig hebben in onze distributiecentra. Als je dat goed doet, voorkom je voedselverspilling en zorg je ervoor dat klanten altijd krijgen wat ze besteld hebben. Dat is niet alleen goed voor het bedrijf, maar ook voor het milieu.

Wat maakt het werken met AI bij Picnic uniek?

Het unieke is de schaal waarop we werken en de directe impact die je ziet. We hebben miljoenen klanten en duizenden medewerkers die afhankelijk zijn van de systemen die we bouwen. Als je een verbetering doorvoert in een algoritme, zie je dat soms binnen enkele dagen terug in betere service voor klanten of efficiëntere processen. Daarnaast is er veel ruimte voor experimentatie. We hebben een cultuur waarin het oké is om dingen te proberen en te leren van mislukkingen. Dat is essentieel in machine learning, omdat je nooit van tevoren precies weet wat wel en niet gaat werken. Je moet dingen kunnen uitproberen en snel kunnen bijsturen.

Wat was je motivatie om het boek 'De AI Revolutie' te schrijven?

Ik ben al best wel lang met deze technologie bezig en ik zag een kloof tussen wat er technisch mogelijk is en wat mensen daarvan begrijpen. Aan de ene kant zie je dat AI steeds meer onderdeel wordt van ons dagelijks leven - in onze telefoons, in aanbevelingssystemen, in diensten die we gebruiken. Aan de andere kant is er veel onduidelijkheid en soms ook angst over wat AI precies is en wat het betekent. Ik wilde een boek schrijven dat die kloof verkleint. Een boek dat niet alleen uitlegt hoe de technologie werkt, maar ook wat het betekent voor de samenleving. Wat zijn de kansen? Wat zijn de risico's? Hoe kunnen we ervoor zorgen dat AI ontwikkeld wordt op een manier die goed is voor iedereen? Het succes van het boek - we zijn al bij de tweede druk - laat zien dat er veel behoefte is aan dit soort informatie. Mensen willen begrijpen wat er gebeurt en wat het voor hen betekent.

Voor wie is het boek bedoeld?

Het boek is bewust geschreven voor een breed publiek. Je hoeft geen technische achtergrond te hebben om het te kunnen lezen. Ik leg de technologie uit met voorbeelden en analogieën die iedereen kan begrijpen. Tegelijkertijd probeer ik wel diep genoeg te gaan zodat ook mensen met een technische achtergrond er iets aan hebben. Het gaat me erom dat mensen na het lezen van het boek beter geïnformeerde beslissingen kunnen nemen over AI. Of dat nu is als professional die AI wil inzetten in zijn organisatie, als burger die zich afvraagt hoe AI de maatschappij beïnvloedt, of als ouder die zich afvraagt wat AI betekent voor de toekomst van zijn kinderen.

Wat zie je als de grootste maatschappelijke veranderingen die AI teweeg zal brengen?

Er zijn verschillende gebieden waarop AI grote impact zal hebben. Ten eerste de arbeidsmarkt. We zien nu al dat bepaalde taken geautomatiseerd worden. Dat betekent niet per se dat alle banen verdwijnen, maar wel dat banen veranderen. Mensen zullen andere vaardigheden nodig hebben en zich moeten blijven ontwikkelen. Ten tweede zie ik grote veranderingen in hoe we informatie consumeren en beoordelen. Met technologieën zoals deepfakes en AI-gegenereerde content wordt het steeds moeilijker om echt van nep te onderscheiden. Dat heeft grote implicaties voor democratie, journalistiek en hoe we als samenleving beslissingen nemen. Ten derde denk ik dat AI grote impact zal hebben op sectoren zoals gezondheidszorg en onderwijs. AI kan artsen helpen bij het stellen van diagnoses, gepersonaliseerde behandelingen mogelijk maken, en leraren ondersteunen bij het geven van onderwijs op maat. Dit kan leiden tot betere zorg en beter onderwijs, maar het vraagt wel dat we zorgvuldig nadenken over hoe we dit implementeren.

Hoe kunnen we ervoor zorgen dat deze ontwikkelingen positief uitpakken?

Dat vraagt om een combinatie van dingen. Ten eerste moeten we investeren in educatie. Mensen moeten begrijpen wat AI is en hoe het werkt, zodat ze er bewust mee om kunnen gaan. Dat geldt niet alleen voor kinderen op school, maar voor iedereen. Ten tweede hebben we goede regelgeving nodig. De EU AI Act is een stap in de goede richting, omdat die kaders stelt voor hoe AI ontwikkeld en ingezet mag worden. Maar regelgeving moet ook flexibel genoeg zijn om innovatie mogelijk te maken. Ten derde moeten we als ontwikkelaars van AI-systemen verantwoordelijkheid nemen. Dat betekent nadenken over de ethische implicaties van wat we bouwen, transparant zijn over hoe systemen werken, en inclusief ontwikkelen zodat AI voor iedereen werkt, niet alleen voor een select groepje.

Er is veel discussie over AI en creativiteit. Wat is jouw perspectief hierop?

Dat is een fascinerend gebied. We zien nu al dat AI in staat is om teksten te schrijven, afbeeldingen te genereren, muziek te componeren. De vraag is: is dat echt creativiteit, of is het een vorm van geavanceerd kopiëren? Mijn perspectief is dat AI een tool is die creativiteit kan versterken. Net zoals een penseel een schilder helpt om zijn visie tot leven te brengen, kan AI een creatief persoon helpen om zijn ideeën vorm te geven. Het genereert voorstellen, helpt bij het overwinnen van writer's block, en kan nieuwe perspectieven bieden. Tegelijkertijd moeten we realistisch zijn: wat AI nu doet is vooral patronen herkennen in bestaande data en die op nieuwe manieren combineren. Echte creativiteit in de zin van het creëren van iets fundamenteel nieuws, is nog steeds primair een menselijke eigenschap. AI kan daar wel bij helpen.

Hoe zie je de rol van kunstenaars en creatieven veranderen door AI?

Ik denk dat kunstenaars en creatieven hun rol zullen zien verschuiven van pure executie naar meer curatie en richting geven. In plaats van elk detail zelf uit te werken, kunnen ze AI gebruiken om snel ideeën uit te proberen en verschillende richtingen te verkennen. Hun toegevoegde waarde zit dan in het maken van creatieve keuzes, het bepalen van de richting, en het toevoegen van de menselijke toets die werk echt betekenisvol maakt. We zien dit al gebeuren in verschillende creatieve industrieën. Grafisch ontwerpers gebruiken AI-tools om snel variaties te genereren. Schrijvers gebruiken AI als schrijfpartner om ideeën uit te werken. Muzikanten experimenteren met AI-gegenereerde melodieën. De menselijke creativiteit verdwijnt niet, maar krijgt nieuwe tools ter beschikking.

Waar denk je dat we over vijf jaar staan met AI-ontwikkelingen?

Vijf jaar is een korte tijd in termen van fundamentele doorbraken, maar een lange tijd in termen van adoptie en verfijning van bestaande technologie. Ik verwacht dat we over vijf jaar een punt hebben bereikt waarop AI veel meer geïntegreerd is in ons dagelijks leven, maar op een manier die natuurlijker aanvoelt. We zullen meer personalisatie zien in diensten en producten. AI-assistenten zullen beter worden in het begrijpen van context en het anticiperen op onze behoeften. In de gezondheidszorg zal AI een standaard tool zijn voor artsen bij diagnose en behandeling. In het onderwijs zal elk kind toegang hebben tot gepersonaliseerde leeromgevingen. Tegelijkertijd verwacht ik dat we ook meer bewustzijn zullen hebben van de beperkingen en risico's van AI. De discussies die we nu voeren over ethiek, privacy en bias zullen geleid hebben tot betere praktijken en regelgeving.

Wat zijn volgens jou de belangrijkste uitdagingen waar we voor staan?

De grootste uitdaging is volgens mij het borgen van ethische ontwikkeling en toepassing van AI. We moeten ervoor zorgen dat AI ontwikkeld wordt op een manier die rechtvaardig is, waarbij niet alleen een kleine groep profiteert maar waarbij de voordelen breed gedeeld worden. Een andere grote uitdaging is het omgaan met de impact op de arbeidsmarkt. We moeten mensen helpen zich voor te bereiden op een arbeidsmarkt waarin AI een grote rol speelt. Dat vraagt om investeringen in opleiding en omscholing. Tot slot denk ik dat we moeten oppassen voor een te grote afhankelijkheid van AI-systemen zonder dat we begrijpen hoe ze werken. Transparantie en uitlegbaarheid van AI zijn cruciaal, vooral bij belangrijke beslissingen die mensen raken.

Wat zou je advies zijn aan organisaties die met AI aan de slag willen?

Mijn belangrijkste advies is: begin klein, maar denk groot. Te vaak zie ik organisaties die meteen willen beginnen met complexe AI-projecten zonder dat ze de basis op orde hebben. Begin met het verzamelen en organiseren van je data. Zorg dat je weet welke data je hebt, wat de kwaliteit is, en hoe je deze kunt gebruiken. Start vervolgens met een concreet probleem dat je wilt oplossen. Niet AI omwille van AI, maar AI als middel om een specifiek probleem op te lossen. Dat maakt het makkelijker om te evalueren of je succesvol bent en helpt bij het krijgen van draagvlak in de organisatie. Investeer in mensen. AI-projecten staan of vallen met de mensen die eraan werken. Dat betekent niet alleen data scientists aannemen, maar ook je bestaande medewerkers trainen in data literacy en het werken met AI-systemen.

Hoe kunnen organisaties ethische AI waarborgen?

Ethische AI begint bij bewustzijn. Organisaties moeten zich realiseren dat AI-systemen bias kunnen bevatten en onbedoelde effecten kunnen hebben. Daarom is het belangrijk om vanaf het begin ethische overwegingen mee te nemen in het ontwikkelproces. Concreet betekent dit: zorg voor diverse teams die AI-systemen ontwikkelen, test je systemen op verschillende groepen mensen om te zien of ze voor iedereen goed werken, wees transparant over hoe je AI-systemen werken en welke beslissingen ze nemen, en bouw mechanismen in voor menselijke controle bij belangrijke beslissingen. Het helpt ook om ethische richtlijnen op te stellen voor AI-ontwikkeling binnen je organisatie. Wat vinden we acceptabel? Waar trekken we de grens? Door deze discussies expliciet te voeren, voorkom je dat je later voor vervelende verrassingen komt te staan.

Wat is de belangrijkste boodschap die je mensen wilt meegeven over AI?

Mijn belangrijkste boodschap is: wees nieuwsgierig maar kritisch. AI biedt enorme kansen om problemen op te lossen en het leven van mensen te verbeteren. Tegelijkertijd moeten we waakzaam zijn voor de risico's en ervoor zorgen dat we deze technologie op een verantwoorde manier ontwikkelen en inzetten. Dat vraagt om betrokkenheid van iedereen. Niet alleen van technici die de systemen bouwen, maar ook van beleidsmakers die regels stellen, van bedrijven die AI inzetten, en van burgers die de technologie gebruiken. We moeten samen bepalen wat voor soort AI-toekomst we willen en daar actief naartoe werken. Daarom heb ik ook 'De AI Revolutie' geschreven. Om mensen te helpen begrijpen wat er speelt en hen uit te nodigen om deel te nemen aan het gesprek over de toekomst van AI. Want die toekomst wordt niet bepaald door technologie alleen, maar door de keuzes die we als samenleving maken. Kernpunten en praktische adviezen Transparantie is cruciaal: Bij het gebruik van AI-technologie, vooral bij deepfakes en stemmen, is het essentieel dat duidelijk is wanneer mensen met AI te maken hebben. Dit wordt ook verplicht gesteld in de EU AI Act. Educatie als verdediging: De beste manier om misbruik van AI-technologie zoals deepfakes tegen te gaan, is door mensen bewust te maken van wat mogelijk is en hen te leren kritisch te kijken naar online content. Start klein met AI-projecten: Organisaties die met AI aan de slag willen, moeten beginnen met een concreet probleem en eerst hun data op orde brengen voordat ze complexe AI-projecten starten. Investeer in mensen: AI-succesvol implementeren vraagt niet alleen om het aannemen van specialisten, maar ook om het trainen van bestaande medewerkers in data literacy en het werken met AI-systemen. Ethiek vanaf het begin: Organisaties moeten ethische overwegingen vanaf het begin meenemen in AI-projecten, zorgen voor diverse ontwikkelteams, en transparant zijn over hoe systemen werken. Multimodale AI biedt meer mogelijkheden: Het combineren van verschillende soorten data (tekst, beeld, geluid) leidt tot krachtiger AI-systemen die context beter begrijpen, vergelijkbaar met hoe mensen meerdere zintuigen gebruiken. AI als creatieve tool: AI kan creativiteit versterken door creatieven te helpen ideeën snel uit te proberen en verschillende richtingen te verkennen, waarbij de menselijke rol verschuift naar curatie en richting geven. Data-gedreven werken: Bij bedrijven zoals Picnic wordt vrijwel elke beslissing ondersteund door data en analyses, wat leidt tot directe en meetbare impact van AI-implementaties. Blijf kritisch en nieuwsgierig: De belangrijkste houding ten opzichte van AI is een combinatie van nieuwsgierigheid naar de mogelijkheden en kritische waakzaamheid voor de risico's. Maatschappelijke betrokkenheid nodig: De toekomst van AI wordt niet alleen bepaald door technologie, maar door de keuzes die we als samenleving maken. Iedereen moet betrokken zijn bij dit gesprek. AIToday Live is een podcast die zich richt op de nieuwste ontwikkelingen in AI en de impact ervan op verschillende sectoren. In elke aflevering spreken hosts Niels Naglé en Joop Snijder met experts uit het veld om inzicht te krijgen in de mogelijkheden en uitdagingen van AI-technologie. Luister via je favoriete podcast app: Spotify, Apple podcasts, YouTube Music, en meer.