Wat leer je in deze aflevering?
In deze aflevering van AIToday Live bespreken Joop Snijder en Niels Naglé met terugkerende gast Marc van Meel (KPMG) de toekomst van ChatGPT en generatieve AI. Het gesprek richt zich op de vraag of we nog in de hype zitten en wat er overblijft wanneer deze voorbij is, met speciale aandacht voor regulering en verantwoord gebruik.
Kernbegrippen
- Generatieve AI
- Kunstmatige intelligentie die nieuwe content genereert op basis van trainingsdata en gebruikersinvoer.
- Prompt engineering
- Het formuleren van gedetailleerde instructies om betere resultaten uit AI-modellen te verkrijgen.
- Dataprivacy en regulering
- Regelgeving en richtlijnen die bepalen hoe gevoelige informatie veilig wordt gedeeld en gebruikt in AI-systemen.
- Verantwoord AI-gebruik
- Ethische en veilige toepassing van AI-technologie met aandacht voor risico's en maatschappelijke impact.
Interview: Marc van Meel
Marc, kunnen we nog spreken van een hype rondom ChatGPT, of zijn we daar al voorbij?
Ik denk dat we nog steeds volop in de hype zitten. Dat is ook een van de redenen waarom ik bijvoorbeeld nu nog even geen blogpost schrijf. Die gaan verloren in de zee van ChatGPT-artikelen natuurlijk, en generatieve AI-nieuws. Ik denk wel, als je ook het nieuws een beetje volgt, dat de hype nog niet is afgekoeld. Maar je ziet nu wel steeds meer een verschuiving naar misschien wel de noodzaak voor regulering. Je ziet allerlei memo's oppoppen bij organisaties over verantwoord gebruik van dit soort tooling. Dus nogmaals, je ziet een soort shift naar hoe kunnen we deze technologie nou verantwoord inzetten. Volgens mij is dat een heel erg logische reactie op natuurlijk al het geweld van de mogelijkheden.
We zien ook bij de Europese AI Act aanpassingen. Wat speelt er op het gebied van regulering?
Ik weet dat meerdere vlakken ermee bezig zijn, ook vanuit Europa. Ik zat toevallig deze week te kijken naar een hearing in Amerika. Die zijn over het algemeen erg vermakelijk om naar te kijken. Dat weten jullie misschien ook wel met TikTok, natuurlijk, recent. Waar ook de CEO van OpenAI, Sam Altman, opriep tot regulering en zelfs ook audits van dit soort modellen door derde partijen.
Waarom roept Sam Altman zelf op tot regulering? Wat is zijn redenatie daarvoor?
Volgens mij is zijn redenatie kortweg gezegd dat hij nog steeds gelooft dat de voordelen, de mogelijkheden, veel zwaarder wegen dan de potentiële gevaren, om het zo maar te zeggen. Maar hij is wel van mening, en ik denk meerdere partijen, dat het wel op een verantwoorde manier ingezet moet worden. We hebben natuurlijk afgelopen tijd, het zijn er nog niet legio, maar wel al een aantal, zou het schandalen kunnen noemen. Gezien bijvoorbeeld bij Samsung, meen ik mij te herinneren. Een aantal medewerkers, toch wel schematics meen ik, een semiconductor of bedrijfsgevoelige informatie hadden geüpload in de publieke versie. Volgens mij ook kort nadat Samsung, laten we het zeggen, de ban had weggehaald op het gebruik van ChatGPT. Dat was natuurlijk weer jammer. Ik meen dat ze hem daarna weer ingevoerd hadden.
En hoe zit het met Italië? Die hebben ook maatregelen genomen toch?
Ja, in Italië kwam ook even natuurlijk recent te sprake dat ze ook een ban hadden gezet op het gebruik van ChatGPT, en volgens mij hebben ze die nog steeds. Volgens mij hadden ze OpenAI een deadline gegeven om transparant te zijn over wat er exact met de data gebeurt. Dus je ziet steeds meer, en het is ook uit het bedrijfsleven zelf, de oproep naar duidelijkheid eigenlijk.
Google Bard is nu ook uitgekomen, maar we mogen er in Europa geen gebruik van maken. Wat zegt dat?
Ja, dat is natuurlijk best wel veelzeggend. Google heeft eigenlijk al de inschatting gemaakt dat dit niet voldoet aan het GDPR, aan onze AVG. Ik denk wel, ChatGPT heeft wel een soort first mover advantage. Ik denk als ik Google zou zijn, zou ik me ook echt wel druk maken. Google is natuurlijk eigenlijk een information broker. Maar zoeken, query, is ook een groot deel van hun business model natuurlijk. Ik meen dat ze in het verleden ook al zo'n code rood memo hadden. Die was uitgelekt, meen ik. Je ziet andere partijen nu ook, volgens mij ook Facebook met Llama en andere partijen met dit soort modellen komen. Ik denk dat een genuanceerde discussie, dus inderdaad hoe kunnen we dit verantwoord inzetten, ethisch verantwoord en in overeenstemming met regulering, dat dat de juiste discussie is.
Wat vind je van de polarisatie in de media over AI?
In de media zie je twee kampen. Dus je ziet de doomsayers, die willen het verbannen. Natuurlijk die brief van Elon Musk die hij had ondertekend komt in mijn gedachte op. En aan de andere uiterste heb je natuurlijk de mensen die, laten we het zeggen, bijna groteske artificial general intelligence mogelijkheden toedichten aan dit soort systemen. Ik denk dat die polarisatie in de media, op LinkedIn etc., niet helpt. Ik denk dat we veel beter een genuanceerde discussie kunnen voeren over hoe kunnen we inderdaad op een betrouwbare, verantwoorde manier dit soort taalmodellen en generatieve AI in het algemeen inzetten. Zodat bedrijven daar verantwoord mee om kunnen gaan en het niet ten koste gaat van medewerkers, burgers, etc.
Hoe kijk je aan tegen de ontwikkeling rondom prompt engineering? Is dat iets van blijvende aard of tijdelijk?
Dat is een heel interessante vraag. Je raakte eigenlijk een heel goed punt aan. Het heeft te maken met eigenlijk het feit dat als je dit soort modellen, en laten we even ChatGPT als voorbeeld pakken, een simpele vraag stelt, dus een simpele prompt meegeeft, dan krijg je ook vaak een heel simpel antwoord. Dus eigenlijk is het zonde om ChatGPT simpele vragen te stellen, want er zit inderdaad een neuraal netwerk achter en die doen het over het algemeen veel beter op complexe vragen, dus lange prompts. Voor de data scientists daar buiten: waarom zou je een neuraal netwerk lastig vallen met lineariteit, met lineaire simpele data? Hij is juist gebouwd om complexe verbanden te vinden. Dus wat je nou bijvoorbeeld ziet, dat noemen ze super prompts. Dat zijn inderdaad heel erg lange, heel erg complexe prompts die het model dus dwingen, zou je kunnen zeggen, te zoeken naar een bepaalde oplossing in de gigantische grote solution space van het model. Dus complexe vragen geven ook meer complexe antwoorden. En dat is vaak wat je wil. Niet die generieke Google vragen, die moet je juist niet stellen aan het model.
Denk je dat we in de toekomst nog steeds zelf die complexe prompts moeten maken, of komt daar een vereenvoudiging tussen?
Ik denk dat we van prompts niet zo snel afkomen. In de zin dat prompts de enige manier zijn die we nu hebben om te interacteren met taalmodellen. Dus je zou kunnen zeggen dit is de manier om die taalmodellen te programmeren. Ik weet ook dat ze bijvoorbeeld allerlei safety restricties van tevoren ook meegeven in de vorm van een prompt. Dus dat is een soort prompt achter de schermen, die zie jij niet. Maar die hebben ze al meegegeven aan ChatGPT voordat jij zelf kan prompten. Het heeft natuurlijk een Q&A interface, question answer interface. Dus in dat opzicht is het heel erg logisch dat het ook op die manier gebeurt. Ik vergelijk het zelf een beetje met low-code. Het idee is wel eens dat je low-code wil marketen aan mensen die zelf niet kunnen programmeren bijvoorbeeld. Maar in mijn opinie is low-code juist uitermate geschikt voor mensen die al wel kunnen programmeren, maar juist een extra assistent of een hulpje zouden kunnen gebruiken. Dus mensen die zelf in staat zijn om wel degelijk uit te drukken, al dan niet in de vorm van complexe input, wat ze eigenlijk willen en ook de output kunnen beoordelen.
Hoe zie je de impact van AI op organisaties? Worden ze generalistischer of juist specialistischer?
Je zou aan de ene kant kunnen denken dat organisaties nou generalistischer worden, want je kan nou meer zelf. Ik denk juist dat organisaties nog gespecialiseerder worden in de zin dat ze nog beter hun core competenties kunnen uitvoeren met behulp van AI en niet zelf allerlei dingen kunnen. Dus juist meer dingen gaan outsourcen eigenlijk. Bijvoorbeeld, stel je bent een logistiek bedrijf en waar ben jij goed in? Jouw core competentie is logistiek. Dus jij zou best een model kunnen gebruiken om jouw routes nog te optimaliseren. Maar misschien heb je niet zoveel kaas gegeten van het verkennen van nieuwe markten bijvoorbeeld. Wat zou een interessante markt zijn om ook actief in te worden? Bijvoorbeeld Spanje, ik noem maar wat. Nou, over het algemeen huur je daar een externe partij over in of een consultant. Ik denk niet door de introductie van dit soort modellen dat zo'n organisatie zelf opeens ook een marketing expert wordt. Sterker nog, ik denk dat die marketingpartij die ze bijvoorbeeld al helpt, nog beter wordt. Dus dat er nog meer emphasis komt om het juist te outsourcen en jezelf nog meer kan focussen op je core competenties, noem ik het dan maar.
Dus je eigen expertise wordt eigenlijk uitvergroot door de ondersteuning die je er extra bij krijgt?
Ja, eigenlijk wel. Ik zie een soort... Er is ook veel discussie nu over gaat het mijn baan vervangen bijvoorbeeld. Sommige sectoren zou ik me wel druk maken. Stel je bent bijvoorbeeld een model of misschien doe je alleen maar tekstverwerking, dan zou ik wel een beetje nerveus worden. Maar over het algemeen, als jij taken uitvoert waar veel cognitieve vaardigheden voor nodig zijn, zie ik eerder een soort symbiose. Dat jij ondersteund wordt door een model. Dat kan een taalmodel zijn, dat kan een model zijn wat visueel of audio genereert. Dus ik zie steeds meer een soort hybride situatie, mens en machine.
We worden nu al vaak voor de gek gehouden met gerenderde beelden en foto's. Is het onderscheid tussen echt en nep überhaupt nog relevant?
Ik denk dat we al heel erg lang voor de gek worden gehouden, zou je kunnen zeggen. Dus je zou een fundamentele discussie kunnen voeren, misschien ook al een filosofische discussie, of wat er uit ChatGPT komt nou echt is of dat plaatjes echt zijn. Je zou het pragmatische argument kunnen maken dat als je het verschil niet meer kan zien, maakt het überhaupt wel uit. Dat is een beetje een pragmatische take. Wat wel grappig is met bijvoorbeeld ChatGPT is dat we eigenlijk iets hebben gecreëerd wat niet meer te onderscheiden is van een mens. Het haalt de Turing test. Je kan een conversatie met een chatbot voeren waarvan je eigenlijk niet meer weet of het nou een mens is of niet. Maar mensen begrijpen we ook niet. Dus we hebben iets gecreëerd wat niet te onderscheiden is van een mens, maar wat we eigenlijk allebei niet begrijpen. Dat vind ik wel grappig om daarover na te denken.
Hoe denk je over voice cloning en de risico's daarvan, bijvoorbeeld bij telefonische fraude?
Dat is inderdaad een zorgwekkende ontwikkeling. Er wordt nu onderzoek gedaan naar hoe we dat kunnen detecteren. En dat er soms, op dit moment in ieder geval, in de modellen nog zo zit dat bepaalde klanken die wij als mens niet eens kunnen maken, maar machines wel, dat ze daaraan kunnen herkennen aan een fractie van een stukje geluid dat ze dat kunnen plotten van nee, dit is een computer. Want met ons fysiek bouw kunnen wij dat geluid niet maken. Ik denk dat dat onderzoek, dat zulke soort onderzoeken steeds meer van belang zijn. En in het systeem eigenlijk vertrouwen moeten kunnen bouwen. Dat als ik een telefoontje krijg, dat het voor mij gevalideerd wordt of ik met een echt persoon praat.
Is dit soort fraude niet gewoon een tijdelijk probleem dat we kunnen oplossen, net als spam bij e-mail?
Ja klopt, in essentie is het geen nieuw probleem, dat klopt. Spam filters werken over het algemeen heel erg goed. Ik meen zelfs dat het merendeel van al het e-mail verkeer ter wereld ook spam is. En dat wordt er al uit gefilterd voordat het überhaupt in jouw mailbox komt. Dus als je het over verspilling van resources hebt, dat is er echt een. Wat je misschien ook zou kunnen doen is in plaats van proberen te detecteren of iets nep is, zou je misschien ook andersom kunnen denken. Je zou bijvoorbeeld ook een soort watermerk op de een of andere manier kunnen aanbrengen in wel authentieke berichten. Ik weet bijvoorbeeld dat ze dat bij plaatjes al doen. Is het niet mogelijk om een soort watermerk aan te brengen in een afbeelding, waarmee als er mee getemperd wordt, als die aangepast zou worden of op video materiaal ook, dat je dat zou kunnen aantonen omdat het watermerk daarmee verstoord is.
Heb je vertrouwen in dat we deze uitdagingen kunnen oplossen?
Ik heb er zelf alle vertrouwen in. Misschien dat ik dit ook niet de meest spannende vragen vind. Ik heb er alle vertrouwen in dat mensen dit kunnen oplossen. Je ziet ook historisch gezien dat mensen over het algemeen veel beter zijn in adaptatie dan het voorkomen van allerlei zaken. Ook al weten ze dat het gaat komen, over het algemeen zijn mensen heel erg goed in zich aanpassen. Tuurlijk is dat een beetje jammerlijk dat er vaak altijd eerst iets moet gebeuren of fout moet gaan voordat er mensen in beweging komen. Maar als ze in beweging komen dan zie je dat het heel rap kan gaan. Dus ik heb er persoonlijk alle vertrouwen in dat we een soort authenticatie mechanisme verzinnen of een policy om daarmee om te gaan. Al dan niet een combinatie van regels met technologische oplossingen. Daar twijfel ik eigenlijk niet aan.
Wat zijn volgens jou de onbekende uitdagingen die we nog niet kunnen voorzien?
Wat ik bijvoorbeeld ook wel spannend vind is bijvoorbeeld inderdaad de unknown unknowns. Dus stel jij zou al jouw kennis, stem, gedachtes, afbeeldingen in een soort knowledge base kunnen samenvatten. Bijvoorbeeld na jouw overlijden, dat je een soort digitale tweeling van jezelf hebt, waaraan je vragen nog kan stellen als familielid. Hoe willen we als samenleving met zoiets omgaan? Dat is natuurlijk een heel erg ethische vraag. Een soort wisdom keeper zou je dat kunnen noemen.
Wat zie je als een belangrijke trend voor de toekomst van AI in organisaties?
Wat bijvoorbeeld in de nabije toekomst goed zou zijn, en die trends zie je al een beetje, is dat er gelokaliseerde versies van dit soort systemen komen. Dus dat organisaties, misschien ook wel individuen, laten we het zeggen, lokale on-site varianten van dit soort modellen gebruiken in een beveiligde omgeving, gefinetuned voor hun eigen organisatie, voor hun eigen doeleinden en die dan ook bijvoorbeeld niet verbonden zijn aan het internet of een open versie van het systeem, waarmee je dus mogelijk data zou kunnen lekken. Ik zie een steeds grotere rol voor dit soort toepassingen, om ze te gebruiken voor echt gespecialiseerde, lokale learning purposes, noem ik het maar eventjes. Ik vind dat het een goede trend is. Kernpunten en praktische adviezen Van hype naar verantwoording: We zitten nog midden in de ChatGPT-hype, maar de focus verschuift van mogelijkheden naar verantwoord gebruik en regulering. Regulering is noodzakelijk: Zelfs OpenAI-CEO Sam Altman roept op tot regulering en audits door derde partijen. Incidenten bij Samsung en bans in Italië tonen de urgentie aan. Complexe prompts leveren betere resultaten: Taalmodellen zijn gebouwd voor complexe vragen. Simpele vragen geven simpele antwoorden - gebruik daarom gedetailleerde, complexe prompts voor optimale resultaten. Specialisatie boven generalisatie: AI helpt organisaties niet om generalistischer te worden, maar juist om beter te worden in hun core competenties. Focus op waar je goed in bent en gebruik AI als versterker. Mens-machine symbiose: De toekomst ligt niet in vervanging maar in samenwerking. AI ondersteunt mensen bij cognitieve taken, waardoor een hybride werkvorm ontstaat. Authenticatie en vertrouwen: Net als bij spam en phishing zullen er oplossingen komen voor voice cloning en deepfakes. Denk aan watermerken en authenticatiemechanismen. Lokale, gespecialiseerde modellen: De trend gaat naar gelokaliseerde, on-site varianten van AI-modellen die specifiek zijn afgestemd op organisaties, zonder verbinding met het internet voor maximale veiligheid. Adaptatie is onze kracht: Historisch gezien zijn mensen uitstekend in aanpassen aan nieuwe technologieën. Hoewel er eerst fouten gemaakt worden, volgt daarna snelle vooruitgang. Vermijd polarisatie: Weiger mee te gaan in de polarisatie tussen doomsayers en onkritische enthousiastelingen. Een genuanceerde discussie over verantwoord gebruik is essentieel. Ethische vraagstukken: Bereid je voor op onverwachte ethische dilemma's, zoals digitale tweelingen van overledenen. Deze "unknown unknowns" vereisen maatschappelijke discussie. AIToday Live is een podcast die zich richt op de nieuwste ontwikkelingen in AI en de impact ervan op verschillende sectoren. In elke aflevering spreken hosts Niels Naglé en Joop Snijder met experts uit het veld om inzicht te krijgen in de mogelijkheden en uitdagingen van AI-technologie. Luister via je favoriete podcast app: Spotify, Apple podcasts, YouTube Music, en meer.
Over de gast
Marc van Meel is een expert op het gebied van AI-systemen en algoritmes, waarbij hij organisaties helpt om deze betrouwbaar te maken. Hij werkt bij KPMG en richt zich op het uitvoeren van audits en adviesopdrachten. Zijn kennis en ervaring maken hem een waardevolle stem in de discussie over de toepassing en regulering van AI-technologieën.
Bekijk gastprofielTranscript
Let's go! Leuk dat je weer luistert naar een nieuwe aflevering van de AIToday Live. Mijn naam is Joop Snijder, CTO bij Aigency. En mijn naam Niels Naglé, Chapter Lead Data & AI bij Info Support. En we hebben een vriend van de show, mag ik wel zeggen, in de aflevering, Marc van Meel. Online, want je kon helaas er even niet bij zijn in de studio. Marc, zou je je misschien nog even willen voorstellen aan de luisteraars... die misschien de eerste twee delen met jou niet gehoord hebben. Ja, natuurlijk. Vriend van de show, dat vind ik een hele eer. Dank jullie wel. Inderdaad, heel erg kort. Mijn naam is Marc van Meel en ik werk voor KPMG. En eigenlijk heel erg kort gezegd helpen wij organisaties met hun AI-systemen en algoritmes betrouwbaar maken. Dat doen wij in de vorm van audit, maar ook adviesopdrachten. Ja, en we hadden jou uitgenodigd om eens te kijken of wij over de hype van ChatGPT kunnen spreken. Jij gaf aan van, zijn we al voorbij de hype? Toch? Ja, klopt. Trouwens, voordat we beginnen, wil ik me even van het moment gebruikmaken om jullie te feliciteren. Ik zag dat jullie 50 afleveringen gemaakt hadden en dat vond ik toch wel een compliment waard. Ja, dank je wel. Dat was ook een leuke verrassing voor ons inderdaad, dat het voor ons georganiseerd is. Ja, absoluut. Wij werden vandaag verrast in onze organisatie met taart, met een award, met alles erop en eraan. We zeiden net wel, we voelen ons wel een beetje jarig. Dus we zijn 50 geworden. Dat is nog even gelukkig. Oh, sorry. Waren het 50 afleveringen of 50 jarigen? Ja, afleveringen. Ja, 50 afleveringen. Ja, plus inmiddels alweer. Maar voorbij de hype. We zitten volgens mij inderdaad, wat Niels zegt, nog niet op de top. Maar we wilden eens even kijken of we met z'n drieën erover zouden kunnen hebben van stel, deze hype moet een keer overgaan. Wat houden we dan over? Heb jij enig idee? Ja, dat is een goede vraag. Ik denk dat we nog steeds in de hype zitten. Dat is ook een van de redenen waarom ik bijvoorbeeld nu nog even geen blogpost schrijf. Die gaan verloren in de zee van Chet GPT artikelen natuurlijk. En generatieve AI nieuws. Ik denk wel als je ook het nieuws een beetje volgt dat de hype nog niet afgekoeld is. Maar je ziet nu wel steeds meer een shift naar misschien wel de noodzaak voor regulering. Je ziet allerlei memo's oppoppen bij organisaties over verantwoord gebruik van dit soort tooling. Dus ja nogmaals, je ziet een soort shift naar hoe kunnen we deze technologie nou verantwoord inzetten. Volgens mij is dat een heel erg logische reactie op natuurlijk al het geweld van de mogelijkheden. Ja, want zelfs bij de EU-act hebben ze wat aanpassingen gedaan, klopt dat? Ik weet dat meerdere vlakken ermee bezig zijn, ook vanuit Europa. Ik zat toevallig deze week te kijken naar een hearing in Amerika. Die zijn over het algemeen erg vermakelijk om naar te kijken. Dat weten jullie misschien ook wel met TikTok, natuurlijk, recent. Waar ook de CEO van OpenAI, Sam Altman, opriep tot regulering en zelfs ook audits van dit soort modellen door derde partijen. Cool, wat was zijn redenatie daarachter? Waarom dat nodig wordt? Volgens mij is zijn redenatie kortweg gezegd, gelooft hij nog steeds dat de benefits, de mogelijkheden, veel zwaarder wegen dan de potentiële gevaren, om het zo maar te zeggen. Maar hij is wel van mening en ik denk meerdere partijen dat het wel op een verantwoorde manier ingezet moet worden. We hebben natuurlijk afgelopen tijd, het zijn er nog niet legio, maar wel al een aantal, zou het schandalen kunnen noemen gezien bijvoorbeeld bij Samsung meen ik mij te herinneren. Een aantal medewerkers, toch wel schematics meen ik, een semiconductor of bedrijfsgevoelige informatie hadden geüpload in de publieke versie. Volgens mij ook kort nadat Samsung, laten we het zeggen, de ban had weggehaald op het gebruik van chatgpt. Dat was natuurlijk weer jammer. Ik meen dat ze hem daarna weer ingevoerd hadden. Ja, begrijpelijk. begrijpelijk. Je kan je er wat bij voorstellen. Ja, dat was erg jammer natuurlijk voor de alle andere collega's bij Samsung natuurlijk. In Italië kwam ook even natuurlijk recent te sprake. Ja, die ook een ban hadden gezet op het gebruik van en volgens mij nog steeds hebben. Ja, klopt. Volgens mij hadden ze OpenAI een deadline gegeven om transparant te zijn over wat er exact met de data gebeurt. Ja, dus je ziet steeds meer en het is ook uit het bedrijfsleven zelf de oproep naar duidelijkheid eigenlijk. Ja, en daar zijn we denk ik wel naartoe aan het bewegen dat we dat inderdaad steeds meer nodig hebben. Omdat je uiteindelijk afwegingen wil maken van welke applicaties je uiteindelijk wil gaan ontwikkelen natuurlijk. Ja, en het gebruik ook enorm toeneemt met die hype die nog steeds bezig is... en we nog naar de piek toe moeten volgens mij met die hype... is dat we ook steeds meer mensen het zien gebruiken. Dus dat de noodzaak van degenen die wat verder van de techniek staan... niet helemaal begrijpen wanneer je hem wel of niet zou moeten toepassen... het ook gaan gebruiken. Dus daarbij regulering ook wel van essentieel belang is dat hij er gaat komen. Ja, ik vond het wel opvallend, want Google Bart is natuurlijk nu uitgekomen. Daar mogen wij geen gebruik van maken... omdat Google eigenlijk al de inschatting heeft gemaakt van dit voldoet niet aan het GDPR, aan onze AVG. Dat is natuurlijk best wel veelzeggend. Ja klopt, daar heb je gelijk in. Ik denk wel, ZGPT heeft wel een soort first movement of first runner advantage. Ik denk als ik Google zou zijn, zou ik me ook echt wel druk maken. Google is natuurlijk eigenlijk een information broker. Maar zoeken, query is ook een groot deel van hun business model natuurlijk. Ik meen dat ze in het verleden ook al zo'n code rood memo hadden. Die was uitgelekt, meen ik. Je ziet andere partijen nu ook met, volgens mij ook Facebook, met Lama en andere partijen met dit soort modellen komen. Ik denk dat een genuanceerde discussie, dus inderdaad hoe kunnen we een verantwoord inzetten, ethisch verantwoord en in overigens stemming met regulering. dat dat de juiste discussie is. In de media zie je twee kampen. Dus je ziet de doomsayers, die willen het verbennen. Natuurlijk die brief van Elon Musk die hij had ondertekend komt in mijn gedachte op. En aan de andere uiterste heb je natuurlijk de mensen die, laten we het zeggen, bijna een grotelijke general artificial intelligence mogelijkheden toedichten aan dit soort systemen. Ik denk dat die polarisatie in de media op LinkedIn etc niet helpt. Ik denk dat we veel beter een genuanceerde discussie kunnen voeren over hoe kunnen we inderdaad op een betrouwbare verantwoorde manier dit soort taalmodellen en generatieve AI in het algemeen inzetten. Zodat bedrijven daar verantwoord mee om kunnen gaan en het niet te kosten gaat van van medewerkers, burgers, etc. En hoe kijk je aan tegen de ontwikkeling rondom de promptengineering? Want daar zie je natuurlijk heel veel in ontstaan. Zelf denk ik, maar dan ben ik heel erg benieuwd hoe jij er tegen aankijkt, dat het van tijdelijke aard is dat we het hier over hebben. Dus op social media worden allemaal van de ene naar de andere lijsten van prompts gedeeld. Van dit moet je doen en zo pak je dat aan. Denk je niet dat we over, nou ja, weet ik veel, een jaar, twee jaar of zo, dat we het er helemaal niet meer over hebben... dat de intentie van wat wij willen van dat systeem, dat het zover is aangeleerd... dat dat hele promptengineering voor jou als gebruiker eigenlijk niet meer zo heel erg relevant is? Ja, je zei zelf dat je er niet in geloofde. Klopt dat? Ben ik wel benieuwd naar... Nee, ik geloof er dus niet in dat je al die promptengineering... Kijk, nu heb je dan even een voorsprong, maar ik denk dat dat afneemt... en dat we dat straks veel minder nodig hebben. Waarom denk je dat? Ik ben gewoon even benieuwd hoor. Ik heb een idee, maar ik ben ook wel benieuwd wat jullie denken. Nou, zeg maar, zowel aan de voorkant als de achterkant van dit soort taalmodellen... wordt steeds meer getraind. Dus we zien aan de achterkant dat OpenAI zet natuurlijk heel veel effort in, steekt er heel veel geld in om de juiste antwoorden te geven bij de vragen die gesteld worden. En dat wordt heel veel mensenwerk. Dus er worden antwoorden gegenereerd en mensen zitten allemaal te beoordelen van dit vind ik wel goed, dit vind ik niet goed. Er worden mensen ingehuurd om zelfs Q&A, echt vraag-antwoord-paren, op te geven in het domein waar ze expert in zijn. Ik denk dat we dat aan de voorkant eigenlijk ook gaan krijgen. Dus dat de vragen, van minder complexe vragen, voorzien worden van extra informatie door mensen, waardoor je met eenvoudigere vragen nog steeds, zeg maar, vertaald wordt naar complexe pronts. en daardoor dus ook goede duidelijke antwoorden krijgt. Is dat een beetje begrijpelijk? Het is een lange weg naar het punt dat je wilde maken. Ik denk dat ik dat beeld wel beaam. Waardoor het eigenlijk makkelijker wordt om een vraag te stellen... zonder dat je al die complexe prompts nodig hebt... omdat we eigenlijk steeds meer weten waarvoor we het model kunnen gebruiken... maar dat ook de modelontwikkelingen zo goed zijn... dat ze de kern kunnen komen tot wat je wilt bereiken. Dat is mijn hypothese in ieder geval. Hoe zie jij dat, Marc? Ja, ik vind dat je heel goed punt aanraakt. Dus het heeft te maken met eigenlijk het feit... als je dit soort modellen, en laten we even ChatGPT als voorbeeld pakken... een simpele vraag stelt, dus een simpele prompt meegeeft... dan krijg je ook vaak een heel simpel antwoord. Dus eigenlijk is het zonde om ChatGPT simpele vragen te stellen... want er zit inderdaad een neuraal netwerk achter en die doen het over het algemeen veel beter op complexe vragen, dus lange prompts. Voor de data scientist out there, waarom zou je een neuraal netwerk lastig vallen met linearity, met lineaire simpele data? Hij is juist gebouwd om complexe verbanden te vinden. Dus wat je nou bijvoorbeeld ziet, dat noemen ze super prompts. Dus dat zijn inderdaad heel erg lange, heel erg complexe prompts die het model dus dwingen, zou je kunnen zeggen, te zoeken naar een bepaalde oplossing in de gigantische grote solution space van het model. Dus complexe vragen geven ook meer complexe antwoorden. En dat is vaak wat je wil. Niet die generieke Google vragen, die moet je juist niet stellen aan het model. Ik heb wel voorbeelden gezien van iemand neefje die kan een veel betere prompt bedenken dan ik. Ook met Mid Journey bijvoorbeeld. Dus modellen die tekst naar plaatjes omzetten. Ik heb jongeren gezien die krijgen al veel betere resultaten dan ik. Jij stelt een interessante vraag. Eigenlijk stel je de vraag, gaan wij in de toekomst zelf die complexe prompts allemaal maken? Of komt daar nog een soort van vereenvoudigingsstap tussen? Als ik je goed begrijp. Ja, dat is eigenlijk wat ik vraag. Ik denk dat we van prompts niet zo snel afkomen. In de zin dat prompts de enige manier zijn die we nu hebben om te interacteren met taalmodellen. Dus je zou kunnen zeggen dit is de manier om die TAM-modellen te programmeren. Ik weet ook dat ze bijvoorbeeld allerlei safety en allerlei restricties van tevoren ook meegeven in de vorm van een prompt. Dus dat is een soort prompt achter de schermen, die zie jij niet. Maar die hebben ze al meegegeven aan ChatGPT voordat jij zelf kan prompten. Het heeft natuurlijk een Q&A interface, question answer interface. Dus in dat opzicht is het heel erg logisch dat het ook op die manier gebeurt. Ik vergelijk het zelf een beetje met low-code. Het idee is wel eens dat je low-code wil marketen aan mensen die zelf niet kunnen programmeren bijvoorbeeld. Maar in mijn opinie is low-code juist uitermate geschikt voor mensen die al wel kunnen programmeren, maar juist een extra assistent of een hulpje zouden kunnen gebruiken. Dus mensen die zelf in staat zijn om wel degelijk uit te drukken, al dan niet in de vorm van complexe input wat ze eigenlijk willen en ook de output kunnen beoordelen. Misschien om je vraag, ik ga nog even een stap verder als ik mag. Ja graag. Op het level van de organisatie denk ik, je zou aan de ene kant kunnen denken, organisaties worden nou generalistischer, want je kan nou meer zelf. Ik denk juist dat organisaties nog gespecialiseerder worden in de zin van dat ze nog beter hun core competenties kunnen uitvoeren met behulp van AI en niet zelf allerlei dingen kunnen. Dus juist meer dingen gaan outsourcen eigenlijk. Kun je daar een voorbeeld van geven om het concreet te maken? Ja, bijvoorbeeld stel je bent een logistiek bedrijf en waar ben jij goed in? Jouw core competentie is logistiek. Dus jij zou best een model kunnen gebruiken om jouw routes nog te optimaliseren. Maar misschien heb je niet zoveel kaas gegeten van het verkennen van nieuwe markten bijvoorbeeld. Wat zou een interessante markt zijn om ook actief in te worden? Bijvoorbeeld Spanje, ik noem maar wat. Nou, over het algemeen hoe je daar een externe partij over in of een consultant. Ik denk niet door de introductie van dit soort modellen dat zo'n organisatie zelf opeens ook een marketing expert wordt. Sterker nog, ik denk dat die marketingpartij die ze bijvoorbeeld al helpt, nog beter wordt. Dus dat er nog meer emphasis komt om het juist te outsourcen en jezelf nog meer kan focussen op je core competenties noem ik het dan maar. Ja ik kan me daar heel goed in vinden want jij haalde net dat je neefje aan over de mid-journey. Ik ben er zelf ook wel eens mee bezig geweest en om niet alleen zeg maar gewoon een plaatje te krijgen wat er een beetje goed uitziet maar ook nog eens een keer wat in mijn hoofd zit. Nou trouwens wat in mijn hoofd zat, Dat kreeg ik überhaupt niet op beeld. Maar wat je gaat zien is dat je, ik denk dat je daar naartoe gaat... van dat je heel specialistisch wordt... in een heel goed gebruik maken van die generatieve AI. En omdat je dat vak beheerst, volgens mij is dat wat je zegt... kan je dat gebruiken om nog beter te worden in je vak... waardoor je je klant of wie je dan ook bedient... dat je die steeds beter kan bedienen. Je eigen expertise wordt dus eigenlijk uitvergroot. door de ondersteuning die je er extra bij krijgt. Is dat wat je zegt? Ja, eigenlijk wel. Ik zie een soort... Er is ook veel discussie nu over... gaat het mijn baan vervangen bijvoorbeeld. Sommige sectoren zou ik me wel druk maken. Stel je bent bijvoorbeeld een model... of misschien doe je alleen maar tekstverwerking... dan zou ik wel een beetje nerveus worden. Maar over het algemeen... Als jij taken uitvoert waar veel cognitieve vaardigheden voor nodig zijn, zie ik eerder een soort symbiose. Dat jij ondersteund wordt door een model. Dat kan een taalmodel zijn, dat kan een model zijn wat visueel of audio genereert. Dus ik zie steeds meer een soort hybride situatie, mens en machine. En dat wat je zegt, als je fotomodel bent, dan zou ik wel licht zenuwachtig worden. Gelukkig ben ik dat niet. Ik ook niet. Je ziet op de modellen, vroeger had je ook mensen die waren model voor handen. Die markt is volgens mij ook al heel lang vervangen door gegenereerde handen. Dat zie je op veel websites, bijvoorbeeld horloge websites. Die zijn vaak gerenderd. Dat zijn niet echt de handen meer. De broodjes vaak ook helemaal niet meer echt is, ook een rendering. Ja, auto's trouwens ook. Als je een auto koopt en je zit in de brochure te kijken, dat heeft niets te maken met foto's van een echte auto. Dat is misschien wel aardig, want wat ik in mijn omgeving hoor, is van hoe kunnen we nog zo direct het verschil zien tussen wat echt is en wat niet echt is. En dan moet ik best wel heel vaak aan dit soort dingen denken. Eigenlijk zelfs het fotomodel op de cover van een blad is alleen maar niet echt. De foto's van de horloges die je aanhaalt, de auto's, niet meer echt. Dus in hoeverre is het een nieuw probleem? Ja, ik denk dat we al heel erg lang voor de gek worden gehouden, zou je kunnen zeggen. Dus je zou een fundamentele discussie kunnen voeren, misschien ook al een filosofische discussie, of wat er uit chatgpt komt nou echt is of dat plaatjes echt zijn. Je zou het pragmatische argument kunnen maken dat als je het verschil niet meer kan zien, maakt het überhaupt wel uit. Dat is een beetje een pragmatische take. Wat wel grappig is met bijvoorbeeld chatgpt is dat we eigenlijk iets hebben gecreëerd wat niet meer te onderscheiden is van een mens. Het haalt de Turing test. Je kan een conversatie met een chatbot voeren waarvan je eigenlijk niet meer weet of het nou een mens is of niet. Maar mensen begrijpen we ook niet. Dus we hebben iets gecreëerd wat niet te onderscheiden is van een mens, maar wat we eigenlijk allebei niet begrijpen. Dat vind ik wel grappig om daarover na te denken. Ja, ik moet denken aan toen je dat zei, inderdaad, kunnen we dat nog begrijpen, naar een talk van Babbage vanuit de UK, waar inderdaad wel onderzoeken plaatsvinden van bepaalde intonaties van voices. Nu hebben we kans op scamming en dat soort zaken, maar dadelijk heb je gewoon een telefoontje van een goede vriend of familielid... die jou belt met de stem van die persoon die bepaalde hulp vraagt. Dat er dus nu onderzoek wordt gedaan hoe we dat kunnen detecteren. En dat er soms, op dit moment in ieder geval, in de modellen nog zo zit... dat bepaalde klanken die wij als mens niet eens kunnen maken, maar machines wel... dat ze daaraan kunnen herkennen aan een fractie van een stukje geluid... dat ze dat kunnen plotten van nee, dit is een computer. Want met ons fysiek bouw kunnen wij dat geluid niet maken. En ik denk dat dat onderzoek, dat zulke soort onderzoeken steeds meer van belang zijn. En in het systeem eigenlijk vertrouwen moeten kunnen bouwen. Dat als ik een telefoontje krijg, dat het voor mij gevalideerd wordt of ik met een echt persoon praat. En ik denk dat we daar, daar hebben we het net ook over gehad, regulering, ook op dat soort zaken, denk ik dat we zaken moeten gaan inbouwen waar we dat vertrouwen willen hebben in het systeem. Dat we daarop komen met oplossingen. Ja klopt, ik weet toevallig, spam filters die werken over het algemeen heel erg goed. Ik meen zelfs dat het merendeel van al het e-mail verkeer ter wereld is ook spam. En dat wordt er al uit gefilterd voordat het überhaupt in jouw mailbox komt. Dus als je het over verspilling van resources hebt, dat is er echt even. Al die spam die eigenlijk nooit ergens landt. Ik kreeg laatst ook weer een spam mail op mijn KPMG adres. wilde ja dat was natuurlijk een phishing attempt en dat was een heel slechte email en ik was eigenlijk wel teleurgesteld over want gegeven dat het schalen aan publiek beschikbare tooling wat je nu hebt als scam artist kan je eigenlijk niet meer wegkomen met een spam mail met spel fouten bijvoorbeeld ik had eigenlijk de de lat al hoog gelegd maar je raad je het is wel een goeie dat is een van de dilemma's misschien ook wel ethische issues die ik zie is dat het wordt makkelijker om jou voor de gek te houden. Je hebt nu al van die phishing attempts, dat ze jou nummers spoofen en een mailtje sturen van "Hey man, opa, kan je even 500 euro overmaken, want ik heb niet betaald." En als ze dan vragen om te bellen, worden die spammers boos. Maar dat dat zou je nu letterlijk kunnen omzeilen. Maar denk je dat het misschien wel een tijdelijk probleem zou kunnen zijn? Net zo goed als dat we toen bij de introductie van de e-mail hadden we dit. Daar is een spam filter voor bedacht. Bij de WhatsApp fraude, weet je, op een gegeven moment werd dat ook herkend dat we straks, ik weet niet wat, maar dat je als het ware een soort van spam filter hebt voor gegenereerde spraak waarbij je gewaarschuwd wordt van let op, weet je, dit is niet echt. Zijn het niet hobbels die we nu moeten daar overheen komen en dat zo direct, zeg maar, als het ware de echte lange termijn effecten, dat we die eigenlijk nog niet kunnen overzien. En wat we juist kunnen kunnen voorzien, volgens mij kunnen we daar iets voor maken, maar wat we nog niet kunnen voorzien, ik denk dat dat een heel stuk spannender is. Ja klopt, in essentie is het geen nieuw probleem, dat klopt. En wat je misschien ook zou kunnen doen is in plaats van proberen te detecteren of iets nep is, zou je misschien ook andersom kunnen denken. Je zou bijvoorbeeld ook een soort watermerk op de een of andere manier kunnen aanbrengen in wel authentieke berichten. Ik weet bijvoorbeeld dat ze dat bij plaatjes al doen. Ik weet niet of het Adobe was of een andere organisatie die daar veel onderzoek naar doet. Is het niet mogelijk om een soort watermerk aan te brengen in een afbeelding, waarmee als er mee getemperd wordt, als die aangepast zou worden of op video materiaal ook, dat je dat zou kunnen aantonen omdat het watermerk daarmee verstoord is. Nou precies en eigenlijk op het gebied van computers, computers praten natuurlijk ook met elkaar, was het ook heel makkelijk zeg maar om je voor te doen als een andere computer, daar hebben we ook wat voor bedacht. Dus waarom niet weet je dat je gewoon een echt een authenticatie krijgt van dit komt echt van de telefoon van mijn vrouw bijvoorbeeld of dit komt echt van van het telefoon van mijn kind. Ik denk dat daar best wel op korte termijn oplossingen voor komen. Dus nu is dat nog... Voelt dat als van, ja, maar dat doe je heel makkelijk. Gelukkig zijn een heel aantal dieven helemaal niet zo heel erg slim. Maar ik denk dat dat de problemen zijn die we best wel technisch snel oplossen. De vraag is meer, wat gaat er zo direct komen? Wat... Wat... Ja... Wat we nog niet zien. Dat is altijd een beetje lastig. - Dat is lastig natuurlijk. - Dit zijn gewoon zaken die we zo moeten tacklen. Willen we überhaupt verder komen? Dus vandaar dat we die zaken wel gaan tacklen. Hoe, dat weet ik ook nog niet helemaal, maar die gaan we wel tacklen. Anders komen we niet verder. De vraag is inderdaad, wat zit er nou verder? Goeie vraag. - Ik heb er zelf alle vertrouwen in. Misschien dat ik dit ook niet de meest spannende vragen vind. Ik heb er alle vertrouwen in dat mensen dit kunnen oplossen. Je ziet ook historisch gezien, zoals eerder op jullie podcast hebben gezegd, dat mensen over het algemeen veel beter zijn in adaptatie dan het voorkomen van allerlei zaken. Ook al weten ze dat het gaat komen, over het algemeen zijn mensen heel erg goed in zich aanpassen. Tuurlijk is dat een beetje jammerlijk dat er vaak altijd eerst iets moet gebeuren of fout moet gaan voordat er mensen in beweging komen. Maar als ze in beweging komen dan zie je dat het heel rap kan gaan. Dus ik heb er persoonlijk Ik heb er persoonlijk alle vertrouwen in dat we een soort authenticatie mechanisme verzinnen of een policy om daarmee om te gaan. Al dan niet een combinatie van regels met technologische oplossingen. Daar twijfel ik eigenlijk niet aan. Wat ik bijvoorbeeld ook wel spannend vind is bijvoorbeeld inderdaad de unknown unknowns. Dus stel jij zou al jouw kennis, stem, gedachtes, afbeeldingen in een soort knowledge base kunnen samenvatten. Bijvoorbeeld na jouw overlijden, dat je een soort digitale tweeling van jezelf hebt, waaraan je vragen nog kan stellen als familielid. Hoe willen we als samenleving met zoiets omgaan? Dat is natuurlijk een heel erg ethische vraag. Een soort wisdom keeper zou je dat kunnen noemen. Het leuke is, we hebben daar een keer een hele aflevering over gemaakt... naar aanleiding van dat iemand dit gedaan heeft. Even uit mijn hoofd is dat aflevering acht van het vorige seizoen. Dat weet je wel heel erg goed, Jo. Dat komt omdat we daar de nominatie voor hebben gehad... voor de Belgische podcastprijs. Dus die is misschien wel leuker om daar na te luisteren... maar ik denk dat het wel een mooie is wat jij zegt van... Als afsluiter van, de mens is in staat om dingen te adopteren, zich daar naar te voegen. Jammer inderdaad dat we door die eerste fouten heen moeten. Maar juist omdat we hier kijken van over de hype heen. Gedurende hype zullen we echt, we zullen ons hoofd stoten, de knieën stoten en misschien nog wel erger. Maar er komt ergens een moment van rust, denk ik toch? Ja, ik denk ook wat bijvoorbeeld in een daarbije toekomst goed zou zijn is, Die trends zie je al een beetje dat er gelokaliseerde versies van dit soort systemen komen. Dus dat organisaties, misschien ook wel individuen, laten we het zeggen, lokale on-site varianten van dit soort modellen gebruiken in een beveiligde omgeving, gefinetuned voor hun eigen organisatie, voor hun eigen doeleinden en die dan ook niet bijvoorbeeld niet verbonden zijn aan het internet of een open versie van het systeem, waarmee je dus mogelijk data zou kunnen lekken, etc. Ik zie een steeds grotere rol voor dit soort toepassingen, om ze te gebruiken voor echt gespecialiseerde, lokale learning purposes, noem ik het maar eventjes. Ik vind dat het een goede trend is. Lijkt me een hele mooie conclusie. Dank je wel, Marik. Dank je. Dank je wel dat je weer wilde luisteren naar een aflevering van de AI Today Live. Mis geen aflevering, abonneer je in je favoriete podcast app en dan krijg je vanzelf een seintje als er een nieuwe aflevering live staat. Dank voor het luisteren weer.