Alle afleveringen
S06E47 - Vooroplopen met de laatste AI trends
S06E47

Vooroplopen met de laatste AI trends

Seizoen 6 36 min Hosts: Joop Snijder & Niels Naglé
0:00

Wat leer je in deze aflevering?

In deze aflevering van AIToday Live staat een bijzondere situatie centraal: Niels Naglé, normaal gesproken een van de hosts, neemt de rol van gast op zich om zijn ervaringen van een recent bezochte Gartner conferentie te delen. De focus ligt op de impact van generatieve AI en de toekomstige trends in kunstmatige intelligentie, zoals voorspeld door Gartner. Luisteraars krijgen inzicht in hoe AI zonder data niet kan bestaan en de rol van AI in het omzetten van data naar waardevolle inzichten. Deze aflevering biedt een unieke kijk op de toekomst van AI en de operationele implicaties voor bedrijven.

Kernbegrippen

Generatieve AI
AI-systemen die nieuwe content genereren op basis van trainingsdata en gebruikersvragen.
FinOps
Praktijk voor het monitoren en optimaliseren van operationele kosten bij cloudgebruik en AI-toepassingen.
AI agents
Autonome softwaresystemen die zelfstandig taken uitvoeren zonder menselijke tussenkomst.
Knowledge graphs
Gestructureerde representaties van informatie die AI helpen beter te redeneren en verbanden te leggen.
Responsible AI
Benadering waarbij AI-systemen ethisch, transparant en veilig worden ontwikkeld en ingezet.

Transcript

Hey, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Heerlijk! Ja, leuk toch? Ja zeker! Met vandaag best wel een heel speciale gast. Hij zit al te lachen. Want Niels, onze eigen Niels, is eigenlijk gewoon te gast. Ja toch? Niels, jij bent naar een conferentie geweest. En daar gaan we het vandaag over hebben. Ik ben Joop Snijder, CTO bij Aigency. Mijn naam Niels Naglé, Area Lead, Data & AI bij Info Support. En Niels, we beginnen natuurlijk altijd bij de gast. Voor de luisteraars die me nog niet kennen, ik ben Niels Naglé, Area Lead, Data & AI bij Zou je je even willen voorstellen? Ja, maar misschien kan je toch nog heel even vertellen, weet je, wat doe je in dagelijks Info Support en te gast in de AIToday Live. Nou echt, als ik ergens al van droom dan is dat, joh. Ja, dagelijks werk. werk leven? Ja, precies. Ik ben Data Architect bij Info Support, dus dat betekent dat ik bij bedrijven advies geef over de datastrategie, dus hoe kunnen ze data omzetten naar waarde en hoe ga je daar ook En natuurlijk host ook van deze podcast, maar vandaag als gast. de cultuur van de organisatie mee nemen om beslissingen gemaakt op basis van data en onderbuikgevoel te maken binnen je organisatie. En ja, daar komt AI natuurlijk ook continu bij kijken en steeds meer, want ja, AI zonder data, dat kan niet hè? Ja, dus dit was ook één van de conferenties die Gartner heeft. En jij bent naar een conferentie van Gartner geweest. En ik denk niet dat iedere luisteraar weet wat Gartner als bedrijf is en wat zo'n conferentie eigenlijk inhoudt. Dus ik denk dat het een heel belangrijk onderwerp is om te onderzoeken. Dus Gartner is een organisatie die doet heel veel research en onderzoek naar wat is de technologie, maar wat zijn ook de ontwikkelingen in de markt. En die onderzoek is ook heel veel in de markt, dus dat is ook een van de dingen die we in de markt doen. En daarom is Gartner ook een van de onderzoekers die we in de markt doen. En dat is ook een van de dingen die we in de markt doen. Wat zij doen voornamelijk eigenlijk marktonderzoek. En dat is ook een van de dingen die we in de markt doen. Het is geen wetenschappelijk onderzoek, maar het is echt marktonderzoek. En dat is ook een van de dingen die we in de markt doen. Welke technologieën komen, hoe zitten ze, is het een hype of is het iets wat je op dit moment veel ziet toegepast worden? En daar geven ze heel veel advies over. Ja, en kijk, heel vaak hebben wij experts bij ons in de studio en die ondervragen we. En daar vragen we natuurlijk ook naar van wat doe je, wat gebruik je, dat soort zaken. En voor hun is dat eigenlijk hun dagelijkse werk dat zij met allerlei bedrijven, met mensen spreken en daar een soort van rode draad uit halen. Dat ze zeggen dit zijn onderwerpen die in de markt spelen, dit zijn problemen, of laten we het uitdagingen noemen waar partijen tegenaan lopen. En ze geven dan advies over hoe je daarmee om zou kunnen gaan. En jij bent naar deze conferentie gegaan. Had die conferentie een speciaal thema? Ja, dat was een keer een festival. Ja, een generatieve AI. En wat zeiden ze daar dan over? Dat ik met de databronnen die er zijn, mijn taal eigenlijk gewoon vragen ga stellen. Oh ja, dat klinkt op zich best wel goed. Ja? Dev assisters? Oh ja. En was er nog een andere rode draad dan die generatieve AI in de vraag stellen aan je data? Wat is dat? Dat is een soort van... Ik weet het niet. Ik weet het niet. Oh ja. Gaaf is ook een voorbeeld van wat voor keuzes je dan kan maken om het uiteindelijk de operationele kosten te verlagen. Ah oké. Ik dacht dat je het over OpenAI-modellen had. Dat het heel veel uitmaakt qua operationele kosten. Of je GPT 3.5 gebruikt of dat je de GPT 4 Turbo gebruikt of de nieuwste, de 4O. Daar zitten nogal factoren aan kostenverschil. Ja. Ja. Ja. Oh ja. Ik kan me er wat bij voorstellen. Want als je normaal gesproken standaard rapporten maakt, weet je wat de operationele kosten zijn voor het maken van dat rapport. Het zal niet zo heel hoog zijn. Maar omdat je nu dus vragen kan stellen, door kan vragen, stapelen eigenlijk die operationele kosten tot een plafond, als je die niet ingesteld hebt, misschien oneindig is. Ja. Oké. En dat noemen ze dan FinOps. Ja. Ja. Ja. Oké. Ja. Duidelijk. O-oh. Ja. Ja. Ja. O-oh. Ja. Ja. vervolgens mee. Hebben ze daar oplossingen, tips, advies voor gegeven van hoe je hier dan mee moet omgaan? En zat daar ook een deel bij van hoe AI daarbij zou kunnen helpen? Oh zo ja. Ja? Ja, oké duidelijk. Wij hebben natuurlijk heel veel gesprekken met gasten en we hebben zelf denk ik ook wel hier en daar wat ervaring over het gebied van AI. Was er iets wat je verraste tijdens de conferentie? Dat je dacht van, hé dat was echt wel heel nieuw voor mij. Zeker. Ja? Ja. En wat zijn nou typisch eigenlijk deelnemers van een conferentie zoals dit? Ja? Oh ja, ja zo is jij. Ja. Ja. Ja. En als je nou kijkt, want je hebt denk ik heel veel lezingen en presentaties daar gevolgd. Zou je er eentje kunnen uitpikken dat je zegt, want die vond ik eigenlijk wel heel erg waardevol? Ja? Ja? Oh nou, kom maar door. Misschien moet je even uitleggen wat een AI agent is. Ja? Oké, dat wil ik best even uitleggen. Een AI agent is eigenlijk een autonom stukje software waar AI in zit. Die een hele specifieke taak kan uitvoeren. En als je allerlei verschillende AI agents hebt, zou je die eventueel met elkaar kunnen samenwerken, waardoor je veel meer een taak in zich heel kan uitvoeren. Je zou een custom GPT van OpenAI, zou je als een agent kunnen benoemen. Een vorm daarvan. Ja. Je kan ook de analogie nemen met schrijven. Stel je wil, een gedegen stuk schrijven waarbij je zegt van, ik wil een deel onderzoek doen. Misschien marktonderzoek, misschien wat wetenschappelijk onderzoek. En die wil je uitbrengen dat je daar een publicatie van maakt. Dan heb je daar als het ware een aantal verschillende rollentaken. Dus je zegt van, ik heb een agent die heel goed is in het uitvoeren van het onderzoek. En die doet wat anders dan degene die de publicatie schrijft. Dus dan heb je een schrijversagent. Dan heb je bijvoorbeeld een editor. Editor is heel goed in structuur, spelling, grammatica, begrijpbaarheid, toetsen. En dan heb je misschien, geen idee wat er dan nog na kan, een designer, marketeer, die uiteindelijk zo'n publicatie dan ook onder de aandacht kan brengen. Dus je hebt het heel snel over delen van software die heel specifiek zijn gemaakt voor een taak die ze heel erg goed kunnen uitvoeren. Ja, zo zou je dat kunnen noemen. Ja. Ik weet niet of je je nog kan herinneren, we hebben het in een podcast, ik weet eigenlijk even niet welke aflevering dat was, ook gehad namelijk over zogenaamde small language models. Het is, JGPT is typisch een large language model. En dat is een model wat, nou ja, laten we even voor het gemak zeggen, antwoord kan geven op, nou heel veel. Laat ik het alles even achterwegen. Op heel veel. En wat je kan doen, is dat je small language models maakt die weer heel erg goed zijn in een bepaalde taak. En dat is wat je veel meer gaat zien. Dus dat je bijvoorbeeld ook kleinere taalmodellen gaat krijgen, die energiezuiniger zijn, die efficiënter zijn, die ook veel meer lokaal gedraaid kunnen worden. Dus die zouden eventueel zelfs op je mobiel kunnen draaien, die zouden op je laptop kunnen draaien. En dus het is een, laten we zeggen, decentralisatie van kennis en kunde in zo'n AI agent. Ja. Oh ja, en wat is een knowledge graph? grof? We hebben het al over de zomer, de zomer is al lang geleden. En eigenlijk zeg je in zo'n knowledge graph, wat je net als voorbeeld aangaf, is dat de verbinding tussen, wat jij net zegt, wij kennen elkaar, dat zit erin. En dat hoeft niet per se in stukken tekst aanwezig te zijn. Dus je legt verbindingen waardoor het taalmodel weer gebruik kan maken van die verbindingen. Dus je brengt structuur aan in wat eerst ongestructureerde tekst was. En die ga je weer gebruiken bij het taalmodel, zodat het taalmodel kan redeneren. Het zijn een soort van hops. Zo van, ik ken jou, jij kent iemand uit je familie. En zo kan hij doorredeneren van wat het zou betekenen met die tussenliggende relaties. Dus je kan het ook met een verbinding maken van dat. Ja. Ja. Ja. Ja. Ja. Dat is wel apart, want dan gebruik je dus eigenlijk weer de mens of is het dat je de visuele weergave weer aan de AI geeft als een soort van computer vision. Oké. Ja. Bijzonder. Ja. Nou ja, ik begrijp dat wel, want als je iets visueel hebt, kan je natuurlijk inderdaad heel makkelijk iets herkennen. Ik moet natuurlijk deze podcast ook regelmatig editen. En eigenlijk wordt door van die geluidsgolven gevisualiseerd, kan ik ook vaak zien van waar vallen stiltes. Maar zelfs het patroon tussen jou, mij of de gast kan ik makkelijk herkennen dat ik weet van hier kan ik knippen. We doen het niet zoveel hoor. Maar als het nodig is, dan heb je dat heel snel in de gaten, omdat je dat herkent. Ja. Oh jeetje. Ja. Oké, ja. Nou, ik denk dat ik daar wel een beetje langs moet gaan. Ik heb een beetje een verhaal. Ik ben naar het begin van de podcast geweest, en ik denk dat dit een beetje een verhaal is, maar ik denk dat het een beetje een verhaal is. Ik denk dat het een beetje een verhaal is. Ja. Ja. Ja. Ja. Ja. Ja. Ja. Ja. Ja. Ja. Ja. Ja. En de voorspelling bij 2030 dat de synthetische data vele malen groter is dan de echte data. Ja, dat is… ja. Nee, en die we nu dagelijks creëren neemt ook alleen maar toe. En toch zeggen ze bij 2030 wordt dat overschaduwd. Dus hebben we meer, zeg maar, door onszelf, zeg maar, als een soort van nep data. Ja, en wat het effect ervan gaat zijn, daar ben ik ook nog wel nieuwsgierig naar. Oké. Bijzonder. Die moet ik eerst zien, dan geloven. Eerlijk gezegd. Ja. Trend 3, AI engineering. Ja. En daar hebben we eigenlijk de DevOps van AI engineering die we daar steeds meer toegepast in worden. Dat is echt naar implementatie, naar productie. Ja, maar ook MLOps, eigenlijk die flow, die zit er ook weer in. Een paar voorbeelden die ze dan in hebben zitten is stukje AI monitoring, activation and deployment, integration and testing, dus het integreren en testen, eigenlijk de DevOps cycle voor AI. En daar weer allemaal ondersteunende activiteiten die ze erbij geplot hebben. Dus het is niet alleen om de technologie te gebruiken, maar ook om de technologie te gebruiken. En dat is ook een van de dingen die we in de DevOps cycle hebben. En dat is ook een van de dingen die we in de DevOps cycle hebben. En dat is ook een van de dingen die we in de DevOps cycle hebben. En dat is ook een van de dingen die we in de DevOps cycle hebben. En dat is ook een van de dingen die we in de DevOps cycle hebben. Oké. En dat is ook een van de dingen die we in de DevOps cycle hebben. Ja. En dat is ook een van de dingen die we in de DevOps cycle hebben. En dat is ook een van de dingen die we in de DevOps cycle hebben. [onverstaanbaar] Ja. [onverstaanbaar] Ja, en er zit ook nog een stukje cultuur aan binnen de organisatie, technisch en cultuur. Als we kijken naar data en datagedreven werken, zien we ook nog heel veel bedrijven en afdelingen die dat ook nog niet zijn. Dus dat is ook een stukje cultuur. En dat is ook een stukje cultuur. En dat is ook een stukje cultuur. Ja. Snap ik. Misschien kunnen we naar de laatste toe? Oké. Wat betekent dat? Ja. Mooi. Nou, dat lijken me vijf duidelijke trends. Dank je wel voor dit inzicht, Niels. Ik denk dat het een mooie samenvatting is voor wat je daar allemaal gezien hebt. Ik neem aan dat als mensen vragen hebben dat ze die via de socials kunnen stellen en dat jij die dan eventjes beantwoord. Hartstikke goed. Dank je wel weer voor het luisteren naar deze aflevering van de AIToday Live. Vergeet je niet te abonneren via je favoriete podcast app en mis geen aflevering. Tot de volgende keer. .