Omgekeerde wereld: AI interviewt

Hi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Dit is echt wel een hele speciale aflevering, want ik ga geïnterviewd worden door AI. We zijn er inmiddels aan gewend om vragen te stellen aan ChatGPT en behoorlijk goede antwoorden terug te krijgen. Maar zou ChatGPT zelf ook goede vragen kunnen stellen? Nou, dat hebben we getest. Ik ben de interviewkandidaat die een keer de antwoorden terug mocht geven. Want ik word namelijk aan de tand gevoeld door ChatGPT. We hebben een AI interviewer gemaakt die gebaseerd is op generatieve AI. En die gaat mij ook bevragen over de toepassing van generatieve AI en de potentiële impact daarvan op Info Support. En ik kan je sowieso al vast vertellen dat wat vooral verbaast is de potentie van de chatbot om echt inhoudelijke volgvragen te stellen. Laten we eens even luisteren hoe dat gaat. Here we go. Kun je een voorbeeld geven van een project of initiatief binnen Info Support waarbij generatieve AI momenteel wordt ingezet of waarbij er plannen zijn om deze te gaan gebruiken? Ja, ik heb daar drie voorbeelden voor. Voor een grote bierbrouwwerij hebben wij een proof of concept gemaakt waarbij social media gegevens worden gebruikt om personas te maken. Mensen met gelijke karakteristieken worden gegroepeerd en met generatieve AI wordt een persona ontwikkeld, zowel in tekst als de bijbehorende profielfoto. We gebruiken daar GPT en DALI3 voor als techniek. Nadat de persona is gemaakt kunnen we met generatieve AI praten met de persona en marketinggerelateerde vragen stellen. Je moet hierbij bijvoorbeeld denken aan wat zouden goede advertentieteksten kunnen zijn? Hoe wil iemand benaderd worden? Nou ja, ga zo maar door. Ook hebben we een eigen AI assistent in productie die is gebaseerd op generatieve AI. Zo kunnen Info Supporters veilig zonder risico op het delen van gevoelige informatie de assistent gebruiken. Met generatieve AI worden ze dan geholpen om hun werk beter uit te voeren omdat we Info Support specifieke kennis hebben toegevoegd. Onze best practices liggen vast in onze guidance framework en deze kennis nemen we dan mee in de assistent en die neemt dat dan mee in het beantwoorden van vragen die je dan stelt. Tenslotte, samen met een klant zijn er plannen om generatieve AI in te zetten voor het extraheren van kennis uit ingescande documenten. De klant heeft ontzettend veel documenten die ook nog eens uit meerdere versies aan en aanvullingen bestaat. Met generatieve AI lezen we de documenten en halen we bijna 100 vooraf gedefiniëerde kenmerken uit die documenten. Tenminste, dat is het plan. Interessant. Je hebt duidelijk uiteengezet hoe generatieve AI een rol speelt binnen verschillende projecten bij Info Support. Laten we dieper ingaan op de toepassing in marketing. Het gebruik van personas die gegenereerd zijn door AI biedt fascinerende mogelijkheden voor marketingdoeleinden. Hoe waarborg je echter dat de gegenereerde inhoud nou aansluit bij de echte voorkeuren en behoeften van je doelgroep en hoe ga je te werk om eventuele vooroordelen in de AI modellen te identificeren en te mitigeren? Of de gegenereerde inhoud helemaal aansluit bij de echte voorkeuren en behoeften van je doelgroep, dat weet je helaas niet van tevoren. Maar je kunt wel meten of je het beter doet dan de huidige manier. De klant meet de conversie van advertenties en met een betere aansluiting zou die conversie omhoog moeten gaan. Anderzijds is de huidige manier van personas maken gebaseerd op internationale demografische data en ervaring van het marketingteam. Deze zit vol aanname en eventuele bias-vooroordelen. Wij zijn uitgegaan van data van social media. En dankzij de grotere hoeveelheden data hebben we zo een beter beeld kunnen vormen van een persona. Maar je hebt gelijk, dat sluit eventuele bias nog altijd niet uit. Echter, de resultaten en teksten die uit het systeem komen blijven beoordeeld worden door de marketeers van de organisatie en hebben ook een verplichting om naar die bias te kijken. Excuses, hier is de volgende vraag voor jou. Hoe zorgen jullie ervoor dat de AI-modellen actueel blijven en gebaseerd zijn op recente data, met name gezien de dynamische aard van sociale media? Is er een proces of systeem bij Info Support dat zich specifiek bezighoudt met het up-to-date houden van deze modellen? In het geval van personas wordt nieuwe data periodiek bijgeladen en kunnen de personas eenvoudig opnieuw worden samengesteld. Termijn en proces worden van tevoren afgestemd en geautomatiseerd op basis van de doelstellingen van de organisatie. Automatisering van data integratie lijkt een efficiënte manier om de AI-modellen relevant en actueel te houden. Nu vraag ik me af over de brede toepassing binnen de organisatie. Hoe borgen jullie de kennisoverdracht van deze generatieve AI-toepassingen naar andere afdelingen binnen Info Support, zodat het niet alleen bij gespecialiseerde teams blijft, maar ook door de rest van de organisatie effectief gebruikt kan worden? Wat een goede vraag. We hebben daar verschillende vormen voor. Zo is er een samenwerking tussen Info Support Nederland en Info Support België waar deze systemen worden ontwikkeld. De makers wisselen veel kennis onderling uit omdat ze daar profijt van hebben bij de doelontwikkeling van hun eigen systemen. Daarnaast borgen we zo snel mogelijk nieuwe best practices in ons guidance framework en delen we kennis via verschillende events. We hebben een Info Support kennisavond, we hebben een AI community en we delen dit ook binnen de area data en AI. Uitstekend. Het lijkt erop dat Info Support een sterke focus heeft op kennisdeling en samenwerking, zowel intern als internationaal. Als we ons nu richten op bijbehorende risico's, met de implementatie van AI in kritische bedrijfsprocessen komen ook risico's kijken, zoals veiligheidsproblemen en ethische vraagstukken. Kun je een situatie beschrijven waarbij jullie geconfronteerd werden met een dergelijk risico en hoe hebben jullie dit aangepakt? We hebben voor onszelf een helder ethisch kader. Zo is een van de uitgangspunten dat AI de mens moet versterken en niet vervangen. Daarnaast willen we verantwoordelijke systemen maken. En als we de vraag krijgen om modellen te ontwikkelen die mensen oneigenlijk benadelen, zullen wij niet ingaan op die vraag. In het afgelopen jaar hebben we twee mogelijke projecten daarom niet uitgevoerd. Het eerste ging voornamelijk om veiligheid. Het systeem bevatte medische zeer gevoelige gegevens van kwetsbare mensen. En nog voordat we de ethische beoordeling hadden gedaan, bleek dat de veiligheidsproblemen te ernstig waren en de potentiële klant niet bereid was deze op te lossen. We geven dan advies hoe deze veiligheidsrisico's te dichten, maar namen het project niet aan. Een ander project ging over het scoren van mensen voor vacatures. En dan voel je aan je water aan dat je gauw tegen ethische bezwaren, mogelijke discriminatie en misschien zelfs wetgeving gaat aanlopen. Ook hier hebben we in een vroeg stadium aangegeven dat wij een dergelijk model niet bouwen. De commitment aan ethische principes en veiligheid is duidelijk een prioriteit, wat vertrouwen wekt in de integriteit van Info Support. Dit brengt me bij de evaluatie van dergelijke projecten. Kun je het proces beschrijven dat Info Support hanteert voor ethische en veiligheidsbeoordelingen voorafgaand aan AI-projecten? Hoe wordt bepaald of een project voldoet aan jullie uitgangspunten? Nou, ten eerste bespreken we heel goed met onze klanten wat het doel is van het AI-project. Wat wil je veranderen? Wat wil je bereiken? Hiermee filter je de eerste ethische bezwaren er eigenlijk al uit. Daarna definiëren we het AI-project met de hulp van ons AI-experiment canvas. Daarin wordt je gedwongen om je project nog concreter te maken. Wat is je hypothese? Hoe ga je die meten? Welke ethische principes moeten worden afgewogen en welke wettelijke bepalingen moeten worden gecontroleerd? We leggen duidelijk vast op basis van welke criteria een project wordt stopgezet mochten we tegen deze principes aanlopen. We stimuleren onze medewerkers om goed na te denken over ethische principes en moedigen ze aan om deze ook te uiten. Zo hebben we in onze AI-community een hele sessie gewijd aan ethische grenzen. We delen ook voorbeelden van projecten van derden waar wij van vinden dat dit ethisch niet verantwoord was. Hier wordt steeds meer duidelijk waar onze grens ligt en wat we niet willen. En bij twijfel wordt in overleg besloten of het AI-project kan doorgaan en wordt dit aan een groep met verschillende disciplines voorgelegd. Een grondige en gestructureerde aanpak om te zorgen dat de AI-projecten ethisch verantwoord en wettelijk toelaatbaar zijn. Wat betreft de organisatiestructuur rond dit onderwerp? Hoe ervaren medewerkers de ruimte om ethische kwesties aan de kaak te stellen binnen Info Support? Heb je voorbeelden waarbij de feedback van medewerkers heeft geleid tot significante veranderingen in een AI-project of het afwijzen ervan? Ja, omdat we hier open over zijn hoop ik dat iedereen de ruimte voelt om ethische kwesties aan de kaak te stellen. Ik weet dat een medewerker het persoonlijk als vegetariër niet prettig vond om mee te werken aan een AI-project in een slachthuis. Hier is uiteraard direct naar geluisterd en gehandeld. Ethisch gezien past het project binnen de kaders van Info Support, maar persoonlijke grenzen worden dan wel gerespecteerd. Dus een medewerker is niet op het project gezet en er is vervanging geregeld. Het is bemoedigend te horen dat persoonlijke principes eveneens gerespecteerd worden binnen het bedrijf. Dit leidt me naar een bredere blik op de toekomst. Kijkend naar de toekomst, hoe ziet Info Support de ontwikkeling en integratie van generatieve AI in jullie diensten voor de komende 5 jaar? Zijn er bepaalde trends of technologieën waar jullie bijzonder op gebrand zijn om te volgen of te implementeren? Na je antwoord zal ik het interview afsluiten. De ontwikkeling en integratie van generatieve AI zal de aankomende jaren een vlucht nemen. Veel organisaties hebben een berg, zo groot als de Mount Everest, aan documenten en benutten de inhoud daar niet echt van. Met de komst van generatieve AI ontstaat de mogelijkheid om de inhoud toegankelijk te maken voor een brede doelgroep. De trend zal zijn dat veel van deze systemen gebouwd worden, maar wij zijn erop gebrand om die systemen juist robuust en betrouwbaar te maken. We doen onderzoek naar bijvoorbeeld de herleidbaarheid van de uitkomsten van generatieve AI en bronvermelding. De nieuwe ontwikkeling van bijvoorbeeld taalmodellen gaat rap en in een hoog tempo komen er nieuwe versies uit. Dat brengt uitdagingen met zich mee, want blijft je AI-systeem gebaseerd op generatieve AI wel werken als het fundament vervangen wordt? Wij kijken daarom naar geautomatiseerde testen van prompts en hoe je dit soort systemen monitort in productie. In de komende vijf jaar zullen er helaas ook veel onzin-applicaties worden gebouwd, gewoon omdat het technisch mogelijk is. De technologie wordt dan leidend en niet de bedrijfsdoelstellingen. Dit zal voor een aantal organisaties een dure les worden. Dat is zeker een belangrijk punt van aandacht. Bedankt voor dit interview. Best wel cool hoe uiteindelijk dan zo'n groot taalmodel zo'n interview kan afnemen. Hoe hebben we dit nou gemaakt? Kijk, het is niet met stemmen gegaan. We hebben echt een taalmodel gebruikt. Dus de vragen zijn geschreven en ik heb de antwoorden gegeven. Dus we hebben dit ingesproken alsof JGPT met daadwerkelijk spraak dit aan mij zou geven. En ik heb antwoorden die ik daadwerkelijk geschreven heb, heb ik ook zo nu opgenoemd in deze aflevering. Ik hoop dat je deze aflevering leuk en interessant vond. Zorg dan dat je je abonneert via je favoriete podcast app en mis geen aflevering. Dank je wel weer voor het luisteren. 135