Waar ging Google mis met Gemini's diversiteit?

Hoi, leuk dat je weer luistert naar een korte, actuele aflevering van AIToday Live met vandaag de behoorlijk gênante blunder van Google. Google heeft afgelopen week officieel zijn excuses aangeboden voor genante en onnauwkeurige afbeeldingen gegenereerd door zijn nieuwe Gemini AI tool. De verontschuldiging komt nadat gebruikers problemen hebben gedeeld, vooral op social media waarbij Gemini ahistorische en raciaal diverse afbeeldingen produceerde voor specifieke aanwijzingen over groepen als nazi-soldaten en bijvoorbeeld de Amerikaanse founding fathers. Waarbij de verplichte diversiteit van het model absurd was. 3 van de 4 gegenereerde foto's van nazi's hadden een heel hoog diversiteitsgehalte. Niet iets waar die nazi's zo onbekend stonden. Toch? In een tijd waarin de potentie van AI onbegrensd lijkt, toont deze stap natuurlijk de diep gewortelde uitdagingen die nog steeds bestaan in het hart van de industrie. Het incident met Gemini onderstreept niet alleen de technische tekortkomingen, maar ook een dieper maatschappelijk probleem. Diversiteit en AI machine learning kan geen afterthought zijn. Het is een principe dat Google op harde wijze heeft moeten leren. Zo hebben ze de mogelijkheid om foto's te genereren tijdelijk uitgezet. Dit moet wel een moment van zelfreflectie zijn voor een van de grootste spelers op het techtoneel. En het biedt een cruciale les wat mij betreft voor de gehele sector. De noodzaak om diversiteit en inclusiviteit als fundamentele waarde in de kern van AI ontwikkeling te plaatsen. Googles aanpak waarbij de gestelde prompt van gebruikers worden gewijzigd, want dat gebeurde door, wanneer de prompt over mensen ging, voegden ze daar als eis diversiteit aan toe. Dat is natuurlijk ontzettend problematisch en ook wel flink kunstel toch. Alsof je aan het eind nog even kan zeggen "doe ook nog even een diversiteitssausje". Het laat zien dat er iets fundamenteel mis is met de wijze waarop Big Tech omgaat met representatie. Het manipuleren van prompts om diversiteit te forceren behandelt slechts de symptomen van het probleem en niet de oorzaak. Het risico van dergelijke aanpassingen is dat ze kunnen leiden tot onnauwkeurige representatie, stereotypering of zelfs het uitwissen van bepaalde groepen uit de gegenereerde afbeeldingen. Dit benadrukt een gebrek aan begrip van de complexiteit en nuances van dit issue. Het probleem met veel huidige AI-systemen ligt niet alleen in de algoritme zelf, maar juist in de data waarop ze getraind zijn. De data vormt de basis van elke AI-machine-learning-operatie. Het voedt het systeem, beïnvloedt de besluitvorming en bepaalt de uitkomst. Als deze data een gebrek aan diversiteit vertoont, is de uitkomst inherent bevooroordeeld en beperkt. Het aanpakken van dit probleem door simpelweg de data te veranderen in plaats van te proberen het gebrek aan diversiteit kunstmatig te verbergen in de resultaten, is een stap in de richting van de oplossing. Het veranderen van de data betekent het erkennen van en het actief zoeken naar een breed scala data-en perspectieven en ervaringen om in de dataset op te nemen. Ook vind ik dat als bedrijven zoals Google met hun immense invloed in middelen AI-systemen op de markt brengen, dan dragen ze een aanzienlijke verantwoordelijkheid. Met deze technologie hebben we de kracht om de manier waarop we leven, werken en met elkaar omgaan fundamenteel te veranderen. Daarmee komt de plicht om ervoor te zorgen dat deze veranderingen ten goede komen aan iedereen ongeacht hun achtergrond. Het recente incident met Google's Gemini toont aan dat er een soort van haast is geweest om competitief te blijven met rivalen zoals OpenAI, waardoor cruciale stappen in het waarborgen van ethische en inclusieve praktijken zijn overgeslagen. Vergeet je niet, OpenAI heeft vergelijkbare uitdagingen op het gebied van diversiteit en inclusie. Alleen lijken zij die beter verbloemd te hebben, misschien dankzij hun voorsprong in de markt. Dat betekent niet dat het probleem opgelost is. Zowel OpenAI als alle andere spelers in het veld staan voor de enorme taak om hun datasets en algoritmes voortdurend te evalueren en aan te passen, met als doel een eerlijkere vertegenwoordiging en behandeling van alle gebruikers. En dat is lastig, want de herkomst van de data is nauwelijks te achterhalen voor ze en de hoeveelheid maakt het schier onmogelijk om de ernst van de diversiteitsproblemen te onderzoeken. Dit brengt ons bij een fundamenteel punt. De ontwikkeling van AI kan niet los worden gezien van de maatschappelijke context waarin deze technologieën functioneren. Het gaat niet alleen om de technische uitvoering, maar ook om de ethische overwegingen en de maatschappelijke impact van deze systemen. De technologie-industrie moet de verantwoordelijkheid nemen om te zorgen voor inclusieve eerlijke en diverse AI-systemen. Dit vereist een voortdurende dialoog met gemeenschappen, etici en experts uit verschillende velden. Evenal een bereidheid om te leren van fouten en deze actief te corrigeren. Daarnaast is transparantie cruciaal. Bedrijven moeten open zijn over de data die ze gebruiken, de besluitvormingsprocessen van de algoritmes en de maatregelen die ze nemen om veroordelen en discriminatie tegen te gaan. Dit zal het vertrouwen opbouwen bij gebruikers en de gemeenschap in staat stellen om feedback te geven en deel te nemen aan het vormgeven van de toekomst van AI. Laten we het debacle van Google zien als een wake-up call voor de hele industrie om te erkennen dat echte vooruitgang in AI niet kan worden bereikt zonder een fundamentele toewijding aan diversiteit, inclusie en ethische verantwoordelijkheid. Als we een toekomst willen bouwen waarin AI de mensheid ten goede komt, moeten we beginnen met het bouwen van systemen die alle aspecten van menselijke diversiteit waarderen en weerspiegelen. Wat vind jij van deze problematiek? Laat het ons weten op de socials of mail ons. Ik ben erg benieuwd naar je reacties. Mijn naam Joop Snijder, CTO bij Aigency. Dankjewel weer voor het luisteren. [Muziek]