Waarom de vloek van AI Act een zegen is

Hoi, leuk dat je weer luistert naar een nieuwe AIToday Live, de korte versie deze keer. En ik ga het hebben weer over de EU AI Act en voornamelijk waarom de vloek van de AI Act een zege blijkt te zijn. De afgelopen week is het heel veel gegaan over de aangenomen EU AI Act. En daar is zoveel zin en onzin voorbijgekomen dat ik daar toch deze aflevering aan wil wijden. En ik moet wel zeggen ik reageer vanuit mijn AI expertise. Ik heb geen juridische achtergrond, dus ik ga het niet hebben over wat het juridisch betekent. Maar laten we wel even kijken zeg maar wat er allemaal verteld is, gezegd is en nou ja hoe ik daar in ieder geval naar kijk. Laten we eerst eens even beginnen met dat de AI Act nog niet is. Het is een politiek akkoord, dat wil zeggen dat deze nog moet worden voorgelegd aan het Europees Parlement en de Raad en die moeten er dan over stemmen. En dat politieke akkoord dat gaat tekstueel echt nog wel op punten en komma's aangepast worden. Waarom heb ik het over de vloek? Dat is omdat ik dat nou zo bijna wel gehoord heb eigenlijk de afgelopen week. Het wordt gezegd ja deze wet is een vloek, want die beperkt mij in mijn innovatiekracht en hierdoor gaan we als Europa achterlopen. Technologische doorbraken van Big Tech komen met vertraging, uitgekleed of helemaal niet op de Europese markt. Iemand zei tegen mij zelfs van ja ik zie nu al Amerikaanse concurrenten AI tools gebruiken die ik vanwege de Europese wetgeving niet kan en mag gebruiken. Dit voelt heel oneerlijk. Maar deze wet gaat over impact. Hoeveel impact maak je nou op de levenssfeer van mensen? Hoeveel mensen raak je in principe? Het gaat over mensenrechten, dus onze rechten als Europese burger. En het mooie van deze wet vind ik is dat die heel proportioneel is. Dus als je heel weinig impact maakt betekent dat er ook heel weinig risico is en dat er dan ook lage of geen eisen worden gesteld vanuit deze wet op jouw AI systeem. Hoe meer mensen je raakt, hoe meer impact je maakt, hoe hoger het risico wordt, hoe meer eisen er gesteld worden aan het systeem. En dat lijkt me dan eigenlijk wel heel logisch toch. Als je heel veel mensen raakt en heel veel schade kan toebrengen dat we ook zeggen van ja maar daar willen we wel bescherming omheen hebben. Ook een van de dingen die ik van de week heb gehoord is gezegd van ja maar technologie zou best wel mogen crashen. En daar werd de analogie aangehaald van auto's. Net als in het begin van de auto's hadden we geen gordels en op een gegeven moment kwamen we erachter dat het toch wel handig zou zijn dat dat bescherming geeft tijdens ongelukken. En ik denk dat we juist daarvan moeten leren dat we niet eerst honderd, ja ik heb geen idee over hoeveel mensen het hebben, maar we hebben het waarschijnlijk over tienduizenden, misschien wel honderdduizend mensen wereldwijd die eerst dood hebben moeten gaan vanwege een gebrek aan bescherming gordels, dus met grote impact. En met deze wet voorkomen we dit soort dingen. Dan wordt er ook gezegd ja die innovatiekrachten die heb ik net genoemd daarmee gaan we dan achterlopen als Europa. Maar ik denk dat dat toch wel een beetje onzin is, beetje erg. Want wat er gesteld is is dat gezegd wordt bijvoorbeeld alles wat te maken heeft met research, puur research op het gebied van AI valt niet onder deze wet. Startups en innovatie dan heb je nog weinig impact als het goed is op mensen, samenleving en omdat dus die impact lager is kun je dus je innovatiekracht kan je grote inzetten want dan heb je dus minder strikte strengere regels worden eraan gesteld. En als je groeit als startup en je krijgt steeds meer gebruikers of je raakt steeds meer mensen, wordt het risico hoger en daarmee worden er strengere eisen gesteld. Heel logisch lijkt mij. Dan hebben we natuurlijk nog de foundation models. De taalmodellen, de grote taalmodellen, ChatGPT is daar de meest voorkomende, meest bekende in. Daar gelden best wel strengere regels zo direct voor. En ook dat lijkt me best wel logisch, want ook die hebben grote impact. Volgens mij hebben ze daar best wel heel goed over nagedacht. En je moet je ook voorstellen, wat ik deze week ook eigenlijk niet of nauwelijks heb gehoord, is de allerhoogste risicocategorie is eigenlijk de verboden categorie. En in die verboden categorie hebben ze zaken neergezet waarvan ik denk, ja maar die moet je ook helemaal niet willen. Social scoring zit erin. We kennen allemaal denk ik wel de voorbeelden van China, hoe die omgaan met hun burgers. Dat als je een aantal keren te vaak door rood bent gelopen en er hangen overal camera's, dat dat je kredietscore naar beneden haalt. Dus dat je dan bijvoorbeeld geen hypotheek krijgt of dat je weet ik het, je baan kan verliezen. En als je denkt, ja maar dat zijn Chinese praktijken, die komen hier niet voor. Wat ook niet mag, is dat je camera's de hele dag op werknemers zet. En een aantal jaar geleden werd een transportbedrijf, die werd echt hier voor op de vingers getikt, een Nederlands transportbedrijf, die camera's in de cabine hing van de chauffeurs, die dan constant gedurende hun werk gefilmd werden. Onder het mom van kijken of ze niet in slaap vallen of ze geen onveilige dingen doen. Klinkt allemaal heel mooi. Maar moet jij er eens voorstellen dat jij tijdens je werk continu een camera op je hebt en dat er wordt gekeken wat je doet, hoe je het doet, maar ook emotieherkenning. Dus die emotieherkenning mag ook niet. Dus ik denk dat ze, die verboden heb ik het echt heel weinig over gehoord. Ik denk dat die ook echt niet passen in onze Europese normen en waarden. Dus dat is echt wat mij betreft waanzinnig. En tuurlijk zullen er zo direct allerlei haken en ogen zijn, zal ik als AI-expert soms ook misschien toch een klein beetje deze wet vervloeken, omdat ik denk "Hè, dit past net helemaal niet". Maar ik denk dat het makkelijker is om zo direct die wet te verruimen dan uiteindelijk om hem krabber weer te krijgen. Mijn beeld is wat we hebben laten schieten met social media en waar we nu geëindigd zijn, laten we dat juist niet hebben voor AI. En ik moet zeggen, ik ben blij dat we zo direct een mooi afgekaderd, proportionele wetgeving hebben rondom AI. Dank je wel voor het luisteren. Weet je trouwens dat we een nieuwe nieuwsbrief hebben met exclusieve content? De link staat in de show note. Zorg dat je je hier snel abonneert. [Muziek]