De impact van de nieuwe EU AI Act

[muziek] Hoi, je luistert naar AIToday Live, de korte aflevering. Mijn naam is Joop Snijder, CTO bij Aigency. Voor deze keer moest ik een keuze maken. Ga ik jullie bijpraten over het nieuwe model van Google Gemini? Of zal ik kiezen voor het akkoord van de nieuwe EU AI Act? Nou, hoewel Google Gemini misschien meer sexy is, heb ik toch bewust gekozen voor de EU AI Act, omdat die namelijk veel belangrijker is en veel meer impact heeft. Gemini is een nieuw model van Google die ongeveer hetzelfde kan als GPT 3.5, waarvan de ultraversie, die net zo goed of ietsje beter zou moeten zijn, dan GPT 4.0 nog moet uitkomen. Dus ik heb niet gekozen voor de marketing van Google, maar een onderwerp dat ons allemaal raakt. Daarom bespreek ik de nieuwe EU AI Act wetgeving en wat dit betekent voor het gebruik van kunstmatige intelligentie in Europa. Na jaren van onderhandelingen is er nu een voorlopig akkoord bereikt over deze toch wel baanbrekende wetgeving, die als doel heeft om AI voor ons veilig, ethisch en gereguleerd te implementeren. Allereerst, wat houdt die AI Act nou in? De wet stelt nieuwe regels en vereisten voor zogenaamde hoogrisico AI-systemen. Dit zijn AI-toepassingen die een significant risico kunnen vormen voor de veiligheid of fundamentele rechten van ons als burger. Geschat wordt dat ongeveer zo'n 15% van alle AI-systemen onder deze risicoclasse valt. Voor de echt grote AI-modellen komen aparte eisen en Europese toezicht. Denk bijvoorbeeld aan AI-systemen in zelfrijdende auto's, medische diagnoses, werving en selectie voor banen of kredietbeslissingen. Deze systemen zullen aan strengere eisen moeten voldoen voordat ze op de Europese markt gebracht mogen worden. De wet bevat ook een aantal expliciete verboden op bepaalde controversiële en voor ons onwenselijke vormen van AI, zoals real-time gezichtsherkenning in openbare ruimtes en social scoring waarbij je mensen een score geeft op basis van hun gedrag en persoonskenmerken. Een bekend voorbeeld van social scoring in bijvoorbeeld China is een sociaal kredietsysteem waarbij de overheid burgers een score geeft op basis van hun gedrag. Bijvoorbeeld hoe goed ze de verkeersregels naleven, of ze op tijd rekening betalen enzovoort. En deze, zeg maar, burgerscore, social score, bepaalt vervolgens de toegang die iemand heeft op bepaalde diensten en voorzieningen. Dit zijn belangrijke ethische barrières die in de wetgeving nu bij ons zijn verankerd en dus in Europa verboden worden. Lijkt me een prima uitgangspositie. Nou, aanbieders van chatbots in webwinkels, maar ook als je deepfake technieken gebruikt of generatieve AI-systemen zoals ChatGPT, die moeten ervoor zorgen dat het voor mensen duidelijk is dat ze met een AI praten of dat content door AI is gemaakt. AI-systemen met geen tot weinig risico voor mensen hoeven niet aan extra uitzetten te voldoen. Dit zijn bijvoorbeeld AI-systemen voor klantenservices, voorraadbeheer of laag risicodata. Dus als je Netflix'e aanbeveling misschien net even die verkeerde serie heeft aanbevolen, heeft dat niet zo'n hoog risico gehaald. Nou, wat ook interessant is, zijn de nieuwe regels voor zogenaamde, wat zij dan noemen, general-purpose AI-modellen. Zoals de chatbots en de taalmodellen en de grootste en meest geavanceerde varianten hiervan, ChatGPT, Googlebot, dat soort zaken. Hiervan zullen aanvullende eisen, zij zullen aan aanvullende eisen moeten voldoen op het gebied van veiligheid, nakeurigheid en transparantie. En dit kan uiteraard gevolgen hebben voor de ontwikkeling van dit soort AI-systemen door tech-giganten. Dus we moeten maar eens even kijken hoe zij daar uiteindelijk mee omgaan. Maar ik denk dat dat wel een hele goeie is, vooral veiligheid, transparantie. Ik ben voor. In de AI-Act is ook rekening gehouden met het behoud van innovatieruimte voor met name Europese start-ups en scale-ups die werken aan AI-systemen. Zo krijgen Europese bedrijven over het algemeen een iets lichtere set verplichtingen opgelegd dan niet-Europese partijen. En ook hoeven kleine start-up bedrijven, start-ups, zich voorlopig niet te houden aan de strengste regelgeving, die wel geldt voor de grootste en meest riscante AI-systemen. Pas wanneer hun systemen een significante impact gaan hebben op de maatschappij, zullen zij ook steeds aan meer vereisten moeten voldoen. Lijkt me op zich ook best wel heel erg logisch. Dus de Europese wetgevers hebben geprobeerd om een balans te vinden tussen consumentenbescherming en het faciliteren van verantwoorde AI-innovatie. Tegelijkertijd biedt de nieuwe regulering ook meer rechtszekerheid voor start-ups die met AI aan de slag willen binnen Europa, omdat nu die spelregels veel duidelijker zijn. Ik vind het belangrijk om te benadrukken dat deze AI-act slechts een eerste stap is in het reguleren van deze complexe technologie. Na de formele goedkeuring volgend jaar, ongeveer, zal de implementatie en handhaving van de wet de komende jaren centraal komen te staan. We kunnen dus nog veel jurisprudentie en aanpassingen verwachten, maar met dit, nou ja, toch wel unieke akkoord, toont Europa in ieder geval leiderschap in het vormgeven van verantwoorde en menselijke AI-systemen. Dus als we alles bij elkaar nemen, biedt de AI-act, dus enerzijds meer zekerheid voor burgers, consumenten, maar anderzijds ook voldoende innovatieruimte voor het bedrijfsleven. Ik denk een complex evenwicht, maar na jaren onderhandelen lijken we nu in ieder geval een werkbare balans gevonden te hebben. En ongetwijfeld zal de praktische uitwerking en implementatie van de wet de komende jaren nog de nodige voeten in aarde hebben. Maar Europa bewandelt met deze AI-act grotendeels onbekend terrein van technologieregulering. Dus daar moeten we wel rekening mee houden. En niet onbelangrijk, het akkoord moet nog wel worden goedgekeurd door alle EU-lidstaten en het hele Europees parlement. Dus de wet treedt naar zo'n twee jaar inwerking na dat akkoord. Klinkt misschien nog best wel lang, maar als je nu begint met het ontwikkelen van AI-systemen, kun je alvast rekening houden met deze wetgeving, want ik ga ervan uit dat je systeem wel de aankomende jaren wilt blijven gebruiken. En dan gaat die onder deze wetgeving vallen. Vind je deze content nou leuk? Deel hem dan met vrienden, collega's, familie. En tegenwoordig hebben we een exclusieve nieuwsbrief voor onze luisteraars. Link kun je vinden in de show notes. [Muziek]