Ethiek en Maatschappij

De kracht van Generatieve AI en Large Language Models, zoals ChatGPT schuilt in het combineren van organisatiekennis met het Large Language Model. Zo hebben wij onze eigen AI-assistent die vragen over onze Best Practices kan beantwoorden, en ook over onze arbeidsvoorwaarden. Wij bouwen AI-assistenten voor onze klanten, zo ontsluiten zij handleidingen, management rapportages, contracten, FAQs, etc.

Hoewel de intentie achter de stelling nobel is, is het in de praktijk niet altijd haalbaar om de bronnen en trainingsmethoden van Generatieve AI-systemen volledig te controleren. Generatieve AI-systemen, zoals ChatGPT, Midjourney, etc. worden vaak getraind met enorme datasets die data uit een veelheid van bronnen bevatten, wat het toezicht en de validatie van elke individuele data-eenheid praktisch ondoenlijk maakt. Bovendien kan de complexiteit van de algoritmes, met name in het geval van Generatieve AI, een 'black box' creëren waarvan het moeilijk, zo niet onmogelijk, is om alle interne processen te begrijpen en te verifiëren.

Het waarborgen van ethische integriteit in Generatieve AI vereist daarom een andere benadering. We leggen daarom bijvoorbeeld meer nadruk op het ontwerpen van systemen die robuust zijn tegenover bias en die transparantie bieden over hun besluitvormingsprocessen. Ook implementeren we volgens standaarden en reguleringen die een ethisch kader bieden waaraan AI-systemen moeten voldoen, in plaats van te proberen elke bron en elk aspect van de training te controleren. Dit is een meer praktische en uitvoerbare aanpak zijn die nog steeds de ethische integriteit van AI-systemen bevordert.

We zijn het oneens met de stelling dat organisaties altijd transparant moeten zijn over het gebruik van AI in hun besluitvormingsprocessen, omdat de noodzaak van transparantie afhangt van de context en de aard van de beslissingen die door het AI-systeem worden genomen. Er zijn AI-systemen die functioneren binnen domeinen zoals predictive maintenance, waarbij de AI voorspellingen doet over het onderhoud van machines en apparatuur. Deze toepassingen hebben over het algemeen geen directe impact op individuen en vereisen daarom wellicht geen hoge mate van transparantie.

Echter, in situaties waar AI-beslissingen wel directe invloed hebben op mensen, zoals bij kredietverlening, medische diagnoses of recruitment, is transparantie cruciaal. In deze gevallen kunnen de beslissingen van AI-systemen significante gevolgen hebben voor de levens en welzijn van individuen, en is het van belang dat deze systemen begrijpelijk en controleerbaar zijn voor degenen die ze beïnvloeden. Transparantie in dergelijke scenario's bevordert vertrouwen, verantwoordelijkheid en de mogelijkheid om besluiten te beoordelen en aan te vechten indien nodig. Het onderscheid maken tussen situaties die wel of geen transparantie vereisen, is een belangrijke stap in het verantwoord implementeren van AI binnen organisaties.

We zijn het eens met de stelling dat generatieve AI aan strikte ethische richtlijnen moet voldoen, vooral wanneer deze technologieën invloed hebben op mensen. AI heeft de potentie om onze levens op ingrijpende wijze te beïnvloeden, en daarom is het belangrijk dat AI-toepassingen in lijn zijn met onze normen en waarden. De richtlijn "AI versterkt de mens" weerspiegelt ons streven naar technologieën die menselijk welzijn en vooruitgang bevorderen, zonder dit ten koste te laten gaan van ethische principes.

Hoewel ethiek complex is en niet eenvoudig in een checklist te vatten, bieden richtlijnen zoals de "7 key requirements for Trustworthy AI" van de EU en de IAMA (Institute for Applied AI Ethics) een fundament voor het identificeren van ethische risico's en het vormgeven van ons ethisch kader. Deze instrumenten helpen ons om de grenzen te bepalen waarbinnen we als organisatie willen opereren, die soms kunnen afwijken van persoonlijke ethische grenzen van individuele medewerkers.

Het volgen van deze richtlijnen is niet alleen belangrijk om misbruik te voorkomen, maar ook om de integriteit van onze bedrijfsprocessen te handhaven. Daarnaast helpt het bij het behouden en versterken van het vertrouwen van gebruikers en de maatschappij in AI. Een verantwoordelijke benadering van generatieve AI is dus essentieel voor zowel het beschermen van individuen als het bevorderen van maatschappelijk verantwoord innoveren.

Wij erkennen dat Generatieve AI, en AI in het algemeen, aanzienlijke hoeveelheden energie kan verbruiken, wat een impact heeft op de duurzaamheid. Bij het ontwerpen van AI-oplossingen overwegen we daarom zorgvuldig of de inzet van Generatieve AI de meest efficiënte optie is in termen van energieverbruik en ecologische voetafdruk.

We onderzoeken alternatieven die mogelijk minder energie-intensief zijn, zoals standaard softwareontwikkeling, het aanpassen van handmatige processen, of het verminderen van taken die niet essentieel zijn.

Ons commitment aan duurzaamheid betekent dat we proactief zoeken naar manieren om de energie-efficiëntie te maximaliseren en de milieu-impact van onze technologiekeuzes te minimaliseren. Dit kan inhouden dat we kiezen voor providers van Generatieve AI die duurzame energiebronnen gebruiken of die efficiëntere algoritmes hebben ontwikkeld. Door deze benadering kunnen we onze verantwoordelijkheid nemen voor de milieu-impact van onze technologische beslissingen en tegelijkertijd de innovatieve kracht van AI benutten waar dit het meest geschikt is.

Als organisatie staan we neutraal tegenover het klonen van stemmen; we zijn noch expliciet voor noch tegen. Het belangrijkste is dat de toestemming en voorkeuren van het individu te allen tijde worden gerespecteerd. De keuze om al dan niet een stem te klonen is een persoonlijke en moet worden beschouwd als een onderdeel van iemands lichamelijke integriteit.

In onze organisatie heeft elke medewerker de vrijheid om zonder opgaaf van redenen te weigeren hun stem te laten klonen. Dit beleid waarborgt de persoonlijke autonomie en respecteert de privacy van onze medewerkers. Als een medewerker instemt met het klonen van hun stem, zal dit altijd gebeuren binnen een duidelijk omschreven kader dat het ethische gebruik waarborgt en de rechten van het individu beschermt. Dit kan betekenen dat er strikte richtlijnen zijn voor de contexten waarin de gekloonde stem gebruikt mag worden en dat er maatregelen worden getroffen om misbruik te voorkomen.

We zijn het eens met de stelling omdat er verschillende strategieën bestaan die vooroordelen in generatieve AI kunnen verminderen. Deze strategieën omvatten onder meer het gebruik van gediversifieerde en evenwichtig samengestelde datasets, het toepassen van algoritmen die vooroordelen kunnen detecteren en corrigeren, en het doorvoeren van ontwerpkeuzes die fairness bevorderen.

Een belangrijke methode is het gebruik van audits en bias impact assessments voor en na het uitrollen van AI-systemen. Daarnaast is het betrekken van multidisciplinaire teams met een breed scala aan perspectieven essentieel om blinde vlekken in het ontwerp- en ontwikkelingsproces te verminderen. Onderzoek naar en investeringen in explainable AI (XAI) dragen bij aan de transparantie en het begrip van hoe algoritmen werken, wat essentieel is om vooroordelen te identificeren en aan te pakken (zie ondermeer onze [onderzoeken naar explainable AI](https://research.infosupport.com/artificial-intelligence/)).

Verder is continue monitoring en herziening van AI-systemen in praktijkomgevingen noodzakelijk om onbedoelde effecten op te sporen en te corrigeren. Het implementeren van deze en andere strategieën is geen eenmalige actie, maar een doorlopend proces dat vraagt om een toegewijde aanpak. Zo verzekeren we ons ervan dat onze AI-systemen zo objectief en eerlijk mogelijk functioneren.