AI's energiehonger: tijd voor dieet?

Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de AIToday Live. Dit keer weer de korte aflevering. Normaal gesproken geef ik je in de korte aflevering van de show mijn visie op een onderwerp of leg ik je de werking uit van bepaalde onderdelen van AI. Deze aflevering is anders en wil ik je juist wat vragen. Ik heb namelijk je hulp nodig en ik ga je uitleggen waarvoor. Deze week ben ik op een conferentie in Londen en daar wordt veel gesproken over, hoe kan het ook anders, generatieve AI. En niet alleen hier, maar vaker op podia wordt gesproken over hoe AI en generatieve AI in het bijzonder kan helpen bij het verminderen van CO2 emissies en hoe het kan helpen bij zogenaamde groene initiatieven. En al snel worden Large Language Models genoemd, met modellen onder ChatGPT en Google's Gemini. Maar dat is paradoxaal. Want het trainen van deze modellen kost zoveel energie. Dat is misschien wel gelijk aan de energieconsumptie van honderdduizenden huishoudens. En de hoeveelheid water die hiervoor nodig is voor de koeling reken ik nog niet eens mee. Toch komt er wel meer aandacht voor Green AI. En dat is ook wel nodig, want niet alleen het trainen van deze modellen kost veel geld. Iedere vraag die jij en ik stellen aan ChatGPT is best wel duur in energieverbruik. De energiekosten voor het gebruik van ChatGPT wordt zo geschat op 0,003 kWh. Nou zou je denken, wat is nou 0,003 kWh? Dat lijkt niet veel. Maar om wat gevoel te krijgen bij hoeveel dat is, dat is net zoveel als de energie van een magnetron die 12 seconden lang gebruikt wordt op een stand van 900 Watt. En ik weet niet hoe het bij jou gaat, maar met mijn dialogen met ChatGPT stel ik gerust 10 tot 30 vragen waar ik dan antwoord op krijg. Dus in het slechtste geval zet ik dus gewoon 6 minuten lang op afstand een magnetron op vol vermogen aan. Nu is de technologie best jong en begrijp ik helemaal de aandacht op de toepassing en het gemak. Ook wij gebruiken large language models en bouwen daar best wel hele mooie oplossingen mee. Maar toch vind ik dat we als industrie wat meer aandacht mogen hebben voor Green AI. Maar wat is dat nou eigenlijk precies? Green AI? Dat verwijst naar een beweging of aanpak binnen AI die de nadruk legt op energie-efficiëntie, duurzaamheid en milieuvriendelijkheid bij de ontwikkeling en inzet van AI-systemen. Er zijn verschillende aspecten aan deze Green AI. Een daarvan is energie-efficiënt gebruik. Dit gaat over het optimaliseren van algoritme om het energieverbruik te verminderen. Er zijn allerlei technieken die kunnen bestaan uit efficiëntere modelarchitectuur, dus hoe de modellen intern in elkaar zitten. Het snoeien van dit soort modellen, dus dan verwijder je onnodige stukken van zo'n model. En het verminderen van de preciesheid, de nauwkeurigheid van de getallen die bij de berekening worden gebruikt. Je hebt ook hardware-innovaties. Dus moet je denken aan dat ze bezig zijn met de ontwikkelen en gebruiken van hardware die heel specifiek is ontworpen om juist energie-efficiënt te zijn voor AI. Zoals hele gespecialiseerde processoren voor dit soort hele complexe berekeningen. Je kan ook denken aan het aspect van duurzame datacenters. De implementatie van hernieuwbare energiebronnen, zoals zonne- of windenergie, die juist gebruikt worden in die datacenters om die berekeningen uit te voeren dat dat dan je energiebron is. En als laatste heb je het optimaliseren van de modellen zelf. Dus naast energie-efficiëntie kan je ook de modellen zodanig optimaliseren zodat er gewoon minder rekenkracht nodig is voor training en gebruik. Hier kun je denken aan juist veel kleinere taalmodellen. Waarbij je een taalmodel voor één specifieke taak terugbrengt waardoor ook energie wordt bespaard. Als laatste aspect heb je de CO2-compensatie. Als je dan toch onvermijdelijke emissies hebt kun je investeren in initiatieven voor CO2-compensatie zoals planten van bomen of projecten voor hernieuwbare energie. Je kent dat soort dingen wel. Wat is nu je vraag? Daar ben ik bijna. Het zit zo. Ik kan er van alles van vinden over hoe er nu wordt omgegaan met groene AI en hoe er over gesproken wordt. Maar uiteindelijk is het beter om te handelen toch? Of, zoals ze mooi in het Engels zeggen, put your money where your mouth is. In ons Research Center AI zijn we gestart met een onderzoekslijn rondom groene AI. We kunnen niet alle van de eerder genoemde aspecten onderzoeken en er bijdrage aan leveren. Maar juist die energie-efficiëntie en modeloptimalisatie ligt dicht bij onze expertise. Daar wil ik wel aan beginnen. Nu kom ik bij mijn vraag. Ben jij iemand die ons inzicht kan geven over groene AI? Of ken je zo iemand en wil je dan contact met ons opnemen? Ben je een masterstudent en wil je onderzoek doen op dit vlak? Meld je dan bij ons aan. Dus mijn vraag is eigenlijk, help jij mee? Dankjewel weer voor het luisteren naar deze korte aflevering over AI. Net even anders dan anders. Vergeet je niet te abonneren via je favoriete podcast app. En mis geen aflevering. Tot de volgende keer. [Muziek] [Muziek]