AI-agents kunnen tot 136 keer meer energie verbruiken dan gewone chatbots

In dit artikel:

Onderzoekers van het Korea Advanced Institute of Science and Technology (KAIST) waarschuwen dat de opkomst van AI-agents — systemen die zelfstandig kunnen plannen, informatie opzoeken en hulpmiddelen inzetten — veel meer energie kan kosten dan gewone chatbots. De studie, onder leiding van professor Minsoo Rhu van de School of Electrical Engineering, kijkt naar wat deze nieuwe generatie AI betekent voor rekenkracht, snelheid en stroomverbruik.

Waar een standaard chatbot meestal één vraag per keer afhandelt, voert een AI-agent meerdere stappen uit en schakelt daarbij herhaaldelijk een taalmodel en externe tools in. Juist dat maakt het systeem zwaarder: volgens de onderzoekers kan de verwerkingstijd in sommige gevallen tot 153,7 keer langer zijn dan bij traditionele AI. Ook blijken de gebruikte GPU’s vaak lang stil te staan terwijl ze wachten op zoekresultaten of berekeningen, waardoor een groot deel van de rekenkracht onbenut blijft.

Op energieniveau is het verschil nog groter. Een agent die draait op een taalmodel met 70 miljard parameters verbruikte in de analyse gemiddeld 348,41 wattuur per opdracht, 136,5 keer meer dan een eenvoudige AI-toepassing. Om de gevolgen op grote schaal te schetsen, rekenden de onderzoekers een scenario door met 13,7 miljard verzoeken per dag: dan zou de benodigde stroom voor AI-datacenters kunnen oplopen tot 198,9 gigawatt, ongeveer de helft van het gemiddelde elektriciteitsverbruik van de Verenigde Staten.

De conclusie van het onderzoek is dat de toekomst van AI niet alleen draait om slimmere modellen, maar ook om efficiëntere systemen. Volgens Rhu moeten modellen, chips en energie-infrastructuur daarom voortaan samen worden ontworpen. De onderzoekers hebben hun code en benchmarks openbaar gemaakt, al benadrukken ze dat het werk nog op specifieke taken en aannames is gebaseerd.