Het trainen van AI-modellen kost heel veel energie. Ook om vragen van gebruikers te beantwoorden, consumeren AI-toepassingen veel energie. Gevolg: een snel oplopend energieverbruik door datacenters. Aangezien technologiebedrijven er alles aan doen om tot nog geavanceerdere AI-modellen te komen, zal dat energieverbruik de komende jaren verder oplopen. Aida Todri-Sanial vindt dat een zorgwekkende ontwikkeling. Zij ziet het als haar persoonlijke missie om energie-efficiëntere computersystemen te ontwikkelen.
Als hoogleraar van de Integrated Circuits group van de Electrical Engineering Department van de Technische Universiteit Eindhoven geeft Todri-Sanial momenteel leiding aan een team dat haar bij haar missie helpt. Het gaat om een baanbrekend onderzoeksproject (AI-on-ONN: Online Learning for Sense-to-Compute Edge AI with Oscillatory Neural Networks) waarvoor ze een AiNed Fellowship grant heeft ontvangen. In dit interview maken we nader kennis met haar en vragen we hoe haar zoektocht naar energiezuinig computergebruik voor AI-toepassingen verloopt.
Zoals de projecttitel al suggereert, verdiept Todri-Sanial zich graag in complexe materie. Deze passie begon al in haar kindertijd, dankzij een inspirerende leraar op de basisschool die graag in de weer was met praktische experimenten. “Zo demonstreerde hij met veel enthousiasme de werkingsprincipes van elektriciteit en magnetisme. En waar mogelijk, konden wij meedoen met die experimenten. Ik vond het geweldig! Toen besefte ik al hoe magisch wetenschap kan zijn.”
Nieuwsgierig als Todri-Sanial was, wilde ze altijd weten hoe dingen werken. Haar ouders moedigden dat alleen maar aan, ook als ze thuis natuurkundeproefjes deed. “Ik kan me nog goed herinneren dat ik mijn allereerste elektrische schakeling maakte met een gloeilamp en een batterij. Dolblij was ik toen die brandde.”
Haar nieuwsgierigheid, intelligentie en doorzettingsvermogen bleven niet onopgemerkt. Todri-Sanial kreeg een beurs om in de VS te gaan studeren: de bacheloropleiding Electrical Engineering aan de Bradley University in Illinois. “Dat was een totaal nieuwe ervaring voor me, want voorheen was ik gewend om alles uit tekstboeken te leren. Dus toen ik op die Amerikaanse universiteit het elektronicalab binnenliep en daar allerlei apparatuur vond om experimenten mee uit te voeren, stond ik versteld. Voor mij was het een soort van Disneyland”, zegt ze lachend.
Zelf dingen bouwen, eenvoudige elektronische circuits herontwerpen: de combinatie van wetenschappelijk onderzoek en praktische experimenten ligt Todri-Sanial bijzonder goed. Na twee jaar Bradley University en een masteropleiding van twee jaar aan de California State University, volgde ze een vijfjarig PhD-programma aan de UC Santa Barbara. Haar PhD-onderzoek richtte zich op het verbeteren van het vermogen en de kloksnelheid van processorchips. Belangrijk, want de processor is het deel van de computer dat het zware rekenwerk op zich neemt en dat processen aanstuurt.
Computerprocessoren kun je vergelijken met het menselijke brein. Maar die vergelijking gaat maar gedeeltelijk op, benadrukt Todri-Sanial: “Bij computers zijn het geheugen en de processor van elkaar gescheiden en dat vereist een constant heen en weer sturen van data. Heel inefficiënt. Waarom ontwerpen we niet een computer waarbij geheugen en gegevensverwerking samengaan? Bij onze hersenen werkt dat ook zo. Wij gebruiken niet een deel van onze hersenen voor het verwerken van informatie en een ander deel voor ons geheugen. Alles is geïntegreerd in biologische neurale netwerken. We hoeven dus niet eerst reeksen van eentjes en nulletjes om te zetten in informatie waar we wat mee kunnen. Computers doen dat wel en die voortdurende conversie van data kost veel energie.”
Hoe dit anders zou kunnen? “Onze hersenen bestaan uit meer dan 80 miljard neuronen. Maar zelfs als we hard nadenken, verbruiken we niet meer energie dan wat er nodig is om een lamp te laten branden”, legt Todri-Sanial uit. Dit inspireert haar om computerarchitecturen te onderzoeken die gemodelleerd zijn naar de hersenen. “Aan de Technische Universiteit Eindhoven onderzoeken we nu hoe we analoge elektronische neuronen met oscillatoren kunnen maken. Deze benadering vereist niet alleen nieuwe typen computermodellen, maar ook andere materialen en een nieuwe computerarchitectuur.”
AI-systemen die sneller kunnen schakelen en daarbij ook nog eens veel energiezuiniger zijn: dat vraagt om een totaal nieuwe benadering. Todri-Sanial en haar team doen momenteel onderzoek op verschillende vlakken. Ze onderzoeken het potentieel van geavanceerde nanomaterialen en ontwikkelen elektronica en rekenmodellen om oscillerende neurale netwerken (ONN's) mogelijk te maken. Deze ONN's werken fundamenteel anders dan bestaande digitale netwerken met vaste elektronische circuits. ONN's zijn zeer niet-lineair en vertonen een complexe dynamiek die in staat is om informatie sneller en efficiënter te verwerken. Het trainen van de huidige AI-modellen vergt een enorme hoeveelheid gegevens en energie. De nieuwe benadering is gericht op het ontwikkelen van een neuromorfe ONN-architectuur die snel patronen kan herkennen en complexe taken kan uitvoeren met minimale energie en gegevens. Dit innovatieve ONN-systeem sluit aan bij andere initiatieven op het gebied van AI en neuromorphic computing in Nederland en heeft het potentieel om de efficiëntie en snelheid van bepaalde AI-toepassingen aanzienlijk te verbeteren.
Het project van Todri-Sanial startte in september 2023 en is nu dus ruim een jaar onderweg. “Het was een jaar met veel uitdagingen, maar ook een jaar waarin we veel hebben geleerd”, geeft ze aan. Om haar verhaal wat concreter te maken, pakt ze er een robotje bij. Het gaat om een prototype-demonstratiemodel dat niet alleen voorzien is van camera’s en andere sensoren, maar dat ook een door de hoogleraar en haar studenten ontwikkelde ONN-processor bevat. En zo zijn er nog meer prototypes.
“Je kunt wel een mooi idee hebben, maar of het ook echt werkt, weet je pas als je het test via een proof of concept. In het begin was dat wel lastig, want toen leek niets te werken. Maar daardoor wisten we wel dat we het in een andere richting moesten zoeken. Al doende kwamen we ook regelmatig tot nieuwe inzichten. Zo hadden we er geen rekening mee gehouden dat de sensoren nogal traag zijn met het doorgeven van hun data en dat de processor dus elke keer milliseconden moet wachten tot om die gegevens te kunnen verwerken. Maar dat zegt niets over de snelheid van de processor, want zodra de data binnen zijn, is de verwerking iets wat in nanoseconden is gepiept. Die vertraging leek in eerste instantie een probleem, maar bleek een kans te zijn. Want terwijl de processor op de data wacht, kan hij in de tussentijd andere taken uitvoeren, wat multitaskingprocessen en online learning mogelijk maakte.”
Op basis van zeer complexe theorieën opstellingen bouwen en die in een laboratoriumomgeving beproeven: Todri-Sanial voelt zich als een vis in het water. “Dat ik nu een team van slimme studenten heb en we toegang hebben tot een goed uitgerust lab om te onderzoeken wat er nodig is om tot energie-efficiëntere AI-toepassingen te komen, betekent echt veel voor me. Het is een droom die uitkomt.”
Meer weten over de werkzaamheden van Aida Todri-Sanial en haar studenten? Kijk dan op de website van haar onderzoekslab.
Over de AiNed Fellowship grants
Het inzetten van uitzonderlijk AI-talent is van belang om de nationale kennis- en opleidingsbasis op het gebied van AI te versterken. De AiNed Fellowship grants helpen Nederlandse academische kennisinstituten om AI-talenten aan te trekken die in de regel kunnen kiezen tussen diverse met elkaar concurrerende aanstellingen. Dit programma is gericht op uitzonderlijke AI-talenten die kunnen worden ingezet in een AI-vakgebied, uiteenlopend van technologie tot de sociale wetenschappen en de geesteswetenschappen.