Bæredygtig IT med Cloud

Hvorfor er CO2-udledning og bæredygtig IT vigtig?

Når virksomheder bruger cloud-computing til at drive IT og især maskinlæring (ML) til AI opgaver, bliver der brugt betydelige mængder energi i datacentrene. Denne energi genereres ofte af fossile brændstoffer, og derfor resulterer virksomhedens IT-drift i CO2-udledninger.

Det er derfor vigtigt for virksomheder at forstå, hvordan vi kan optimere brugen af cloud-tjenester, for at minimere udledningen. I denne artikel gennemgår vi de strategier, virksomheder kan anvende til over tid at forbedre deres ESG tal.

Strategier til at reducere CO2-udledning

Her er nogle effektive strategier til bæredygtig IT, der kan hjælpe din virksomhed med at reducere CO2-udledning fra cloud- og ML-computing:

1. Brug af lav-karbon regioner
2. Følg solen og vinden
3. Udnyt Power Usage Effectiveness (PUE)
4. Brug effektiv hardware
5. Vælg den rette ML-model til opgaven
6. Genbrug data og vægte til AI

Brug af lav-karbon regioner

Cloududbyderne tilbyder datacentre i forskellige regioner. Mixet af energi-kilder er forskellig fra region til region idet der er forskel på hvor meget vandkraft, vindkraft, solenergi og atomkraft der er tilgængelig i de forskellige regioner, og hvor meget sort kul der anvendes.

Google Cloud Region	Location	CFE%	Grid Carbon Intensity
europe-north1	Finland	98%	46
europe-west3	Frankfurt	90%	345
europe-west4	Netherlands	80%	236
us-east1	South Carolina	29%	560
us-west2	Los Angeles	55%	198

Ved at vælge en lav-karbon region, kan din virksomhed reducere sin CO2-udledning væsentligt.

Danske virksomheder vælger som udgangspunkt datacentre i EU, som allerede har en meget lav andel af energi fra kul som det fremgår af tabellen. Der hvor vi skal være særlig opmærksom er:

1. Ved brug af online digital services, eksempelvis hjemhørende i USA
2. Når vores udviklere anvender cloud til custom Machine Learning (ML) modeller

De fleste cloud-udbydere tilbyder i dag et dashboard hvor virksomheden kan se emissioner på sin IT-drift. Mange virksomheder bruger Microsofts cloud-tjenester, som har egne dashboards for henholdsvis Microsoft Azure og Microsoft 365².

Følg solen og vinden

Når vi har mange tunge batch-kørsler eller udvikler egne ML modeller på store mængder data, forbruger vi mere energi. Disse kørsler kan ofte planlægges og afvikles på et tidspunkt, hvor en større andel af energien kommer fra bæredygtige kilder.

Ved af følge solen og vinden, kan vi maksimere brugen af grøn energi og derved minimere CO2-aftrykket. Dette kræver planlægning, men hvis vores ‘compute’-forbrug er stort, kan det være en effektiv metode til at udnytte tidspunkter med høj energiproduktion fra vedvarende kilder.

Udnyt PUE

Power Usage Effectiveness er et mål for, hvor effektivt et datacenter bruger energi. Jo mindre energi der spildes på andet end IT-drift, desto mere effektiv er energibrugen. Ved at vælge cloud-udbydere, der har optimeret deres datacentre til lav PUE, kan virksomheden reducere det samlede energiforbrug og dermed også CO2-udledningen.

Brug effektiv hardware

Hardware spiller en stor rolle i energiforbruget. Moderne maskiner som TPU’er (Tensor Processing Units) og GPU’er (Graphics Processing Units) er langt mere energieffektive end ældre teknologier⁴.

For eksempel kan brugen af en TPU forbedre energieffektiviteten op til 2 gange, mens GPU’er kan forbedre den op til 5 gange. Det betyder, at vi kan opnå de samme resultater med mindre energi og dermed mindre CO2-udledning. Præcis som når du skifter til mere energi-effektive skærme eller energisparepærer på kontoret.

Vælg den rette ML-model til opgaven

Anvender din virksomhed store AI modeller eller udvikler dem selv, er en vigtig strategi at sikre, at dine maskinlæringsmodeller har den rette størrelse til den opgave, de skal løse. Overdimensionerede modeller kræver mere energi både at træne og afvikle, hvilket øger CO2-udledningen.

Står i over for at implementere AI, der kan opsummere lange tekster i store mængder, er det måske ikke optimalt at bruge den store GPT model fra OpenAI, der kræver mere energi til afvikling end en mindre model, der er lige så god til at opsummere tekster.

Sprogmodellers (LLM’ers) størrelse måles i Billioner parametre. Der gættes på at den nyeste model fra OpenAI, GPT-4o, har over 1.500B parametre, Metas Llama 3.1 har 405B parametre, som også findes i mindre udgaver på 13B og 7B parametre, som fint løser simple tekstopgaver som eksempelvis opsummering af tekster.

Metas Llama 7B model bruger knap den halve mængde energi på at give et svar, som den større Llama 13B model gør³. Jo flere parametre modellen har, jo tilsvarende større er energiforbruget.

Genbrug data og vægte til AI

En anden strategi er at genanvende de modeller og vægte andre allerede har udviklet, når man ønsker at udvikle sig egen model. Vælger vi at træne videre på eksisterende modellers træningsdata og vægte ved at tilføre vores egne data oven på de eksisterende vægte, kan vi reducere energiforbruget og CO2 udledningen markant. Dette er muligt både på de modeller virksomheden selv vælger at udvikle, men også ved at bygge på OpenAI GPT4, Metas Llama eller en anden af de mange udbydere.