UMafrika
esports

7 säkra sätt att bränna din AI-budget

Cio:er har alltid känt pressen att snabbt införa ny teknik. Implementeringen medför utmaningar, bland annat att beräkna och mäta de initiala investeringskostnaderna. Om man inför tekniken för snabbt, och när hajpen avtar, står många it-avdelningar kvar med en kostsam arkitektur att underhålla, säkerhetsluckor och driftsproblem.

Samma trend gäller för AI. Många cio:er har skaffat AI-modelllicenser för hela företaget och gett medarbetarna möjlighet att experimentera med språkmodeller och utveckla AI-agenter. Andra har bett devops-team att påskynda genereringen av AI-kod och vibe-kodning. Övergången från snabba experiment till att driftsätta fler AI-funktioner i produktionen kan leda till att cio:er hamnar med en växande AI-skuld och brister i AI finops.

Cio:ernas kortsiktiga bekymmer är att hantera budgetarna mitt i konsumtionsbaserade prismodeller för AI. Även om kostnaderna för AI-tokens minskar använder fler medarbetare AI, och agenterna tilldelas mer utmanande och kostsamma uppdrag. Här är sju vanliga misstag som it-chefer gör och som leder till sprängda AI-budgetar.

Att ha en AI-strategi utan mätbara affärsresultat

De flesta cio:er och caio:er inser behovet av att fastställa AI-strategier inriktade på områden där AI kan ge bestående affärsvärde. Men många misslyckas med att kvantifiera de eftersträvade affärsresultaten, vilket leder till att medarbetarna använder införandemätvärden som det primära målet.

– Varje token som spenderas på ett pilotprojekt som aldrig bevisar sitt värde är pengar som ledningen inte kan få tillbaka och en förlorad alternativkostnad, vilket är ett styrningsmisslyckande snarare än ett tekniskt misslyckande, säger Rob Scudiere, cto på Verint.

– Varje agent och arbetsflöde bör behöva förtjäna sin budget genom att visa resultat som uppnår det önskade affärsresultatet, annars förlorar de den.

Kris Beevers, vd och medgrundare av Netbox Labs, rekommenderar att man använder befintliga affärsmätvärden för att se om de områden som inför AI förbättras snabbare.

– Om införandet ökar men resultaten inte följer med är det en ganska tydlig signal om att man bör ompröva var man lägger sina resurser, säger Beevers.

Rekommendation: Det kan vara svårt att sätta upp konkreta finansiella mål under experimentfaserna, men medarbetarna bör fastställa finansiella mål innan AI-agenterna går vidare till utvecklings- och driftsättningsfaserna.

Att experimentera utan AI-styrning

Cio:er kan upptäcka att de har en riktig röra på halsen när några få pilot-AI-agenter snabbt skalar upp till tusentals som körs i produktion. En stor del av AI-styrningen fokuserar på att identifiera ansvariga, fastställa regler för datatillgång, definiera mål för affärsresultat och upprätta riktlinjer för noggrannhet. Cio:er måste också utbilda medarbetarna om underliggande kostnadsfaktorer, inklusive modellval och plattformsstandardisering.

– Försenad AI-styrning ses ofta som en efterlevnadsrisk, men det är i lika hög grad en budgetfråga, säger Guy Bourgault, chef för agentbaserade system på Concentrix.

– Ju längre organisationer väntar med att definiera ägarskap, standarder och kontroller, desto mer slutar de med att finansiera ineffektivitet istället för framsteg.

Varun Goswami, global chef för produkt och AI hos Newgen, säger att AI-budgetar slösas bort på spridda pilotprojekt, dubbla integrationer och agenter som körs i det tysta utan att någonsin bevisa sitt värde.

– Bygg på en enda styrd plattform istället för ett dussin parallella stackar, återanvänd mallar och kopplingar istället för att skräddarsy varje användningsfall, och anpassa modellen till uppgiften istället för att dirigera allt till den dyraste grundmodellen, rekommenderar Goswami.

Datakvalitet är ett tredje problem, enligt Collibra och The Harris Poll, där 96 procent av it-cheferna säger att projektmisslyckanden nästan alltid kan spåras tillbaka till bristfälliga datagrunder, och 51 procent rapporterar att personalen lägger ner betydande arbetstid på att manuellt korrigera resultaten från autonoma AI-agenter. Cio:er bör fastställa mått för datakvalitet och etablera dataprodukter för att bygga ett tillförlitligt AI-kontextlager.

Rekommendation: Cio:er bör uppdatera och kommunicera sina riktlinjer för AI-styrning varje månad, eftersom kostnader, funktioner, efterlevnad och säkerhetsaspekter inom AI utvecklas snabbt.

Att fokusera tokenomics på modellkostnader istället för affärsvärde

En stor del av diskussionen kring AI-tokenekonomi, eller tokenomics, fokuserar på kostnaderna för att använda olika AI-modeller. Men FinOps Foundation definierar tokenomics som ”studien av hur produktion, distribution och konsumtion av tokens genererar affärsresultat och AI-värde inom en organisation”.

Eftersom många organisationer använder flera modeller, SaaS med AI-agenter och internt utvecklade AI-agenter, bör cio:er samarbeta med cfo:n för att mäta den totala påverkan, inklusive AI:s direkta tokenkostnader, medarbetarnas insatser, löpande inferenskostnader och det värde som levereras.

– Företag kan snabbt spendera för mycket på AI när de fokuserar alltför snävt på tokenförbrukningen, och utgångspunkten bör alltid vara det affärsmässiga resultatet, säger Prakash Kota, cio på UKG.

– Kräver arbetet kompetens för omdöme eller expertis, kan befintliga verktyg lösa det effektivt, eller skapar tokens tillräckligt med värde för att motivera investeringen?

Cio:er bör sedan fastställa AI-budgetar på medarbetar-, avdelnings- och arbetsflödesnivå. Varje grupps budget bör granskas och justeras regelbundet utifrån resultaten. Denna disciplin främjar ekonomiskt kloka beslut om när och hur AI-funktioner ska användas och kan driva på en kulturförändring uppifrån och ner.

– Samma tokens kan gå till en skicklig ingenjör som levererar en produkt snabbare, eller till en icke-expert som skapar tio versioner av samma presentationsmaterial, säger Tom Shea, vd och medgrundare på One Stream.

– Budgetposten ser identisk ut oavsett vilket, och för att token verkligen ska vara effektiva krävs styrning som säkerställer att de ger experterna möjlighet att öka produktionen, istället för att driva på en massiv kostnadsexplosion.

Rekommendation: Att fastställa AI-budgetar för tidigt kan hämma medarbetarnas entusiasm för att lära sig och experimentera med AI. Fastställ finansiella mål baserade på en mognadskurva för att först uppmuntra experimenterande, och sedan införa finansiell disciplin när AI-agenter tas i drift.

Att utveckla AI-agenter utan standarder

Cio:er bör kommunicera två kostnadsaspekter till devops-team som använder AI-kodgeneratorer.

För det första visar Stack Overflows utvecklarundersökning för 2026 att 73 procent av utvecklarna använder AI-kodningsassistenter och -agenter dagligen, men utvecklarna prioriterar kvalitet (75 procent) framför kostnad (38 procent) när de utformar promptar och väljer modeller. Cio:er bör fastställa riktlinjer för att balansera avvägningar mellan kostnad och kvalitet, fastställa icke-förhandlingsbara krav för devops och kräva kodanalys i driftsättningspipelines.

– Kodning är inte längre en begränsning, och flaskhalsen har flyttats till hur vi säkerställer kodens korrekthet, säger Anurag Dhingra, chef för nätverk och samarbete på Cisco.

– Det finns helt enkelt inget mänskligt möjligt sätt att granska varje kodrad som skrivs av AI.

Problemet är att 96 procent av utvecklarna inte helt litar på AI-genererad kod och att 48 procent alltid kontrollerar sin AI-assisterade kod innan de committerar den, enligt Sonars undersökning ”State of Code Developer Survey”. Eftersom stora organisationer kan använda flera AI-verktyg för kodgenerering måste de jämföra kvalitet, kostnad och utvecklarnas tillfredsställelse.

– Teamen behöver tydliga riktlinjer och tekniska standarder, särskilt eftersom AI-agenter påskyndar utvecklingen och kan leda till kostsamma omarbetningar, säger Andrea Malagodi, cto på Sonar.

– Att ha realtidsdata samlad från en eller flera leverantörer, så att man kan se kostnaden per PR [pull request], är en bra styrningsmekanism.

Rekommendation: Även om AI-kodgenerering är ett anmärkningsvärt genombrott medför den också nya kostnader och kvalitetsaspekter som cio:er bör hålla koll på.

Att använda frontier-modeller för alla AI-behov

En annan kostnadsaspekt uppstår när organisationer implementerar hundratals AI-agenter och ger utvecklare flera AI-modeller att välja mellan. Utvecklare kan välja modeller utifrån preferenser snarare än prestanda och kostnadsöverväganden.

Craig Wiley, vice vd för AI på Databricks, säger att 77 procent av företagen nu jonglerar med flera modellfamiljer eftersom den bästa modellen för en uppgift sällan är den bästa för en annan.

– Flexibiliteten medför kostnader i form av hantering av fluktuerande priser, spridda leverantörer och noll insyn i vart budgeten faktiskt går. Lösningen är realtidsbudgetar och smart dirigering som automatiskt skickar förfrågningar till den mest kostnadseffektiva modellen, säger Wiley.

Rekommendation: Josh Fecteau, chief data and AI officer och cio på Teradata, säger att de allra senaste modellerna är dyra och inte nödvändiga för varje uppgift. ”Diversifiera din modellstrategi med billigare små språkmodeller, anpassade modeller och branschspecifika modeller”, rekommenderar Fecteau.

Att implementera AI-agenter utan att övervaka kostnadsspikar och ineffektivitet

En viktig utmaning med AI-agenter är deras varierande kostnader, särskilt när de tilldelas uppgifter av varierande komplexitet. Medan vissa AI-leverantörer går över till resultatbaserade prismodeller använder många fortfarande en licensmodell med ett fast antal tokens, plus förbrukningsbaserad prissättning för överskridanden. Detta innebär att it-chefer måste övervaka kostnaderna, fastställa standarder för AI-övervakbarhet och definiera regler för hantering av prestandavariationer hos AI-agenter.

– Jag har arbetat 25 år inom telefoni där varje minut hade ett pris, och agentbaserad AI är den första mjukvaran jag har sett som faktureras som ett telefonsamtal och budgeteras som en licens, säger CJ Combs, ansvarig för AI-strategi på Columbus.

– AI-kostnaderna slutar vara förutsägbara i det ögonblick en agent kan gå in i en loop, eftersom den hela tiden hämtar in sammanhang, gör nya försök och anropar verktyg på sätt som ingen har budgeterat för.

Experter pekar på flera ineffektiviteter i implementeringskostnaderna som bör granskas. Babak Pahlavan, grundare och vd på Ninjatech AI, säger att AI-agentens bearbetningstid är en enkel indikator.

– En enda autonom agent som utför en uppgift som tar flera timmar kan förbruka en månads tilldelning på en eftermiddag, eftersom varje verktygsanrop, varje nytt försök och varje bit av sammanhang som den läser om faktureras, säger Pahlavan.

Andra kostnadsfaktorer kräver att experter granskar en AI-agents beslutsloggar för att fastställa optimeringsmöjligheter. Adi Elimelech, cto och medgrundare av Jedify, säger:

– Om varje förfrågan drar tillbaka ett helt databasschema till LLM:en, skalar tokenkostnaderna med storleken på din miljö snarare än med frågans komplexitet. Kostnaden ackumuleras, eftersom modellen ofta inte får rätt vid första försöket och går tillbaka för ytterligare en tur-och-retur-resa innan den landar på det rätta svaret.

Rekommendation: Cio:er kommer att behöva utveckla flera AgenticOps- och Site Reliability Engineering-metoder för att övervaka AI-agenter och hantera kostnader, säkerhet, kvalitet, prestanda och andra typer av incidenter.

Att bygga agenter utan en plan för förändringshantering

En av de största bristerna vid implementering av AI-agenter är att implementeringen endast är ett steg i en förändringshanteringsprocess. AI-styrning kräver att man identifierar agentägare som är ansvariga för beslut och resultat. Dessa ägare bör också driva den underliggande förändringshanteringsprocessen.

– De största kostnadsöverskridandena inom AI beror sällan på tekniken, säger Abhijit Kakhandiki, chef för digital affärsautomatisering på BMC Software.

– De beror på att organisationer implementerar AI utan att omforma processer, ägarmodeller och styrning.

En del av förändringsprocessen kräver att man identifierar vilka personer som ska fungera som mellanled och granska agentens rekommendationer. Granskningsprocessen bygger upp förtroende och gör det möjligt för ägarna att övergå till autonomt beslutsfattande när det gäller rekommendationer med låg risk, hög volym och hög tillförlitlighet.

– Det kommer inte att vara en binär omställning där man från dag ett litar på att AI-agenterna ska utföra uppgifterna självständigt, säger Joel Hellermark, Chief AI Officer på Workday.

– Gradvis kommer de att förtjäna rätten att hantera dessa arbetsflöden självständigt. Om det är femtionde gången du godkänner en utgift under 50 dollar för en av dina direktunderställda som helt följer riktlinjerna, kan du lita på att agenten sköter det åt dig.

Rekommendation: Att öka användningen är inte målet i sig, men det är ett viktigt steg mot att skapa affärsvärde. Mätvärden för att följa upp användningen inkluderar kvaliteten på AI-svaren, förtroendebetyg, återkommande användning och det värde som levereras till användarna.

En enkel regel är att man inte kan hantera det man inte mäter. Cio:er bör fastställa budgetar, följa upp kostnader och mäta resultat, särskilt när fler agenter tas i drift.

Originalquelle: www.idg.se →