En CTO som utvärderar agentiska system ställer ofta fel första fråga. Oftast är den "vilken modell ska vi använda?", och svaret på den betyder mindre än man tror. Om ett agentteam blir en tillgång eller en risk avgörs av en annan fråga. Vilka beslut är ni bekväma med att en maskin fattar utan att fråga er först?
Allt annat — modellval, verktyg, arkitektur — följer av svaret på den frågan.
Skillnaden mot vanlig automation
Ett skript gör exakt det ni skrev. En agent fattar beslut. Den läser en situation, väljer mellan handlingsalternativ och agerar. Det är därför den är användbar, och det är också där risken ligger.
Ni behöver alltså granska agentens omdöme på samma sätt som ni tidigare granskade kod. En agent som sorterar incidenter kommer ibland att klassa fel. Det som spelar roll är om ni märker det och vad misstaget kostar. Den frågan kan ingen modelleverantör svara på åt er.
Tre saker att ha klart för er
Vilka beslut delegeras. Lista de beslut agenten faktiskt fattar i drift, inte de ni tänkte att den skulle fatta. En övervakningsagent som "bara observerar" fattar ändå beslut om vad som är värt att flagga. Gör listan explicit. Det ni inte skrev ner kommer agenten att improvisera fram.
Vilka beslut eskaleras. För varje delegerat beslut, definiera tröskeln där agenten ska sluta och fråga en människa. I vårt Azure Ops-team eskaleras varje P1-incident och varje åtgärd som ändrar en resurs, så att det alltid är en människa som beslutar. Skriv ner tröskeln innan den första incidenten kommer.
Hur ni behåller insyn. Ett agentteam som ni inte kan granska i efterhand är en svart låda ni råkar lita på. Vi bygger varje agent så att dess körningar är diskreta och loggade: starttid, sluttid, vad den läste, vad den beslutade. När något går snett ska ni kunna spåra exakt var i kedjan omdömet brast.
Varför ett team fungerar bättre än en superagent
Det är frestande att låta en enda kraftfull agent sköta hela området, men det blir nästan alltid sämre. Skälen går vi igenom i Därför räcker en AI-agent inte. Kort sagt fungerar ett team av smala specialister bättre, med en samordnare som fördelar arbetet och sköter eskaleringen.
För er som CTO har det en konkret följd: ni kan matcha modellstyrka mot uppgift. En specialist som normaliserar telemetri behöver inte marknadens dyraste modell — en bra mellanklassmodell gör jobbet pålitligt. Samordnaren, som väger allvarlighetsgrad och kundkommunikation, är värd en starkare modell. Den uppdelningen sänker kostnaden utan att sänka kvaliteten, men bara om teamet är uppdelat så att den går att göra.
Vad som förändras i organisationen
Med agentiska team lägger ingenjörerna mer av sin tid på att styra arbetet. Den som tidigare läste loggar och skickade vidare larm börjar i stället skriva de regler som avgör vad som är ett larm.
Det ställer ett nytt krav på er som ledare: någon måste äga agentteamets beteende på samma sätt som ni idag äger ett tjänsteteams resultat. Någon måste sätta takten, ta emot eskaleringarna och kunna pausa systemet när något ser fel ut. Utan en sådan person har ni lagt ut ett ansvar utan adress.
Var ni börjar
Agentiska team är värda att ta på allvar, och det är styrningen mer än modellen som avgör hur det går. Börja med att bestämma vilka beslut ni delegerar, var gränsen för eskalering går och hur ni ska kunna se vad agenterna gör, så att ni inte upptäcker risken först när den kostar.
Vill ni prata om var gränsen bör gå i er organisation kan ni be om ett samtal med oss.
Talented AI bygger AI-agentteam för företag och kan sköta dem när de är i drift hos er. Era medarbetare får då tid för det som behöver en människa.