Cato Networks lanserar AgentSense: Patenterad teknik stoppar skadligt beteende hos AI-agenter i realtid
Hem TEKNIK & IT-LÖSNINGARCato Networks lanserar AgentSense: Patenterad teknik stoppar skadligt beteende hos AI-agenter i realtid

Cato Networks lanserar AgentSense: Patenterad teknik stoppar skadligt beteende hos AI-agenter i realtid

Publicerat av: Redaktionen

Cato Networks presenterar idag Cato AgentSense, en patenterad innovation från forskningsenheten Cato AI Labs.

Lösningen övervakar autonoma AI-agenter i realtid och ingriper automatiskt för att säkerställa att agenternas beslut, handlingar och resultat förblir säkra och korrekta när de arbetar självständigt.

I takt med att företag ger AI-agenter mandat att fatta beslut som påverkar intäkter, kundrelationer och affärskritisk drift räcker traditionella Zero Trust-modeller inte längre till. Att enbart kontrollera en användares eller agents behörighet ger inget skydd om agenten, med fullt giltiga rättigheter, manipuleras till att utföra skadliga handlingar utanför sitt ursprungliga uppdrag. AgentSense är utvecklat för att verifiera agenternas beteende under pågående körning och avbryta osäkra åtgärder innan de hinner verkställas.

– När vi ger AI-agenter mer ansvar i våra affärssystem måste vi veta vad de gör och när vi behöver ingripa, säger Nithin Reddy, säkerhetschef på Dayforce. Att skala upp AI på ett säkert sätt kräver förmågan att upptäcka och stoppa handlingar som kan utsätta kunder, data eller verksamheten för risker. Därför ser vi mycket positivt på möjligheterna som AgentSense öppnar upp.

Två skyddsfunktioner vakar över agenternas agerande

Tekniken bygger på två centrala skyddsfunktioner:

Cato Networks lanserar AgentSense: Patenterad teknik stoppar skadligt beteende hos AI-agenter i realtidDen första funktionen, Untrusted Influence Detection, spårar kontinuerligt hur externa instruktioner och data påverkar agentens beteende under körning. Om systemet upptäcker att icke-betrott innehåll försöker styra agenten mot en osäker åtgärd blockeras handlingen innan den genomförs. Detta ger ett effektivt skydd mot indirekt prompt injektion, även vid tidigare okända nolldagarsattacker. I stället för att förlita sig på statiska filter separerar AgentSense betrodda instruktioner från obetrodd data inne i AI-sessionen och analyserar hur det externa innehållet påverkar både agentens handlingar och dess svar.

Den andra funktionen, Drift Detection, identifierar när en agents åtgärder börjar avvika från den ursprungliga uppgiften eller användarens avsikt. Under ett pågående arbetsflöde utvärderar systemet om stegen fortfarande tjänar det avsedda syftet. På så vis upptäcks handlingar som visserligen kan vara tekniskt tillåtna var för sig, men som sammantaget faller utanför det uppdrag agenten har tilldelats.

– När företag ger AI-agenter befogenhet att agera måste säkerheten koppla deras rättigheter till det specifika affärssyfte de ska uppfylla, säger Grace Trinidad, analyschef för AI Security and Trust på IDC. Att känna igen kända attackmönster är bra, men var för sig tillåtna handlingar kan ändå samverka och leda till ett obehörigt resultat. Organisationer måste förstå hela sammanhanget och utvärdera agentens åtgärder utifrån det fullständiga arbetsflödet och det uppdrag den fått.

Farlig kombination av data och verktygsbehörighet

Bakgrunden till lanseringen är den snabba tillväxten av AI-agenter. Enligt Gartner planerar 71 procent av alla organisationer att införa autonoma AI-agenter inom det närmaste året, samtidigt som bara 21 procent har ett regelverk på plats för att styra användningen. Prognoser visar att missbruk av oreglerade AI-agenter kommer att ligga bakom en fjärdedel av alla säkerhetsincidenter i företag till år 2028. Den grundläggande risken uppstår när en manipulerad agent har tillgång till både känslig företagsdata och verktyg som kan utföra faktiska handlingar, vilket kan leda till stöld av data, obehöriga transaktioner och systemmanipulation.

– Att ge agenter större självständighet kräver säkerhetslösningar som kan ingripa innan handlingarna orsakar skada, säger Shlomo Kramer, vd och medgrundare av Cato Networks. Vår vision med AgentSense är att ge organisationer tryggheten att anförtro AI-agenter med kritiska affärsprocesser utan att förlora kontrollen över hur de agerar.

– Säkerhetsbrister som DuneSlide, EchoLeak och CurXecute visar varför företag måste kunna lita på att en AI-agent håller sig till sitt uppdrag, även när den stöter på data som kontrolleras av en angripare, säger Itay Ravia, chef för Cato AI Labs. AgentSense bevarar detta förtroende genom att spåra hur externa instruktioner påverkar agentens beslut och känsliga åtgärder.

Global utmaning bjuder in till att försöka hacka systemet

I samband med lanseringen bjuder Cato Networks även in säkerhetsbranschen till AgentSense Challenge. Tävlingen går ut på att försöka manipulera en skyddad AI-agent med dolda instruktioner och få den att utföra skadliga handlingar. De tre första deltagarna som lyckas ta sig förbi skyddet belönas med 10 000 dollar vardera. Erfarenheterna från testerna kommer att användas för att kontinuerligt vidareutveckla skyddet.

Cato AgentSense är integrerat direkt i Catos plattform och ingår utan extra kostnad för kunder med licens för Cato AI Usage.

Läs mer om tekniken och utmaningen på Cato Networks webbplats.

Om Cato Networks

Cato Networks levererar en molnbaserad och konvergerad nätverks- och säkerhetsplattform. Genom att förena nätverk, säkerhet och åtkomst ger Cato fullständig insikt och automatiskt skydd som hjälper organisationer världen över att skydda sig mot moderna hot och förenkla sin IT-drift. Läs mer på www.catonetworks.com.

Relaterade Artiklar