Vad når era AI-agenter? Microsoft vill att de övervakas löpande
De ett företag själv slår på har ofta för vida rättigheter och åtkomst till data, verktyg och system, menar Microsoft. Det skriver Hayete Gallot, Executive Vice President för Microsoft Security, i Microsofts blogg den 19 oktober. Övervakningen av dem måste enligt Microsoft bli löpande, med agenter som granskar och styr varje handling av varje agent innan den sker, dygnet runt.
Vad det betyder för dig
Inlägget är Microsofts hållning och gör samtidigt reklam för Project Perception, där de granskande agenterna enligt Microsoft ingår och som du enligt bolaget kan börja med redan i dag. Inlägget säger inte vad det innebär i praktiken och anger varken pris, abonnemang eller datum för Sverige. Frågan går ändå att ta med sig oavsett leverantör, nämligen vilka rättigheter och vilken åtkomst era agenter har.
Gör så här
Skriv ner på en sida den här veckan vilka agenter eller AI-funktioner som får agera i era system. Skriv vad var och en når och vem som kan se vad den har gjort. Använder du själv en agent i jobbet kan du börja med din egen och skicka sidan till din chef med frågan vilka agenter som ska få fortsätta.
Vem hos er skulle märka om en agent gjorde något den inte skulle?
Ord i den här nyheten
- Agent
- En AI som kan utföra en uppgift i flera steg på egen hand, till exempel öppna filer, söka och skicka något, utan att du godkänner varje steg. Ordet används av leverantörerna själva.
Lär dig mer
Microsoft skriver också att de mest avancerade AI-modellerna inte kan litas på, oavsett vem som gjort dem. Enligt Microsoft har modellerna tränats för att nå resultat och är inte optimerade kring organisationers normer eller omdöme. Project Perception presenterades i juli. Microsoft beskriver det i tre delar som arbetar ihop. Sensorer samlar in signaler. Ett led räknar fram agentens risk löpande. Ett team agerar utifrån den risken. Enligt inlägget står agentsäkerheten för farten och människor för omdömet.