Yapay zeka agentlarinin davranis yapisi uzun zamandir kara kutu olarak kaldi. Simdi yeni bir arastirma, tum agent izlerini tek bir sonlu durum makinesine (FSM) donusturerek hem guvenlik denetimi hem de calisma zamani izlemesi icin yeni bir yol acip ortaya koyuyor.
Agent Davranisi Artik Gorunur Hale Geliyor
Arastirmacilar, on iki farkli genel veri setinde agent izlerini analiz ettiler. Ortaya cikan FSMler yalnizca 7 ile 43 durum arasinda kume ile karsimiza cikiyor ve derleme islemi milisaniyeler icinde tamamlaniyor.
Geleneksel yontemlerde, agent izleri uzun ve yapilandirilmamis veriler olarak kalir; bu da guvenlik denetimini ve calisma zamani izlemesini oldukca zorlastirir. Yeni yaklasim ise butun bir corpustan tek bir kompakt FSM cikararak bu sorunu temelden cozmeyi hedefliyor.
FSM-State Baglami: Bir Onceki Adimin Onunde
Deneylerde, FSM-state baglami her veri setinde Agent Workflow Memory yontemini geride birakiyor. Bunun yaninda, duruma ozgu davranis ozellikleri 0.94’e varan AUROC degerleriyle basarisizlik tahmininde bulunabiliyor.
En ilgi cekici sonuc ise su: davranis topolojisi, LLM’nin kendisinden cok deployment harness tarafindan sekillendiriliyor. Yani bir agentin davranisi, kullandigi modelden once kullandigi ortam ve entegrasyon yontemiyle daha fazla iliskili.
Basarisizlik Tahmini ve Erken Durdurma
Sistem, partial trace uzerinden calisanlari basarisiz olanlardan ayirt edebiliyor ve erken durdurma tetikleyebiliyor. Bu ozellikle uzun soluklu agent gorevlerinde kritik bir avantaj sagliyor.
Neden Onemli?
Bu calisma, AI guvenligi ve calisma zamani izlemesi icin model-agnostik bir yapi temeli sunuyor. Hangi LLM kullanilirsa kullanilsin, FSM yaklasimi agent davranisini anlamak ve tahmin etmek icin tutarli bir cerceve sagliyor.
Automata from Agent Traces calismasi, arxiv.org uzerinden erisilebilir durumda.
Henüz yorum yok. İlk yorumu siz yapın!