Yapay Zeka Ajan Davranışları Artık Önceden Tahmin Edilebilir Hale Geliyor

Yapay zeka ajan sistemleri artik izlenebilir ve tahmin edilebilir hale geliyor. DAIR.AI researcherlari, cok adimli görevler yürüten yapay zeka ajanlarinin davraniş kaliplarini otomatik olarak cikaran yeni bir yöntem geliştirdi. Seonglae Cho, Franklin Cardenoso Fernandez, Umar Mohammed, Zekun Wu, Kleyton Da Costa, Ilham Wicaksono ve Adriano Koshiyama tarafindan kaleme alinan arastirma, 24 Agustos 2026’da arxiv’te yayimlandi (2608.23670).

Sonlu Durum Makinesiyle Yapay Zeka Ajan Izleme

LLM tabanli yapay zeka ajanlari karmasik cok adimli görevler yürütüyor; ancak bu ajanlarin davraniş yapisi uzun ve yapilandirilmamis izler nedeniyle denetlenmesi güç bir kara kutu niteliğindeydi. Mevcut yöntemler ya her izi ayri ayri ele aliyor ya da yalnizca basarili calismalara odaklaniyordu. Bu yaklasimlar, bir sonraki adimi ve basarisizligi tahmin etmek için gereken capraz-topolojiyi gozar diyordu.

Arastirmacilar bu soruna Automata from Agent Traces yöntemiyle yanit verdi. Yöntem, tüm bir iz corpus’unu, LLM ajanlarinin ongörülemeyen davranislari için yapical bir alt katman görevi gören tek ve kompakt bir sonlu durum makinesi’ne (FSM) dönüstürüyor. Bu sayede ajan davranişi hem izlenebilir hem de analiz edilebilir hale geliyor.

Yapay Zeka Ajan Basarisizlik Tahmini Yüzde 94 Dogrulukla Calisiyor

Yöntem 12 farkli genel veri seti üzerinde test edildi. Elde edilen sonuclar carpici: FSM’ler yalnizca 7 ila 43 durumdan olusuyor, tutulan veriyi 0,997 ve üzeri uyum oraniyla yeniden oynatiyor ve milisaniyeler icinde insa ediliyor. Her ne kadar FSM’ler kompakt olsa da, ajan davranisinin temel topolojisini dogru bicimde yakalıyorlar.

Basarisizlik tahmini söz konusu oldugunda, duruma özgü davranissal özellikler 0,94’e varan AUROC degerleriyle calisiyor. Sistemin en dikkat cekici özelliklerinden biri ise erken durdurma (early stopping) yetenegi: calisma devam ederken yalnizca kismi bir izle basarisiz calismalari basarili olanlarin üzerine siralayabiliyor ve görev tamamlanmadan çok önce mudahale sinyali üretebiliyor.

Yapay Zeka Ajan Davranisini Sekillendiren LLM mi, Harness mi?

Arastirmanin en önemli bulgusu su: yapay zeka ajan davraniş topolojisi, kullanilan LLM’den çok dagitim harness’inden etkileniyor gibi görünüyor. Bu durum, ajan güvenligi denetimi ve calisma zamani izleme için model-agnostik bir yapical ilkel (primitive) sunuyor. Baska bir deyisle, yapay zeka ajaninin nasil davrandigini belirleyen en önemli faktor kullandigi temel model degil, onu cevreleyen sistem ve ortam.

DAIR.AI arastirmacilari bu yaklasimin LLM üreticilerinden bagimsiz olarak uygulanabileceğini ve mevcut iz verileriyle dakikalar icinde calisir hale getirilebileceğini vurguluyor. DAIR.AI’nin interaktif yapay zeka ajan eğitim materyalleri de bu alandaki öğrenme kaynaklarini genisletmeye devam ediyor.

Neden Önemli?

Yapay zeka ajan sistemleri is ve gelistirme ortamlarinda hizla yayginlasirken, bu ajanlarin davranislarini anlamak ve güvenli bicimde izlemek kritik bir ihtiyac haline geldi. Geleneksel izleme araçlari, ajanlarin ürettiği devasa metin ciktilariyla basa cikmakta zorlaniyordu. FSM tabanli yaklasim, bu karmasik izleri kompakt ve analiz edilebilir bir yapıya dönüstürerek güvenlik denetimi ve proaktif hata tespitini mümkün kiliyor. Harness yapilandirmalarinin model performansini nasil etkiledigi konusundaki önceki arastirmalar da bu bulgularla tutarli bir tablo ortaya koyuyor.

Bu arastirma, yapay zeka ajan güvenligi alaninda yeni bir paradigma baslatiyor. Harness tasariminin ajan davranisini sekillendirmedeki kritik rolü, hem model seciminden hem de güvenlik politika tasarimindan bagimsiz olarak ele alinmasi gereken yeni bir mühendislik disiplini yaratabilir.

Kaynak: arxiv.org/abs/2608.23670