Gerçek dünyadaki donanım mühendisliği, geliştirme ve doğrulamayı yönlendiren açık ve örtülü kullanıcı gereksinimleri tarafından yönlendirilir. Bununla birlikte, mevcut donanım geliştirme yöntemleri genellikle örtülü gereksinimleri ve etkileşim ihtiyaçlarını göz ardı ederken, değişiklikleri seçmek için donanım ve karşılaştırma puanlarını değiştirmek için tek bir geliştirme aracısı kullanır. Bu süreç genellikle dar yamalar üretir ve karşılaştırmaya özgü yerel optimumlara yol açar.
- Gerçek dünyadaki donanım mühendisliği, geliştirme ve doğrulamayı yönlendiren açık ve örtülü kullanıcı gereksinimleri tarafından yönlendirilir.
- Bununla birlikte, mevcut donanım geliştirme yöntemleri genellikle örtülü gereksinimleri ve etkileşim ihtiyaçlarını göz ardı ederken, değişiklikleri seçmek için donanım ve karşılaştırma puanlarını değiştirmek için tek bir geliştirme aracısı kullanır.
- Bu süreç genellikle dar yamalar üretir ve karşılaştırmaya özgü yerel optimumlara yol açar.
Gerçek dünyadaki donanım mühendisliği, geliştirme ve doğrulamayı yönlendiren açık ve örtülü kullanıcı gereksinimleri tarafından yönlendirilir.
02 Özet
Gerçek dünyadaki donanım mühendisliği, geliştirme ve doğrulamayı yönlendiren açık ve örtülü kullanıcı gereksinimleri tarafından yönlendirilir. Bununla birlikte, mevcut donanım geliştirme yöntemleri genellikle örtülü gereksinimleri ve etkileşim ihtiyaçlarını göz ardı ederken, değişiklikleri seçmek için donanım ve karşılaştırma puanlarını değiştirmek için tek bir geliştirme aracısı kullanır. Bu süreç genellikle dar yamalar üretir ve karşılaştırmaya özgü yerel optimumlara yol açar. Gerçek dünyadaki mühendislik uygulamalarını koşum evrimine getiren gereksinim merkezli bir döngü olan Agentic Harness Engineering Beta'yı (AHE-Beta) tanıtıyoruz. Döngü üç adımdan oluşur: (1) Kullanıcı odaklı değerlendirme, simüle edilmiş kullanıcıların, emniyet kemeriyle birden fazla tur boyunca çalışırken gereksinimlerini sorun olarak yükseltmelerine olanak tanır. (2) Ekip bazlı değişiklik, bu gereksinimleri göreve özel yamalar yerine genelleştirilebilir değişiklikler olarak uygular. (3) Gereksinim odaklı seçim, yalnızca doğrulanmış bir gereksinimi çözdüğünde ve incelemeyi geçtiğinde bir değişikliği birleştirir. Deneysel olarak, uzun süren görevlerde AHE-Beta, Base Harness'a göre %40,8 daha az token kullanırken pass@1'i %21,9'dan %33,3'e yükseltir ve Claude Code, Meta-Harness ve AHE'den daha yüksek pass@1 elde eder. Kör insan A/B testinde, gerçek kullanıcılar 48 geçerli çiftin 31'inde AHE-Beta'yı tercih eder ve kullanıcı simülatörünün yön tercihiyle eşleşecek şekilde beş boyutun hepsinde daha yüksek derecelendirir. İnsan A/B sonuçları, AHE-Beta'nın koşum evrimini gerçek dünyadaki kullanıcı gereksinimleriyle uyumlu hale getirme hedefine ulaştığını gösteriyor. Daha fazla gelişme olmadan, kazançlar GLM-5.3 ve DeepSeek-V4.1-Flash'a aktarılır ve pass@1'de Base Harness'a göre %15,8 ve %5,3 iyileştirme sağlanır. Bu sonuçlar birlikte, gereksinim merkezli donanım evriminin, temsilci yeteneklerini geliştirmek için daha genel bir yöntem olduğunu göstermektedir.
Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.
Real-world harness engineering is driven by explicit and implicit user requirements, which guide development and validation. However, existing harness evolution methods often overlook implicit requirements and interaction needs, while using a single evolution agent to modify the harness and benchmark scores to select changes. This process often produces narrow patches and leads to benchmark-specific local optima. We introduce Agentic Harness Engineering Beta (AHE-Beta), a requirement-centered loop that brings real-world engineering practices into harness evolution. The loop consists of three steps: (1) User-driven evaluation lets simulated users raise their requirements as issues while they work with the harness over multiple turns. (2) Team-based modification implements those requirements as generalizable changes rather than task-specific patches. (3) Requirement-driven selection merges a change only when it resolves a verified requirement and passes review. Empirically, on held-out tasks, AHE-Beta raises pass@1 from 21.9% to 33.3% while using 40.8% fewer tokens than Base Harness, and achieves higher pass@1 than Claude Code, Meta-Harness, and AHE. In a blind human A/B test, real users prefer AHE-Beta in 31 of 48 valid pairs and rate it higher on all five dimensions, matching the directional preference of the user simulator. The human A/B results show that AHE-Beta achieves its goal of aligning harness evolution with real-world user requirements. Without further evolution, the gains transfer to GLM-5.3 and DeepSeek-V4.1-Flash with pass@1 improvements of 15.8% and 5.3% over Base Harness. Together, these results show that requirement-centered harness evolution is a more general method for improving agent capabilities.
03 PDF
Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.
04 Kaynak göster
@article{lin2026agentic,
title = {Agentic Harness Engineering Beta: Requirement-Centered Evolution of Agent Harnesses},
author = {Jiahang Lin and Jiahao Chen and Yiding Wang and Shichun Liu and Chengjun Pan and Shihan Dou and Honglin Guo and Yuyang Hu and Changhao Jiang and Zhenhua Han and Hang Yan and Qi Zhang and Tao Gui and Xuanjing Huang},
journal = {arXiv preprint arXiv:2611.24924},
year = {2026},
url = {https://arxiv.org/abs/2611.24924}
}
Lin, J., Chen, J., Wang, Y., Liu, S., Pan, C., Dou, S., Guo, H., Hu, Y., Jiang, C., Han, Z., Yan, H., Zhang, Q., Gui, T., & Huang, X. (2026). Ajan Donanım Mühendisliği Beta: Ajan Donanımlarının İhtiyaç Odaklı Gelişimi. arXiv. https://arxiv.org/abs/2611.24924
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.
Yorum yazın