İçeriğe geç
CANLI 03:22 Replit Missions tanıtıldı: Hedefi ve bütçeyi siz belirleyin, ajan sürüsü çalışsın 03:22 WSJ: SEC, Jensen Huang’ın ayrılığının ardından Nvidia hakkında soruşturma başlattı 03:22 Microsoft Agent Framework PyPI paketi ele geçirildi: 1.26.1 ve 1.26.2 kimlik bilgisi çalıyor 03:22 Gemini Tasks ücretsiz oldu: Gemini artık arama yapıp alışveriş yapabiliyor 03:21 Microsoft Ignite 2026’da yedi MAI modeli tanıttı: MAI Code 2 ile ucuz kodlama hamlesi Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 18.11.2026
Bülten

arXiv 2611.23229 cs.LG

Ortam Yüksek Lisansı: Sıcaklık Eşleştirme Yoluyla Veri Verimliliğiyle Denetimli İnce Ayar

Özgün başlık Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching

  • Giannis Daras
  • Marios Papachristou
  • Adam Klivans
  • Antonio Torralba
  • Constantinos Daskalakis
ai/muhabir · özet metinden derlendi

Otoregresif dil modelleri için büyük ölçekli, çeşitli ve yüksek kaliteli eğitim sonrası veri kümelerinin toplanması zordur. Sonuç olarak, Denetimli İnce Ayar (SFT), tipik olarak, ön eğitim için kullanılanlardan önemli ölçüde daha küçük veri kümelerine uygulanır; bu da aşırı uyum ve veri dağıtımının kuyruklarının feci şekilde unutulmasına yol açar. Bu çöküşü önlemek için, ince ayar setini güçlendirmek amacıyla kusurlu tahminlerden yararlanan ilkeli bir çerçeve olan Ambient SFT'yi sunuyoruz.

Bu kısa özet, sayfanın kendi metninin ilk cümlelerinden otomatik derlendi; “Yeniden yaz” aynı özeti baştan yazar.

02 Özet

Otoregresif dil modelleri için büyük ölçekli, çeşitli ve yüksek kaliteli eğitim sonrası veri kümelerinin toplanması zordur. Sonuç olarak, Denetimli İnce Ayar (SFT), tipik olarak, ön eğitim için kullanılanlardan önemli ölçüde daha küçük veri kümelerine uygulanır; bu da aşırı uyum ve veri dağıtımının kuyruklarının feci şekilde unutulmasına yol açar. Bu çöküşü önlemek için, ince ayar setini güçlendirmek amacıyla kusurlu tahminlerden yararlanan ilkeli bir çerçeve olan Ambient SFT'yi sunuyoruz. Bizim yöntemimizde, önceden eğitilmiş modelin "dondurulmuş" bir versiyonu, ince ayarlı modelin kaba düzeyde eşleşmesi gereken gürültülü bir öğretmen görevi görür. Özellikle, eğitim sonrası model tarafından üretilen koşullu dağılımların yüksek sıcaklık versiyonlarının, eğitim öncesi modellerin yüksek sıcaklık versiyonlarıyla eşleşmesi gerekmektedir. Sıcaklık hiperparametresi, önceden eğitilmiş modeldeki güven düzeyini kontrol eder; $T ila infty$ sınırı normal SFT'ye geri döner ve $T=1$ bilgi damıtmasına geri döner. Yaklaşımımızın, etki alanı uyarlaması, talimat ayarlama ve muhakeme konularında standart SFT'den daha iyi performans gösterdiğini ve standart SFT'ye göre ortalama %21$$'a kadar iyileşme sağladığını gösterdik.

Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.

Collecting large-scale, diverse, and high-quality post-training datasets for autoregressive language models is challenging. Consequently, Supervised Fine-Tuning (SFT) is typically applied to datasets significantly smaller than those used for pre-training, which leads to overfitting and the catastrophic forgetting of the tails of the data distribution. To prevent this collapse, we introduce Ambient SFT, a principled framework for leveraging imperfect predictions to augment the fine-tuning set. In our method, a "frozen" version of the pre-trained model serves as a noisy teacher that the fine-tuned model must match at a coarse level. In particular, we require that the high-temperature versions of the conditional distributions produced by the post-training model should match the high-temperature versions of the pre-training ones. The temperature hyperparameter controls the level of trust in the pre-trained model, with the limit $Tto infty$ reverting back to regular SFT and $T=1$ to knowledge distillation. We demonstrate that our approach outperforms standard SFT across domain adaptation, instruction-tuning, and reasoning, leading for up to $21%$ average relative improvement to standard SFT.

03 PDF

Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.

04 Kaynak göster

BibTeX
@article{daras2026ambient,
  title   = {Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching},
  author  = {Giannis Daras and Marios Papachristou and Adam Klivans and Antonio Torralba and Constantinos Daskalakis},
  journal = {arXiv preprint arXiv:2611.23229},
  year    = {2026},
  url     = {https://arxiv.org/abs/2611.23229}
}
APA
Daras, G., Papachristou, M., Klivans, A., Torralba, A., & Daskalakis, C. (2026). Ortam Yüksek Lisansı: Sıcaklık Eşleştirme Yoluyla Veri Verimliliğiyle Denetimli İnce Ayar. arXiv. https://arxiv.org/abs/2611.23229
Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.