Evrişimli Sinir Ağları (CNN'ler), hedef nesnenin çok azını içeren veya hiç içermeyen, arka plan ağırlıklı yamaları kullanarak görüntüleri sınıflandırabilir ve bağlamsal bilgilerden yararlandıklarını gösterir. Önceki çalışmalar bu davranışı sınıflandırma doğruluğu yoluyla tespit etmişti ancak CNN gizli katmanlarının neyi temsil ettiği hakkında çok az şey söylüyordu. Konsept Çıkarımın, bağlamsal görüntü yamalarındaki gizli nöron aktivasyonlarıyla ilişkili yorumlanabilir görsel özellikleri ortaya çıkarıp çıkaramayacağını araştırıyoruz.
- Evrişimli Sinir Ağları (CNN'ler), hedef nesnenin çok azını içeren veya hiç içermeyen, arka plan ağırlıklı yamaları kullanarak görüntüleri sınıflandırabilir ve bağlamsal bilgilerden yararlandıklarını gösterir.
- Önceki çalışmalar bu davranışı sınıflandırma doğruluğu yoluyla tespit etmişti ancak CNN gizli katmanlarının neyi temsil ettiği hakkında çok az şey söylüyordu.
- Konsept Çıkarımın, bağlamsal görüntü yamalarındaki gizli nöron aktivasyonlarıyla ilişkili yorumlanabilir görsel özellikleri ortaya çıkarıp çıkaramayacağını araştırıyoruz.
Evrişimli Sinir Ağları (CNN'ler), hedef nesnenin çok azını içeren veya hiç içermeyen, arka plan ağırlıklı yamaları kullanarak görüntüleri sınıflandırabilir ve bağlamsal bilgilerden yararlandıklarını gösterir.
02 Özet
Evrişimli Sinir Ağları (CNN'ler), hedef nesnenin çok azını içeren veya hiç içermeyen, arka plan ağırlıklı yamaları kullanarak görüntüleri sınıflandırabilir ve bağlamsal bilgilerden yararlandıklarını gösterir. Önceki çalışmalar bu davranışı sınıflandırma doğruluğu yoluyla tespit etmişti ancak CNN gizli katmanlarının neyi temsil ettiği hakkında çok az şey söylüyordu. Konsept Çıkarımın, bağlamsal görüntü yamalarındaki gizli nöron aktivasyonlarıyla ilişkili yorumlanabilir görsel özellikleri ortaya çıkarıp çıkaramayacağını araştırıyoruz. Yüksek, orta ve düşük bağlamsal önyargıya sahip beş tarımsal veri seti kullanarak, dört CNN mimarisini üç ağ derinliğinde ve beş yama konumunda analiz ediyoruz. Her yamanın niceliksel görüntü tanımlayıcıları bir bilgi grafiğinde kodlanır ve nöron aktivasyonunu karakterize eden mantıksal ifadeleri türeten Kavram Çıkarımı için arka plan bilgisi olarak kullanılır. Bu ifadeler, Mann-Whitney U testi ve Cliff deltası kullanılarak uzatılmış görüntüler üzerinde test edilir. Test edilen 48.013 nöron özelliği çiftinden 13.164'ü (%27,4) doğrulandı. Doğrulama en sık orta derinliklerde gerçekleşti (orta katmanlarda ortalama %40,2, derin katmanlarda ise %12,0) ve veri kümelerinde yama konumu hakim değildi. Test edilen tanımlayıcılar arasında kenar, Gabor ve Tamura doku özellikleri en yüksek doğrulama oranlarına sahipti. Daha güçlü bağlamsal önyargı, daha yüksek nöron özelliği doğrulama oranlarına karşılık gelmedi: orta derecede önyargılı Şeker Kamışı en yüksek orana (%40,5) sahipken, yüksek oranda önyargılı Cassava en düşük orana (%19,2) sahipti. Bu sonuçlar, davranışsal bağlam bağımlılığının ve gizli nöronların anlamsal yorumlanabilirliğinin CNN davranışının farklı yönlerini yakaladığını ve Konsept İndüksiyonun yama tabanlı önyargı tespitini tamamlayabildiğini göstermektedir.
Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.
Convolutional Neural Networks (CNNs) can classify images using background-dominated patches that contain little or none of the target object, showing that they exploit contextual information. Previous studies detected this behavior through classification accuracy but say little about what CNN hidden layers represent. We investigate whether Concept Induction can reveal interpretable visual properties associated with hidden-neuron activations on contextual image patches. Using five agricultural datasets with high, moderate, and low contextual bias, we analyze four CNN architectures at three network depths and five patch locations. Quantitative image descriptors of each patch are encoded in a knowledge graph and used as background knowledge for Concept Induction, which derives logical expressions characterizing neuron activation. These expressions are tested on held-out images using the Mann-Whitney U test and Cliff's delta. Of 48,013 tested neuron-feature pairs, 13,164 (27.4%) were validated. Validation was most frequent at intermediate depths (mean 40.2% at mid layers versus 12.0% at deep layers), and no patch location dominated across datasets. Among the tested descriptors, edge, Gabor, and Tamura texture features had the highest validation rates. Stronger contextual bias did not correspond to higher neuron-feature validation rates: moderately biased Sugarcane had the highest rate (40.5%) and highly biased Cassava the lowest (19.2%). These results suggest that behavioral context dependence and the semantic interpretability of hidden neurons capture different aspects of CNN behavior, and that Concept Induction can complement patch-based bias detection.
03 PDF
Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.
04 Kaynak göster
@article{dalal2026understanding,
title = {Understanding Contextual Bias in Agricultural CNNs Through Hidden-Neuron Concept Induction},
author = {Abhilekha Dalal and Avishek Das and Samatha Ereshi Akkamahadevi},
journal = {arXiv preprint arXiv:2611.18530},
year = {2026},
url = {https://arxiv.org/abs/2611.18530}
}
Dalal, A., Das, A., & Akkamahadevi, S. E. (2026). Gizli Nöron Konsepti Tümevarımı Yoluyla Tarımsal CNN'lerdeki Bağlamsal Önyargıyı Anlamak. arXiv. https://arxiv.org/abs/2611.18530
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.
Yorum yazın