Nanomateryallerin yapay zeka tarafından oluşturulan sahte fotoğrafları Nature Nanotech’te yayınlandı

iowen
15 Eki 2025 21:10
Güncelleme: 15 Eki 2025

6 dk. Okuma Süresi

Yazı Özetini Göster

Kimya DünyasıRoyal Society of Chemistry tarafından yayınlanan bir kimya dergisidir. Esas olarak kimya ile ilgili en son haberleri, görüşleri, incelemeleri ve bilimsel araştırma ilerlemelerini yayınlar.

Derginin en son haberlerini hızlı bir şekilde anlamanıza yardımcı olmak için özel olarak açtık.“Bugün Kimya Dünyası”sütununda, Chemistry World’ün resmi web sitesini ziyaret etmek için makalenin sonundaki QR kodunu tarayabilirsiniz.

Bilimsel araştırma haberleri

Yayınlandığı yerDoğa NanoteknolojisiBir nanobilim makalesi, popüler bir şişirilmiş mısır atıştırmalığına çok benzeyen, heyecan verici yeni bir malzemeyi anlatıyor. Keskin bir elektron mikroskobu görüntüsü, “NanoCheetos” olarak adlandırılan bükülmüş tüp benzeri yapıların bir koleksiyonunu göstermektedir.

Kaynak: © Nadiia Davydiuk ve diğerleri, Doğa Nanoteknolojisi 2025

Dört “yeni” malzemeyi gösteren sahte mikroskobik görüntüler: nano-puff’lar, nano-cheetos, nano-ejderhanın teech’i ve nano-D12. Bu görüntüler ChatGPT tarafından basit metin istemlerine dayalı olarak oluşturulur.

Tek sorun şu ki, materyal gerçekte mevcut değil. Bu görüntüler tarafından oluşturulduMalzeme bilimcilerden oluşan bir ekip geçtiChatGPT tarafından oluşturulmuştur. Yapay zeka tarafından oluşturulan bu tür görüntülerin bilimsel sahtekarlığı neredeyse tespit edilemez hale getirebileceği konusunda uyarıyorlar.

Photoshop gibi araçları kullanarak görüntülerde değişiklik yapmak çoğu zaman rastgele düz çizgiler ve yinelenen alanlar gibi izler bırakır. Bilimsel görüntü bütünlüğü danışmanı Mike Rossner, “Yapay zeka tarafından oluşturulan görüntüler bu özelliklere sahip değil” dedi.

Yapay zeka tarafından oluşturulan görüntüleri kağıtlara karıştırmaya yönelik bazı girişimler (dev testisleri olan bir fare çizimi gibi)(https://doi.org/10.3389/fcell.2023.1339390)——Çok tutarsız ve keşfedilmesi kolay görünecek. Ancak doktora öğrencisi Nadiia Davydiuk’un yarattığı nanomateryallerin mikroskobik görüntüleri için durum böyle değil. Almanya’nın Dresden kentindeki Leibniz Polimer Araştırma Enstitüsü’nde grup lideri Quinn Besford’a yapay zekanın yeteneklerini gösterdi.

Besford, “Beni şok etti” diye hatırladı. Ne kendisi ne de Avustralya’daki Melbourne Üniversitesi’nden meslektaşı Matthew Faria aradaki farkı anlayamadı. Görüntü bütünlüğü analisti Jana Christopher, “Gerçekten (görüntü bütünlüğü araştırması) üzerinde çalışan insanlar yapay zekanın oldukça farkında ve bu konuda çok endişeliler” dedi.

Besford, Faria ve ekibi 250 bilim insanına anket yaparak onlardan gerçek mikroskop fotoğrafları ile yapay zeka tarafından oluşturulan görüntüler arasında ayrım yapmalarını istedi. Geri bildirimler bunun uzmanlar için bile aslında imkansız olduğunu doğruluyor.

Kaynak: © Nadiia Davydiuk ve diğerleri, Doğa Nanoteknolojisi 2025

araştırmacılarBu gerçek ve sahte mikroskop görüntüleri 250 bilim insanına gösterildi. Her bir görüntü çiftinin altında, hangi görüntünün gerçek, hangisinin sahte olduğunu doğru bir şekilde belirleyen bilim adamlarının oranı gösteriliyor.

Ekip şimdi bilimsel literatürün sahte görüntülerle kirlenmesini önlemek için acil eylem çağrısında bulunuyor.Yayınlanan makalelerin her zaman ham dosyalar, yani doğrudan cihaz tarafından oluşturulan dosyalar içermesi gerektiğini tavsiye ediyorlar. Bu dosyaların sahtesini yapmak PDF’lerdeki resimlere göre daha zordur.

“Çözümün daha derine inmesi ve kurumsal veri havuzları oluşturması gerektiğini düşünüyorum” diyen Rossner, orijinal verilerin tahrif edilmesini veya silinmesini önlemek için bu veri havuzlarında saklanması gerektiğine dikkat çekti. Dergiler ve hakemler aynı zamanda “mükemmel” görseller yaratmak için aşırı baskı uygulamamalıdır. Besford, “Bilim camiasının ham verilerdeki ‘kusurları’ yeniden takdir etmesi gerekiyor.” dedi. “Nanopartikül zincirleri hakkında sonuçlar çıkarıyorsanız ve görüntüde bazı serbest nanopartiküller varsa, bu, sonucunuzun geçersiz olduğu anlamına gelmez.”

Faria, yüksek etkili makalelerle birlikte yayınlanan araştırmaların tekrarlanmasının yalnızca uygunsuz davranışları ayıklamakla kalmayıp aynı zamanda gerçek hataları da tespit ettiğine dikkat çekiyor.kasıtsız hatalar). Ancak replikatif araştırmaları finanse etmek herkesin bildiği gibi zordur. Rossner, sanal yayın garantisinin yeterli bir teşvik olabileceğini söyledi ancak bunun daha az bilinen dergiler için işe yaramayabileceğini de kabul etti.

Rossner’a göre Proofig AI veya Imagetwin gibi AI görüntü algılama programlarını kullanan otomatik tarama, bu sorunla etkili bir şekilde mücadele etmenin tek yolu olabilir. Her iki program da Springer Nature, Elsevier, Taylor & Francis devleri ve Royal Society of Chemistry dergileri tarafından kullanılmaktadır.

Ancak Rossner, Besford ve Faria’nın makalesindeki görüntüleri incelemek için Proofig’i kullandığında yapay zeka tarafından oluşturulan fotoğrafları tanımadı. Proofig’in kurucusu ve CEO’su Dror Kolodkin-Gal, görüntülerden birini işaretledi. Programın, editör ekibine gereksiz bir yük getirmemek ve yazarlara karşı haksız suçlamalarda bulunulmasını önlemek için yanlış pozitif oranlarını son derece düşük tutacak şekilde kurulduğunu belirtti. Kolodkin-Gal, “Bunun karşılığı, yapay zeka tarafından oluşturulan bazı görüntülerin ilk taramadan geçebilmesidir” dedi.

“Elbette her zaman kısayollara başvuran ve az ya da çok aldatmacaya bulaşan insanlar olacaktır.” Christopher’a göre, akademideki “yayınla ya da yok ol” kültürü, “bilimsel literatürü sahtekarlığa karşı son derece savunmasız hale getiriyor” – ister yapay zeka tarafından oluşturulan görüntüler olarak ortaya çıksın, isterKomple deneme fabrikaları tarafından üretilen uydurma denemeler.

“Artık büyük ölçekli çözümlere ihtiyacımız var” dedi. “Ne düzeltme sisteminin ne de hakem değerlendirme sisteminin bu ölçekteki sorunlarla baş etmeye hazır olmadığını biliyoruz.”