OpenAI kendi yazılımıyla üretilen görselleri çoğunlukla tespit edebiliyor

Yapay zeka tarafından oluşturulan görüntüleri tespit etme
konusunda kendimizi oldukça iyi hissediyoruz genellikle. Arka
planda görünen tuhaf, yabancı metinler, fizik kurallarını ihlal
eden garip hatalar ve en çok da korkunç görünen eller ve parmaklar
bu tespitlerimizde bize yardımcı oluyor. Ancak teknoloji sürekli
gelişiyor ve yakın bir gelecekte gerçek ile yapayı ayırt etmekte
zorlanacağımız günler geliyor. Sektör lideri
OpenAI, kendi DALL-E 3 jeneratörü tarafından
oluşturulan görüntüleri tespit edebilen bir araç seti geliştirerek
bu soruna önceden müdahale etmeye çalışıyor.

Ancak sonuçlar karmaşık bir durumu işaret ediyor. Şirket, DALL-E
3 ile oluşturulan resimleri yüzde 98 oranında doğru bir şekilde
tespit edebildiğini belirtiyor ki bu oldukça etkileyici. Ancak bu
durumun önemli bazı sınırlamaları var. İlk olarak, görüntünün
DALL-E tarafından oluşturulmuş olması gerekiyor ve piyasada
DALL-E’den başka birçok görüntü jeneratörü bulunuyor. OpenAI
tarafından sağlanan verilere göre, sistem diğer yapay zeka
modelleri tarafından yapılan görüntüleri yalnızca yüzde beş ila on
oranında başarıyla sınıflandırabiliyor.

OpenAI kendi yazılımıyla üretilen görselleri çoğunlukla
tespit edebiliyor

Ayrıca görüntü herhangi bir şekilde değiştirildiğinde sistem
sorunlarla karşılaşıyor. Küçük değişikliklerde, örneğin kırpma,
sıkıştırma ve renk doygunluğu değişikliklerinde, başarı oranı biraz
düşük olsa da kabul edilebilir aralıkta, yüzde 95 ila 97 arasında
kalıyor. Ancak renk tonunun ayarlanması, başarı oranını yüzde 82’ye
düşürüyor. Daha geniş çaplı değişiklikler yapılan görüntülerin
sınıflandırılmasında ise araç seti zorlanıyor.
OpenAI bu durumlarda başarı oranını bile
yayımlamadı, sadece “diğer modifikasyonlar performansı düşürebilir”
şeklinde bir açıklama yaptı.

Bu durum, özellikle bir seçim yılında olmamız nedeniyle hayal
kırıklığı yaratıyor çünkü yapay zeka tarafından üretilen çoğu
görüntü sonradan değiştirilerek insanları daha fazla kızdırmak için
kullanılacak. Yani araç, Joe Biden’ın Oval Ofis’te uyurken
etrafında beyaz toz paketleriyle çevrili olduğu bir görüntüyü
tanıyabilir, ancak üzerine kızgın metinler eklenip, ağlayan bir kel
kartal Photoshop’lanırsa bu durum değişebilir.

En azından OpenAI, algılama teknolojisinin
sınırlamaları konusunda şeffaf bir tutum sergiliyor. Ayrıca, söz
konusu araçlara dış test kullanıcılarının erişimine izin vererek bu
sorunların çözülmesine yardımcı olmayı amaçlıyor. Şirket, Microsoft
ile birlikte toplamda 2 milyon dolarlık bir yatırım yaparak
“Toplumsal Direnç Fonu”nu kurdu. Bu fon, yapay zeka eğitimi ve
okuryazarlığını genişletmeyi hedefliyor.