- Katılım
- 21 May 2023
- Mesajlar
- 777
- Tepki
- 17
- Puan
- 18
Yazıyı bir araca yapıştırdınız, ekranda "%92 yapay zekâ" yazdı. Aynı metni ikinci araca verdiniz, bu kez "%8 yapay zekâ" çıktı. Elinizde iki rakam var, ikisi de kesin konuşuyor.
Aşağıda bu araçların neyi ölçtüğünü, hangi durumda yanıldıklarını, kısa metinlerin neden sorun çıkardığını ve mevzuatın işaretleme yükümlülüğünü kime yüklediğini resmî belgelere bakarak topluyoruz.
Dedektör aslında neyi arıyor?
Ortada iki ayrı yöntem var ve ikisi aynı şey değil. Birincisi filigran okuma. NIST'in sentetik içerik raporu gizli filigranı, insanın fark etmesi zor, makine tarafından okunabilen ince bozulmalar olarak tanımlıyor.
Rapor bu noktada bir uyarı koyuyor: gizli filigranı bir dedektör okumak zorunda ve o dedektörün sıfırdan farklı bir yanlış pozitif ve yanlış negatif olasılığı bulunuyor. Yani "var" demesi de "yok" demesi de belirli bir hata payıyla geliyor.
İkinci yöntem içerik temelli tespit: üretim sırasında kalan izlere bakmak. Belge burada da kesin konuşmuyor, tespit ile üretim toplulukları arasındaki durumu sürekli bir kedi-fare oyunu diye anlatıyor. Yeni bir tespit yöntemi çıkar çıkmaz üretim modelleri gelişiyor ve tespitten kaçmanın yolları öğreniliyor.
Modelin arka planda nasıl bir olasılık hesabı yaptığını yapay zekânın çalışma biçimini anlattığımız yazıda ele almıştık; dedektörün "izini aradığı" şey tam olarak o hesabın bıraktığı düzenlilikler.
Kısa metin neden sorun çıkarıyor?
Filigranın metne yerleşmesi için yer gerekiyor. NIST raporu, filigranın kısa metin gibi az yer sunan parçalarda bile düşük hata oranıyla okunabilmesi gerektiğini söylüyor; pratikte olan ise bunun tersi.
Somut rakam da veriliyor: yaklaşık 225 kelimelik metinlerde, metni bir başka modele tekrar tekrar yeniden yazdırmak tespit oranını %20'ye kadar düşürebiliyor. Aynı işlem 400 kelimeyi aşan metinlerde tespiti yalnız hafifçe zayıflatıyor, çünkü uzun metin filigran sinyaline daha geniş bir kanal bırakıyor.
Üretim sonrası eklenen filigranlar için tablo daha da net. Rapor bu yöntemleri sıkıştırma, kırpma, filtreleme, ölçekleme ya da basit bul/değiştir işlemleriyle kaldırılabilir sayıyor.
- Tek bir yüzdeye dayanmayın: Rakam, hata payı olan bir tahmindir.
- Metnin uzunluğuna bakın: Kısa metinde sonuç daha oynak.
- Aracı üreticiyle eşleştirin: Dedektörler çoğu kez belirli üreticilerde iyi çalışıyor.
Püf nokta' Alıntı:
İnsan gözü daha mı iyi?
Rapor insanlı yöntemleri de ölçmüş ve sonuçlar birbirini tutmuyor. 2023'te deneyimli sohbet botu kullanıcılarının soru-cevap çiftlerini %61 ile %100 arasında değişen oranlarda doğru sınıflandırdığı görülmüş.
Aynı yılın bir başka çalışmasında ise insanların metin hakkındaki yargıları rastlantıdan ayırt edilemez bulunmuş. 2024'te ses ve görüntü üzerine yapılan çalışma da rastlantıya yakın bir başarı bildirmiş.
Bir zorluk daha var: içerik kısmen sentetik olabiliyor. Görselden bir nesne silinip boşluk yapay zekâyla doldurulduğunda içeriğin büyük bölümü gerçek kalıyor ve müdahalenin "esaslı" sayılıp sayılmayacağı öznel bir karar hâline geliyor.
İşaretleme yükümlülüğü kimde?
Sorunun hukuki tarafı tespitten çok beyana bakıyor. Avrupa Birliği yapay zekâ tüzüğünün 50. maddesi sentetik ses, görüntü, video veya metin üreten sistemlerin sağlayıcılarına çıktıyı makine tarafından okunabilir biçimde işaretleme ve yapay üretim olarak tespit edilebilir kılma yükümlülüğü getiriyor.
Aynı madde kullanıcı tarafına da bakıyor. Kamuoyunu ilgilendiren konularda bilgilendirme amacıyla yayımlanan yapay zekâ metinlerinde açıklama isteniyor; ancak içerik insan denetiminden geçtiyse ve yayının editoryal sorumluluğunu bir kişi ya da kurum üstleniyorsa bu yükümlülük uygulanmıyor.
Türkiye'de üretilen metnin eser sayılıp sayılmadığını içeriğin kanundaki karşılığını incelediğimiz yazıda anlatmıştık. Yazarla çalışıyorsanız beklentiyi baştan yazıya dökmek işe yarıyor; içerik brifinginde nelerin netleşmesi gerektiğini ayrıca derlemiştik.
Sık Sorulan Sorular
Yapay zekâ dedektörü ne kadar doğru sonuç veriyor?
Kesin değil. NIST raporu, filigran dedektörlerinin sıfırdan farklı yanlış pozitif ve yanlış negatif olasılığı taşıdığını yazıyor.
Neden iki araç farklı sonuç veriyor?
Dedektörler çoğu kez belirli üretim modellerine bağlı ve yalnız onlarda iyi çalışıyor; yöntem farkı sonucu değiştiriyor.
Kısa metinde sonuç neden oynuyor?
Filigran için yer az. 225 kelimelik metinlerde yinelenen yeniden yazım tespiti %20'ye kadar düşürebiliyor.
Filigran silinebilir mi?
Üretim sonrası eklenenler sıkıştırma, kırpma, filtreleme, ölçekleme ya da bul/değiştir ile kaldırılabiliyor.
Yapay zekâ içeriğini bildirmek zorunlu mu?
AB tüzüğü sağlayıcıya makine okunabilir işaretleme, kamuoyunu bilgilendiren metinlerde ise açıklama yükümlülüğü getiriyor.
Özetle
Dedektör çıktısı bir ölçüm değil, hata payı olan bir tahmin. Filigran okuma da iz arama da belirli koşullarda çalışıyor ve o koşullar metnin uzunluğuna, kullanılan modele ve metne sonradan yapılan müdahaleye göre değişiyor. Bu yüzden tek bir yüzdeye dayanan karar riskli. Mevzuatın çözümü de tespit değil beyan: işaretleme yükümlülüğü içeriği üretenin, açıklama sorumluluğu ise yayımlayanın üzerinde.
Elinizdeki bir metinden şüphelendiğinizde ilk olarak neye bakıyorsunuz: araca mı, yazının hazırlanma sürecine mi?
Güncelleme: 5 Eylül 2026. NIST AI 100-4 raporu ve AB yapay zekâ tüzüğünün 50. maddesi kontrol edildi.
Dijital Dünyanıza Yön Veren Pusula
