OpenAI, 5 Ekim 2026'da ChatGPT ve Codex tarafından üretilen metinlere görünmez filigran teknolojisi olan textGrain'i sundu. Bu sistem Avrupa Birliği'nde zorunlu, diğer bölgelerde ise isteğe bağlı şekilde etkinleştirilebilir. Videoda gösterilen deneyde, açık kaynaklı "yeşil liste" (green list) yöntemi kullanılarak, Qwen2.5-1.5B-Instruct gibi küçük bir yerel modelle filigranlı metinlerin gerçekten tespit edilip edilemeyeceği sınandı. Sonuç: ChatGPT'nin oluşturduğu filigranlı metinler belirli bir istatistiksel eşikle yakalanabildi, ancak metindeki kelimelerin eş anlamlısıyla değiştirilmesi durumunda bu iz gözden kayboluyor. Bu bulgu, görünmez filigran teknolojisinin hem güçlü hem de kırılgan yönlerini ortaya koymaktadır.
Görünmez filigran teknolojisinin temel işleyişi, metin üretim sırasında belirli kelimelere dolaylı şekilde işaret eklemesine dayanır. Yeşil liste yönteminde, her kelimenin öncesindeki kelime ve gizli bir anahtar kullanılarak kelime "yeşil" veya "kırmızı" kategorisine atanır; filigranlama sırasında ağırlıklar biraz "yeşil" kelimelere doğru kaydırılır. Tespit aşamasında bu işaret bir z-puanı hesaplanarak istatistiksel olarak ortaya çıkarılır. Deneydeki sonuçlar bunu açık kılıyor: normal metin z puanı -1,60 iken, filigranlı metin z puanı 8,49'a ulaştı; bu fark, yalnızca kuantum gürültüsüyle açıklanamayacak kadar büyük. İnsan yazısı (Gençliğe Hitabe örneği) ise 1,38 puanla "temiz" görünmüş; bu, insan yazısı ile yapay zeka çıktısı arasında güvenilir bir ayırım sağlanabileceğini göstermektedir.
Ancak filigranın sağlamlığı test edildikçe sınırları ortaya çıkıyor. Metindeki kelimelerin %10'u eş anlamlısıyla değiştirildiğinde z puanı 7,18'e düşmüş, %25 değişimde 4,67'ye inmiş, %50'si değişince 0,84'e gerilemiştir; bu son değer eşik altına inip filigran tespit edilemez hale gelmiştir. Metin tamamen yeniden yazıldığında veya başka bir dile çevrilip geri çevrildiğinde de benzer zayıflık görülmüştür. Bu bulgular, filigranın metne derin bir biçimde bağlı olduğunu, kelime seçimi değiştirilirken kolaylıkla silinebileceğini göstermektedir. Önemli vurgu: deneyde kullanılan yeşil liste yöntemi, OpenAI'ın kapalı dedektörü değildir; resmî tespit oranları OpenAI'ın yayınladığı resmî rakamlardır.
Bu teknolojinin eğitim, etik ve yasal sonuçları derin ve tartışmalıdır. Öğretmenler için açılacak dedektör, ChatGPT yazısı olduğu iddia edilen metinleri kontrol edebilecektir; fakat filigranın kırılganlığı göz önüne alındığında, yanlış negatiflerin (filigranı silinen ChatGPT metinlerinin insan yazısı olarak tespit edilmesi) kaçınılmaz hale geleceğini öngörmek makuldur. Aynı zamanda teknik insan yazılı çalışmaları yanlışlıkla işaretleyebilir (yanlış pozitif). Türkiye'deki ChatGPT kullanıcıları için durum şu anda belirsiz; AB mevzuatı bölgeye özgü uygulamalar öngörebilir. Claude dahil diğer yapay zeka sistemleri de benzer filigran teknolojileri kullanmaya başlamıştır, bu da gelecekte çok sayıda "işaretli" yapay zeka çıktısının yanında doğru insan yazısı tanımlanmasının gittikçe zorlaşacağını göstermektedir. Bu teknoloji, yapay zeka iddialarını kontrol etmek için faydalı araç olabilirse de, mutlak bir güvenlik sağlamaz ve etik sorunlar yaratır.







Yorumlar
Yorum yazabilmek için giriş yapmalısınız.
Bilgi: Butona tıkladığınızda xloji güvenli giriş sayfasına yonlendirileceksiniz. Giriş yaptığınızda otomatik olarak bu sayfaya geri döneceksiniz. İlk giriste hoş geldin enerjisi tanımlanır.
Yorumlar yükleniyor...