Apple ve Google'ın rıza dışı çıplak görüntü üreten yapay zeka uygulamalarına karşı başlattığı operasyon, dijital çağda insan haklarının korunması konusunda önemli bir yasal ve ticari adımı temsil ediyor. San Francisco Şehir Savcılığı'nın başlattığı yasal sürecin ardından Apple uygulamaları kaldırmış ve geliştirici hesaplarını kapatmıştır; Google ise yüzlerce uygulamayı anında askıya almıştır. Asıl sorun, bu uygulamaların kendilerini sıradan fotoğraf düzenleme araçları olarak sunarak platform denetimlerini etkili bir şekilde atlatmasıdır.

Generative AI ve derin öğrenme teknolojisinin gelişmesiyle, gerçekçi ve ikna edici görüntü oluşturmak teknik olarak mümkün hale gelmiştir. Deepfake olarak bilinen bu teknoloji, sadece bir fotoğraf kullanarak cinsel içerik üretebilmektedir. Saldırganlar kurbanlar hakkında tamamen yapay intim görüntü oluşturabilmekte, böylelikle şantaj ve psikolojik taciz araçları temin etmektedir.

Uygulamaların denetimden kaçmasının temel sebebi, zararlı özelliklerin başlangıçta gizlenmesidir. Geliştiriciler yapay zeka yeteneklerini saklayıp uygulamayı basit fotoğraf düzenleme aracı olarak sunmakta, indirilendikten sonra gizli özellikleri uygulama içi satın alma seçenekleri altında aktif hâle getirmektedir. Mağaza yöneticileri sadece statik ekran görüntüleri temel alarak kontrol ettikleri için, dinamik yapay zeka yeteneklerini sonradan fark edemektedir.

Bu tür uygulamalar kadınları ve kız çocuklarını hedef alan dijital taciz aracı haline gelmektedir. Rıza dışı intim görüntü paylaşımı (deepfake pornografi) kurbanların psikolojik travma, mahremiyetin ihlali ve sosyal stigmatizasyon anlamına gelir. Birçok ülkede yasal olarak cezalandırılmakta olup uluslararası hukuk alanında ciddi tartışılmaktadır. Apple ve Google, gizli yapay zeka özelliklerini tespit edebilecek daha sofistike denetim mekanizmaları geliştirerek bu tür uygulamalara karşı daha proaktif olmalıdırlar.