Araştırmacılara göre fotoğraflarda kadınları soymak için yapay zekâ kullanan uygulama ve web sitelerinin popülaritesi artıyor.

Sosyal ağ analiz şirketi Graphika'ya göre yalnızca geçtiğimiz eylül ayında 24 milyon kişi bu tarz web sitelerini ziyaret etti. Bu “çıplaklaştırma” hizmetlerinin çoğu, pazarlama için popüler sosyal ağları kullanıyor. Araştırmacılar, 2023’ün başından bu yana, bu tarz uygulamaların reklamını yapan bağlantıların sayısının, X ve Reddit gibi sosyal medya mecralarında yüzde 2400'den fazla arttığını söyledi. Çıplaklaştırma web siteleri ve uygulamaları, yüklenen fotoğrafları, kişinin çıplak olmasını sağlayacak şekilde yapay zekâ ile yeniden oluşturuyor. Hizmetlerin çoğu yalnızca kadınlara yönelik.

Bu uygulamalar, deepfake pornografi olarak biliniyor ve rıza dışı pornografi eğiliminin bir parçası. Görüntülerin sıklıkla sosyal medyadan alınması ve kişinin izni, kontrolü veya bilgisi olmadan yayılması nedeniyle hem endişe verici hem de ciddi yasal ve etik engeller barındırıyor. Üstelik açık kaynak kodlu oldukları için uygulama geliştiricilerin kullandığı yapay zekâ modelleri ücretsiz olarak sunuluyor.

Graphika analistlerinden Santiago Lakatos, “Artık son derece gerçekçi görünen bir şey yaratabilirsiniz,” diyerek geçmişteki deepfake görüntülerin genellikle bulanık olduğuna ve sahte olduklarının anlaşılabileceğine dikkat çekti. Geldiğimiz noktada ise bu pek mümkün değil.

X'te yayınlanan bir “çıplaklaştırma” uygulamasının reklamında, müşterilerin çıplak görseller oluşturup daha sonra bu görselleri ilgili kişiye gönderebileceklerini ve tacizde bulunabileceklerini öne süren bir dil bile kullanıldı. Hatta uygulamalardan biri YouTube’ta sponsorlu içerik için ödeme yaptı ve "çıplaklaştırma" kelimesiyle arama yapıldığında ilk sırada çıkıyor.

Bir Google sözcüsü, şirketin müstehcen içerik içeren reklamlara izin vermediğini söyledi: “Söz konusu reklamları inceledik ve politikalarımızı ihlal edenleri kaldırıyoruz.” Ancak ne X ne de Reddit yorum taleplerine yanıt vermedi.

Bazıları ayda 9,99 dolar ücret alan çıplaklaştırma hizmetleri, web sitelerine çok sayıda müşteri çektiklerini iddia ediyor. Lakatos, “Çok fazla iş yapıyorlar. Eğer dediklerine güvenirseniz, web sitelerinin günde binden fazla kullanıcı ağırladığını iddia ediyorlar.”

Ünlü kişilerin dijital olarak oluşturulan pornografik görüntüleri uzun zamandır gündemde. Ancak gizlilik uzmanları, yapay zekâ teknolojisindeki ilerlemeler deepfake yazılımlarını daha kolay ve daha etkili hâle getirdiği için bu durumdan giderek daha fazla endişe duyuyor.

Electronic Frontier Foundation'ın siber güvenlik direktörü Eva Galperin, “Bu uygulamaların giderek artan oranda sıradan kişiler tarafından sıradan insanlar üzerinde kullanıldığını görüyoruz,” dedi. “Lise çocukları ve üniversiteye giden insanlar arasında bile bunu yaygın biçimde görmek mümkün.”

Galperin, birçok mağdurun yaratılan görüntülerden asla haberi olmadığını, ancak öğrenenlerin bile polisin soruşturma yapmasını sağlamakta veya yasal işlem başlatmak için harekete geçmekte zorlanabileceğini söyledi.

Şu anda ABD’de deepfake pornografi oluşturulmasını yasaklayan bir federal yasa bulunmuyor ama ABD hükümeti çocukların bu tür görüntülerinin oluşturulmasını yasaklıyor. Geçtiğimiz kasım ayında, Kuzey Carolina'lı bir çocuk psikiyatristi, çıplaklaştırma uygulamaları kullanarak hastalarının fotoğraflarını yeniden oluşturduğu için 40 yıl hapis cezasına çarptırıldı ve bu da deepfake çocuk pornosu oluşturma ve barındırma konusunda verilen ilk ceza oldu.

Uygulamaya göre TikTok, hizmetlerle ilişkili popüler bir arama terimi olan "soyunma" anahtar kelimesini engelleyerek bu kelimeyi arayan herkesi “kuralları ihlal eden davranış veya içerikle ilişkili olabileceği” konusunda uyardı. Bir TikTok temsilcisi konu hakkında ayrıntı vermeyi reddetti. Diğer tarafta Meta da soyunma uygulamalarını aratmak için kullanılabilecek anahtar kelimeleri engellemeye başladı.

Kaynak: Fortune