ChatGPT'nin şirketi OpenAI, kullanıcıların yapay zeka tarafından üretilen pornografi ve diğer müstehcen içerikler oluşturmasına izin verilip verilmeyeceğini araştırıyor.

Şirket, deepfake yasağının yetişkinlere yönelik materyaller için de geçerli olmaya devam edeceğini vurgularken, kampanyacılar bu önerinin "güvenli ve faydalı" yapay zeka üretme misyonunu baltaladığını öne sürdü.

DALL-E görüntü oluşturucunun da geliştiricisi olan OpenAI, kullanıcıların ürünleri "ölçülü bir şekilde" porno oluşturmak için izin vermeyi düşündüğünü açıkladı. OpenAI bu içeriğin "erotizm, aşırı vahşet, hakaretler ve istenmeyen küfürler" içerebileceğini söyledi.

Teklif çarşamba günü OpenAI'nin yapay zeka araçlarını nasıl geliştirdiğini anlatan bir belgenin parçası olarak yayınlandı.

Belge üzerinde çalışan San Francisco merkezli şirket çalışanı Joanne Jang, ABD'li haber kuruluşu NPR'ye verdiği demeçte, OpenAI'nin erotik metin ve çıplak görüntülerin oluşturulmasının ürünlerinde yasaklanıp yasaklanmaması gerektiği konusunda bir tartışma başlatmak istediğini söyledi. 

Jang, "İnsanların yasaları veya diğer insanların haklarını ihlal etmediği ölçüde maksimum kontrole sahip olmalarını sağlamak istiyoruz, ancak deepfake'leri etkinleştirmek söz konusu değil" dedi. 

Bir OpenAI sözcüsü perşembe günü yaptığı açıklamada, şirketin yapay zeka tarafından üretilen pornografi yaratma gibi bir niyeti olmadığını söyledi. "Kabul edilemez olan deepfake'leri önlemek için ürünlerimizde güçlü güvenlik önlemlerimiz var ve çocukları korumaya öncelik veriyoruz. Ayrıca cinsellik hakkındaki konuşmaları yaşa uygun bağlamlarda dikkatlice keşfetmenin önemine de inanıyoruz."

Yapay zeka tarafından üretilen pornografinin yayılması, bu yıl daha önce X'in, sitenin şarkıcının deepfake müstehcen görüntüleriyle dolmasının ardından Taylor Swift içeriği aramalarını geçici olarak yasaklamak zorunda kalmasıyla vurgulandı.

Birleşik Krallık'ta İşçi Partisi, insanların çıplak görüntülerini oluşturan bu gibi çıplaklaştırma araçlarını yasaklamayı düşünüyor.

Çocukları çevrimiçi cinsel istismardan koruyan bir hayır kurumu olan Internet Watch Foundation, pedofillerin, teknolojinin çevrimiçi olarak serbestçe kullanılabilen sürümlerini kullanarak çocukların çıplak görüntülerini oluşturmak için yapay zekayı kullandıkları konusunda uyardı.
"Teknoloji sektörünün, yarattıkları zararlar için pratik adımlar atmak ve kurumsal sorumluluk almak yerine, yapay zeka erotizmi gibi ticari konularla kendilerini eğlendirmeleri sonsuz hayal kırıklığı yaratıyor" dedi.

Durham Üniversitesi'nde hukuk profesörü ve pornografi düzenlemeleri konusunda uzman olan Clare McGlynn, herhangi bir teknoloji şirketinin yetişkinlere yönelik içeriği sorumlu bir şekilde üretme taahhüdünü sorguladığını söyledi. Microsoft, OpenAI teknolojisini kullanan Microsoft Designer ürünü için, bu yıl Swift'in ünlülerin izinsiz deepfake'lerini yaratmak için kullanıldığına dair bir raporun ardından yeni korumalar getirmişti.

OpenAI'nin baş teknoloji sorumlusu Mira Murati, bu yıl Wall Street Journal'a verdiği demeçte, şirketin video yapma aracı Sora'nın çıplak görüntüler oluşturmasına izin verip vermeyeceğinden emin olmadığını söyledi.

"Sanatçıların bu konuda daha fazla kontrole sahip olmak isteyebilecekleri yaratıcı ortamlar olduğunu hayal edebilirsiniz ve şu anda tam olarak neyin yararlı olduğunu, aracın ne düzeyde esneklik sağlaması gerektiğini anlamak için farklı alanlardan sanatçılar ve yaratıcılarla birlikte çalışıyoruz" dedi.