Apple, Tech Transparency Project (TTP) tarafından yayımlanan ve yapay zeka kullanarak insanların fotoğraflarını rızaları dışında çıplak hale getiren uygulamaları ifşa eden raporun ardından App Store bünyesindeki 28 “nudify” (çıplaklaştırma) uygulamasını yayından kaldırdı. Teknoloji devinin bu hamlesi, üretken yapay zeka teknolojilerinin kötüye kullanımı konusundaki endişelerin arttığı bir dönemde geldi.
TTP’nin CNBC ile paylaştığı verilere göre, Ocak ayında gerçekleştirilen incelemede Apple App Store’da 47, Google Play Store’da ise 55 benzer uygulama tespit edildi. Söz konusu uygulamaların “nudify” ve “undress” (soyunma) gibi arama terimleriyle kolayca bulunabildiği ve tamamen giyinik kadın fotoğrafları üzerinde test edilerek yapay zeka tabanlı çıplak görüntüler oluşturduğu belirlendi.
TTP Direktörü Katie Paul, CNBC’ye yaptığı değerlendirmede, “Bu uygulamalar kesinlikle insanların rızası dışında cinselleştirilmesi amacıyla tasarlanmış” ifadesini kullandı.
Rapor sonrası Apple ve Google harekete geçti
Piyasa kaynaklarına yansıyan bilgilere göre Apple, raporun ardından Pazartesi günü harekete geçerek söz konusu uygulamaları mağazasından sildi. Şirket ayrıca diğer geliştiricileri de uyararak, yönerge ihlallerinin giderilmemesi durumunda benzer kaldırma işlemleriyle karşılaşacaklarını bildirdi. TTP, yaptığı takip incelemesinde tespit edilen uygulamalardan 24’ünün fiilen kaldırıldığını teyit etti.
Google cephesinde ise politika ihlalleri gerekçesiyle bazı uygulamaların askıya alındığı açıklandı. Şirket yetkilileri, soruşturmanın devam ettiğini vurgularken kaç uygulamanın işlem gördüğüne dair net bir sayı paylaşmadı. Gözlemci grup, incelemelerinde iki tür uygulamayı test etti: Yapay zeka ile kadınları kıyafetsiz gösterenler ve kadınların yüzlerini başka çıplak bedenlere monte eden “yüz değiştirme” (face swap) yazılımları.
Yapay zeka etiği ve piyasadaki genel görünüm
Teknoloji sektöründe son dönemde yaşanan gelişmeler, yapay zeka güvenliği konusunu gündemin üst sıralarına taşıdı. Bu son rapor, Elon Musk’ın sahibi olduğu xAI şirketinin geliştirdiği Grok yapay zeka aracının, kullanıcı komutlarına yanıt olarak kadın ve çocukların cinselleştirilmiş görüntülerini oluşturmasıyla başlayan tartışmaların hemen ardından geldi.
Sektör analistleri, Apple ve Google gibi platform sağlayıcıların, yapay zeka tabanlı içerik üretimi konusunda düzenleyici kurumların ve kamuoyunun artan baskısı altında olduğuna işaret ediyor. Önümüzdeki dönemde uygulama mağazalarının, üretken yapay zeka kullanan yazılımlar üzerindeki denetim mekanizmalarını daha da sıkılaştırması ve etik kuralları ihlal eden geliştiricilere karşı daha sert yaptırımlar uygulaması bekleniyor.
