Yapay zekâ, günlük yaşamda büyük kolaylıklar sağlasa da beraberinde getirdiği bazı sorunlar pek çok kişinin endişesine yol açıyor. Son günlerde, bu teknolojiyle insanların rızası olmadan oluşturulan uygunsuz görsellerin yaygınlığı dikkat çekti. Teknoloji Şeffaflığı Projesi (TTP) tarafından gerçekleştirilen bir araştırma, Apple ve Google'ın uygulama mağazalarında bu tür uygulamaların hâlâ bulunmasının ardındaki sebepleri gözler önüne serdi.

Uygunsuz Görseller İçin Alınan Önlemler Yetersiz Kalıyor

Araştırmanın bulguları, App Store ve Google Play Store'da hâlâ birçok “çıplaklaştırma” uygulaması olduğunu gösteriyor. Uygulamalar, yapay zekâ kullanarak insanların izni olmadan uygunsuz ve cinsel içerikli deepfake görüntülerini oluşturuyor. Bu durum, Apple ve Google’ın kullanıcı politikalarına tamamen ters düşüyor. Buna rağmen, bu tür uygulamaların sayısının azalmadığı gözlemleniyor.

Yaygınlığı Şaşırtıcı: 700 Milyondan Fazla İndirme!

Araştırma sonuçları, Google Play Store'da 55, Apple App Store’da ise 47 uygunsuz uygulamanın mevcut olduğunu ortaya koydu. Bu uygulamalar, toplamda 700 milyondan fazla kez indirildi ve 117 milyon dolardan fazla gelir elde etti. Endişe verici bir diğer konu ise, bu uygulamaların çoğunun gençler ve çocuklar için uygun olarak derecelendirilmiş olması. Örneğin, DreamFace uygulaması Google Play Store'da 13 yaş ve, Apple App Store'da 9 yaş ve üzeri için onaylanmış durumda.

Apple ve Google'dan Yanıt Geldi

Araştırmanın sonuçlarının açıklanmasının ardından Apple ve Google, bazı önlemler aldıklarını duyurdu. Apple, bahsi geçen 24 uygulamayı kaldırdığını bildirdi ancak TTP'nin verilerine göre hâlâ 47 uygulama mevcut. Google ise bazı uygulamaları politika ihlali nedeniyle askıya aldığını belirtirken, tam olarak kaç uygulamanın kaldırıldığını açıklamadı. Bu durum, her iki şirketin kullanıcı deneyimlerini iyileştirmek için daha fazla çaba göstermesi gerektiğini ortaya koyuyor.