Sony 1998 yılında karanlıkta çekim yapabilmek gece görüş sensörü eklediği kamera modelini piyasaya sürdükten kısa bir süre sonra kameranın bazı merceklerle insanları çıplak gösterebildiği ortaya çıkınca meydana gelen satış patlaması karşısında satışları durdurup bu özelliği kaldırmak zorunda kalmıştı.
Geçtiğimiz haftalarda birbiri ile ilişkili iki önemli gelişme bana Sony’nin yaşadığı bu talihsiz durumu hatırlattı. Bu gelişmelerden birincisi, piyasaya çıkar çıkmaz büyük ilgi görmesine rağmen tepkiler karşısında geliştiricileri tarafından geri çekilen ‘DeepNude’ adlı uygulamaydı. Son zamanlarda adı sıkça duyulan ‘deepfake’ uygulamalarından birisi olan DeepNude, amatör düzeyde de olsa yapay zekâdan yararlanarak yüklenilen fotoğraflardaki kişilerin görüntülerini çıplağa dönüştürme özelliğine sahipti.
Uygulama tarafından oluşturulan görüntü fotoğraftaki kişinin gerçek çıplak görüntüsü olmasa da özellikle kadınlara yönelik kötü niyetli paylaşımlarda kullanılma ihtimali yüzünden ciddi eleştirilere maruz kalan geliştiriciler “Dünya henüz bu uygulamaya hazır değil!” diyerek uygulamayı sitelerinden kaldırdılar! Kopyaları halen farklı sitelerde yer almaya devam etse de uygulama kodunun paylaşımı da yazılım geliştirme projeleri için web tabanlı depolama servisi sunan GitHub tarafından yasaklandı.
DeepFake olarak adlandırılan uygulamalar hedeflenen kişinin fotoğrafları ile eğitilerek o kişinin yüzü üzerinde göz ve ağız hareketleri de dahil olmak üzere her türlü jest ve mimiğin oluşturulmasına olanak tanıyor. Böylelikle de çoğu zaman tek bir fotoğraf üzerinden bile o kişi sanki konuşuyormuş izlenimi veren videolar oluşturulabiliyor. İnternet’te Mona Lisa’dan Marilyn Monroe’ya kadar pek çok ünlüye ait görsellerden yararlanılarak hazırlanmış deepfake videolarına rastlamanız mümkün.
Uzmanlar bu videoların giderek gerçeğinden ayırt edilemez bir hâl almaya başlaması ile tehdit, şantaj, iftira, intikam vb. amaçlı paylaşımların artmasından endişe ediyorlar. Halihazırda pek çok kadının kendilerine ait pornografik içerikli deepfake fotoğraf ve videoların varlığını fark edip şikâyette bulunmuş olması durumun vahametini gösteriyor.
Hatta bazı pornografik içerikli sitelerde ünlülerin yüzlerini kullanarak oluşturulan deepfake videoların paylaşımının artması üzerine pek çok ülkede bu konuda neler yapılabileceği tartışılıyor. Bu konuda en önemli adım ise geçtiğimiz haftalarda ABD’nin Virginia eyaletinde atıldı.
Eyalette 1 Temmuz itibariyle geçerli olmak üzere kanun değişikliği yapılarak “bir başka kişiyi zorlama, taciz ya da tehdide yönelik çıplaklık ya da cinsellik içeren görüntülerin yanı sıra bilgisayarlarla yanıltıcı şekilde hazırlanmış video ve fotoğrafların paylaşımı” yasaklandı. Suçun gerçekleşmesi durumunda bir yıl hapis ve/veya $2,500 para cezası uygulanacak.
Lord Byron’ın 200 yıl önce söylediği gibi “Gerçekler gariptir, hatta kurgudan bile!”