Aralarında 100’den fazla uluslararası kuruluşun bulunduğu bir grup, insanların fotoğraflarını dijital olarak “çıplak hale getiren” yapay zekâ uygulamalarının dünya genelinde yasaklanması çağrısında bulundu. Manifestoya Hollanda’dan Amsterdam Belediyesi ile çevrimiçi istismarla mücadele eden uzmanlık merkezi Offlimits de imza attı.
Söz konusu uygulamalar, “nudifying tools” olarak adlandırılıyor ve özellikle kadınlar, kız çocukları ve çocukların görüntülerinin manipüle edilmesinde kullanılıyor. Uzmanlar, bu teknolojinin cinsel istismar, şantaj ve psikolojik travma gibi ciddi riskler barındırdığı uyarısında bulunuyor.
Kısa süre önce sosyal medya platformu X de tartışmaların odağına gelmişti. Platformun yapay zekâ destekli sohbet robotu Grok’un, gerçekçi sahte çıplak görüntüler üretebildiği ortaya çıkmıştı.
İki yıl içinde yasak talebi
Manifestoda hükümetlere, bu tür uygulamaların kullanımı, satışı ve dağıtımını yasaklayan yasaların en geç iki yıl içinde hayata geçirilmesi çağrısı yapılıyor. Ayrıca teknoloji şirketleri ve kamuoyunun da bu zararlı teknolojilerle mücadelede sorumluluk alması gerektiği vurgulanıyor.
Offlimits yönetim kurulu üyeleri, yapay zekâ ile üretilen sahte çıplak görüntülerin artık gerçek fotoğraflardan ayırt edilemediğini söylüyor.
“Bu durum, mağdurlar üzerinde gerçek görüntülerin yayılmasıyla aynı etkiyi yaratıyor,” diyen yöneticiler, birçok kişinin uyuyamadığını, okula gitmek istemediğini ve bazı vakalarda intihar düşüncelerinin ortaya çıktığını belirtiyor.
Şantaj ve baskı aracı
Yöneticilere göre bu görüntüler çoğunlukla baskı ve şantaj amacıyla kullanılıyor.
“Kız çocuklarında genellikle ‘sextortion’ görüyoruz. Sahte görüntülerin yayılması tehdidiyle gerçek fotoğraflar ya da cinsel içerikli eylemler talep ediliyor. Erkek çocuklarında ise çoğunlukla para isteniyor,” diyorlar.
Hollanda’da bu tür uygulamaların büyük bölümünün zaten yasak olduğunu belirten yöneticiler, sorunun ulusal sınırları aştığını vurguluyor: “Yasalar sınırda duruyor. Bir ülkede yasaklasanız bile başka bir ülkede serbestse mağduriyetler devam eder. Bu yüzden uluslararası uyumlu bir yasak şart.”
Mağdur sayılarında yüzde 260 artış
Çağrı yalnızca hükümetlere değil, teknoloji şirketlerine ve topluma da yöneltiliyor. Uzmanlar, şirketlerin ürünlerinin bu tür istismarlara açık olmamasını sağlaması ve okullarda farkındalık çalışmalarının artırılması gerektiğini savunuyor.
Hollanda’da konu siyasi gündemde de yer buluyor. Yeni kurulacak hükümetin dijital güvenliğe ve özellikle cinsel içerikli deepfake’lere karşı önlemleri değerlendirdiği belirtiliyor.
Sorunun boyutu ise rakamlarla da ortaya konuyor. Offlimits’e göre, son bir yılda yapay zekâ ile üretilmiş zararlı içerikler nedeniyle yardım hattına yapılan başvurular yüzde 260 arttı.
Yöneticiler, bu artışın acil ve ortak bir müdahalenin artık kaçınılmaz olduğunu gösterdiğini söylüyor.
Yorumlar
Kalan Karakter: