Amsterdam: Yapay zekâ destekli ‘soyma’ uygulamaları dünya genelinde yasaklansın

Amsterdam Belediyesi ile çevrim içi istismar alanında çalışan Offlimits, yapay zekâ destekli ‘nudify’ uygulamalarına karşı ortak çağrı yaptı. Bu araçlar, kişilerin izni olmadan sıradan fotoğrafları cinsel içerikli görsellere dönüştürüyor.

Uzmanlara göre bu uygulamalar giderek daha fazla şantaj, siber zorbalık ve çocuklara yönelik cinsel istismar vakasında kullanılıyor. Amsterdam ve Offlimits, Hollanda hükûmeti ile Avrupa Birliği’nden söz konusu teknolojinin açıkça yasaklanmasını ve çevrim içi ortamdan kaldırılmasını istedi.

Gençler risk altında

Offlimits’in araştırmasına göre 18–25 yaş arası genç erkeklerin yaklaşık yüzde 40’ı suç içeren ya da şiddet barındıran cinsel görüntülerle karşılaştığını söylüyor. Katılımcıların yüzde 15,6’sı ise gerçek ya da yapay zekâ üretimi çocuk istismarı görüntüleri gördüğünü belirtiyor.

Okullarda zorbalık yayılıyor

Araştırmacı gazetecilik platformu Pointer’ın 60’tan fazla ortaokulda yaptığı çalışmaya göre, yapay zekâ ile üretilmiş çıplak görüntüler üzerinden zorbalık hızla artıyor. Okulların yüzde 24’ü bu tür vakalarla karşılaştığını, yüzde 10’u ise yılda beşten fazla olay yaşandığını bildirdi.

“Çocuklar kendini koruyamaz”

Amsterdam Belediye Meclisi üyesi Alexander Scholtes, çocukların bu dijital ortamda kendilerini koruyamayacağını vurguladı ve “Cinsel taciz ve istismarı bu kadar kolay erişilebilir hâle getiren araçların varlığı kabul edilemez. Açıkça zarar veren şeyleri yasaklama cesaretini göstermeliyiz” dedi.

“Hedef çoğunlukla kadınlar”

Offlimits Direktörü Robert Hoving, bu araçların çoğunlukla kadınları ve kız çocuklarını hedef aldığını söyledi. Hoving’e göre failler artık gerçek görüntülere ihtiyaç duymuyor; yapay zekâ ile kolayca içerik üretebiliyor. “Mağdurlar üzerindeki etkiler, gerçek görüntülerle yapılan istismardan farksız,” dedi.

Yasal boşluk sürüyor

Hollanda’da deepfake çıplak görüntülerin üretilmesi ve yayılması suç sayılabiliyor. Buna karşın nudify siteleri ve uygulamaları hâlâ internet üzerinde kolayca bulunabiliyor. Uzmanlara göre bu durum, acil ve net bir yasal müdahaleyi zorunlu kılıyor.