AB’den deepfake hamlesi

Avrupa Parlamentosu, internette yayılan pornografik deepfake içeriklere karşı yeni bir adım attı. Parlamento, yapay zekâ ile sahte çıplak fotoğraf ve video üretebilen sistemlerin yasaklanması yönünde oy kullandı. Düzenlemenin yürürlüğe girmesi için AB üyesi ülkelerin de onayı gerekiyor.

Tartışmanın merkezinde, ‘nudifier’ (çıplaklaştırıcı) olarak bilinen yapay zekâ sistemleri yer alıyor. Bu araçlar, gerçek bir kişiye benzeyen ve o kişinin rızası olmadan cinsel içerikli ya da mahrem görüntüler üretebiliyor.

Gerekçe: Onur ve mahremiyet ihlali

Hazırlanan yasa metninde, bu tür görüntü ve videoların mağdurlara zarar verdiği, insan onurunu ve özel hayatın gizliliğini ihlal ettiği vurgulandı. Bu nedenle açık bir yasağın artık acil hâle geldiği belirtildi.

Parlamento çoğunluğu da bu görüş doğrultusunda hareket etti. Böylece AB düzeyinde dijital cinsel şiddete karşı daha sert bir çerçeve kurulmasının önü açılmış oldu.

Tepkinin arkasında son vakalar var

AB’nin bu adımı atmasında yıl başında yaşanan bazı olayların etkili olduğu belirtiliyor. O dönemde kullanıcıların, Elon Musk’ın sahibi olduğu xAI şirketinin sohbet botu Grok üzerinden kadınlara ve çocuklara ait milyonlarca cinselleştirilmiş yapay zekâ görseli ürettiği ve bunları çevrim içi ortamda yaydığı iddia edilmişti.

Bu gelişmelerin ardından bazı ülkeler ile Avrupa Komisyonu soruşturma başlatmış, bazı yerlerde sohbet botuna erişim de sınırlandırılmıştı.

Yeşiller’den Avrupa Parlamentosu üyesi Alexandra Geese, piyasada yalnızca bu tür cinselleştirilmiş görüntüler üretmeye odaklanan yüzü aşkın uygulama bulunduğunu söyledi. Geese, bu alanın çok net biçimde tanımlanabileceğini ve sektörün bu tür sistemlere yatırım yapmanın karşılığının olmayacağını görmesi gerektiğini savundu.

Son karar üye ülkelerde

Parlamentonun verdiği karar tek başına yeterli değil. AB genelinde bağlayıcı bir yasak için üye ülkelerle ortak metin üzerinde uzlaşılması gerekiyor. Üye ülkelerin de daha önce benzer bir yasağa sıcak baktığı belirtiliyor.

Bu nedenle önümüzdeki süreçte gözler Avrupa Birliği Konseyi’ne çevrilecek.

Almanya da ayrı düzenleme hazırlıyor

Almanya’da da dijital şiddet konusunda ayrı bir yasal düzenleme üzerinde çalışılıyor. Adalet Bakanı Stefanie Hubig’in hazırladığı taslağın bu hafta Başbakanlık ve ilgili bakanlıklarla ön görüşmeye gitmesi bekleniyor.

Taslağa göre deepfake üretmek ve yaymak ileride iki yıla kadar hapis cezasıyla karşılık bulabilecek.

Bu hazırlığın arka planında oyuncu Collien Fernandes’in gündeme taşıdığı dijital cinsel şiddet iddiaları da bulunuyor. Fernandes, eski eşi Christian Ulmen hakkında suçlamalarda bulunmuştu. Ulmen ise bu iddiaları reddediyor.

Dijital şiddete karşı yeni eşik

Avrupa’daki son adım, yapay zekânın kötüye kullanımına karşı hukuki sınırların daha da sertleşeceğini gösteriyor. Özellikle rıza dışı üretilen cinsel içerikli sahte görüntüler, artık yalnızca etik değil, doğrudan ceza hukuku meselesi olarak ele alınıyor.