Göçmenlere gizli yapay zekâ takibi: Bakanlığa ayrımcılık suçlaması

Birleşik Krallık'ta İçişleri Bakanlığının göçmenleri ve sığınmacıları denetlemek amacıyla yapay zekâ teknolojilerini yaygın biçimde kullandığı ortaya çıktı. Dijital haklar örgütü Open Rights Group (ORG), uygulamaların büyük ölçüde kamuoyundan gizlendiğini ve yeterli denetime tabi tutulmadığını açıkladı.

The Guardian'ın haberine göre 'Otomatik Ayrımcılık: Dijital Düşmanca Ortamın İç Yüzü' başlıklı araştırma, yapay zekânın sığınma başvurularından sınır gözetimine kadar birçok alanda kullanıldığını gösteriyor.

Örgüt, teknolojinin göçmenlere yönelik mevcut ayrımcı uygulamaları güçlendirebileceği ve insanların hayatını doğrudan etkileyen kararlarda ciddi hatalara yol açabileceği uyarısında bulundu.

Sığınmacıların telefonları ve yüzleri inceleniyor

Rapora göre İçişleri Bakanlığı, yapay zekâyı göçmenlik işlemlerinin farklı aşamalarında kullanıyor.

Bu uygulamalar arasında sığınmacıların yaşlarının tahmin edilmesi, ülkeye yeni gelen kişilerin telefonlarındaki bilgilerin incelenmesi ve sahte olduğu düşünülen evliliklerin tespit edilmesi bulunuyor.

Sınır güvenliğinde ise yüz tanıma sistemleri, yapay zekâ destekli insansız hava araçları ve uydulardan yararlanılıyor.

Ayrıca sığınma görüşmelerinin özetlenmesi ve başvuru sahiplerinin geldikleri ülkelere ilişkin bilgilerin değerlendirilmesinde de yapay zekâ kullanılıyor.

'Identify and Prioritise Immigration Cases' (IPIC) adlı sistem ise göçmenlik dosyalarının değerlendirilmesine ve öncelik sırasına konulmasına yardımcı oluyor. Ancak sistemin nasıl çalıştığına ilişkin bilgiler sınırlı.

'Ulusal güvenlik' gerekçesiyle bilgiler gizleniyor

Open Rights Group, araştırmasını İçişleri Bakanlığının yayımladığı sınırlı bilgiler, bilgi edinme başvuruları ve milletvekillerinin sorularına verilen yanıtlar üzerinden hazırladı.

Örgüte göre bakanlık, yapay zekâ sistemleriyle ilgili ayrıntıları açıklamamak için sıklıkla 'ulusal güvenlik' gerekçesine başvuruyor.

Raporda, bu teknolojilerin kullanımının yeterli kamuoyu denetimi olmadan genişletildiği savunuldu.

Araştırmacılar, yapay zekâ sistemlerinin tarafsız olmadığını ve toplumdaki mevcut önyargıları yeniden üretebildiğini belirtti.

Örgüt, bu durumun özellikle sığınmacılar açısından ciddi sonuçlar doğurabileceğini vurguladı. Çünkü hatalı değerlendirmeler, insanların ülkede kalıp kalamayacağına ilişkin işlemleri etkileyebilir.

'İnsanlar yalnızca verilerden ibaret değil'

Open Rights Group, mevcut uygulamaları 'dijital düşmanca ortam' olarak nitelendirdi.

Bu ifade, 2012 yılında dönemin İçişleri Bakanı Theresa May tarafından savunulan ve düzensiz göçmenlerin Birleşik Krallık'ta yaşamalarını zorlaştırmayı amaçlayan 'düşmanca ortam' politikasına gönderme yapıyor.

Örgüte göre yapay zekâ, bu yaklaşımı dijital teknolojiler aracılığıyla daha da yaygınlaştırabilir.

Open Rights Group yöneticilerinden Sara Alsherif, göçün teknik bir sorun olarak değerlendirilemeyeceğini söyledi.

Alsherif, "Göç, insanlara özgü bir olgu ve deneyimdir. Yapay zekâyla çözülebilecek teknik bir sorun değildir" dedi.

Örgüt, insan haklarını ihlal etme riski taşıyan yapay zekâ uygulamalarının yasaklanmasını ve hükûmetin kullandığı sistemlerin kamuoyuna açıklanmasını talep etti.

Milletvekillerinden şeffaflık çağrısı

Araştırma, farklı siyasi partilerden milletvekillerinin de desteğini aldı.

İşçi Partili Bell Ribeiro-Addy, İçişleri Bakanlığının sığınma işlemlerinde yapay zekânın nasıl kullanıldığını açıklamaktan kaçındığını söyledi.

Ribeiro-Addy, sistemlerin hata yapması durumunda sorumluluğun nasıl belirleneceğinin de açıklığa kavuşturulmadığını vurguladı.

Rapora İskoç Ulusal Partisinden Pete Wishart ve Yeşiller Partisinden Siân Berry de destek verdi.

Open Rights Group, kamu kurumlarında kullanılan yapay zekâ araçlarının kaydedileceği açık bir sicil oluşturulmasını, bilgi edinme yasalarının güçlendirilmesini ve 'ulusal güvenlik' gerekçesinin daha dar biçimde uygulanmasını istiyor.

Bakanlık: Kararları yapay zekâ vermiyor

Birleşik Krallık İçişleri Bakanlığı ise eleştirileri reddederek yapay zekânın yalnızca çalışanlara yardımcı olmak amacıyla kullanıldığını açıkladı.

Bakanlık sözcüsü, sığınma başvurularına ilişkin kararların eğitimli görevliler tarafından verildiğini belirtti.

Açıklamada, yapay zekâ sistemlerinin görüşme kayıtlarının ve ülke bilgilerinin incelenmesini kolaylaştırdığı, ancak tek başına kullanılamayacağı ve sığınma başvuruları hakkında karar veremeyeceği vurgulandı.

Bakanlık ayrıca sistemlerin performansının düzenli olarak denetlendiğini ve uygulamalara ilişkin güncel değerlendirmelerin yayımlanacağını bildirdi.

Böylece tartışmanın merkezinde, yapay zekânın göçmenlik işlemlerinde kullanılıp kullanılmamasından çok, bu sistemlerin ne kadar güvenilir olduğu ve kamuoyunun denetimine ne ölçüde açık tutulduğu soruları bulunuyor.