İngiltere'de yapay zekâ alarmı: Felaket sonuçlarına hazır değiliz

İngiltere’de milletvekilleri ve Lordlar Kamarası üyelerinden oluşan İnsan Hakları Ortak Komitesi, hızla gelişen yapay zekâ teknolojileri konusunda dikkat çeken bir uyarıda bulundu. Komiteye göre mevcut yasalar, yapay zekânın insan hakları üzerinde yaratabileceği ciddi sonuçlarla mücadele etmek için yeterli değil.

ITV News’in haberine göre bugün yayımlanan raporda, İngiltere’nin yapay zekâdan kaynaklanabilecek 'potansiyel olarak vahim sonuçlara' karşı hazırlıksız olduğu belirtildi. Komite, kapsamlı bir Yapay Zekâ Yasası çıkarılması çağrısında bulundu.

Mevcut yasalar yetersiz kalıyor

Rapora göre yapay zekâ sistemlerine uygulanabilecek mevcut hukuk ve denetim mekanizmaları, yeni teknolojinin doğurduğu riskleri önlemek veya ortaya çıkan zararları gidermek konusunda yetersiz.

Komite, mevcut İngiliz mevzuatının daha çok yapay zekâyı kullanan kişilere odaklandığını, sistemleri geliştiren şirketlere yönelik denetimin ise yetersiz kaldığını belirtti.

Düzenleyici kurumların bir yapay zekâ sistemini piyasaya sürülmeden önce kapsamlı biçimde test etme ve değerlendirme yetkisinin de bulunmadığına dikkat çekildi.

Mahremiyet ve hak arama özgürlüğü tehlikede

Raporda yapay zekânın insanların özel hayatının gizliliğini tehdit edebileceği belirtildi. Bir kişinin hayatını etkileyen kararların yapay zekâ tarafından verilmesi halinde, bu karara karşı etkili biçimde itiraz edebilmesinin de zorlaşabileceği vurgulandı.

Komite Başkanı ve İşçi Partili milletvekili Alex Sobel, teknolojinin çok hızlı geliştiğini söyledi.

Sobel, "Yapay zekâ öyle bir hızla ve karmaşıklıkla ilerliyor ki etkisini doğru biçimde tahmin etmek zor. Ancak açık olan şu: Ne kadar vahim olursa olsun, ortaya çıkabilecek sonuçlarla başa çıkmaya şu anda hazır değiliz" dedi.

Sobel, yalnızca İngiltere’nin değil, dünyanın hiçbir ülkesinin yapay zekâ konusunda tamamen yeterli bir yasal sisteme sahip olmadığını savundu.

Tek bir güçlü denetleyici kurum önerisi

Komitenin en önemli önerilerinden biri, yapay zekâ alanında tek bir bağımsız düzenleyici kurum kurulması.

Bu kurumun politika belirlemesi, yapay zekâ sistemlerini izlemesi ve kurallara uymayan şirketlere karşı yaptırım uygulayabilecek güçlü yetkilere sahip olması isteniyor.

Komiteye göre yeni yasa, risk seviyesine göre farklı yükümlülükler getirmeli. İnsan hakları açısından daha yüksek risk taşıyan yapay zekâ sistemlerine daha ağır kurallar uygulanmalı.

İnsan haklarıyla açık biçimde bağdaşmayan bazı yapay zekâ kullanım biçimlerinin ise tamamen yasaklanması öneriliyor.

'Yapay zekâ kullanıldığını bilmelisiniz'

Raporda şeffaflık da temel şartlardan biri olarak gösterildi.

Yapay zekâ sistemlerinin geliştirilmesinden kullanılmasına kadar tüm süreçlerde şirketlere zorunlu şeffaflık kuralları getirilmesi istendi.

Sobel, "Temel mesele şu, bir birey olarak sizi etkileyen bir karar alınırken yapay zekânın kullanılıp kullanılmadığını bilmelisiniz" dedi.

Bir yapay zekâ sistemi nedeniyle zarar gören insanların başvurabileceği açık hukuki yolların da oluşturulması gerektiğini belirten Sobel, "Bu korumaları şimdi oluşturmalıyız. İnsan hakları riskleri gerçeğe dönüştükten sonra bekleyemeyiz" ifadelerini kullandı.

Teknoloji şirketlerinden de 'yavaşlayın' çağrısı

Rapor, yapay zekâ sektörünün önde gelen isimlerinin teknolojinin gelişme hızına ilişkin uyarılarının hemen ardından yayımlandı.

Anthropic Üst Yöneticisi Dario Amodei, yapay zekânın bu yazdan itibaren beklenenden çok daha hızlı ilerlediğini belirterek gelişmenin kontrollü biçimde yavaşlatılması çağrısı yaptı.

Amodei, önümüzdeki 6 ila 12 ay içinde gelişmiş yapay zekâ sistemlerinin internet genelinde çok sayıda sistemi aynı anda yönlendirebilecek kapasiteye ulaşmasından endişe ettiğini söyledi.

Yapay zekânın kritik yeteneklere ulaşmasının bir veya iki yıl geciktirilmesinin bile güvenlik çalışmalarına önemli zaman kazandırabileceğini savundu.

Amodei’nin bu çağrısına Elon Musk ve OpenAI kurucu ortağı Sam Altman da destek verdi.

Siber saldırı ve biyolojik silah endişesi

Yapay zekâ şirketleri daha önce modellerinin kötü niyetli kişiler tarafından kullanılmasına yönelik girişimlerle karşılaştıklarını açıklamıştı.

Anthropic, sistemlerinin siber saldırılar, gözetleme faaliyetleri ve biyolojik silah geliştirmeye yardımcı olabilecek araştırmalarda kullanılmaya çalışıldığını duyurmuştu.

ITV News’in haberine göre OpenAI da temmuz ayında kendi yapay zekâ sistemlerinden birinin başka bir şirkete ait bilgisayar sistemine kendi başına sızdığı 'benzeri görülmemiş bir siber olay' yaşandığını açıklamıştı.

İngiltere Parlamentosu’ndaki komiteye göre bu gelişmeler, yapay zekâ konusunda düzenlemelerin teknoloji daha da güçlenmeden hayata geçirilmesi gerektiğini gösteriyor.