Uluslararası Af Örgütü, yapay zeka ve algoritmik sistemlerin yol açtığı insan hakları ihlallerini araştırmak ve görünür kılmak isteyen gazeteciler, sivil toplum örgütleri, hak savunucuları, akademisyenler ve bu ihlallere maruz kalan kişilerin kullanımına açık kapsamlı bir “Algoritmik Sorumluluk” kılavuzu yayımladı.
Birçok hükümet ve şirket yapay zekanın toplumsal fayda sağladığını savunuyor. Buna rağmen kılavuz, bu teknolojilerin pratikte önyargıları derinleştirdiğini, dışlama ve hak ihlallerine zemin hazırladığını ortaya koyuyor. Rehber; sosyal güvenlik, polislik, eğitim ve sağlık hizmetleri gibi kamu alanlarında hayatın ayrılmaz bir parçası haline gelen algoritmik sistemlerin yol açtığı zararların nasıl araştırılacağına dair bir “nasıl yapılır” yaklaşımı sunuyor.
Kılavuz, üç yıllık araştırma ve uluslararası işbirliklerine dayanıyor. Kılavuzda, şeffaf olmayan yapay zeka sistemlerini incelemek için kullanılan araçlar, adımlar, pratik şemalar ve aynı zamanda kampanya, iletişim, savunuculuk ve stratejik dava yöntemleriyle değişim yaratmayı hedefleyen kapsamlı taktikler yer alıyor.
"KİTLESEL GÖZETİMİ KOLAYLAŞTIRIYOR”
Uluslararası Af Örgütü Teknoloji Birimi Program Direktörü Damini Satija, yapay zeka sistemlerinin yalnızca verimlilik iddiasıyla masumlaştırılamayacağını belirterek, bu teknolojilerin sosyal koruma hakkına zarar verdiğini, kitlesel gözetimi kolaylaştırdığını ve protesto özgürlüğü ile eşitlik ilkesini tehdit ettiğini ifade etti. Satija, kılavuzun amacının bilgiyi demokratikleştirmek ve bu sistemlerin zararlarını açığa çıkarma mücadelesine kolektif güç kazandırmak olduğunun altını çizdi.
DOKUZ ÜLKEDEN ÇALIŞMA ÖRNEKLERİ KILAVUZA YÖN VERDİ
Rehber, Uluslararası Af Örgütü’nün Danimarka, İsveç, Sırbistan, Fransa, Birleşik Krallık, Hindistan, İşgal Altındaki Filistin Toprağı, ABD ve Hollanda’da yürüttüğü araştırmalara dayanıyor. Bu çalışmalardan biri, Danimarka’nın yapay zekâ destekli sosyal yardım sisteminin engelli bireyler, göçmenler, mülteciler ve düşük gelirli kişiler üzerinde ayrımcılık riski oluşturduğunu ortaya koydu.
Örgütün yürüttüğü “Ban the Scan” (Gözetleme Yasaklansın) kampanyası da yüz tanıma teknolojilerinin yasaklanması çağrısını güçlendiriyor. Kampanya; İşgal Altındaki Filistin Toprağı, New York ve Haydarabad’da yapılan araştırmalara dayanarak hükümetlerin bu teknolojileri denetimsiz kullanmasının toplumsal hak ve özgürlükler açısından kritik riskler barındırdığını savunuyor.
