Engellilik, yanlılık ve Yapay Zekâ – AI Now Enstitüsü

Engelli insanlar tarihte ve günümüzde ötekileştirmeye maruz kaldılar ve kalmaya devam ediyorlar. Büyük çoğunluğu iktidara, kaynaklara ve fırsatlara erişimden dışlanıyorlar. Bu gibi ötekileştirme kalıpları, YZ sistemlerini biçimlendiren veriye kazınmış hâlde ve bu tarihsel durum YZ’nin mantığına gömülü, yani geçmişte bu gibi ayrımcılığa maruz kalanlar, günümüzde YZ’den en fazla zararı görme tehlikesi altındalar

Engellilik, yanlılık ve Yapay Zekâ – AI Now Enstitüsü

Yapay Zekâ (YZ) sistemleri hızla çekirdek toplumsal alanlarımızla bütünleşiyor, kaynakları ve fırsatları kimin alabileceği veya alamayacağı konusunda karar verilirken, bilgilendirme amacıyla kullanılıyor. Sıklıkla daha akıllı, daha iyi ve daha nesnel olarak pazarlanan bu sistemlerin yanlı ve hatalı çıktı ürettikleri defalarca gösterilmiştir. Ve çoğu YZ yanlılık araştırması ve raporları ırk ve toplumsal cinsiyete odaklanmış durumda, fakat YZ yanlılığı ve engelliliğe yönelik ilgi oldukça az.

Bu çok önemli bir eksikliktir. Engelli insanlar tarihte ve günümüzde ötekileştirmeye maruz kaldılar ve kalmaya devam ediyorlar. Büyük çoğunluğu iktidara, kaynaklara ve fırsatlara erişimden dışlanıyorlar. Bu gibi ötekileştirme kalıpları, YZ sistemlerini biçimlendiren veriye kazınmış hâlde ve bu tarihsel durum YZ’nin mantığına gömülü, yani geçmişte bu gibi ayrımcılığa maruz kalanlar, günümüzde YZ’den en fazla zararı görme tehlikesi altındalar.

Bu yılın başlarında AI Now Enstitüsü, New York Üniversitesi Engelli Çalışmaları Merkezi ve Microsoft’la işbirliği içerisinde YZ yanlılığı ve engellilik konusunda bir çalıştay düzenledi.

En son yayımladığımız Engellilik, Yanlılık ve YZ raporumuz bu çalıştayın sonuçlarına ve engelli hakkı savunucuları ve araştırmacılarının ürettiği zengin bir araştırmaya dayanıyor. Raporda engellilik çalışmaları ve aktivizmin YZ’nin tehlikeleri ve olanakları hakkında bize ne söyleyebileceğini ve engelliliğe ilginin mevcut YZ’yi “yansızlaştırma” yaklaşımımızı nasıl karmaşıklaştırdığını inceliyoruz. Ayrıca araştırma ve hak savunması için üretken yollara işaret eden, bir kısmı aşağıdaki listelenen, anahtar soruları da tespit ediyoruz:

  • YZ sistemleri tarafından inşa edilen ve yansıtılan “normların” dışında kalan insanları korumayı güvence altına almak için engelli aktivizmi ve araştırmalarından nasıl yararlanabiliriz?
  • Belirli YZ sistemleri tarafından üretilen ve dayatılan ��normal” ve “yetenek” standartları nelerdir ve bir “uç değer” olarak anlaşılmanın maliyetleri nedir?
  • İster doğru isterse yanlış bir şekilde teşhis edilmenin ve hastalıklı olarak görülmenin (sıklıkla çok derin) sonuçlarını nasıl daha iyi vurgulayabiliriz ve bu gibi tespitler yapılmadan önce otomatik YZ teşhislerinin “dışında kalmak” için ne gibi imkânlar yaratabiliriz?
  • YZ sorumluluğuna yönelik olan çalışan kişiler, engelli hakları hareketinden, örneğin fiziksel ve dijital alanlarda mimari ve yapısal yanlılığı tespit etmek gibi, ne tür taktikler öğrenebilirler?

Engelliliği, YZ tartışmalarının merkezine yerleştirmek YZ’nin yaratabileceği zararları iyileştirmek için çalışmaları yeniden odaklama ve iyileştirme konusunda yardımcı olabilir. Böylece dar teknoloji odaklı bakıştan, “çözme” ve “yardım etme” potansiyeline ve YZ’nin içerisinde oluşturulduğu ve uygulandığı toplumsal bağlam, tarih ve iktidar yapılarını hesaba katan yaklaşımlara doğru geçebiliriz.

Daha fazlasını raporumuzda okuyabilirsiniz.

[medium.com’daki İngilizce orijinalinden Tahir Emre Kalaycı tarafından Sendika.Org için çevrilmiştir]

Sendika.Org'u destekle

Okurlarından başka destekçisi yoktur