Bazı teknolojilerin özgür ve adaletli bir toplumda hiç yeri yok. Dolayısıyla teknoloji alanında çalışanların oluşturulan sistem kime yarıyor, kime zarar verebilir, kullanıcılar bu sistemle etkileşim kurmamakta özgür mü, mevcut eşitsizliklikleri derinleştiriyor veya dayatıyor mu, dünyayı daha iyi bir yer haline getiriyor mu, mevcut sınırlı kaynaklarımız gerçekten yararlı bir şekilde kullanılıyor mu diye sormaları ve sorgulamaları da gerekiyor
Yapay Zekâ (YZ) araştırmalarının ve araçlarının tartışma konusu yaratan bir başka boyutu da gezegendeki mevcut iklim krizine yaptığı olumsuz katkıdır. Gittikçe artan küresel hesaplamanın elbette iklime olumsuz bir katkısı olacak, bu kaçınılmaz. Bu konuyla ilgili olarak 20 Eylül 2019’da 12 teknoloji firmasından işçiler küresel iklim grevine katıldılar, iklim değişikliğinde teknolojinin rolünü vurguladılar ve “2030 itibariyle sıfır karbon salınımı, fosil yakıt şirketleriyle sıfır sözleşme, iklim değişikliğini inkâr lobisine veya diğer çabalara sıfır fon ve iklim mültecileri ile ön saftaki topluluklara sıfır zarar” talebinde bulundular[1]. Günümüzde gittikçe artan İnternet kullanımı, akış hizmetleri, veri trafiği ve depolama, veri merkezlerine talebi artırıyor ve dolayısıyla kullanılan enerji miktarı da artıyor. Örneğin dünyadaki veri merkezlerinin en çok yoğunlaştığı yer olan Kuzey Virjinya’nın elektriğinin sadece %1’ini yenilenebilir enerjiden elde eden bir firma sağlıyor[2]. Üstelik “nesnelerin internetini” gerçekleştirecek 5G ağların ve savurgan kripto para madenciliğinin ortaya çıkışıyla birlikte, veri toplama ve trafiği zaten artan bir ivme kazanmış durumda, 5G antenler, 4G öncüllerinden çok daha fazla enerji harcayacak ve 5G sayesinde otonom sürüş ve uzaktan robotik cerrahi gibi karbon yoğun teknolojiler yaygınlaşacak[3].
Sorun sadece bunlarla sınırlı değil. YZ bütün bu etkilerinin yanında fosil yakıt çıkarmayı ve üretimini de hızlandırmayı desteklemek için de kullanılıyor. Amazon, Microsoft, Google gibi şirketler büyük fosil yakıt şirketleriyle işbirliği yapmaya, onlara ürün satmaya çalışıyorlar.
Önemli bir başka sorun da, YZ araştırmalarının ve yöntemlerinin salt en hızlı ve en iyi çalışan odaklı olması ancak başka etkileri ne ölçüt olarak kabul etmesi ne de bu konuda hesap veren, sorumluluk sahibi bir şeffaflık üstlenmesi. Ciddi bir düşünce değişikliği gerekiyor. Yalnızca daha iyi ve başarılı olmanın yeterli olmadığı[4], farklı ölçütlerin, örneğin ne kadar enerji harcadığı, ne kadar karbon salınımına yol açtığı gibi ölçütlerin standart bir uygulama olarak benimsenmesi şart. Hatta YZ’nin toplum, emek, çalışma yaşamı vb. farklı konulardaki etkisini de hesaba katan ve düşünen bir bakış açısını da kazanmak gerekiyor.
Buna ek olarak, salt enerji ve iklim krizindeki etkisini değil, ayrıca dijital emek bölümünde özetlemeye çalıştığımız üretim sürecindeki maden çıkarma ve atık gibi etkileri üzerine de düşünmek ve çözümler üretmek gerekiyor.
Ortaya çıkan, görünür olan mevcut sorunların sistem sorunlarının bir yansıması olduğunu kabul ettiğimizde, şirketler ve bireyler ve hatta devletlerin teknolojideki sorunları çözme konusunda salt düzenlemelerle ve kısıtlamalarla çok başarılı olma ihtimali düşüyor. Örneğin Amazon’un işe alımda karar vermek için kullandığı akıllı sistem ayrımcı bir veriyle beslendiği sürece bunu yazılımdaki bir hatayı çözer gibi çözmek mümkün değil[5]. Öncelikle o sistemi eğitmek için kullandığı verinin, yani kendi işe alım süreçlerindeki ayrımcılığın tamamen ortadan kalkması gerekmektedir.
Dolayısıyla sorun teknik bir sorun, örneğin kaynak kodun açık olması veya özgür yazılım olarak dağıtılması ile çözülebilecek bir sorun değil. Zaten yaygın olarak kullanılan çoğu Makine Öğrenmesi ve Derin Öğrenme kütüphanesi özgür yazılım olmasa bile açık kaynak yazılım olarak dağıtılıyor[6], birçok insanın katkısı ve denetimiyle geliştiriliyor. Fakat bu yöntemlerin ayrımcı olması kullanılan tekniklerden kaynaklanmadığı için, eğitilmelerinde kullanılan veriye bağlı olduğu için bu yazılımların açık kaynak olması veya bilimsel ve teknik anlamda çok iyi olmasının pek bir yararı olmuyor.
Bu elbette hiçbir şey yapamayız anlamına da gelmiyor. Elimizden geldiğince mevcut sorunları, bir sistem eleştirisi ile birlikte görünür kılmak, gerektiğinde devletlerden düzenleme ve hatta kimi zaman teknolojik araçların gözetim, baskı amaçlarıyla kullanımının kısıtlanmasını talep etmek gerekiyor. Bununla ilgili olarak aşağıdaki hareketler, çağrılar, sorular ve örneklerin önemli olduğunu düşünüyorum:
Bu çağrıların nafile olmadığını, kimi durumlarda başarıya ulaştığını da söylemek lazım. Mesela, George Floyd’un polis tarafından katledilmesiyle yaygınlaşan protesto eylemlerinin yarattığı baskı sonucu Amazon yüz tanıma platformu Rekognition satışını 1 yıl askıya aldı[15], Microsoft şirketi de benzer bir karar aldı[16] ve ancak hükümetin polisin kullanımına belirli kısıtlamalar getirmesi durumunda tekrar satışı düşüneceklerini söylediler. IBM ise yüz tanıma piyasasından tamamen çekilmeye karar verdi[17]. Büyük firmaların çekilmesi bir çözüm gibi gözükse de irili ufaklı birçok şirketin mevcut olan talebi karşılamak için bu işi yapmaya devam ediyor. Ve hatta yukarıda söz ettiğimiz gibi kimileri bunu ayrımcı, ırkçı ve göçmen karşıtı bir ideolojik amaçla da yapabiliyor.
İklim krizi söz konusu olduğunda, Roel Dobbe ve Meredith Whittaker’in önerdiği[18] 7 maddelik politika değişiklikleri ve ortak eylem çağrısı ilk adım olarak önemlidir. Yanlı olma potansiyeli olan sistemlerin kullanımını kredi verme, polislik, adalet, işe alım vb. kritik kararların alındığı alanlarda kullanımını kabul etmemek, kullanıldığı durumlarda da açıklanabilirlik (“explainability”) ve sorumluluk vurgularıyla bağımsızca denetlenmesinin sağlanması gerekiyor. Bu son noktayla ilişkili olarak teknoloji geliştiricilerin ve araştırmacılarının daha bilinçli bir şekilde bu sorunların farkında olması ve kullanımları konusunda eleştirel yaklaşmaları önem arz ediyor. Elbette mevcut durumda acil sorunu çözmeye çalışıyoruz ve iklim krizini durdurmak istiyoruz. Bu nedenle önerilen yenilenebilir enerjiyle krizi aşmak başlangıç için iyi bir adım olsa da, uzun erimde onun da doğaya etkisini hesaba katmak gerektiğini düşünüyorum. Enerji tüketimini zorunlu haller dışında arttırmayan, kendine yeten ve doğaya mümkün olduğunca zararsız bir çözümü de düşünmek gerekiyor.
Bununla ilgili çarpıcı bir örnek dünyanın çeşitli büyük kentlerinde tarihi olarak mevcut olan bisikletler yerine elektrikli scooterların koyulması. Elektrikli scooter çözümü çok “yenilikçi” ve “şık” gözükebilir ama nihayetinde çalışmaları için şarj edilmeleri, dolayısıyla elektrik gerekiyor ve özellikle pili başta olmak içerisinde atık sorunu yaratan kimi zararlı madenler var. Kişisel araçları da düşünelim. Bireysel elektrikli araçlar yerine daha yaygın ve kullanışlı toplu ulaşım teşvik edilebilecekken, çok teknolojik, yenilikçi, güzel, otonom elektrikli araçlara yatırım yapılıyor. Evet, ilk amacımız iklim krizine bir çözüm bulmak ama dünyanın geleceği için daha toplumsal, daha dayanışmacı ve gezegenle daha barışık ve uyumlu bir şey tahayyül etmek gerekiyor.
Söz konusu ırkçılık, cinsiyetçilik ve ayrımcılık olduğunda, elbette öncelikle toplumdaki ırkçı, cinsiyetçi ve ayrımcı durumla mücadele etmek gerekiyor. Ezilen kesimleri dinlemek, yaşadıklarını anlamak ve ona göre hareket geçmek gerekiyor. Daha sonra özellikle kadınlar, LGBTİ+, beyaz olmayanlar, engelliler ve göçmenler açısından teknoloji sanayideki ayrımcı iş ortamını çözmek için Bilim, Teknoloji, Mühendislik ve Matematik bölümlerine bu ötekileştirilmiş kesimleri daha fazla çekmek, işyerlerinde dengeyi bu kesimler lehine düzeltmek ve çalışanları ayrımcı, cinsiyetçi ve ırkçı davranışları nedeniyle sorumlu tutmak gerekiyor. Bunun için Leslie Miley’in dediği gibi öncelikle Silikon Vadisi’nin (ve teknolojinin) ırkçı (ve bence cinsiyetçi ve ayrımcı) olduğunu kabul etmemiz gerekiyor ve Chris Gilliard’ın dediği gibi Silikon Vadisi’ni, teknoloji sanayiyi baştan aşağı yıkıp yeniden kurmayı, radikal bir yeniden yapılandırmayı da düşünmeliyiz[19]. Tam da söylediği gibi bazı teknolojilerin özgür ve adaletli bir toplumda hiç yeri yok. Dolayısıyla teknoloji alanında çalışanların oluşturulan sistem kime yarıyor, kime zarar verebilir, kullanıcılar bu sistemle etkileşim kurmamakta özgür mü, mevcut eşitsizliklikleri derinleştiriyor veya dayatıyor mu, dünyayı daha iyi bir yer haline getiriyor mu, mevcut sınırlı kaynaklarımız gerçekten yararlı bir şekilde kullanılıyor mu diye sormaları ve sorgulamaları da gerekiyor[20].
Sözün özü, yukarıda da farklı örneklerin gösterdiği gibi, doğrudan teknolojinin nasıl kullanılacağına ilişkin teknik müdahaleler ve kısıtlamalar yeterli olmayacaktır. Aslında bir bakıma teknolojiye ve Yapay Zekâ’ya teşekkür de etmeliyiz. Çünkü içinde yaşadığımız kapitalist sistemde çoğu kişinin görmediği, görmeden inanmadığı bazı yapısal sorunları, kapitalist sistemin ve yapısal sorunların ortaya çıkardığı yanlılık ve ayrımcılıkları bize göstererek, yansıtarak ve popülerleştirerek daha da görünür kılıyor. Böylece ne ile mücadele etmemiz gerektiğini hatırlatıyor. Her halükarda teknolojinin ve YZ’deki bu sorunların beslendiği kaynağı kurutmak gerekiyor, dolayısıyla kapitalist sistemle bir yüzleşme, mücadele ve onun yerine daha iyisini inşa etmek gerekiyor. İçerisinde yaşadığımız kapitalist sistemden kaynaklanan ve onda vücut bulan her türlü ayrımcılıkla ve krizle mücadele etmeden teknolojideki sorunları çözmemiz ne mümkündür ne de gerçekçidir. Sadece sorunları görünür olmaktan çıkarıp, halının altına süpürmeye yarar. Dolayısıyla YZ’yi ve teknolojiyi mevcut toplumsal ilişkilerden bağımsız düşünmemek gerekiyor. Tüm canlılara, doğaya ve dünyaya yararlı olacak yeni toplumsal ilişkiler söz konusu olduğunda YZ’nin herkes ve her şey için çok daha yararlı olacağını söyleyebiliriz. İşte o zaman iyimser olabiliriz.
Dipnotlar:
[1] Tech Workers Coalition, Climate Strike, 20 Eylül 2019
[2] Roel Dobbe, Meredith Whittaker, Yapay Zekâ ve iklim değişikliği: Onlar nasıl ilişkilidir ve bu hususta ne yapabiliriz?, Sendika.org, 22 Haziran 2020 (çev. T. E. Kalaycı)
[3] Roel Dobbe, Meredith Whittaker, a.g.y.
[4] Roy Schwartz, Jesse Dodge, Noah A. Smith, Oren Etzioni, Green AI, arXiv:1907.10597, 13 Ağustos 2019
[5] AI Now Enstitüsü, Toplumsal cinsiyet, ırk ve iktidar: Yeni bir YZ araştırma gündemi çerçevesi, Sendika.org, 24 Mayıs 2020 (çev. T. E. Kalaycı)
[6] Örneğin en yaygın bilinen ve kullanılan scikit-learn, TensorFlow ve Theano kütüphaneleri ticari kullanıma izin veren açık kaynak lisanslarıyla dağıtılıyor.
[7] The Campaign To Stop Killer Robots
[8] Coalition for Critical Technology, Abolish the #TechToPrisonPipeline, 22 Haziran 2020
[9] Electronic Frontier Foundation, About Face, 25 Haziran 2020
[10] Electronic Frontier Foundation, Amazon Ring Must End Its Dangerous Partnerships With Police, 10 Haziran 2020
[11] Electronic Frontier Foundation, Tell Amazon Ring to End Its Dangerous Police Partnerships, 25 Haziran 2020
[12] Electronic Frontier Foundation, Artificial Intelligence & Machine Learning
[13] Colin Groundwater, As Long as the Justice System Is Broken, Facial Recognition Software Is, Too, GQ, 15 Haziran 2020
[14] Jeremy Blum, Google Workers Call For Company To Cease Selling Technology To Police Departments, HuffPost, 23 Haziran 2020
[15] Nick Statt, Amazon bans police from using its facial recognition technology for the next year, The Verge, 10 Haziran 2020
[16] Nick Statt, Microsoft won’t sell facial recognition to police until Congress passes new privacy law, The Verge, 11 Haziran 2020
[17] Rebecca Heilweil, IBM's facial recognition protest, explained, Vox, 10 Haziran 2020
[18] Roel Dobbe, Meredith Whittaker, a.g.y.
[19] Will Oremus, 5 Ideas to Make Silicon Valley Less Racist, OneZero, 26 Haziran 2020
[20] Rachel Tatman, What I Won’t Build, Widening NLP Workshop, 5 Temmuz 2020
href="/2020/07/yapay-zeka-ozgurlestirecek-mi-kolelestirecek-mi-591885/
Sendika.Org, yayın hayatına başladığından bu yana işçi sınıfı hareketinin, solun ve genel olarak toplumsal muhalefetin gündemine ilişkin, farklı politik perspektiflerden düşünsel katkılara açık bir tartışma platformu olagelmiştir. Sitemizde yayımlanan yazılar yayın kurulunun politik perspektifiyle uyumluluk göstermeyebilir. Amacımız, mücadelenin gereksinim duyduğu bilimsel ve politik bilginin üretimini zenginleştirecek tüm katkılara, yayın ilkelerimiz çerçevesinde, olabildiğince yer verebilmektir.
