Eleştirel bir Yapay Zekâ tartışması yürütmek ve YZ’nin hem tarihsel hem güncel hem de geleceğe ilişkin konumlanışını, herhangi bir teknodeterminizme (teknoiyimser veya teknokötümser) düşmeden anlatmak, toplumun YZ okuru olmasını ve kârdan başka amacı olmayan şirketlerin, toplumu izlemek isteyen devletlerin ve dolayısıyla içerisinde yaşadığımız kapitalist sistemin mevcut durumunun daha iyi bir şekilde anlaşılmasını ve eleştirilmesini sağlayacaktır
Yapay Zekâ (YZ) günümüzde özellikle derin öğrenme yöntemlerinin yaygınlaşması ve kullanımının kolaylaşmasıyla popülerleşen bir konu. Başta aşırı uzmanlaşmış ve dar bakışlı kişiler olmak üzere her alandan farklı insanın farklı açılardan ele almaya çalıştığı, eleştirdiği bir konu YZ. Ancak hayatı çok boyutlu ve karmaşık bir şekilde etkileyen YZ’ye yönelik, bekleneceği üzere eleştiren kişilerin uzmanlık ve bakış açısına göre farklılaşan eleştirilerin önemli eksiklikleri olduğunu düşünüyorum.
Bu yazıyı yazmama neden olan Türkiye’de basılan iki kitap: 2019 yılında Bilim ve Gelecek yayınevinden çıkan Cem Say’ın 50 Soruda Yapay Zekâ kitabıyla[1] Yordam Kitap tarafından basılan Erkin Özalp’ın Gençlerle Baş Başa: Yapay Zekâ[2]. Bu kitaplar hem yayınevleri hem de yazarlarının toplumsal bakış açıları nedeniyle dikkatimi çektiler.
Yazarlarına, editörlerine ve yayınevlerine Türkiye’de, Türkçe olarak belirli bir eleştirellik ve tartışma ortamı yarattıkları için öncelikle teşekkür etmek gerekiyor. İnsanlara güncel bir konu hakkında erişilebilir ve popüler bir kitap aracılığıyla bilgi vermek ve kafalarında soru işaretleri yaratmak, uzmanlarla ve uzman gözükenlerle çevrilmiş ve bilginin toplumsallaşmasını ve hakikatın topluma ulaşmasını engelleyen ve hatta hakikatı çarpıtan farklı araçların söz konusu olduğu bu dönemde oldukça önemli. YZ özelinde bu çok daha fazla önem arz ediyor. Tarihsel olarak bilimkurgunun ve şirketlerin pazarlama stratejilerinin etkisiyle insanlar ya robotlar dünyayı ele geçirecek hepimizi köleleştirecek ya da robotlar bizim için çalışacak veya beyinlerimiz bilgisayara yüklenecek ve biz de zevki sefa içerisinde sonsuza kadar mutlu yaşayacağız algısına sahip oluyorlar. İzlem Gözükeleş’in iki farklı yazısında ele aldığı gibi tarih teknoloji mitleriyle dolu. Teknoloji dünyasındaki farklı şirketler ve kişiler tarafından, belki de farklı amaçlarla (kâr amacı, popülerlik, daha fazla fon kazanma vb.) “her önemli teknolojik değişimden sonra benzer tezler yineleniyor, söz konusu teknolojinin her şeyi değiştireceği, hiçbir şeyin artık eskisi gibi olmayacağı, tarihin sonunun geldiğini öne sürülüyor” [3] [4]. Bütün bu algıları kırıp eleştirel bir Yapay Zekâ tartışması yürütmek ve YZ’nin hem tarihsel hem güncel hem de geleceğe ilişkin konumlanışını, herhangi bir teknodeterminizme (teknoiyimser veya teknokötümser) düşmeden anlatmak, toplumun YZ okuru olmasını ve kârdan başka amacı olmayan şirketlerin, toplumu izlemek isteyen devletlerin ve dolayısıyla içerisinde yaşadığımız kapitalist sistemin mevcut durumunun daha iyi bir şekilde anlaşılmasını ve eleştirilmesini sağlayacaktır.
Bu girişten sonra ele almak istediğim konu tam da önceki paragrafın son cümlesinde gizli. Her ne kadar bu iki kitabı tamamen aynı şekilde konumlandırmak doğru olmasa da, yukarıda da söylediğim gibi yazarların ve yayınevlerinin toplumsal bakış açıları nedeniyle aynı safta konumlandırıyorum. İki kitap konuyu farklı şekillerde ve farklı yöntemlerle ele alıyor.
Önemli bir YZ araştırmacısı olan Cem Say’ın kitabını özellikle Bilgisayar Mühendisliği, Bilgisayar Bilimleri veya ilişkili bölümlerinde okuyan, bu konulara ilgili kişilerin oldukça seveceğini düşünüyorum. Gerçekten iyi yazılmış, tarihi ve teknik konuları iyi bir şekilde ele almış, ilgi çekici popüler bir bilim kitabı. Ancak (yazarın böyle bir amacı yok belki de, olmak zorunda da değil) kitabın özellikle kapitalizm ve sistem eleştirisi konusunda, YZ araştırmalarındaki ve araştırmacılarındaki hem tarihi hem de günümüzdeki durumu anlatma açısından eksik kaldığını düşünüyorum.
Erkin Özalp farklı bir yöntem kullanıyor. Gençlerle sohbet havasında bir kitap yazmış ama kimi zaman fazlasıyla teknik konulara girmesi, bazı çok bilinen örnekleri paylaşması ve oldukça görünür olan konulara, eleştirel Marksist bir kişi olduğunu düşündüğüm kendisinden beklediğim kadar derin ve çok boyutlu yaklaşmaması kitabın yetersizlikleri olarak gözüme çarptı.
Bu yüzden bu yazıyı, kendimce bu kitaplarda ve güncel tartışmalarda eksik bulduğum bazı konuları ve eleştirileri bir bütün olarak aktarmak ve sağlıklı bir tartışma başlatmak, insanlara YZ ve Teknoloji ekseninde farklı konuları duyurmak amacıyla yazıyorum. Ayrıca bir diğer amacım da son dönemde Sendika.Org için kendi içlerinde bir bütünlük oluşturacak şekilde yaptığım çevirileri[5] ve sözü edilen önemli haberleri ve kaynakları da ele almak.
Yazının sonraki kısımlarında öncelikle teknoloji üretimine ilişkin farklı emek biçimlerinden örnekler vererek dijital emek kavramından söz edeceğim, sonraki bölümde kapitalizmle teknoloji ve YZ arasındaki ilişkiyi ele alacağım. Ondan sonra da YZ ile çalışma yaşamı, YZ ile yanlılık ve YZ ile iklim krizi arasındaki bağlantıları özetlemeye çalışacağım. Son olarak sorunların çözümüne ilişkin görüşlerimi paylaşarak yazıyı sonlandıracağım.
Yapay Zekâ konusuna girmeden önce, YZ için bir temel oluşturan bilişim ve dolayısıyla teknoloji üretim sürecine bakmanın yararlı olacağını düşünüyorum. Bilişim, teknoloji ve dolayısıyla YZ’nin oluşturulması için dünyanın farklı mekânlarında gerçekleşen farklı üretim aşamaları ve farklı emek biçimlerini anlamanın, sürekli kullandığımız bilişim aygıtlarının ve ürünlerinin elimize ulaşması için maruz kalınan, normalde pek söz konusu edilmeyen sömürü biçimlerini görünür kılmak için gerekli olduğunu düşünüyorum.
İçerisinde yaşadığımız çağı şekillendiren ve yaşamımıza hem olumlu hem de olumsuz anlamında etkileri olan teknoloji, dünya çapında küresel bir üretim sürecine sahip, dolayısıyla farklı ülkelerdeki farklı emek bileşenlerinden oluşuyor[6].
Örneğin başarılı bir YZ ürünü olarak kabul edilen ve Amazon tarafından yoğun bir şekilde satılan Amazon Echo cihazının üretim sürecini inceleyen Kate Crawford ve Vladan Joler, aygıtın insan emeğini, verisini ve gezegen kaynaklarını kullanımını ele aldıkları ayrıntılı bir harita oluşturmuşlar[7]. “Doğumdan” başlıyorlar, gezegenin hangi kaynaklarının ne koşullarda çıkarıldığını, bu kaynakların hangi emek biçimleriyle ne şekilde ürüne dönüştürüldüğünü, aygıtın başarılı çalışması için ne tür veriyi kullandığını anlattıktan sonra nihayetinde “öldüğü” zaman atık olarak nasıl tekrar gezegene döndüğünü gösteriyorlar. “Doğum, yaşam, ölüm” aşamalarını ele alırken, zamansal olarak bu akıllı aygıtın nasıl da geniş bir emek, veri ve yenilenemeyen kaynak çıkarmaya odaklanmış, Bolivya’dan Çin’e her yere yayılmış bir gezegen ağına ihtiyaç duyduğunu anlatıyorlar.
Christian Fuchs enformasyon ürünlerinin üretildiği süreci Uluslararası Dijital İşbölümü olarak adlandırıyor. Dünyanın çeşitli bölgelerinde, birbirleriyle kısmen anonim olarak ağ kuran ve hepsi de dijital uygulaması, kullanımı ve üretimi için gerekli olan öğeleri oluşturan çeşitli emek, sömürü ve üretim şekillerini içeren bir işbölümüdür. Aşağıda özetlediğim farklı emek biçimleri ve dijital işbölümüne ilişkin daha kapsamlı ve kuramsal bir inceleme için Christian Fuchs’un Notabene Yayınları’ndan çıkan Dijital Emek ve Karl Marx kitabı incelenebilir[8].
İlk emek biçimini, çoğu kişinin farklı şekillerde haberdar olduğu Kongo’daki çatışma madenlerinde görüyoruz. Bilişim için gerekli olan madenlerin çoğu Afrika ve Çin'de çıkarılırken, eritilmesi, işlenmesi ve zenginleştirilmesi genelde elektronik piyasasına ürün tedarik eden Tayland, Malezya, Çin ve Endonezya gibi Asya ülkelerinde gerçekleşiyor. Savaş ekonomisi şartları altında bulunan Doğu Kongo Cumhuriyeti’ndeki özelleştirilmiş ticari faaliyetlerde elle madencilik yöntemleri kullanılıyor, madenciler makineler yerine ellerini, kazmaları, kürekleri, sivri kazmaları, levyeleri, çelik çubukları, çelik sopaları, kovaları ve ipleri kullanıyorlar. Madencilik işinin özelleştirilmesi, bölgesel toplulukların zoraki yer değiştirmesine ve ırmakların, havanın ve ekilebilir arazilerin kirletilmesine olduğu kadar bölge sakinlerinin karar alma süreçlerinin ve istihdamın dışında kalmalarına neden olmuştur. Bölgede silahlı gruplar tarafından zorla çalıştırılma, borçlandırma, cinsel istismar, zorla evlendirme, çocukların silahlı gruplarca kullanılması ve zorla çalıştırılması gibi modern köleliğin belirgin biçimlerine rastlanıyor.
Bu iş bölümünde ikinci emek biçimini Foxconn örneğinde gördüğümüz düşük ücretle, düşük iş ve sosyal güvenceyle, düşük vasıfla, tekrar eden ve emek yoğun çalışmayla, işçi sağlığı tehlikesiyle ve uzun çalışma saatleriyle nitelenen enformel mevkilerde çalışan montaj işçileri oluşturuyor. Bu montaj işçileri Taylorist bir mantığı çağrıştırıyor. Foxconn şirketini 2010 yılındaki 14’ü ölümle sonuçlanan 18 işçinin intihar girişimiyle hatırlıyor olabilirsiniz[9].
Üçüncü emek biçimi Hindistan’daki yazılım geliştiricilerdir. ABD ve Avrupa’daki eşdeğerlerine göre çok düşük ücretlerle kötü koşullarda taşeron aracılığıyla çalışmak zorunda kalıyorlar. Hem bedensel hem de sanal olarak kendilerine ihtiyaç duyulan yere taşınıp işlerini yapıyorlar. Yüksek nitelikli işgücü olsalar da, tarihsel olarak Hindistan’ın sömürge hali, başka bir biçimde devam ediyor.
Ve geldik nitelikli ve bol kazançlı Silikon Vadisi’ne. Her ne kadar çok “başarılı” ve milyar dolarlık şirketleriyle bilinse de aslında Silikon Vadisi hem düşlerin hem de kabusların mekânı. Bir uçta yüksek maaşlı, ama çok yoğun çalışan ve sömürülen profesyoneller, bir tarafta özellikle göçmenlerin oluşturduğu düşük ücretli, kötü koşullarda çalışan yarı vasıflı/vasıfsız üretim ve hizmet işçileri. Aslına bakarsanız yüksek maaşlı büyük şirketlerde çalışmak da ne kadar iyidir tartışılır. Size her şeyi ofiste sunarak aslında başka bir yaşam için zaman bırakmayan bir iş ister miydiniz? Yoksa her şeyin bedava sunulması yine de olumlu mudur?[10] Üstelik Silikon Vadisi’nin sıkıcı, uzağı göremeyen, cinsiyetçi, sınıf ayrımcı ve ırkçı olduğunu gösteren birçok örnek de var[11] [12].
Çağrı merkezi çalışanlarından[13], sosyal medyada, platformlarda, dünyanın en kötü içeriklerine maruz kalarak çalışmak yoğun bir duygusal emek de harcayarak günde binlerce içeriği incelemek, okumak ve gözden geçirmek zorunda olan içerik denetleme çalışanlarından[14] [15], dünyanın diğer yerlerindeki bilgisayar oyuncuları uyurken onlar için “deneyim/altın çiftçisi” görevi gören saatlerce bilgisayar başında kalan doğudaki ucuz ve güvencesiz oyuncu işçilerden[16] [17] [18], muazzam miktardaki veri üzerinde düşük ücretle, makine öğrenmesi (MÖ) yöntemlerinin daha iyi çalışması için veri hazırlayan, örneğin resimler üzerinde nesneleri seçen ve işaretleyen, tıpkı zamanındaki parça başı iş yapan işçilere benzeyen etiketleme işçilerinden[19] [20] [21] ve doğal dil işleme araçları için çalıştırılan mahkumlardan[22] söz etmedik bile. Düşünün, Çin’de YZ etiketleyici olarak çalışan Yin günde 300 resmi etiketliyor ve kişisel rekoru tek bir vardiyada 14000 arabayı etiketlemek [23]. Ayda yaklaşık olarak 450 dolar kazanıyor, fabrikada çalışan işçilerden daha fazla ama gün boyu hareketsiz bir şekilde bilgisayar başında sürekli etiketleme yapması gerekiyor. Bana sorarsanız oldukça zahmetli bir iş.
Bütün bu dijital emek süreci, kapitalizmdeki yoğun bir adaletsizliği ve eşitsizliği bize tekrar gösteriyor. Kongo’daki bir madende çalışan çocuk işçinin, Amazon CEO’su Jeff Bezos’un tek bir günlük gelirini kazanması için hiç durmadan 700000 yıl çalışması gerekiyor[24]. Diyelim ki bu örneği beğenmediniz, sadece Amazon üzerinden başka bir örnek verelim: Amazon işçilerinin ortalama yıllık maaşı 28000 dolar, Jeff Bezos 10 saniyede bundan çok daha fazlasını kazanıyor [25].
Günümüzün otomasyon devrimi bir bakıma sanayi devrimi dönemini andırıyor, o zamanlar makineleşmenin yol açtığı gibi bugün robotik, YZ ve MÖ alanlarını da içeren birçok karmaşık meslekler şeridi yarattığı gibi, emeğin doğasını, yapısını ve örgütlenişini dönüştürüyor[26]. Bu dönüşümü, kapitalizmi, sömürüyü ve bütün bunların etkilerini anlamadan ne YZ’yi, ne teknolojiyi ne de mevcut sorunları doğru bir şekilde anlayabiliriz.
* Yazıyı okuyup görüşlerini paylaşan ve yazının daha anlaşılır olmasına katkı sağlayan Elem, Elif, İlker ve Diyar’a teşekkür ederim.
Dipnotlar:
[1] Cem Say, 50 Soruda Yapay Zekâ, Bilim ve Gelecek Kitaplığı, 2018
[2] Erkin Özalp, Gençlerle Baş Başa: Yapay Zekâ, Yordam Kitap, Nisan 2020
[3] İzlem Gözükeleş, Robotlar İnsanlık İçin Bir Tehdit Mi?, Bilim ve Gelecek 190. sayı, 25 Şubat 2020
[4] İzlem Gözükeleş, Teknoloji mitleri, Bilim ve Gelecek 169. sayı, 19 Haziran 2018
[5] Tahir Emre Kalaycı Sendika.Org Çevirileri
[6] Christian Fuchs, Dijital Emek ve Karl Marx, NotaBene Yayınları, 2015 (çev. S. Oğuz, T. E. Kalaycı)
[7] Kate Crawford, Vladan Joler, Anatomy of an AI System, AI Now Institute and Share Lab, 7 Eylül 2018
[8] Christian Fuchs, 2015
[9] Vikipedi, Foxconn intiharları, 29 Mayıs 2020
[10] Bu konuda ayrıntılı bir inceleme için bkz:
[11] Mar Hicks, A Feature, Not a Bug, Technology’s Stories 5(4), 4 Aralık 2017
[12] Sam Dean, Johana Bhuiyan, Why are Black and Latino people still kept out of the tech industry?, Los Angeles Times, 24 Haziran 2020
[13] Christian Fuchs, a.g.e.
[14] Susan Benesch, Emma Llansó, COVID-19’dan sonra teknoloji şirketlerinin üzerimizdeki kolluk uygulamaları için algoritmaları kullanmalarına izin veremeyiz, Sendika.org, 22 Mayıs 2020 (Çev. T. E. Kalaycı)
[15] Sarah T. Roberts, Behind the Screen: Content Moderation in the Shadows of Social Media, Yale University Press, 2019
[16] David Barboza, Boring game? Hire a player, The New York Times, 9 Aralık 2005
[17] Caroline Bailey, China's full-time computer gamers, BBC News, 13 Ekim 2006
[18] Maddy Myers, Gold-farming in Heroes of the Storm is My New Part-Time Job, Paste Magazine, 9 Temmuz 2015
[19] Li Yuan, How Cheap Labor Drives China's AI Ambitions, The New York Times, 25 Kasım 2018
[20] Kate Kaye, These companies claim to provide “fair-trade” data work. Do they?, MIT Technology Review, 7 Ağustos 2019
[21] Charlie Campbell, 'AI Farms' Are at the Forefront of China's Global Ambitions, Time, 1 Şubat 2019
[22] Technology Review, Yeni kurulan bir Yapay Zekâ şirketi algoritmaları eğitmek için yeni bir ucuz emek kaynağı buldu: Mahkûmlar, Sendika.org, 5 Nisan 2019 (çev. T. E. Kalaycı)
[23] Charlie Campbell, a.g.y.
[24] Kate Crawford, Vladan Joler, a.g.y.
[25] Julia Glum, The Median Amazon Employee’s Salary Is $28,000. Jeff Bezos Makes More Than That in 10 Seconds, Time, 2 Mayıs 2018
[26] Estevan Hernandez, John Prysner ve Derek Ford, Teknolojiye Marksist bir yaklaşım, Sendika.org, 18 Mayıs 2020 (çev. G. Yazgan)
Sendika.Org, yayın hayatına başladığından bu yana işçi sınıfı hareketinin, solun ve genel olarak toplumsal muhalefetin gündemine ilişkin, farklı politik perspektiflerden düşünsel katkılara açık bir tartışma platformu olagelmiştir. Sitemizde yayımlanan yazılar yayın kurulunun politik perspektifiyle uyumluluk göstermeyebilir. Amacımız, mücadelenin gereksinim duyduğu bilimsel ve politik bilginin üretimini zenginleştirecek tüm katkılara, yayın ilkelerimiz çerçevesinde, olabildiğince yer verebilmektir.
