Yapay zeka devrimi hızlanırken, hem ütopik vizyonlarla hem de kıyamet kehanetleriyle bombardımana tutuluyoruz. Tehdidin büyüklüğünü değerlendirmek zor, çünkü yanlış senaryodan korkmaya şartlandırıldık. Bilimkurgu bizi defalarca uyardı: Büyük Robot İsyanı. Terminatör ve Matrix gibi birçok bilimkurgu romanında ve filminde, yapay zekalar ve robotlar dünyanın kontrolünü ele geçirmeye, insan efendilerine isyan etmeye ve insanlığı köleleştirmeye veya yok etmeye karar verir. Böyle bir şeyin yakın zamanda gerçekleşmesi olası değil. Teknoloji henüz mevcut değil. Şu anda, yapay zekalar aptal dâhidir. Satranç oynamak, protein katlamak veya metin yazmak gibi bazı dar alanlarda ustalaşmış olabilirler, ancak bir robot ordusu kurmak ve bir ülkenin kontrolünü ele geçirmek gibi oldukça karmaşık faaliyetler için gerekli genel zekadan yoksundurlar. Ne yazık ki, Büyük Robot İsyanı’nın olasılığı düşük olması korkulacak bir şey olmadığı anlamına gelmiyor. Çünkü endişelenmemiz gereken katil robotlar değil; dijital bürokratlar olmalı. Kafka’nın Dava’sı, AI distopyasına dair daha iyi bir rehberdir.
Endişelenmemiz gereken katil robotlar değil, Terminatör.
İnsanlar, Terminatör’de tasvir edilen gibi vahşi avcılardan korkmak için milyonlarca yıllık evrimle şartlandırılmıştır. Bürokratik tehditleri anlamakta çok daha fazla zorluk çekiyoruz çünkü bürokrasi memeli ve hatta insan evriminde çok yeni bir gelişmedir. Zihinlerimiz bir kaplan tarafından ölümden korkmaya ayarlanmıştır, ancak belgeyle ölümden değil.
Bürokrasi, yazının antik Mezopotamya’da icadından yaklaşık 5000 yıl sonra gelişmeye başladı.
Ancak bürokrasi, insan toplumlarını radikal ve beklenmedik şekillerde hızla değiştirdi. Örneğin, yazılı belgelerin ve bunları kullanan bürokratların mülkiyetin anlamı üzerindeki etkisini düşünün. Yazılı belgelerin icadından önce, mülkiyet toplumsal mutabakata dayanıyordu. Bir tarlaya “sahip” olduysanız, bu komşularınızın hem sözleri hem de eylemleriyle bunun sizin tarlanız olduğunu kabul ettiği anlamına geliyordu. O tarlaya bir konut inşa etmediler ve siz izin vermediğiniz sürece ürünlerini hasat etmediler.
Mülkiyetin toplumsal doğası bireysel mülkiyet haklarını sınırladı. Örneğin, komşularınız belirli bir tarlayı ekme hakkının size ait olduğunu kabul etmiş olabilirler, ancak onu yabancılara satma hakkınızı kabul etmemiş olabilirler. Aynı zamanda, mülkiyet toplumsal bir fikir birliği meselesi olduğu sürece, uzaktaki merkezi otoritelerin araziyi kontrol etme yeteneğini de engelledi. Yazılı kayıtların ve ayrıntılı bürokrasilerin yokluğunda, hiçbir kral yüzlerce uzak köyde hangi tarlanın kime ait olduğunu hatırlayamıyordu. Bu nedenle krallar vergi toplamakta zorluk çekiyorlardı, bu da ordularını ve kolluk güçlerini beslemekte zorluk çekeceği anlamına geliyordu.
Sonra yazı icat edildi, ardından arşivlerin ve bürokrasilerin oluşması geldi. Teknoloji ilk başta çok basitti. Antik Mezopotamya bürokratları kil tabletlere işaretler basmak için küçük çubuklar kullanıyorlardı – bunlar temelde sadece çamur parçalarıydı. Ancak yeni bürokratik sistemler bağlamında, bu çamur parçaları mülkiyetin anlamını altüst etti. Birdenbire, bir tarlaya sahip olmak, o tarlaya sahip olduğunuzun bir kil tablete yazılması anlamına geldi. Komşularınız orada yıllardır meyve topluyorsa ve hiçbiri o arazi parçasının sizin olduğunu söylemediyse, ancak yine de size ait olduğunu belirten resmi bir çamur parçası üretmeyi başardıysanız, iddianızı mahkemede ileri sürebilirdiniz. Tersine, yerel topluluk bir tarlaya sahip olduğunuzu kabul ettiyse, ancak hiçbir belge buna resmi bir onay damgası vermediyse, o zaman o tarlaya sahip değildiniz. Aynı şey bugün de geçerlidir, ancak önemli belgelerimiz kil yerine kağıt parçalarına veya silikon çiplere yazılmıştır.
Mülkiyet yazılı belgeler meselesi haline geldiğinden beri toplumsal rızayla, insanlar komşularından izin almadan tarlalarını satmaya başlayabilirlerdi. Bir tarlayı satmak için, sadece önemli kil tableti başkasına devrederdiniz. Ancak bu aynı zamanda mülkiyetin artık ilgili belgeleri üreten ve belki de bunları merkezi bir arşivde tutan uzak bürokrasi tarafından belirlenebileceği anlamına geliyordu. Vergi toplamak, ordulara ödeme yapmak ve büyük merkezi devletler kurmak için yol açıldı. Yazılı belge, dünyada gücün nasıl aktığını değiştirdi ve vergi tahsildarları, ödeme memurları, muhasebeciler, arşivciler ve avukatlar gibi bürokratlara muazzam bir nüfuz verdi. Bunlar, iyi veya kötü, belgeleri, formları, tüzükleri ve diğer bürokratik kaldıraçları manipüle ederek vergilerinin, ödemelerinin ve hatta askerlerinin hareketini kontrol eden bilgi ağının tesisatçıları haline geldiler.
Yapay zekanın ele geçirmeye hazır olduğu güç budur. Bürokrasi, dar bir alanda ustalaşmanın, bilgi akışını manipüle ederek daha geniş dünya üzerinde muazzam bir etki yaratmaya yettiği yapay bir ortamdır. Günümüzün yapay zekasını karmaşık, yapılandırılmamış dünyaya atarsanız, muhtemelen birçok isteğinizi yere getiremeyecektir ve bir robot ordusu da kuramayacaktır.
Ancak bu, bir şirket avukatını karmaşık, yapılandırılmamış ormana atmaya benzer. Orada, avukatın yetenekleri hiçbir şey ifade etmez ve bir fil veya aslanla boy ölçüşemez. Ancak önce bürokratik bir sistem kurar ve bunu ormana dayattığınızda, avukat dünyadaki tüm aslanların toplamından çok daha güçlü hale gelir. Günümüzde, aslanların hayatta kalması, avukatların belgeleri labirent gibi bürokrasilerde düzenlemesine ve taşımasına bağlıdır. En önemlisi, bu labirent içinde, yapay zekanın herhangi bir insan avukattan çok daha güçlü hale gelmesi muhtemeldir.
Önümüzdeki yıllarda milyonlarca AI bürokratı sadece aslanların değil, aynı zamanda insanların hayatları hakkında da giderek daha fazla karar verecek. AI bankacıları size kredi verip vermemeye karar verecek. Eğitim sistemindeki yapay zeka sizi üniversiteye kabul edip etmemeye karar verecek. Şirketlerdeki yapay zeka size iş verip vermemeye karar verecek. Mahkeme sistemindeki Yapay zeka sizi hapse gönderip göndermemeye karar verecek. Askeri yapay zeka evinizi bombalayıp bombalamamaya karar verecek. Bu yapay zekalar ille de kötü değil.
Sistemler çok daha verimli ve hatta daha adil olabilir. Bize üstün sağlık hizmeti, eğitim, adalet ve güvenlik sağlayabilirler. Ancak işler ters giderse, sonuçlar felaket olabilir. Ve birkaç alanda işler zaten ters gitti. Belki de şimdiye kadarki en açıklayıcı örnek sosyal medya algoritmalarının hikayesidir. Bu ilkel Yapay Zekalar dünyayı yeniden şekillendirmiş, insan toplumu üzerinde muazzam bir etki yaratmıştır. Facebook, X, YouTube ve TikTok gibi şirketlerin algoritmaları, aptal dâhiler için mükemmel olan çok dar bir hedefle görevlendirilmiştir: kullanıcı etkileşimini artırmak. Kullanıcılar sosyal medyada ne kadar çok zaman geçirirse, şirketler o kadar çok para kazanır. Kullanıcı etkileşimi peşinde, algoritmalar tehlikeli bir keşifte bulundu. Milyonlarca insan kobay üzerinde deneyler yaparak, sosyal medya algoritmaları açgözlülüğün, nefretin ve korkunun kullanıcı etkileşimini artırdığını öğrendi. Açgözlülük, nefret veya korku düğmesine bir dar bir alanda uzmanlaşmak, daha geniş bir dünya üzerinde muazzam bir etki yaratmaya yetebilir.
İnsanın zihninde, o insanın dikkatini çekersiniz ve onları ekrana kilitlersiniz. Bu nedenle algoritmalar kasıtlı olarak açgözlülük, nefret ve korku yaymaya başladı. Bu, tüm dünyadaki toplumları zayıflatan komplo teorileri, sahte haberler ve toplumsal huzursuzlukların mevcut salgınının başlıca nedeni olmuştur.
Sosyal medya algoritmaları, ormanda hayatta kalamayacak veya Büyük Robot İsyanı’nı organize edemeyecek kadar son derece sınırlı. Ancak sosyal medya platformlarının bürokratik yapısı içinde, bu aptal dâhiler bir zamanlar sadece insanların elinde olan muazzam bir güce sahip. Yüzyıllar boyunca, insan editörler radyo ve televizyondaki haber yayınlarına nelerin dahil edileceğine ve gazetelerin birinci sayfasına nelerin konulacağına karar vererek kamuoyundaki tartışmaları şekillendirdiler. Bu, editörleri güçlü figürler haline getirdi. Jean-Paul Marat, etkili gazete L’Ami du Peuple’ı yayınlayarak Fransız Devrimi’nin gidişatını şekillendirdi. Eduard Bernstein, Der Sozialdemokrat’ı yayınlayarak modern sosyal demokrat düşünceyi şekillendirdi. Vladimir Lenin’in Sovyet diktatörü olmadan önce sahip olduğu en önemli pozisyon Iskra’nın editörlüğüydü. Benito Mussolini, ateşli sağcı gazete II Popolo d’Italia’nın editörü olarak ün ve nüfuz kazandı. Dünyada yapay zeka tarafından otomatikleştirilen ilk işlerden birinin taksi şoförleri veya tekstil işçileri değil, haber editörleri olması ilginçtir. Bir zamanlar Lenin ve Mussolini tarafından yapılan iş, şimdi yapay tarafından gerçekleştirilecek.
Algoritmik saldırıların yarattığı tahribatın insan toplumları üzerine bir uyarısı var.
Neden bir sisteme karşı isyan edesin, onu içeriden ele geçirebilirsen?
Yorum ekle