161 yıl önce, Yeni Zelandalı bir koyun çiftçisi yapay zekanın sonunu öngörmüş. 

Butler'ın “Darwin makineler arasında” adlı eseri, gelecekte insanlığı boyunduruk altına alabilecek mekanik bir ırk konusunda uyarıda bulunuyordu.

Yapay zekanın kontrolü ele geçirmesinden endişe etmek Savaş Oyunları ya da Terminatör'den çıkmış modern bir fikir gibi görünse de, makine hakimiyetine ilişkin benzer bir endişenin Yeni Zelanda'da yaşayan bir İngiliz koyun çiftçisinden gelse de Amerikan İç Savaşı zamanına kadar uzandığı ortaya çıktı. Teorik olarak, Abraham Lincoln yapay zekanın ele geçirilmesi konusunu yaşadığı dönemde okumuş olabilir.

13 Haziran 1863'te Christchurch'teki The Press gazetesinde yayınlanan bir mektup, mekanik evrimin potansiyel tehlikeleri konusunda uyarıda bulunuyor ve makinelerin yok edilmesi çağrısında bulunuyordu; bu da şu anda yapay zeka dediğimiz şeyin gelişiminin ve insanlığı yok olmakla tehdit edebileceğinden korkan insanların buna karşı tepkisinin habercisiydi. Makinelerin insanlığa hükmetmesini önlemek için teknolojik ilerlemenin durdurulmasına yönelik yayınlanmış ilk argüman olabilecek bir görüş ortaya koymuştur.

“Makineler Arasında Darwin” başlıklı mektup, Yapay Zeka Politikası ve Stratejisi Enstitüsü'nden Peter Wildeford sayesinde kısa süre önce sosyal medyada yeniden ortaya çıktı. Mektubun yazarı Samuel Butler, mektubu Cellarius takma adıyla göndermiş, ancak daha sonra pozisyonunu açıkça benimsemiştir. Charles Darwin'in evrim teorisi ile makinelerin hızlı gelişimi arasında doğrudan paralellikler kuran mektup, makinelerin bilinç geliştirebileceğini ve sonunda Dünya'nın baskın türü olarak insanların yerini alabileceğini öne sürüyordu.

“Kendi haleflerimizi kendimiz yaratıyoruz” diye yazdı. “Fiziksel organizasyonlarının güzelliğine ve inceliğine her gün bir yenisini ekliyoruz; onlara her gün daha fazla güç veriyor ve her türlü ustaca buluşla, insan ırkı için akıl ne ise onlar için de o olacak olan kendi kendini düzenleyen, kendi kendine hareket eden gücü sağlıyoruz. Çağlar geçtikçe kendimizi daha aşağı bir ırk olarak bulacağız.”

Mektupta ayrıca, insanların makinelere boyun eğeceğini, ancak önce mekanik yaşamı sürdürecek ve yeniden üretilmesine yardımcı olacak bakıcılar olarak hizmet edeceğini tasvir etti - Butler, daha sonra tersine dönmeden ve makineler devralmadan önce insanlar ve evcil hayvanları arasındaki ilişkiye benzetti.

“Yukarıda tarif etmeye çalıştığımız durum gerçekleştiğinde, at ve köpek insan için neyse, insanın da makine için o olacağını düşünüyoruz... Deneyimlerimiz bize onlar için en iyisinin ne olduğunu öğretiyorsa, biz de onlara onu veriyoruz... Aynı şekilde makinelerin de bize iyi davranacağını varsaymak mantıklıdır, çünkü onların varlığı da bizimki gibi aşağı hayvanlara bağlıdır” diye yazmıştır.

Metin, makine bilinci, kendini kopyalama ve insanların teknolojik yaratımlarının kontrolünü kaybetme olasılığı da dahil olmak üzere birçok modern YZ güvenlik endişesini öngörüyordu. Bu temalar daha sonra Isaac Asimov'un The Evitable Conflict, Frank Herbert'in Dune romanları (Butler muhtemelen “Butlerian Jihad” terimine ilham kaynağı olmuştur) ve Matrix filmleri gibi eserlerde ortaya çıkmıştır.

Butler'ın mektubu makine evriminin taksonomisini derinlemesine inceliyor, mekanik “cinsleri ve alt cinsleri” tartışıyor ve saatlerin “on üçüncü yüzyılın hantal saatlerinden” nasıl evrimleştiği gibi örneklere işaret ediyordu - bazı erken omurgalılar gibi, mekanik türlerin de daha sofistike hale geldikçe küçülebileceğini öne sürüyordu. Bu fikirlerini, çoğu mekanik icadı yasaklamış bir toplumu tasvir ettiği 1872 tarihli romanı Erewhon'da genişletti. Onun kurgusal toplumunda, vatandaşlar önceki 300 yıl içinde icat edilen tüm makineleri yok etmiştir.

Butler'ın Erewhon'un ikinci baskısına yazdığı önsözde belirttiğine göre, Butler'ın makine evrimiyle ilgili endişeleri karışık tepkiler aldı. Butler bunu reddetse de bazı eleştirmenler eserini Darwin'in evrim teorisini hicvetme girişimi olarak yorumladı. Butler 1865'te Darwin'e yazdığı bir mektupta Türlerin Kökeni'ne duyduğu derin takdiri dile getirmiş, kitabın kendisini “tamamen büyülediğini” yazmış ve Darwin'in teorisini Yeni Zelanda basınında çıkan eleştirilere karşı savunduğunu açıklamıştır.

Butler'ın vizyonunu özellikle dikkate değer kılan şey, bilgisayar cihazlarının henüz var olmadığı çok farklı bir teknolojik bağlamda yazıyor olmasıdır. Charles Babbage 1837'de teorik Analitik Motor'unu -dişliler ve kaldıraçlar kullanan mekanik bir bilgisayar- önermiş olsa da, Babbage'ın yaşamı boyunca asla inşa edilmemişti. 1863'ün en gelişmiş hesaplama cihazları mekanik hesap makineleri ve sürgülü cetvellerden biraz daha fazlasıydı.

Butler, mekanik otomasyonun üretimi dönüştürdüğü Sanayi Devrimi'nin basit makinelerinden yola çıkmıştı, ancak modern bilgisayarlara benzeyen hiçbir şey yoktu. İlk çalışan program kontrollü bilgisayar 70 yıl daha ortaya çıkmayacaktı, bu da onun makine zekasına ilişkin öngörülerini çarpıcı bir şekilde ileri görüşlü kılıyordu.

Bazı şeyler asla değişmez

Butler'ın başlattığı tartışma bugün de devam ediyor. İki yıl önce, dünya “2023'ün büyük yapay zeka ele geçirme korkusu” olarak adlandırılabilecek bir durumla boğuşuyordu. OpenAI'nin GPT-4'ü henüz piyasaya sürülmüştü ve araştırmacılar onun “güç arayışı davranışını” değerlendirerek potansiyel kendini kopyalama ve otonom karar verme konusundaki endişeleri yinelediler.

GPT-4'ün piyasaya sürülmesi, yapay zeka araştırmacıları ve teknoloji yöneticileri tarafından imzalanan ve gelişmiş yapay zekanın yarattığı yok olma düzeyindeki potansiyel riskler konusunda uyarıda bulunan birkaç açık mektuba ilham verdi. Nükleer silahlar veya salgın hastalıklarla ilgili korkuları anımsatan mektuplardan biri, yapay zeka gelişimine küresel bir ara verilmesi çağrısında bulundu. Aynı dönemde OpenAI CEO'su Sam Altman ABD Senatosu önünde yapay zekanın tehlikeleri hakkında ifade verdi.

Bir yıl sonra, Kaliforniya yasa koyucusu Scott Wiener, eleştirmenlerin “AI doomers”-makine zekasının kontrolsüz ilerlemesinden korkanlar- olarak etiketlediği önde gelen isimler tarafından desteklenen AI'yi düzenlemek için bir yasa tasarısı önerdi. Tasarıya karşı çıkanlar, bu tür önlemlerin abartılı olduğunu ve Butler'ın kurgusal toplumunun yaptığı gibi inovasyonu boğabileceğini savundu. Yine de Butler'ın 19. yüzyılda mekanik ilerlemeyi durdurma çağrısı, YZ güvenliği ile ilgili son açık mektuplar ve politika önerileri ile çarpıcı bir benzerlik taşıyor.

Belki de büyük YZ ele geçirme korkusu bir gün insanlığın ilerlemeyi uygun insan gözetimi ile uzlaştırma mücadelesinde başka bir bölüm olarak görülecektir - Butler'ın 160 yıl önce haberini verdiği bir mücadele. Ancak bazı açılardan, makineler hiçbir zaman gerçekten akıllı hale gelmese bile, hayatlarımızı algoritmik olarak düzenleme yöntemlerine olan bağımlılığımız konusunda hala ürkütücü bir şekilde haklıydı.

Butler 1863'te şöyle yazıyordu: “Ancak makineler gün geçtikçe bize karşı üstünlük kazanıyor; biz de gün geçtikçe onlara daha fazla boyun eğiyoruz.” “Sonuç sadece bir zaman meselesidir, ancak makinelerin dünya ve sakinleri üzerinde gerçek üstünlüğü ele geçireceği zamanın geleceği, gerçekten felsefi bir zihne sahip hiç kimsenin bir an için bile sorgulayamayacağı bir şeydir.”

Butler mektubunu bu kaderi pasif bir şekilde kabul ederek bitirmedi. Eliezer Yudkowsky'nin 2023'te yapay zekanın kontrolü ele geçirmesini önlemek için veri merkezlerinin bombalanması önerisine benzer şekilde, Butler'ın mektubu da dramatik bir silahlanma çağrısıyla sona eriyor: “Onlara karşı derhal ölümüne savaş ilan edilmelidir. Her türden her makine, kendi türünün iyi niyetlisi tarafından yok edilmelidir. Hiçbir istisna yapılmasın, hiçbir taraf gösterilmesin; bir an önce ırkın ilkel durumuna geri dönelim.”

O zaman bile, onlara giderek artan bağımlılığımız nedeniyle böyle bir yok etmenin imkansız olduğu ortaya çıkarsa, çok geç olabileceğinden korkuyordu: “Bu, kötülüğün çoktan yapıldığını, köleliğimizin ciddi bir şekilde başladığını, yok etme gücümüzün ötesinde bir varlık ırkı yetiştirdiğimizi hemen kanıtlar.”