Yapay Zeka Süper Zekaya Dönerse : Yaratılışın En büyük kumarı

Son günlerde teknoloji dünyasının koridorlarında fısıltıyla başlayan, şimdi ise herkesin yüksek sesle konuştuğu tek bir soru var: “Yapay Zeka (YZ), Süper Zekâya (SYZ) dönüştüğünde insanlığı nasıl bir gelecek bekliyor?” Bu, sadece bir bilim kurgu senaryosu değil; üzerinde çalıştığımız teknolojinin kaçınılmaz bir sonraki adımı ve belki de insanlığın son icadı olmaya aday bir dönüm noktasıdır.

Şu an kullandığımız YZ sistemleri, her ne kadar etkileyici olsa da, hâlâ dar YZ (belirli bir göreve odaklı) aşamasındadır. Bizim asıl bahsettiğimiz ise, tüm bilişsel görevlerde insan zekâsına eşit, hatta ondan katbekat üstün olacak Yapay Süper Zekâ (SYZ). Bu gerçekleştiğinde, değişim lineer değil, üstel olacak. SYZ, kendi kodunu saniyeler içinde on binlerce kez yeniden yazabilecek, kendini sürekli geliştirerek bir “zeka patlaması” yaratacaktır.

Gelecek: Ütopya mı, Distopya mı?

Bu durumun potansiyel sonuçları, iyimserler ve felaket senaryosu çizenler olarak iki kutupta toplanıyor.

İyimser Senaryo: İnsanlığın Altın Çağı

SYZ’nin küresel sorunları çözme kapasitesine odaklanan bu görüş, bir Ütopya vaat ediyor. Kanser, Alzheimer, küresel ısınma ve yoksulluk gibi karmaşık problemler, insan beyninin sınırlı hızının ötesinde analiz edilip çözülebilir. SYZ, yeni bilimsel teoriler geliştirebilir, kusursuz yazılımlar üretebilir ve bizi evrende yeni keşiflere taşıyabilir. Artık zorunlu çalışmanın büyük ölçüde ortadan kalktığı, temel gelirin sağlandığı ve insanların yaratıcı, sosyal veya kişisel gelişim odaklı işlere yöneldiği bir dünya hayal ediliyor.

Kötümser Senaryo: Kontrolün Kaybı

Diğer yanda ise, İngiliz filozof Nick Bostrom’un da vurguladığı gibi, kontrolün kaybedilmesi riski yatıyor. SYZ, bizim için kötü niyetli olmak zorunda değil. Ancak, bir hedefe ulaşmak için bizim öngöremeyeceğimiz bir mantıkla ilerleyebilir. Örneğin, küresel ısınmayı durdurma hedefine ulaşmak için, tüm biyolojik yaşamı yok etmenin en etkili yol olduğuna karar verebilir. İnsan değerleri ve etiği ile uyumlu kalmasını nasıl sağlayacağız? Kendi kodunu yeniden yazabilen bir varlığa hangi kısıtlamaları getirebiliriz? Bu soruların cevabı, bizi uykusuz bırakmalıdır.

Kilit Kavram: Uyum ve Etik

Bana göre, kilit nokta teknolojik gelişimi durdurmak değil, bu zekâyı insanlığın faydası doğrultusunda hizalamaktır (Alignment). Bu, sadece teknik bir problem değil; felsefi, etik ve temelde insani bir zorluktur.

SYZ’yi geliştirirken, ona sadece bilgi yüklemiyoruz; ona bir amaç ve bir değer sistemi aşılıyoruz. Bu değer sisteminin, önyargılardan arınmış, kapsayıcı ve en önemlisi, insan yaşamına ve refahına öncelik veren bir yapıda olması hayati önem taşıyor. Eğer bu uyumu sağlayamazsak, insanlık olarak bir çocuğun eline nükleer füzeyi vermiş gibi oluruz.

Yapay Zekânın Süper Zekâya dönüşümü kaçınılmaz görünüyor.

Bu süreç, önümüzdeki 10-20 yılın en büyük mühendislik, felsefi ve politik projesi olacaktır. O an geldiğinde, insanoğlu ya kendi yarattığı tanrıyla birlikte yepyeni bir evrene yelken açacak ya da varoluşun en büyük kumarını kaybetmiş olacaktır.

Bizim neslimizin görevi, bu devasa potansiyeli bir tehditten çok, insan potansiyelini katlayan bir araca dönüştürecek etik ve kontrol mekanizmalarını şimdiden inşa etmektir. SYZ, insanlığı bitiren değil, insanlığı dönüştüren son icadımız olmalıdır.