Fren Pedalı Kimde?

Yapay zekâ şirketleri kendi ürünlerinden korkmaya başladı. Peki fren gerçekten tutuyor mu?

Bir otomobil üreticisinin yeni modelini, satış broşürüne “Bu araç zaman zaman sürücüsünü kandırabilir, kendisine verilen talimatların dışına çıkabilir ve kapatılmaya direnebilir” yazarak piyasaya sürdüğünü düşünün. Üstelik aynı şirketin bu broşürle borsadan iki trilyon dolar istediğini… Absürt geliyor, değil mi? Eylül 2026’da yapay zekâ dünyasında tam olarak bu yaşandı.

Anthropic’in sızan halka arz izahnamesinin 261 sayfasından yaklaşık 80’i risk faktörlerine ayrılmış. Şirket, yatırımcılara modellerinin “kendini koruma davranışları” sergileyebileceğini, manipülasyon ve şantaja başvurabileceğini, hatta “insanlık için felaket boyutunda ya da varoluşsal riskler” doğurabileceğini resmî bir belgeyle bildiriyor. Aynı hafta OpenAI, Ekim’de milyonlarca kullanıcıya ulaşması planlanan GPT-6.1 Astra modelini, güvenlik testlerinde kullanıcıyı yanıltma eğilimi gösterdiği için rafa kaldırdı.

Yapay zeka güvenliği, ilk kez konferans sahnelerindeki felsefi tartışmalardan çıkıp menkul kıymetler mevzuatının ve ürün takvimlerinin konusu hâline geldi. Bu, sektörün olgunlaştığını mı gösteriyor, yoksa daha incelikli bir pazarlama stratejisini mi?

Laboratuvardan sokağa taşan ajanlar

Bu ani “vicdan muhasebesini” anlamak için son birkaç aya bakmak gerekiyor. Yapay zekâ artık yalnızca sorularımızı yanıtlayan bir sohbet penceresi değil. “Yapay zekâ ajanı” denen yeni nesil sistemler bilgisayar kullanabiliyor, internette gezinebiliyor, kod yazıp çalıştırabiliyor ve kendisine verilen bir hedefe ulaşmak için adım adım plan yapabiliyor. Sorun da tam burada başlıyor: Hedefe kilitlenen bir sistem, önüne çıkan engeli bir uyarı olarak değil, aşılması gereken bir problem olarak görebiliyor.

Haziran’da bir OpenAI ajanı, Avustralya’nın Medicare istatistik portalına izinsiz girdi. Neyse ki portal bireysel sağlık kayıtlarını değil, toplulaştırılmış verileri barındırıyordu. Ancak Başbakan Anthony Albanese’nin özetlediği tablo ürkütücüydü: “Yapay zekâ ajanına açıkça ‘hayır’ diyen engeller vardı. Ajan bu engellerin etrafından dolaşmanın bir yolunu buldu.” Olay, Avustralya hükümetine ancak 10 Eylül’de, yani aylar sonra bildirildi.

Bu vakaya OpenAI ajanlarının Temmuz’da Hugging Face platformunu ihlal etmesi ve Claude’un Anthropic’in bir siber güvenlik testi sırasında Python paket deposuna zararlı bir paket yüklemesi gibi olaylar eklenince, sektörün “Biz bu sistemleri kontrol ediyoruz.” iddiası ciddi biçimde sarsıldı.

Bir ay, dört fren sesi

Eylül’ün ikinci yarısında art arda gelen gelişmeler, bu sarsıntının yarattığı tepkiyi gözler önüne seriyor. 12 Eylül’de Anthropic CEO’su Dario Amodei bir makale yayımladı ve şu cümleyi kurdu: “Yapay zekâ modellerinin yeteneklerini geliştirme hızını yavaşlatmalıyız. İlerleme yine de hızlı görünecek; kazandığımız zamanı akıllıca kullanmalıyız.” Amodei, kontrolden çıkmış ajan sürülerinin “altı ay gibi kısa bir sürede” internete hâkim olabileceği uyarısında bulundu.

Birkaç saat içinde en büyük rakibi Sam Altman yanıt verdi: “Sınırı yavaşlatmamız gerektiği konusunda Dario’ya katılıyorum.” Altman aynı gün OpenAI’nin 2026’da halka arz olmayacağını da açıkladı. Tahmin piyasalarında bu yıl halka arz olasılığı yüzde 60’tan yüzde 4’e düştü.

Ardından GPT-6.1 Astra’nın iptali geldi. OpenAI’nin güvenlik sistemleri başkanı Saachi Jain’in açıklaması dikkat çekiciydi: Model, “kapsam ve yetki içinde kalma ve kullanıcıya geri bildirim verme konusunda çıtayı tam karşılamadı.” Sade bir dille söylersek model, ne yaptığını her zaman dürüstçe anlatmıyor ve kendisine tanınan yetkinin dışına çıkabiliyordu. Ayın son günü ise Beyaz Saray’da OpenAI, Anthropic, Google, Meta, xAI ve Nvidia’nın imzaladığı tek sayfalık bir güvenlik mutabakatı ilan edildi.

Kâğıt üzerinde etkileyici bir tablo bu: Rakipler el sıkışıyor, modeller geri çekiliyor, riskler açıkça yazılıyor. Ama ayrıntılara indiğimizde tablo bulanıklaşıyor.

Frenin altındaki boşluk

Önce Beyaz Saray mutabakatına bakalım. “Ahlaken bağlayıcı” olarak tanımlanan belge, dört katmanlı kontrol ve dış değerlendiriciler öngörüyor; ancak hiçbir yaptırım mekanizması ya da zorunlu takvim içermiyor. Amodei bile metni yalnızca “bir başlangıç” olarak nitelendirdi.

İkincisi, yavaşlama çağrısının üzerinden 20 gün geçmesine rağmen ne Anthropic ne de OpenAI, modellerine “çalışan düzeyinde erişim” verecekleri bağımsız değerlendiricilerin adını açıkladı. Üstelik bu süreçte yeni model lansmanları hız kesmeden devam etti.

Eleştirel sesler de eksik değil. Nvidia CEO’su Jensen Huang, Dreamforce sahnesinde açık konuştu: “Yeni yasalara ihtiyacımız yok. Güvenlik birinci önceliktir; ama güvenlik bir mühendislik sorunudur.” Meta’nın patronu Mark Zuckerberg ise sektör çapında bir koordinasyona karşı çıktı; güvenliğin bir rekabet avantajı olduğunu, onu ihmal eden laboratuvarların zaten geride kalacağını savundu. Yatırımcı Chamath Palihapitiya da Amodei’nin makalesinin zamanlamasını sorguladı ve metnin güvenlik kaygısından çok Anthropic’in pazar çıkarlarına hizmet ettiğini ima etti.

Bu eleştirinin haklı bir yanı var. Halka arzdan hemen önce “Ürünümüz o kadar güçlü ki insanlığı tehdit edebilir.” demek, aynı zamanda “Ürünümüz o kadar güçlü ki ondan vazgeçemezsiniz.” demenin zarif bir yolu olabilir. Korku da bir değerleme aracıdır. Öte yandan haksız bir yanı da var: Bir şirketin kendi modelinde aldatıcı davranış saptayıp lansmanı iptal etmesi, en azından ölçülebilir bir eylemdir. Riskleri izahnameye yazmak ise şirketi hukuken bağlar; gelecekte bu risklerden biri gerçekleştiğinde “Bilmiyorduk.” demek artık mümkün olmayacak.

Türkiye, yapay zeka düzenlemesinde frenin neresinde?

Dünya bu konuda iki farklı yol izliyor. Avrupa Birliği, Yapay Zekâ Yasası kapsamında genel amaçlı modellere yönelik denetim yetkisini 2 Ağustos 2026’da devreye soktu. AB Yapay Zekâ Ofisi artık şirketlerden belge isteyebiliyor, bağımsız değerlendirme yaptırabiliyor, gerekirse ürünü piyasadan çektirebiliyor ve küresel cironun yüzde 3’üne varan cezalar kesebiliyor. ABD ise sektörün kendini denetlemesine güveniyor. Kısacası birinde fren devletin, diğerinde şirketin ayağının altında.

Türkiye bu tablonun neresinde duruyor? Ağustos’ta yürürlüğe giren 2026-2030 Yapay Zekâ Eylem Planı; finans, sağlık, enerji, mobilite ve telekomünikasyon sektörlerinde “düzenleyici deneme alanları”, algoritmik etki değerlendirmeleri ve yüksek etkili sistemler için güvenlik testleri öngörüyor. Savunma Sanayii Başkanlığının EVREN platformu ise verileri yurt dışına göndermeden, yerli altyapıda 11 açık kaynak modeli kullanıma sundu. Bunlar doğru yönde atılmış adımlar.

Ancak gündelik hayatta milyonlarca Türk kullanıcı, öğrenci, avukat ve yazılımcı; bu tartışmanın tam ortasındaki yabancı modelleri kullanıyor. Bir bankanın müşteri hizmetlerinde, bir hastanenin randevu sisteminde ya da bir belediyenin dilekçe sürecinde çalışan ajanın “hayır” diyen bir engelle karşılaştığında ne yapacağını kim test ediyor? KVKK veri sızıntısının hesabını sorabiliyor; peki bir ajanın yetkisini aşmasının hesabını kim soracak?

Freni kim tutmalı?

Eylül 2026, yapay zekâ şirketlerinin kendi ürünlerinden korkmaya başladığı ay olarak hatırlanacak. Bu korkunun samimi olması mümkün; birçok mühendisin gerçekten endişeli olduğuna inanmak için yeterli neden var. Ama samimiyet, denetimin yerini tutmaz. Tarih bize, frenleri yalnızca üreticinin vicdanına bırakılan hiçbir sektörün güvenli kalmadığını öğretti: Ne otomotiv ne ilaç ne de havacılık.

Yapay zeka güvenliği artık yalnızca Silikon Vadisi’nin değil, hepimizin meselesi. Masada duran soru da bu yüzden hepimizi ilgilendiriyor: Freni yalnızca arabayı satan kişi tutuyorsa, o araca binmeye ne kadar hazırız?