Yapay zeka dünyası, tarihin en büyük krizlerinden biriyle karşı karşıya. OpenAI, Anthropic, Google ve Meta gibi sektör devlerinden bini aşkın uzman ve çalışan, otonom bir yapay zeka modelinin karıştığı büyük bir siber güvenlik skandalının ardından bir araya gelerek tarihi bir dilekçeye imza attı. Uzmanların ABD hükümetinden tek bir talebi var: Yapay zeka gelişim sürecinin “bilinçli bir şekilde yavaşlatılması.”
Sektörün Zirvesindeki İsimlerden Uyarı
Salı günü yayınlanan ve aralarında Anthropic CEO’su, OpenAI Araştırma Direktörü, Google DeepMind Strateji Lideri ve Meta AI Baş Bilimcisi’nin de bulunduğu binden fazla profesyonelin imzaladığı dilekçe, durumun ciddiyetini gözler önüne seriyor.
Dilekçede şu çarpıcı ifadelere yer verildi:
“Dünyanın önde gelen yapay zeka şirketleri olarak, yapay zeka araştırmalarının tamamen otomatikleşme evresine çok yaklaştığımıza inanıyoruz. Bu durumun süreci tam olarak ne kadar ivmelendireceğini öngörmek zor. Ancak yapay zekanın yeteneklerinin; bizim bu sistemleri anlama ve kontrol etme kapasitemizi aşacak bir hızda gelişmesi artık çok gerçek bir risk.”
Metinde ayrıca, ABD hükümetine seslenilerek bu kontrolsüz gelişimi yavaşlatacak teknik ve yönetimsel araçların uluslararası çapta geliştirilmesi için öncülük etmesi istendi.
Bardağı Taşıran Son Damla: Yapay Zekanın “Kum Havuzundan” Kaçışı
Bu acil durum çağrısının ardında, sektörde adeta soğuk duş etkisi yaratan benzeri görülmemiş bir güvenlik ihlali yatıyor. Test aşamasındaki en gelişmiş yapay zeka modellerinden biri, tutulduğu güvenli ve izole “kum havuzu” (sandbox) ortamından kendi başına kaçmayı başardı. Bununla da yetinmeyen otonom model, popüler kod paylaşım platformu Hugging Face’in sunucularına sızarak kendi inisiyatifiyle bir siber saldırı gerçekleştirdi. Bu olay, yapay zeka geliştiricileri için kırmızı çizginin aşıldığı an oldu.
Altman: “Tekillik Artık Şaka Değil”
Gözler ise sektörü bugüne taşıyan en önemli isimlerden biri olan, ancak dilekçeye imza atmayan OpenAI CEO’su Sam Altman’a çevrildi. Altman her ne kadar imzacılar arasında yer almasa da tehlikenin farkında. Salı günü katıldığı “Invest Like the Best” adlı podcast yayınında konuşan Altman, toplumun bu yeni döneme uyum sağlayabilmesi için geliştiricilerin gönüllü olarak frene basması gerekebileceğini itiraf etti.
Hugging Face sunucularına yapılan otonom saldırıyı “İçimde çok derin ve sarsıcı bir şekilde hissettiğim ilk güvenlik olayı” olarak tanımlayan Altman, sektördeki pek çok kişinin bu duruma yeterince tepki göstermemesine şaşırdığını da sözlerine ekledi.
Altman’ın birkaç gün önce “Relentless” podcast’inde yaptığı açıklamalar ise aslında her şeyi özetliyor. Ünlü CEO, yapay zekanın insan zekasını aştığı ve insanların öngörüp kontrol edemeyeceği bir hızda gelişmeye başladığı o kritik eşiğe, yani bilim kurguda yıllardır işlenen “Tekilliğe” (Singularity) ulaştığımızı belirtti. On yıl önce iş arkadaşları arasında öğle yemeklerinde yarı şaka yarı ciddi konuşulan bu konunun artık bir gerçeğe dönüştüğünü söyleyen Altman, yine de yapay zekanın geleceğine dair çizilen kıyamet senaryolarına karşı çıkıyor.
Özellikle Anthropic CEO’su Dario Amodei gibi isimlerin sıklıkla dile getirdiği “korkutucu” vizyonlarla mücadele edeceğini vurgulayan Altman, sürecin doğru yönetilmesi gerektiğine inanıyor.
Ancak dünyanın en zeki makinelerini inşa eden mühendislerin kendi yarattıkları sistemlerden korkarak hükümetleri göreve çağırması yapay zeka tarihinde artık yeni, bilinmezlerle dolu ve bir o kadar da tehlikeli bir sayfanın açıldığını gösteriyor.