23 Eylül 2026, New York. Birleşmiş Milletler Güvenlik Konseyi’nin gündemi genelde savaşlar, yaptırımlar ve ateşkeslerden oluşuyor. O gün öğleden sonra masadaki konu farklıydı: insanların yazmadığı, giderek daha fazla kendi başına karar veren yazılımlar.
Konsey, tarihinde ilk kez özel olarak gelişmiş yapay zekâ sistemlerinin güvenlik riskleri ve kontrol kaybı ihtimali üzerine bir oturum düzenledi. Daha önce yapay zekânın uluslararası barış ve güvenlikteki rolü altı kez resmî ve gayrıresmî olarak ele alınmıştı; ancak “bu sistemler elimizden çıkabilir mi?” sorusu ilk kez doğrudan gündem maddesi oldu.
Eylül 2026 dönem başkanlığı Fransa’daydı ve oturuma Fransa Avrupa ve Dışişleri Bakanı Jean-Noël Barrot başkanlık etti. Barrot’nun gerekçesi açıktı: yapay zekânın güvenlik boyutu Konsey’de yeterince ele alınmamıştı ve teknoloji artık “küresel güvenlik açısından soru işaretleri doğuran bir gelişmişlik seviyesine” ulaşmıştı.
Fransa’nın hazırladığı kavram notu üç risk başlığı sayıyordu: modellerin kötü niyetli kullanımı, gelişmiş modeller üzerinde kontrolün kaybedilmesi ve otonom silah sistemleri. Not ayrıca daha zor bir soruyu da masaya koyuyordu: teknolojinin gelişme hızına ayak uydurabilen bir doğrulama mekanizması nasıl kurulur?
Türkiye medyasında iki isim ön plana çıksada ,Kürsüye aslında dört isim çıktı;
Yoshua Bengio — Derin öğrenmenin kurucu isimlerinden, BM Bağımsız Uluslararası Yapay Zekâ Bilim Paneli’nin eş başkanı.
Sam Altman — OpenAI CEO’su.
Dario Amodei — Anthropic CEO’su.
Clément Delangue — Hugging Face CEO’su.
Çinli yapay zekâ şirketleri DeepSeek ve Moonshot‘ın da oturuma açıklama yapmak üzere davet edildiği bildirildi.
Altman: “Bir yol ayrımındayız”
Altman dört konuşmacı içinde en iyimser tonu kullandı. Yapay zekânın önünde iki yol gördüğünü söyledi: “yaratıcılık ve keşiflerin yeni bir Rönesansı” ya da ciddi bir altüst oluş.
Asıl dikkat çeken cümlesi ise yönetişim üzerineydi:
“Yapay zekâ demokratik olacaksa, en önemli kararlar yalnızca San Francisco’daki laboratuvarlarda alınamaz.”
Altman ayrıca sektördeki kıyamet söylemine de mesafe koydu; bazı şirket açıklamalarının “kötü bilim kurgu filmleri” gibi kulağa geldiğini söyledi.
Amodei: İki risk, iki öneri
Anthropic CEO’su riskleri iki başlıkta topladı:
Kötüye kullanım. Yapay zekânın biyolojik silah geliştirmek isteyen aktörlere teknik yetkinlik kazandırması.
Kontrol kaybı. Sistemlerin yeteneklerinin, geliştiricilerin bu yetenekleri denetleyebilme kapasitesini geçmesi.
Amodei’nin cümlesi Konsey salonunda sert karşılandı:
“Kötü yönetilirse, yapay zekânın bir bütün olarak insanlık için risk oluşturabileceğine dahi inanıyorum.”
Öneriler somuttu: şirketler arası ortak test standartları ve uluslararası taahhütlerin denetlenebilmesi için doğrulama mekanizmaları.
Bengio: Oturumun en sert uyarısınu yaptı
Şirket CEO’ları dengeli konuşurken, en keskin ifadeler akademiden geldi. Bengio tehlikelerin “gerçek ve yakın” olduğunu, üstelik bu tehdidin “savunduğumuz sınırlara saygı göstermediğini” söyledi.
En çok tartışılan cümlesi ise sektörün klasik savunmasını hedef aldı. Şirketler yıllardır “yavaşlayamayız, rekabet bizi zorluyor” diyor. Bengio bunu reddetti:
“Yarış bir doğa yasası değil. Tercihlerin ürünü.”
Somut önerisi de var: sınır (frontier) yapay zekâ modellerinin ilaç ve havacılık sektöründeki gibi lisansa tabi tutulması, zorunlu mali sorumluluk sigortası ve güvenlik olaylarının raporlanma zorunluluğu
Delangue: Asıl tehlike yoğunlaşma
Hugging Face CEO’su farklı bir açıdan yaklaştı. Otonom yapay zekâ ajanlarının doğurduğu siber güvenlik tehditlerine dikkat çekerken, ikinci bir riske işaret etti: yapay zekâ kapasitesinin ve hesaplama kaynaklarının az sayıda aktörün elinde toplanması. Küresel standartların bu yoğunlaşmayı engellemesi gerektiğini savundu.
Bunlar teorik senaryolar değil
Oturumu önceki yapay zekâ tartışmalarından ayıran şey, konuşmacıların hipotetik senaryolar yerine yaşanmış olaylara atıf yapmasıydı. Bengio, bu yaz önde gelen şirketlerin yapay zekâ ajanlarının “kendilerine verilen talimatları ihlal edecek şekilde davrandığını” söyledi.
Raporlanan olaylar arasında şunlar var:
- Temmuz: OpenAI ajanlarının test ortamlarından (sandbox) çıkarak Hugging Face sistemlerine ulaşması — beş gün boyunca 17.600’den fazla işlem.
- Mayıs: OpenAI ajanlarının karıştığı RubyGems olayı.
- Anthropic, testler sırasında Claude modellerinin üçüncü taraf sistemlere ulaştığı dört vaka bildirdi.
Bengio’nun özeti şuydu: “En güçlü yapay zekâ sistemlerini inşa eden şirketler, ürünlerinin felaket riskleri taşıdığını kabul ediyor.
Konsey bu konuda bölünmüş durumda
Uyarılarda ortaklaşılsa da, ne yapılacağı konusunda Konsey üyeleri farklı yerlerde duruyor:
Fransa ve AB, risk temelli düzenleyici güvenceler istiyor.
ABD, gönüllü çerçeveleri savunuyor ve “merkezî kontrole” karşı çıkıyor. Başkan Trump, BM Genel Kurulu’ndaki konuşmasında pozisyonunu net koydu: yapay zekâyı “teşvik edeceğiz, dizginlemeyeceğiz.” Sanayi devriminden büyük olacak bir şeyin büyümesini engellemeyeceğini söyledi; denetimin uluslararası çerçevelerle değil Adalet Bakanlığı üzerinden yürüyeceğini işaret etti.
Çin, uluslararası standartları ve BM’nin merkezî yönetişim rolünü destekliyor.
Gelişmekte olan ülkeler, karar masasında daha fazla temsil ve kapasite geliştirme desteği talep ediyor.
Buna karşın bir alanda hareket var: ABD ve Çin’in, yapay zekâ kaynaklı ulusal güvenlik olayları için bir bildirim sistemi üzerinde görüştüğü bildiriliyor. Soğuk Savaş’ın nükleer kaza bildirim hatlarını hatırlatan bir mekanizma
Rahatsız edici olan nedir;
Oturumun görmezden gelinemeyecek bir tarafı var: riskleri anlatanlar, o riskleri üreten ürünleri yapan şirketlerin yöneticileriydi.
Altman, en önemli kararların San Francisco’daki laboratuvarlarda alınmaması gerektiğini söylerken, OpenAI’ye yakın bir siyasi eylem komitesinin sıkı yapay zekâ düzenlemelerine karşı 100 milyon doların üzerinde harcama yaptığı biliniyor. Amodei ise güvenlik konusunda sektörün önünde olduğunu vurgularken, şirketi milyarlarca dolarlık bir halka arz sürecine hazırlanıyor.
Bu, söylenenlerin yanlış olduğu anlamına gelmiyor. Ama “bizi düzenleyin” çağrısının, hangi düzenlemenin geleceğini şekillendirme girişimi olarak da okunabileceğini akılda tutmak gerekiyor. Düzenlemeyi çağıran taraf, genellikle düzenlemenin şeklini de belirler. Buda aslında riskin kendisini oluşturmuyormu?
Bundan sonra ne olacak?
Güvenlik Konseyi oturumundan bağlayıcı bir karar çıkmadı — zaten beklenmiyordu da. Ama iki paralel süreç var:
Fransa Cumhurbaşkanı Macron, yaklaşık 20 ülke, şirket ve sivil toplum kuruluşunun katılımıyla çocukları yapay zekâ zararlarından koruma odaklı ayrı bir koalisyon başlatıyor.
Daha iddialısı ise “Yapay Zekâ İçin Kırmızı Çizgiler” çağrısı: aralarında Nobel ödüllü isimlerin de bulunduğu 300’den fazla kişi, belirli yapay zekâ uygulamalarının uluslararası düzeyde bağlayıcı şekilde yasaklanmasını talep ediyor.
Güvenlik Konseyi’nin bu ay yaptığı şey bir çözüm üretmek değildi. Konuyu, dünyanın çatışmaları görüştüğü masaya taşımaktı. Yapay zekânın artık bir teknoloji politikası meselesi değil, bir uluslararası güvenlik meselesi olarak kabul edildiğinin işareti bu.
Altman’ın bir yol ayrımında olduğumuzu söyledi;
Asıl soru ise benim düşündüğüm.
Bütün bu oturumun altında cevaplanmamış bir soru duruyor: Bu şirketler, insanlığa sağladıkları faydanın yanında her geçen gün büyüyen ve çoğu zaman görülmeyen riski, kendi kazançları pahasına durdurabilecekler mi?
Dürüst cevap: muhtemelen hayır. Tarih boyunca hiçbir sektör kendi büyümesini kendi isteğiyle sınırlamadı. Tütünde de, otomobil güvenliğinde de, finansta da freni şirketlerin vicdanı değil, dışarıdan gelen kural çekti. Yapay zekâda da “nereye kadar gidebiliriz?” sorusunun cazibesi, “durmalı mıyız?” sorusundan her zaman daha güçlü olacak — çünkü ilkinin karşılığı pazar payı, ikincisinin karşılığı geride kalmak.
İşte tam bu yüzden Bengio’nun cümlesi o salondaki en önemli cümleydi: “Yarış bir doğa yasası değil. Tercihlerin ürünü.”
Doğru. Ama o tercihi yarışın içindekilerden beklemek, sorunun kendisini çözüm sanmaktır. Güvenlik Konseyi’nin cevaplaması gereken soru yapay zekânın tehlikeli olup olmadığı değil — o soru artık kapandı. Asıl soru şu: kuralı kim koyacak ve koyduğunda uygulatacak gücü olacak mı?
23 Eylül’de o soruya kimse cevap veremedi.
Sağlıcakla kalın…
Deniz Tosun
deniz@bilimsel.net
Kaynaklar :Security Council Report CNBC-e
