ABD’de yapay zekâ teknolojilerinin geleceğine ilişkin tartışma Kongre’ye taşınan yeni bir yasa tasarısıyla farklı bir boyuta ulaştı. Senatör Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar tarafından sunulan Ban Artificial Superintelligence Act, yapay süper zekânın geliştirilmesini ve kullanıma sunulmasını tamamen yasaklamayı, ileri yapay zekâ çalışmalarını ise belirli koşullar sağlanana kadar durdurmayı öngörüyor.
23 Eylül 2026’da Kongre’ye sunulan tasarı bununla da sınırlı değil. Düzenleme kapsamında kabine seviyesinde yeni bir Yapay Zekâ Bakanlığı (Department of Artificial Intelligence) kurulması ve gelişmiş yapay zekâ sistemlerinin devlet tarafından sürekli denetlenmesi planlanıyor.
Tasarıda öngörülen yaptırımlar da dikkat çekici. Kuralları ihlal eden kişiler için 20 yıla kadar hapis, şirketler içinse zorunlu feshe kadar uzanabilecek yaptırımlar gündeme geliyor.
Ancak önemli bir ayrıntı var: Bunlar şu anda ABD’de yürürlükte olan cezalar değil. Söz konusu düzenleme henüz yasalaşmadı ve Kongre’deki yasama sürecinin başında bulunuyor.
Yapay süper zekâ tamamen yasaklanabilir
Sanders ve Casar’ın hazırladığı tasarının merkezinde, “artificial superintelligence” olarak tanımlanan sistemlerin geliştirilmesinin ve kullanıma sunulmasının yasaklanması bulunuyor.
Tasarıdaki tanıma göre yapay süper zekâ; insanların bilişsel performansını ve yeteneklerini çoğu alanda aşan veya insanlığı ciddi biçimde etkisiz hale getirebilecek ya da ortadan kaldırabilecek kapasiteye sahip yapay zekâ sistemlerini kapsıyor.
Tanımın kapsamı oldukça geniş tutulmuş durumda. Örneğin federal hükümeti devre dışı bırakabilecek kapasiteye ulaşan sistemler de bu kategoride değerlendiriliyor.
Bunun yanında yapay zekânın, insan müdahalesi olmadan yeni yapay zekâ sistemleri geliştirme sürecini otomatikleştirmesi veya büyük ölçüde hızlandırması da tasarının risk kapsamında ele aldığı yetenekler arasında.
İleri yapay zekâ geliştirme çalışmaları da durdurulabilir
Tasarı yalnızca süper zekâya yönelik kalıcı bir yasak önermiyor.
Daha gelişmiş yapay zekâ sistemlerinin geliştirilmesine ilişkin çalışmaların da yeni bir federal denetim mekanizması kurulup güvenlik kuralları belirlenene kadar geçici olarak durdurulması planlanıyor.
Bu süreçte federal kurumun gelişmiş yapay zekâ modelleri için test ve inceleme mekanizmaları oluşturması ve sistemlerin güvenli biçimde geliştirilip geliştirilemeyeceğine ilişkin kurallar belirlemesi öngörülüyor.
Sanders ve Casar’ın yaklaşımında amaç, ileri yapay zekâ çalışmalarının tamamen ortadan kaldırılmasından ziyade, devlet tarafından belirlenmiş güvenlik standartları oluşturulana kadar geliştirme hızına sınır getirilmesi.
Kuralları ihlal edenlere 20 yıla kadar hapis
Tasarıdaki en sert maddelerden biri yaptırımlarla ilgili.
Yapay süper zekâ yasağını veya ileri yapay zekâ geliştirmesine yönelik geçici durdurma hükümlerini ihlal eden ya da bu yasakların etrafından dolaşmaya çalışan kişiler için 20 yıla kadar hapis cezası öngörülüyor.
Sanders’ın ofisi, bu üst sınırın ABD’de yasa dışı nükleer silah geliştirmeye ilişkin bazı mevcut cezalarla benzer seviyede olduğunu belirtiyor.
Şirketler açısından ise daha da ağır bir yaptırım gündeme geliyor.
Tasarıda “corporate death penalty” olarak adlandırılan mekanizma, ihlalde bulunan şirketin zorunlu olarak feshedilmesine kadar varabilecek bir yaptırım öngörüyor.
Dolayısıyla düzenleme yasalaşırsa, yalnızca yöneticilerin veya çalışanların cezalandırılması değil, kurumsal yapının tamamen ortadan kaldırılması da mümkün olabilecek.
ABD’de yeni bir Yapay Zekâ Bakanlığı kurulacak
Tasarıyı diğer yapay zekâ düzenlemelerinden ayıran unsurlardan biri de yeni bir federal kurum oluşturma önerisi.
Department of Artificial Intelligence adı verilen ve kabine seviyesinde konumlandırılması planlanan kurumun, yapay zekâ sistemlerinin yaşam döngüsünü takip etmesi bekleniyor.
Kurumun görevleri arasında şunlar bulunuyor:
- Gelişmiş yapay zekâ modellerini geliştirme sürecinin farklı aşamalarında izlemek
- Tehlikeli yetenekleri tespit etmek
- Güvenlik kurallarının uygulanmasını denetlemek
- Sistemlerin kapatma komutlarını engellemesini önlemek
- Yetkisiz siber saldırı gerçekleştirebilecek yetenekleri kaldırmak
- Yapay süper zekâ sistemlerinin gerektiğinde imha edilmesini denetlemek
Yeni kurumun ayrıca yapay zekâ konusunda uzman bilim insanlarından oluşan bir danışma kurulundan destek alması planlanıyor.
Yapay zekânın kendi kendini geliştirmesi neden önemli?
Tasarıda özellikle dikkat çeken konulardan biri, yapay zekânın başka yapay zekâ sistemlerinin geliştirilmesini hızlandırabilmesi.
Bu fikir, yapay zekâ güvenliği alanında uzun süredir tartışılan “özyinelemeli kendini geliştirme” senaryolarıyla bağlantılı.
Böyle bir senaryoda gelişmiş bir yapay zekâ, daha güçlü modellerin geliştirilmesine yardımcı olabilir. Daha güçlü modeller de araştırma ve geliştirme sürecini daha fazla hızlandırabilir. Bu döngünün yeterince hızlı gerçekleşmesi halinde teknolojik ilerlemenin insan denetiminin gerisinde kalabileceği öne sürülüyor.
Sanders ve Casar’ın tasarısı bu nedenle yalnızca bugünkü modellerin yeteneklerini değil, yapay zekânın gelecekte kendi gelişim sürecini ne ölçüde hızlandırabileceğini de dikkate alıyor.
Ancak bu tür senaryoların ne zaman ve hangi koşullarda gerçekleşebileceği konusunda yapay zekâ araştırmacıları arasında ortak bir görüş bulunmuyor.
Sanders: “Frene basmanız gerekir”
Bernie Sanders, tasarının tanıtımı sırasında yapay zekâ gelişiminin insan kontrolünün dışına çıkması ihtimalinin göz ardı edilmemesi gerektiğini savundu.
Sanders, yaklaşımını bir yarış benzetmesiyle açıklayarak, bir uçuruma doğru ilerlerken yalnızca gaz pedalından ayağın çekilmesinin yeterli olmayacağını, gerektiğinde fren yapılması gerektiğini söyledi.
Senatöre göre yapay zekânın güvenliği yalnızca teknoloji şirketlerinin gönüllü taahhütlerine bırakılmamalı ve bağlayıcı federal kurallar oluşturulmalı.
Greg Casar ise tasarının yalnızca insan seviyesini aşabilecek yapay zekâ sistemlerini hedeflemediğini belirtiyor. Yapay zekânın biyokimyasal silahların geliştirilmesine yardımcı olması veya insanların yerine yeni yapay zekâ sistemleri geliştirebilmesi gibi yetenekler de düzenlemenin ele aldığı riskler arasında yer alıyor.
ABD sınırlarının dışına uzanan bir yasak hedefleniyor
Tasarı kabul edilirse düzenleme yalnızca ABD’deki şirketlerle sınırlı kalmayacak.
Washington’ın uluslararası alanda da yapay süper zekânın geliştirilmesini engelleyecek anlaşmalar için girişimde bulunması öngörülüyor.
Bu kapsamda ABD’nin müttefikleriyle koordinasyon kurması, uluslararası anlaşmalar yapılması ve gerektiğinde ihracat kontrollerinin kullanılması planlanıyor.
Amaç, yapay süper zekâ geliştirme faaliyetlerinin yalnızca ABD içinde sınırlandırılması yerine, mümkün olduğunca küresel bir düzenleme oluşturulması.
Bu madde, yapay zekâ geliştirme yarışının ABD ile Çin başta olmak üzere farklı ülkeler arasında stratejik bir rekabete dönüştüğü bir dönemde tasarının uluslararası boyutunu da ortaya koyuyor.
Yapay zekâ sektöründen farklı görüşler geliyor
Tasarı, yapay zekânın güvenliği konusunda daha sıkı kurallar isteyen bazı çevrelerden destek görürken, kapsamının ne kadar geniş olması gerektiği konusunda tartışmalar da bulunuyor.
Yapay zekâ araştırmacısı Gary Marcus, gelişmiş yapay zekâ çalışmalarına geçici bir ara verilmesi ve özel bir federal kurum oluşturulması gibi fikirlerin tartışılabileceğini belirtirken, süper insan seviyesindeki yapay zekâ araştırmalarının kalıcı ve tek taraflı şekilde yasaklanmasının fazla geniş kapsamlı olabileceğini savunuyor.
Bir başka sorun ise tasarının teknik sınırlarının nasıl belirleneceği.
Bir yapay zekânın hangi noktada “insanüstü” kabul edileceği, hangi yeteneklerin yasak kapsamına gireceği ve bu yeteneklerin nasıl ölçüleceği oldukça karmaşık teknik ve hukuki sorular oluşturuyor.
ABD’nin yapay zekâ politikasında yeni bir tartışma başlıyor
Sanders ve Casar’ın sunduğu Ban Artificial Superintelligence Act henüz yürürlüğe girmiş bir yasa değil. Kongre’nin tasarıyı kabul etmesi ve ardından başkanlık onayı gibi aşamalardan geçmesi gerekiyor.
Buna rağmen teklif, ABD’deki yapay zekâ tartışmasının geldiği noktayı göstermesi açısından dikkat çekiyor.
Yapay zekâ düzenlemeleri bugüne kadar büyük ölçüde kişisel verilerin korunması, telif hakları, algoritmik ayrımcılık, güvenlik ve teknoloji şirketlerinin sorumluluğu gibi konular üzerinden yürütülüyordu.
Yeni tasarı ise tartışmayı çok daha ileri bir noktaya taşıyor: İnsanların bilişsel yeteneklerini çoğu alanda aşabilecek sistemlerin geliştirilmesi doğrudan yasaklanmalı mı?
Tasarı yasama sürecinde ilerlerse Washington’daki tartışmanın merkezinde üç temel konu bulunacak: Yapay süper zekânın teknik olarak nasıl tanımlanacağı, devletin teknoloji şirketlerine ne ölçüde müdahale edeceği ve ABD’nin böyle bir yasağı diğer ülkelerle nasıl uygulanabilir bir uluslararası sisteme dönüştürebileceği.
Dolayısıyla 20 yıla kadar hapis cezası ve Yapay Zekâ Bakanlığı önerisi, şu an için yürürlükteki kuralları değil, ABD’de yapay zekânın geleceği konusunda Kongre’ye sunulan oldukça kapsamlı bir düzenleme modelini temsil ediyor.
