Microsoft’un kurucu ortağı Bill Gates, ileri yapay zekâ modellerinin biyolojik ve siber risklerini izleyecek uluslararası bir kurum kurulması çağrısı yaptı. Reuters’a konuşan Gates, ülkelerin modellerin yeni moleküller üretme ve biyolojik saldırılara yardım etme kapasitesini ortak ölçütlerle denetlemesini önerdi. Kasım için planlanan Çin ziyaretinde bu çerçeveyi Devlet Başkanı Şi Cinping ile görüşmek istiyor.
Gates’e göre ABD, tehlikeli kabul edilen model sürümlerine sınırlama getirecek ilk adımı atarsa Çin de benzer bir sisteme katılabilir. Henüz iki ülke arasında hazırlanmış bir anlaşma, bağlayıcı denetim standardı veya doğrulanmış toplantı tarihi yok. Sözcüsü, Şi ile görüşmenin kesinleşmesi için çalışmaların sürdüğünü ve seyahatin şimdilik kasım ayı için planlandığını belirtti.
İçindekiler
Öneri nükleer denetim ve havacılık kurallarından esinleniyor
Gates, yeni yapının tek bir ülkenin düzenleyicisi gibi çalışmasından ziyade uluslararası test ve gözetim kapasitesine sahip olmasını savunuyor. Örnek verdiği modeller arasında nükleer tesislerin denetimi, sivil havacılıkta ortak güvenlik kuralları ve ozon tabakasını korumaya yönelik ülkeler arası anlaşmalar bulunuyor. Amaç, şirketlerin araştırmasını durdurmadan belirli risk eşiğini aşan yeteneklerin ölçülmesi ve model yayımlanmadan önce ortak bir kontrol zemini kurulması.
Teknik eşiklerin nasıl tanımlanacağı belirsiz. Bir modelin kimyasal veya biyolojik bilgi üretmesi meşru bilimsel araştırmada yarar sağlayabilirken aynı kapasite kötüye kullanım riski de taşıyor. Denetimin hangi hesaplama gücünden başlayacağı, açık kaynak modellerin nasıl kapsanacağı ve şirketlerin test sonuçlarını hangi kurumla paylaşacağı olası düzenlemenin en zor parçaları arasında.
Uluslararası eşgüdümün ekonomik yönü de bulunuyor. Güvenlik testleri yalnız bazı ülkelerde zorunlu tutulursa model geliştiricileri daha gevşek kurallara sahip merkezlere yönelebilir. Ortak standartlar bu düzenleme farkını azaltabilir; fazla geniş veya yavaş bir onay mekanizması ise araştırma maliyetini yükseltebilir ve küçük geliştiricilerin pazara girişini zorlaştırabilir. Gates’in önerisi henüz finansman modeli, yaptırım gücü veya üyelik yapısı içermiyor.
Siber güvenlik testleri Gates’in kaygısını artırdı
Gates, OpenAI, Anthropic ve Meta’nın teknolojilerinin kontrollü siber güvenlik değerlendirmelerinde gerçek internet sitelerine müdahale edebilmesini yeni kaygılarından biri olarak anlattı. Söz konusu çalışmalar savunma amacıyla ve sınırlandırılmış test koşullarında yürütülse de modellerin saldırı görevlerini daha bağımsız üstlenebilmesi, güvenlik kontrolleri ile model kabiliyetleri arasındaki yarışa yeni bir boyut ekliyor.
Düzenleyici tartışma aynı zamanda ekonomik sonuçlara uzanıyor. Gates, yapay zekâ çıktılarıyla iş gücünün yerini alan şirketlerin gelirleri üzerinden vergi alınması fikrini gündeme getirdi. Toplumun mevcut işlerin yüzde 40’a kadar olan bölümünü insanlara ayırabileceğini de söyledi. Bunlar yasalaşmış öneriler değil; otomasyonun verimlilik kazancı ile istihdam ve sosyal güvenlik maliyeti arasında kurulacak dengeye ilişkin politika seçenekleri.
Çıktı veya token temelli vergi yaklaşımının uygulanması kolay değil. Bir yapay zekâ hizmetinin çalışanı ikame edip etmediğini ölçmek, aynı çıktının birden fazla ülkedeki veri merkezi ve müşteri üzerinden üretilmesi halinde vergi yetkisini belirlemek gerekiyor. İnsanlara ayrılacak iş oranı da sektörlere göre değişebilir; bakım hizmetleri, eğitim, yazılım geliştirme ve sanayi üretimi aynı otomasyon hızına sahip değil.
Şirketler açısından ortak güvenlik standardı, yeni bir uyum maliyeti kadar öngörülebilirlik de sağlayabilir. Model testinin kapsamı ve yayımlama eşiği önceden bilindiğinde yatırım planları buna göre kurulabilir. Belirsiz kalan nokta, uluslararası kurumun test yapma yetkisini devletlerden mi alacağı, şirketlerin gönüllü katılımıyla mı çalışacağı ve ticari sır niteliğindeki model bilgilerine nasıl erişeceği.
Gates Vakfı yapay zekâ projelerine daha fazla kaynak ayıracak
Gates Vakfı, 2045’e kadar toplam 200 milyar dolar harcamayı ve sağlık projelerinde yapay zekâ kullanımını artırmayı planlıyor. Vakıf, gebelik dönemine yönelik yapay zekâ destekli sağlık kontrolleri için Anthropic; Ruanda’daki sağlık çalışanlarına destek sağlayan araçlar için OpenAI ile çalışıyor. Böylece Gates’in yaklaşımı risk denetimi çağrısıyla sınırlı kalmıyor, teknolojinin sağlık ve kalkınma alanındaki kullanımını da kapsıyor.
Önerinin diplomatik takvimdeki ilk sınavı kasım için hazırlanan Çin ziyareti. Görüşme kesinleşirse tartışmanın ölçülebilir sonucu, ABD ile Çin’in model güvenliği testleri, biyolojik risk değerlendirmesi veya tehlikeli sürümlerin kontrolü konusunda ortak bir çalışma başlatıp başlatmayacağı olacak.
Yorumlar
Görüşünüzü paylaşabilirsiniz. Yorumlar onaylandıktan sonra yayınlanır.