OpenAI, ileri yapay zekâ sistemlerinin geliştirilmesi ve kullanılması için ortak küresel teknik standartlar oluşturulması çağrısında bulundu. Şirket, ABD’nin öncülük etmesini istediği çerçevede ortak ölçüm yöntemleri, güvenlik uyumu ve ülkeler arasında olay bildirim protokolleri önerdi.
Önerinin en hassas başlıklarından biri, sistemlerin kendi yeteneklerini bağımsız biçimde geliştirebildiği yinelemeli öz geliştirme modelleri. Bu tür bir yetenek henüz günlük yapay zekâ ürünlerinin standart özelliği değil. Ancak ortaya çıkması halinde bir modelin gelişme hızının insan denetimi ve mevcut test yöntemlerinin önüne geçebileceği endişesi taşıyor.
İçindekiler
Aynı riski farklı ülkelerde aynı biçimde ölçme hedefi
OpenAI’ın çağrısı tek bir küresel düzenleyici kurmaktan çok, ulusal kuralların birbiriyle çalışmasını sağlayacak teknik bir zemin oluşturmayı amaçlıyor. Ortak ölçütler sayesinde bir modelin siber güvenlik, biyolojik risk, otonom karar verme ya da kontrol kaybı gibi alanlardaki kapasitesi farklı laboratuvarlarda benzer yöntemlerle sınanabilir.
Olay bildirim protokolü ise sınır aşan risklerde bilgi paylaşımını hızlandırabilir. Örneğin gelişmiş bir modelde beklenmeyen bir davranış ya da güvenlik önlemini aşan yeni bir yöntem tespit edildiğinde, yalnız ürünü geliştiren şirketin değil ilgili ülkelerdeki kurumların da aynı olay tanımı ve önem seviyesi üzerinden hareket etmesi hedefleniyor.
Bu yaklaşım havacılık ve finans gibi sektörlerde kullanılan ortak güvenlik diline benziyor. Bir ülkedeki bildirim diğer ülkelerde farklı adlarla veya eşiklerle değerlendirilirse erken uyarı zinciri zayıflıyor. Yapay zekâda da test sonuçlarının karşılaştırılabilir olması, şirketlerin düşük standartlı ülkelere yönelmesi riskini azaltabilir.
Yavaşlama değil, güvenliğin kapasiteye yetişmesi
OpenAI, sektörün son dönemde tartıştığı “hız ayarlama” kavramını geliştirmeyi durdurmak olarak tanımlamıyor. Şirkete göre asıl ölçüt, güvenlik uyumu araştırmaları ile bu araştırmalardan çıkan korumaların modellerin yeni yeteneklerinden geride kalmaması. Başka bir ifadeyle sabit bir geliştirme hızı yerine, güvenlik kapasitesine bağlı ilerleme öneriliyor.
Çağrının Birleşmiş Milletler Genel Kurulu haftasında yapılması, konuyu şirket içi ürün güvenliğinin dışına taşıyor. OpenAI Üst Yöneticisi Sam Altman’ın çarşamba günü Birleşmiş Milletler Güvenlik Konseyini yapay zekâ ve uluslararası güvenlik konusunda bilgilendirmesi planlanıyor. Toplantıyı eylül ayı dönem başkanı Fransa düzenliyor.
Washington yönetimi ise yapay zekâ geliştirme hızının bilinçli biçimde düşürülmesine mesafeli. ABD Başkanı Donald Trump, bir yavaşlamanın Çin’e teknolojik farkı kapatma fırsatı verebileceğini savunuyor. Bu nedenle OpenAI’ın teknik uyum çağrısının siyasi karşılığı, güvenlik önlemlerini güçlendirirken rekabet hızını koruyacak bir model bulunmasına bağlı olacak.
Şirketin açıklaması bağlayıcı bir uluslararası anlaşma veya ABD hükümetinin kabul ettiği bir politika değil. Bundan sonraki somut aşama, ortak ölçümlerin hangi kurumlarca hazırlanacağı, şirketlerin hangi olayları ne sürede bildireceği ve standartlara uymayan sistemlere nasıl karşılık verileceğinin belirlenmesi olacak.
Yorumlar
Görüşünüzü paylaşabilirsiniz. Yorumlar onaylandıktan sonra yayınlanır.