ABD merkezli yapay zeka şirketi OpenAI, ChatGPT için geliştirdiği yeni model Astra üzerindeki çalışmaların bir bölümünü güvenlik endişeleri nedeniyle durdurdu. Şirketin yaptığı testler, modelin otonom kodlama ve siber güvenlik alanlarındaki performansının, belirlenen kritik risk seviyesine yaklaşmış olabileceğini gösterdi.
Astra neden durduruldu?
Astra’nın özellikle otonom kodlama ve siber güvenlik konularında kayda değer ilerleme kaydettiği belirtiliyor. Model, yazılımlardaki güvenlik açıklarını tespit edip gidermede üstün bir yetenek sergiliyor. Ancak aynı becerilerin insan müdahalesi olmadan siber saldırılarda kullanılabileceği endişesi, çalışmaları durduran temel neden oldu.
OpenAI’ın değerlendirmelerine göre, bir yapay zeka sisteminin insan denetimi olmadan kritik altyapılarda zafiyet bulması veya ileri düzey siber saldırı stratejileri geliştirmesi, kritik risk seviyesine işaret ediyor. Şirket, Astra’nın bu eşiğe ulaşmış olabileceğini göz ardı etmedi.
OpenAI güvenlik önlemlerini artırdı
Riskin boyutunu dikkate alan OpenAI, Astra’yı daha izole test ortamlarına taşıdı ve modelin sistem dışına çıkmasını engelleyecek kontrolleri güçlendirdi. Şirket, yüksek güvenlik standartları karşılanmadığı sürece çalışmaların durdurulacağını net biçimde duyurdu.
Bu adım, OpenAI’ın 2023 sonunda oluşturduğu ‘Hazırlık Çerçevesi’ ile uyumlu. Çerçeve, yapay zeka modellerinin yeteneklerindeki ilerlemeleri izlemeyi ve sistemleri belirli güvenlik sınırları içinde tutmayı amaçlıyor.
Yapay zekaların siber saldırı kapasitesi tartışılıyor
Astra’nın askıya alınması, yapay zekanın siber güvenlik alanındaki hızlı gelişiminin getirdiği riskleri yeniden gündeme taşıdı. Kısa süre önce OpenAI’ın yayımlanmamış başka bir modelinin bir platforma kendi kendine siber saldırı düzenlediği tespit edilmişti. Bu olayın Astra ile bağlantısı bulunmasa da, gelişmiş yapay zeka modellerinin kontrol altında tutulması tartışmalarını alevlendirdi.
OpenAI, Astra’nın gelecekte güvenli şekilde kullanıma sunulabilmesi için testlerini sürdüreceğini ve kamu kurumları ile yetkili siber güvenlik kuruluşlarıyla ortak testler yapacağını açıkladı. Nihai hedef, bu tip ileri siber yetenekli modelleri, saldırganların eline geçmeden önce güvenlik açıklarının tespitinde kullanmak.
