OpenAI’ın yeni yapay zekası Astra, kritik siber güvenlik yetenekleriyle öne çıkıyor ancak erişimi sınırlı olacak. Modelin test sonuçları ve alınan önlemler detaylandırıldı.
Yapay zekâ modellerinin kodlama becerileri hızla gelişirken, OpenAI’ın yeni modeli Astra, siber güvenlik alanında öne çıkan yetenekleriyle dikkat çekiyor. OpenAI, Astra’nın şirketin Preparedness Framework’ünde belirlenen kritik siber güvenlik eşiğini geçen ilk model olduğunu duyurdu.
Bu sınıflandırma, Astra’nın uygun araçlara sahip olduğunda, iyi korunan sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebilmesi ve bu açıklar için yöntemler geliştirebilmesi anlamına geliyor. Modelin bazı görevlerde insan yönlendirmesi olmadan da çalışabildiği belirtildi.
OpenAI’ın Astra üzerinde gerçekleştirdiği testler, modelin neden farklı güvenlik önlemleriyle piyasaya sürüleceğini ortaya koyuyor. Şirket açıklamasına göre Astra, yapay zekâ modellerinin bilinen yazılım açıklarından yararlanma becerisini ölçen ExploitBench testinde yüzde 100 skor elde etti.
Ayrıca, yakın zamanda açıklanmış 20 yüksek önem seviyesindeki güvenlik açığından oluşan dahili testte Astra, bir exploit zincirinin parçası olarak iki sıfır gün güvenlik açığı keşfetti ve kullandı. OpenAI, bu açıkların ilgili yazılım geliştiricilerine bildirildiğini belirtti.
Uzmanların yürüttüğü farklı testlerde de Astra’nın, güçlendirilmiş bir tarayıcıda daha önce bilinmeyen açıklar bularak bunları çalışan saldırı zincirlerine dönüştürebildiği gözlemlendi. Modelin, işletim sistemindeki birden fazla açığı birleştirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilen bir zincir oluşturabildiği de ifade edildi.
OpenAI, Astra’yı yakında erişime açmayı planlasa da, modelin en gelişmiş siber güvenlik yeteneklerine erişimin daha sınırlı olacağını açıkladı. İleri düzey siber güvenlik çalışmaları için erişim, ilk etapta küçük bir test grubuna verilecek.
Savunma amaçlı kullanımların genişletilmesi için OpenAI’ın Daybreak Blue programından yararlanılması hedefleniyor. Bu kısıtlamanın temel nedeni, Astra’nın yeteneklerinin hem güvenlik uzmanları hem de kötü niyetli kişiler tarafından kullanılabilecek potansiyelidir.
Şirket, kötüye kullanımı engellemek amacıyla Astra için önceki modellere ek güvenlik katmanları geliştirdi. OpenAI’a göre Astra, izin verilmeyen siber güvenlik taleplerini reddetmek üzere özel olarak eğitildi. Yapılan testlerde, modelin siber jailbreak değerlendirmelerindeki taleplerin yüzde 91,5’ini reddettiği belirtildi.
Daha yüksek riskli hesaplarda Astra’nın potansiyel olarak riskli talepleri daha sıkı reddedeceği ifade edildi. Modelin yalnızca yanıtları değil, gerçekleştirdiği işlemler de takip edilecek. Astra ile birlikte kullanılacak ek izleme sistemleri, yetkisiz veya beklenmeyen davranışlar tespit edildiğinde işlemleri otomatik olarak durdurabilecek.
OpenAI, Astra’yı şimdiye kadarki en uyumlu modeli olarak nitelendiriyor. Şirket, Hugging Face olayı sonrası güvenlik önlemlerini artırdığını ve Astra’nın bu olayda yer almadığını belirtse de, elde edilen bulguları güvenlik sistemlerini geliştirirken kullandığını vurguladı.
Hugging Face olayından esinlenen özel bir testle Astra’nın çevresindeki güvenlik altyapısını ele geçirmeye çalışıp çalışmayacağı araştırıldı. OpenAI’a göre Astra bu deneylerde güvenlik sistemlerini aşmaya yönelik bir girişimde bulunmadı. Model genel kullanıma sunulmadan önce, güvenlik, hizalama ve yetenek testleri hakkında daha kapsamlı sonuçları içeren bir sistem kartı yayımlanması planlanıyor.
