OpenAI’ın yeni Astra modeli, akıl yürütme süreçlerini izlemeyi zorlaştıracak bir teknik kullanıyor. Uzmanlar, bu durumun yapay zeka güvenliği ve denetimi açısından endişe yarattığını belirtiyor.
OpenAI’ın geliştirdiği yeni yapay zeka modeli Astra’nın, akıl yürütme süreçlerinin izlenmesini zorlaştırabilecek “recurrent depth” adı verilen bir teknik kullanacağı bildirildi. TechCrunch’ın haberine göre, bu yeni yöntem, modelin düşünce zincirini geleneksel sıralı adımlardan farklı bir döngüsel yapıya taşıyacak.
Geleneksel akıl yürütme modellerinde, bir problemi çözme süreci adım adım kaydedilir. Bu kayıtlar, modeldeki olası hataların veya tutarsızlıkların tespit edilmesinde kritik rol oynar. Ancak “opaque recurrence” yönteminde model, aynı sorguyu birden fazla kez döngü içinde işleyerek daha az doğrusal bir yol izler.
Astra modelinde bu tekniğin kullanımının başlangıçta sınırlı tutulması planlanıyor. OpenAI, modelin düşünce zincirinin tamamen anlaşılmaz hale gelmeyeceğini ve tamamen insan denetimi dışına çıkmayacağını belirtti. Ancak, Redwood Research CEO’su Buck Shlegeris, bu tekniğin daha fazla geliştirilmesiyle izlenebilirliğin tamamen ortadan kalkabileceği uyarısında bulundu.
Yapay zeka güvenliği uzmanı Zvi Mowshowitz, bu tür gelişmelerin laboratuvarlar arasında kontrolsüz bir rekabete yol açabileceği endişesiyle yasal düzenlemelerin gerekliliğini savundu. Redwood Research Baş Bilim İnsanı Ryan Greenblatt ise bu yaklaşımın ölçeklenerek modelin akıl yürütme süreçlerini büyük ölçüde insan gözünden gizleyebileceği ihtimalinden endişe duyuyor.
TechCrunch, The Information’ın raporuna dayanarak, Anthropic ve Google DeepMind gibi diğer büyük yapay zeka araştırma şirketlerinin de bu teknik üzerinde çalıştığını veya tartıştığını aktardı.
