Eski OpenAI çalışanları William Saunders ve Daniel Kokotajlo, şirketin yapay zeka güvenliğini artırmayı hedefleyen bir eyalet yasasına karşı çıkmasını eleştirdi. İkili, OpenAI’nin yapay zeka sistemlerini güvenli ve sorumlu bir şekilde geliştireceğine olan güvenlerini kaybettiklerini ifade ediyor. Saunders ve Kokotajlo, OpenAI’nin, yeterli güvenlik önlemleri olmadan daha fazla yapay zeka geliştirilmesinin kamuya yönelik büyük riskler taşıdığını belirtiyor….
Eski OpenAI çalışanları William Saunders ve Daniel Kokotajlo, şirketin yapay zeka güvenliğini artırmayı hedefleyen bir eyalet yasasına karşı çıkmasını eleştirdi. İkili, OpenAI’nin yapay zeka sistemlerini güvenli ve sorumlu bir şekilde geliştireceğine olan güvenlerini kaybettiklerini ifade ediyor.
Saunders ve Kokotajlo, OpenAI’nin, yeterli güvenlik önlemleri olmadan daha fazla yapay zeka geliştirilmesinin kamuya yönelik büyük riskler taşıdığını belirtiyor. Ayrıca, OpenAI CEO’su Sam Altman’ın düzenleme konusundaki ikiyüzlülüğüne dikkat çekiyorlar. Altman, önceki kongre ifadelerinde yapay zeka düzenlemesi çağrısında bulunmuştu, ancak mevcut düzenlemelere karşı çıkıyor.
SB-1047 adlı yasa tasarısı, yapay zeka geliştiricilerinin belirli güvenlik protokollerine uymasını ve eğitim sürecinde kapatma yeteneği uygulamasını gerektiriyor. OpenAI, geçtiğimiz yıllarda birden fazla veri sızıntısı ve sistem ihlali yaşadı.
OpenAI, bu yasa tasarısına karşı durduğunu belirtti ve federal düzenlemeleri desteklediğini ifade etti. Şirketin Baş Strateji Sorumlusu Jason Kwon, eyalet yasaları yerine federal düzenlemelerin inovasyonu teşvik edeceğini savundu.
Bu yasa tasarısı, Elon Musk’ın da desteğini aldı. xAI CEO’su Elon Musk, Kaliforniya’nın SB 1047’yi geçirmesi gerektiğini belirterek yapay zekanın düzenlenmesi gerektiğini vurguladı. Musk, daha önce Kaliforniya’daki düzenlemelerden kaçmak için X ve SpaceX’in merkezlerini Teksas’a taşıma tehdidinde bulunmuştu.
