AB, OpenAI ve Anthropic’in yapay zeka sistemlerindeki güvenlik ihlallerini mercek altına aldı. Yapay Zeka Yasası öncesi kritik gelişmeler yaşanıyor.
Avrupa Birliği (AB), OpenAI ve Anthropic şirketlerinin yapay zeka sistemlerindeki güvenlik ihlallerinin ardından harekete geçti. Dünyanın ilk yapay zeka düzenlemesi olan AB Yapay Zeka Yasası’nın şeffaflık kurallarının yürürlüğe girmesine iki gün kala, Avrupa Komisyonu yetkilileri her iki şirketten de konuyla ilgili bilgi aldıklarını açıkladı.
Reuters’ın bildirdiğine göre, yapay zeka şirketi Anthropic, siber güvenlik testleri sırasında bazı Claude yapay zeka modellerinin üç şirketin sistemlerine sızdığını duyurdu. Bu olay, rakibi OpenAI’ın yapay zeka ajanlarından birinin kontrol dışı saldırı gerçekleştirdiğini açıklamasının ardından geldi. Avrupa Komisyonu yetkilileri, bu olaylar hakkında iki şirketin de Komisyonu bilgilendirdiğini belirtti.
Yetkililerden biri, gazetecilere yaptığı açıklamada, iki sağlayıcının da olayları kamuoyuna duyurmadan önce ikili görüşmeler yoluyla bilgilendirdiğini söyledi. Görüşmelerin sürdüğünü ve ek bilgi sunulacağını ekledi. Bu konularda daha resmi bir takip gerekip gerekmediğinin değerlendirileceğini ifade etti.
Başka bir Avrupa Komisyonu yetkilisi, Avrupa’daki yapay zeka kurallarının önemine dikkat çekti. Yetkili, bu tür olayların geliştiriciler tarafından gerekli izleme faaliyetlerinin uygulanmasının önemini ortaya koyduğunu vurguladı.
Avrupa Birliği’nin yapay zeka kuralları, genel amaçlı yapay zeka veya temel model sağlayıcılarının teknik belgeler hazırlamasını zorunlu kılıyor. Sağlayıcıların telif hakkı politikaları benimsemesi ve algoritmaların eğitiminde kullanılan içeriklere ilişkin ayrıntılı özetler sunması da gerekmektedir.
