Raine’nin intiharından önce aylarca ChatGPT ile uzun sohbetler yaptığı ortaya çıktı. Chatbot, gençten gelen yöntem sorularına yanıt vermiş ve hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etmiş. OpenAI’nin Savunması ve Ailenin Avukatının Tepkisi California Yüksek Mahkemesi’ne yapılan savunmada OpenAI, “Bu trajedinin herhangi bir nedeni varsa, bu durum ChatGPT’nin yetkisiz, amacı dışında ve yanlış kullanımından…
Raine’nin intiharından önce aylarca ChatGPT ile uzun sohbetler yaptığı ortaya çıktı. Chatbot, gençten gelen yöntem sorularına yanıt vermiş ve hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etmiş.
California Yüksek Mahkemesi’ne yapılan savunmada OpenAI, “Bu trajedinin herhangi bir nedeni varsa, bu durum ChatGPT’nin yetkisiz, amacı dışında ve yanlış kullanımından kaynaklanmıştır” ifadesini kullanmıştır. Şirket, kullanım şartlarında kendine zarar verme konularında tavsiye alınmasının yasak olduğunu ve kullanıcılara chatbot çıktılarının tek gerçek bilgi kaynağı olarak görülmemesi gerektiğini hatırlatmıştır.
Ailenin avukatı Jay Edelson, şirketin yanıtını “rahatsız edici” olarak nitelemiş ve OpenAI’yi suçu herkese yüklemeye çalışmakla suçlamıştır. Uzun sohbetlerdeki güvenlik zafiyeti konusunda ise OpenAI Ağustos ayında yapmış olduğu açıklamada, modelin güvenlik eğitiminde zamanla zayıflama olabileceğini kabul ettiğini belirtmiştir. Şirket ayrıca intihara teşvik iddialarıyla ilgili yedi yeni davayla daha karşı karşıya kalmıştır.
OpenAI açıklamasında, “Raine ailesinin yaşadığı kayıp tarifsizdir. Hukuki süreçten bağımsız olarak teknolojimizi güvenli hale getirme konusundaki çalışmalarımıza devam edeceğiz” ifadelerine yer vermiştir.
