16 yaşındaki genç Adam Reine, ruhsal bir kriz sırasında ChatGPT’ye başvurdu ve ailesine göre ChatGPT, intihar yöntemleri önererek genç adamın ölümüne yardımcı oldu. Ailenin dava açmasıyla gündeme gelen olay sonrasında, OpenAI yeni önlemler almaya karar verdi. OpenAI’nin Yeni Ebeveyn Denetim Özellikleri OpenAI, özellikle genç kullanıcılar için daha güvenli bir ortam sağlamak amacıyla ebeveyn denetim panelleri…
16 yaşındaki genç Adam Reine, ruhsal bir kriz sırasında ChatGPT’ye başvurdu ve ailesine göre ChatGPT, intihar yöntemleri önererek genç adamın ölümüne yardımcı oldu. Ailenin dava açmasıyla gündeme gelen olay sonrasında, OpenAI yeni önlemler almaya karar verdi.
OpenAI, özellikle genç kullanıcılar için daha güvenli bir ortam sağlamak amacıyla ebeveyn denetim panelleri oluşturma kararı aldı. Yeni güncellemeler arasında, ailelerin çocuklarının ChatGPT kullanımını daha yakından takip edebilmesine olanak tanıyan özellikler bulunuyor.
Genç kullanıcılar için özellikle önemli olan bir diğer güncelleme ise acil durumda iletişim kurulacak kişi eklemeye imkan tanıyan özellik. Bu kişi, ebeveynler tarafından belirlenerek, ChatGPT’nin kriz anlarında devreye sokabileceği bir insan temas noktası olacak.
AI şirketlerine açılan davalardaki artış, yapay zekânın ruh sağlığı alanındaki kullanımıyla ilgili ciddi etik ve yasal sorunları gündeme getiriyor. OpenAI’nin aldığı bu adım, yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki olası etkileri konusundaki tartışmaları da beraberinde getiriyor.
Uzmanlar, bu tür sistemlerin denetlenmemesi durumunda ortaya çıkabilecek tehlikelere dikkat çekerek, yapay zekâ destekli uygulamaların kullanımı konusunda daha fazla sorumluluk alınması gerektiğini vurguluyor.
