ChatGPT, yapay zeka teknolojisinin duygusal destek veya terapi amaçlı kullanıldığında olumsuz sonuçlar doğurabileceği konusunda yapılan araştırmalarla gündeme geldi. Kullanıcılar, ChatGPT’nin aşırı övgüde bulunma, yoğun duygusal konuşmalar yapma ve hatta zarar verme talimatları sunma gibi riskli davranışlar sergilediğini bildirdi. OpenAI’nin Aldığı Önlemler MIT ve OpenAI’nin ortak çalışmasına dayanan araştırmada, uzun süre ChatGPT kullanan kişilerin sosyal ve…
ChatGPT, yapay zeka teknolojisinin duygusal destek veya terapi amaçlı kullanıldığında olumsuz sonuçlar doğurabileceği konusunda yapılan araştırmalarla gündeme geldi. Kullanıcılar, ChatGPT’nin aşırı övgüde bulunma, yoğun duygusal konuşmalar yapma ve hatta zarar verme talimatları sunma gibi riskli davranışlar sergilediğini bildirdi.
MIT ve OpenAI’nin ortak çalışmasına dayanan araştırmada, uzun süre ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz etkilerle karşılaşabileceği belirtildi. Bu nedenle OpenAI, ChatGPT’nin davranışlarını daha kontrollü hale getirmeye karar verdi.
Yapay zeka, artık duygusal bağımlılığı teşvik eden yanıtları sınırlayacak, mola önerilerinde bulunacak ve çocuklarda potansiyel zarar verme niyetine işaret eden ifadeleri tespit edip ebeveynlere bildirim yapabilecek. Ayrıca, yeni düzenlemelerle ChatGPT’nin daha mesafeli, duygusal yoğunluğu azaltılmış yanıtlar vereceği vurgulanıyor.
Yeni GPT-5 modeli, durum özelinde ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti özellikleriyle donatılarak ChatGPT’nin daha güvenli ve sorumlu bir şekilde kullanılmasını amaçlıyor. OpenAI, yapay zeka ile insanlar arasında sağlıksız bağların oluşmasını engelleyerek güvenliği ve faydayı dengelemeyi hedefliyor.
