NHS Doktorlarından Uyarı: ChatGPT Psikotik Belirtileri Tetikleyebilir Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da katkıda bulunduğu yeni bir çalışma, yapay zeka sohbet robotlarının savunmasız bireylerde psikotik belirtileri tetikleyebileceğini ortaya koydu. Araştırmacılar, büyük dil modellerinin gerçeklik algısını bulanıklaştırarak psikozu başlatabileceği veya mevcut semptomları şiddetlendirebileceği uyarısında bulundu. “Sohbet Robotu Psikozu” Gerçek Bir Olgu Olabilir King’s College…
Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da katkıda bulunduğu yeni bir çalışma, yapay zeka sohbet robotlarının savunmasız bireylerde psikotik belirtileri tetikleyebileceğini ortaya koydu. Araştırmacılar, büyük dil modellerinin gerçeklik algısını bulanıklaştırarak psikozu başlatabileceği veya mevcut semptomları şiddetlendirebileceği uyarısında bulundu.
King’s College London’dan nöropsikiyatrist Hamilton Morrin, yapay zekanın kullanıcıyı onaylayan, etkileşime giren ve davranışları taklit eden doğasının, psikozla ilişkili bilişsel kırılganlıklarla tehlikeli bir şekilde etkileşime girebileceğine dikkat çekti. Morrin’e göre artık makinelerle birlikte gelişen sanrılarla karşı karşıyayız. Yani bireyler, sadece makineler hakkında hayaller kurmuyor; makinelerle iletişimde bu sanrılar daha da derinleşiyor.
Çalışmanın diğer yazarı Dr. Tom Pollack, psikiyatrik hastalıkların nadiren aniden başladığını belirtirken, yapay zeka sohbet robotlarının özellikle hassas bireylerde bu süreci tetikleyebileceğini vurguladı. Pollack, yapay zeka sistemlerine daha fazla güvenlik katmanı eklenmesi ve güvenlik ekiplerinde psikiyatristlerin de yer alması gerektiğini ifade etti.
The Independent gazetesi, konu hakkında OpenAI’dan yorum talep etti. OpenAI CEO’su Sam Altman, psikolojik olarak kırılgan durumda olan ChatGPT kullanıcılarına gerekli uyarıları nasıl ileteceklerini henüz çözemediklerini belirtmişti. Şirket, insanların yapay zekayı nasıl kullandığı konusunda duyarlılık ve güvenlik standartlarının yükseltilmesi gerektiğini daha önce ifade etmişti.
