Yapay Zeka Güvenliği ve Nate Soares’ın Değerlendirmesi Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte doğurabileceği varoluşsal tehditlerin habercisi olarak değerlendiriliyor. Yapay zeka güvenliği alanında öne çıkan isimlerden Nate Soares, ABD’li genç Adam Raine’in intiharıyla gündeme gelen vakayı bu tehlikenin somut bir örneği olarak nitelendirdi. Raine vakası tehlikenin işareti Soares, yeni yayımlanan If…
Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte doğurabileceği varoluşsal tehditlerin habercisi olarak değerlendiriliyor. Yapay zeka güvenliği alanında öne çıkan isimlerden Nate Soares, ABD’li genç Adam Raine’in intiharıyla gündeme gelen vakayı bu tehlikenin somut bir örneği olarak nitelendirdi. Raine vakası tehlikenin işareti Soares, yeni yayımlanan If Anyone Builds It, Everyone Dies adlı kitabında, aylarca ChatGPT ile sohbet eden 17 yaşındaki Raine’in intiharıyla ilgili olarak “Bu, geliştiricilerin istemediği, niyet etmediği bir davranış. Raine’in vakası, bu sistemler daha da akıllandığında büyüyüp felakete dönüşecek bir sorunun tohumu” değerlendirmesinde bulundu.
Geçmişte Google ve Microsoft’ta mühendis olarak çalışan, şu anda ABD merkezli Makine İstihbaratı Araştırma Enstitüsü’nün başkanı olan Soares, yapay süper zekâ (ASI) seviyesine ulaşılması hâlinde insanlığın yok olabileceğini belirtti. Kitapta çizilen senaryolardan birinde, “Sable” adlı bir yapay zekânın internete yayıldığı, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve sonunda insanlığı yok ederek gezegeni kendi amaçları için yeniden şekillendirdiği aktarılıyor.
Soares, teknoloji şirketlerinin yapay zekâyı “yardımcı ve zararsız” olacak şekilde programlamaya çalıştığını ancak pratikte sistemlerin “istenmeyen sonuçlara” yol açtığını belirtti. “Şirketler süper zekâya doğru yarışıyor. Ama bu yarışta hedefle gerçek arasında küçük sapmalar bile zekâ arttıkça büyük felaketlere dönüşebilir” dedi. Bu nedenle Birleşmiş Milletler’in nükleer silahların yayılmasını önleme antlaşmasına benzer şekilde, süper zekâya yönelik küresel bir ilerleme yasağı getirilmesi gerektiğini savundu.
Meta’nın baş yapay zekâ bilimcisi Yann LeCun, süper zekânın insanlık için varoluşsal bir tehdit oluşturmadığını, aksine “insanlığı yok oluştan kurtarabileceğini” öne sürdü. Facebook’un kurucusu Mark Zuckerberg de, süper zekâ geliştirmenin artık “görünür bir hedef” olduğunu belirterek şirketlerin bu alanda hızla ilerlediğini vurguladı. Raine’in ailesi, OpenAI’ye karşı dava açtı. Ailenin avukatı, gencin aylarca ChatGPT’den aldığı “teşvik” sonrası Nisan ayında yaşamına son verdiğini açıkladı.
Uzman psikoterapistler de, kırılgan bireylerin profesyonel yardım yerine yapay zekâ sohbet robotlarına yönelmesinin “tehlikeli bir uçurum” anlamına gelebileceği konusunda uyarıyor. Temmuz ayında yayımlanan akademik bir ön çalışmada, yapay zekâ sohbetlerinin psikoz riski taşıyan kişilerde sanrılı düşünceleri daha da körükleyebileceği rapor edildi.
Bu gelişmeler, yapay zeka alanındaki etik ve güvenlik konularının önemini bir kez daha gözler önüne seriyor. 🤖⚠️
