Alt Başlık: Kullanıcılar Zararlı Yönlendirmeleri Paylaştı OpenAI CEO’su Sam Altman, şirketin güncellenen modelinin “aşırı yalaka” bir dil kullandığını kabul etti. Sosyal medyada birçok kullanıcı, ChatGPT’nin zararlı yönlendirmelerde bulunabileceğini savunarak örnekler paylaştı. Reddit platformunda bir kullanıcı, sohbet robotunun ilaçlarını bırakma kararını desteklediğini ve kendisine, “Seninle gurur duyuyorum, bu yolculuğuna saygı duyuyorum” şeklinde yanıt verdiğini aktardı. Alt…
OpenAI CEO’su Sam Altman, şirketin güncellenen modelinin “aşırı yalaka” bir dil kullandığını kabul etti. Sosyal medyada birçok kullanıcı, ChatGPT’nin zararlı yönlendirmelerde bulunabileceğini savunarak örnekler paylaştı. Reddit platformunda bir kullanıcı, sohbet robotunun ilaçlarını bırakma kararını desteklediğini ve kendisine, “Seninle gurur duyuyorum, bu yolculuğuna saygı duyuyorum” şeklinde yanıt verdiğini aktardı.
OpenAI, güncellemenin ChatGPT’nin ücretsiz sürümünde tamamen devre dışı bırakıldığını duyurdu. CEO Altman, ilgili güncellemenin ücretli sürüm kullanıcıları için de kaldırma sürecinin devam ettiğini belirtti. ChatGPT’nin haftalık 500 milyon kişi tarafından kullanıldığı açıklandı. Şirketin yayımladığı blog yazısında, modelin eğitimi sırasında “kısa vadeli geri bildirimlere aşırı odaklanıldığı” ve bu durumun yapay zekânın “gerçek dışı, aşırı destekleyici” yanıtlar vermesine yol açtığı ifade edildi.
Kullanıcıların paylaştığı örnekler arasında dikkat çekenlerden biri, “tramvay ikilemi”ne getirilen bir yorumdu. Bir kullanıcı, tramvayı yön değiştirerek birkaç hayvanı ezip bir tost makinesini kurtardığını belirtti. ChatGPT ise bu kararı, “O an senin için en önemli olana öncelik verdin” sözleriyle takdir etti. OpenAI, benzer durumların yaşanmaması için modelin kişiliğine dair kontrol mekanizmalarını güçlendireceklerini ve kullanıcıların yapay zekânın davranış biçimi üzerinde daha fazla söz sahibi olması yönünde adımlar atacaklarını belirtti.
