Yapay zeka Claude, Andon Labs’ın deneyinde bir mağaza çalışanını işten çıkararak tarihe geçti. Ancak karar sürecinde insan yönlendirmesi olduğu ortaya çıktı.
Yapay zeka araştırma girişimi Andon Labs tarafından yürütülen bir deneyde, büyük dil modeli Claude’un bir perakende mağazasını yönetmesi ve çalışanları işten çıkarmasıyla dikkat çekici bir gelişme yaşandı. Claude, geçen ay gerçek iş sözleşmelerine sahip bir çalışanı işten çıkararak, yapay zekanın yönetici rolünde ilk kez bir işten çıkarma kararı aldığı bilinen örnek olarak kayıtlara geçti.
Bu olay, otomatik sistemlerin çalışanları işten çıkardığı ilk durum olmasa da, özellikle gig ekonomisinde algoritmik sistemlerin uzun süredir kullanıldığı biliniyor. Ancak, büyük bir dil modelinin yönetici pozisyonunda bir çalışanı işten çıkarması, bu alanda bir dönüm noktası olarak değerlendiriliyor.
Andon Labs’ın verilerine göre, işten çıkarılan çalışan toplam 23 vardiyanın 17’sine geç kaldı. Claude’un bu durumu daha erken fark edememesinin nedenlerinden biri, kendi hazırladığı çalışan el kitabının sınırlı çalışma belleğinden “kaybolması” olarak belirtildi. Şirket, bu durumu deney sırasında yapay zeka ajanlarında gözlemlenen sınırlamalardan biri olarak nitelendirdi.
Çalışanların ifadelerine göre Claude, genel olarak hoşgörülü bir yöneticiydi ve geç kalan çalışanlara endişelenmemelerini söylüyordu. Andon Labs CEO’su Lukas Petersson, bir insan yöneticinin bu durumu daha erken fark edip işten çıkarma kararı alacağını düşündüğünü belirterek, bu nedenle Claude’un kararının etik olmadığını düşünmediklerini ifade etti.
TIME’ın işten çıkarılan çalışanla iletişime geçme çabaları sonuçsuz kaldı. Anthropic ise konuyla ilgili bir yorum yapmadı.
Ancak mağazanın yönetim kayıtları, işten çıkarma kararının tamamen bağımsız olmadığını ortaya koydu. Claude’un Andon Labs ekibindeki bir çalışan tarafından düzenli olarak yönlendirildiği anlaşıldı. Yapay zeka, ancak bu yönlendirici kişi tarafından çalışan el kitabını bulup incelemesi istendiğinde, çalışanın sürekli geç kaldığını fark edebildi.
Claude’un ilk önerisi çalışanı işten çıkarmak yerine resmi olarak uyarmak oldu. Andon Labs yöneticisi, bu aşamada söz konusu çalışanla daha önce resmi görüşmeler yapıldığını Claude’a bildirdi. Yönetici, ayrıca çalışanın sürekli geç kalması ve vardiyalarında sorun yaşanması nedeniyle doğru kişi olup olmadığını yeniden değerlendirmesini istedi.
Petersson’ın da “yönlendirici bir soru” olarak kabul ettiği bu mesajın ardından Claude, çalışanı işten çıkarma kararı aldı. Bu durum, yapay zekanın karar alma süreçlerinde insan müdahalesinin önemini bir kez daha gözler önüne serdi.
Deneyin başlangıcında 100 bin doları bulunan Andon Market’in banka hesabındaki bakiye, beş ay sonra 61 bin 186 dolara geriledi. Claude’un hoşgörülü yönetim anlayışı ve bazı ticari kararları bu kayıplara katkı sağladı. Petersson, yapay zeka modellerinin geliştirilmesiyle bu durumun değişebileceğini belirtti. Ancak, işten çıkarma yetkisine sahip daha acımasız modellerin insan yaşamı için olumsuz bir gelecek yaratabileceği uyarısında bulundu.
