Yapay zekaya emanet edilen mağaza, beş ayda zarar rekoru kırdı

Anthropic şirketi tarafından geliştirilen yapay zeka asistanı Claude, ABD'nin San Francisco kentinde bir perakende mağazasını yönetmekle görevlendirildi.

Time dergisinin aktardığına göre, bu sürecin ardından yapay zeka ilk kez bir çalışanı işten çıkardı.

Daha önce algoritmik denetim mekanizmaları gibi yöntemlerle otomatikleştirilmiş çok sayıda işten çıkarma yaşanmıştı.

Ancak bu vaka, yönetici rolü üstlenen bir yapay zekanın kendi çalışanlarından birini işten çıkarma kararı aldığı bilinen ilk örnek oldu.

Yapay zeka alanında araştırmalar yürüten girişim Andon Labs, bu yılın başında yapay zeka ajanlarının bir işletmeyi başarıyla yönetip yönetemeyeceğini anlamak amacıyla projeyi başlattı.

Çalışma, yapay zekanın kabiliyetlerini ve ekonomi üzerindeki olası etkilerini sınamak için bir deney olarak tasarlandı.

Haberde, Claude tarafından mağazada görev yapmak üzere işe alınan personelin gerçek iş sözleşmelerine sahip kişilerden oluştuğu belirtildi.

Süreç sonunda bir çalışan, 23 vardiyanın 17'sine geç kaldığı gerekçesiyle işten çıkarıldı.

Claude'un bu durumu fark etmesinin uzun sürmesinin nedenleri arasında hafıza kısıtlaması yer aldı.

Yapay zekanın çalışanlar için hazırladığı kılavuz, sınırlı çalışma belleğinden silindi.

Araştırmacılar, bu durumun Claude'un yönetim tarzında aşırı hoşgörüye yol açtığını ve astlarına geç kaldıklarında endişelenmemelerini söylediğini tespit etti.

 İşten çıkarma süreci tamamen bağımsız bir şekilde gerçekleşmedi. Yönetim kayıtlarına göre Claude, Andon Labs personelinin düzenli müdahalesine ihtiyaç duydu.

Yapay zeka, unutulan kuralları ve tekrarlanan gecikmeleri ancak bir yöneticinin yönlendirmesinin ardından fark etti.

Claude ilk aşamada işten çıkarma yerine resmi bir uyarı verilmesini önerdi. Andon Labs çalışanının söz konusu personelle daha önce sözlü görüşmeler yaptığını belirtmesi ve yönlendirici bir soru sorması üzerine yapay zeka yönetici işten çıkarma kararı aldı.

 Deneyin mali sonuçları da beklentileri karşılamadı.

Mağazanın 100 bin dolar olan mali bakiyesi beş ay içinde 61 bin dolara geriledi. Andon Labs CEO'su Lukas Petersson, botun yumuşak yönetim kararlarının ve yetersiz ticari sezgisinin bu kayıplarda etkili olduğunu ifade etti.

Petersson, modellerin hedeflere ulaşma konusunda daha sert olmaları yönünde eğitildiğini belirterek "Fakat bu, insanların içinde yaşamak istemeyeceği bir gelecek olabilir" değerlendirmesinde bulundu.

YAPAY ZEKA DAVA VE İSTİHDAM TARTIŞMALARINA KONU OLUYOR

Daha önce Meta şirketinin 26 mevcut ve eski çalışanı, şirketin toplu işten çıkarmalarda yapay zeka algoritmalarını kullandığı gerekçesiyle Kaliforniya eyaletinin Oakland kentindeki federal mahkemede toplu dava açmıştı.

CBS News kanalının haberine göre davacılar, otomatik sistemlerin engelli çalışanları ve yasal sağlık veya aile izninde bulunan personeli haksız yere hedef aldığını öne sürdü.

Time dergisi geçtiğimiz mayıs ayında, ABD merkezli teknoloji şirketi Oracle'ın bir ay içinde 30 bin çalışanını işten çıkardığını ve bu kişilerin yerini, bir kısmı bizzat söz konusu çalışanlar tarafından eğitilen yapay zekanın aldığını yazmıştı.

Haberde, şirket çalışanlarına yaptıkları işi ayrıntılı biçimde anlatma görevi verildiği ve bu yolla kurumsal yapay zekanın eğitildiği aktarılmıştı.

Forrester analistleri, şirketlerin insan kaynağını erken aşamada ikame etmenin getirdiği operasyonel sorunları fark etmesiyle yapay zeka bağlantılı işten çıkarmaların yüzde 50'den fazlasının geri alınacağını öngörüyor.

Gartner verilerine göre ise yapay zeka entegrasyonu nedeniyle müşteri destek birimindeki çalışanlarını işten çıkaran şirketlerin yarısı, 2027 yılına kadar bu personeli yeniden işe almak zorunda kalacak.