Yapay Zekâ İşten Çıkarıyor: İlk Deneyde Claude’un Kararı Şok Ediyor

Andon Labs’ın yapay zekâ araştırma girişimi Andon Market’te Claude adlı AI ajanını yöneticilik göreviyle görevlendirdi. Claude, geçen ay bir çalışanını işten çıkarıdı. Olay, otomatik sistemlerin bir çalışanı işten çıkardığı ilk örnek değil, ama Andon Labs’ın deneyinde büyük bir dil modelinin yönetici rolünde hareket ederek bir işten çıkarma kararına varması bilinen ilk örnek olarak aktarılıyor.

Claude, 23 vardiyanın 17’sine geç kaldığını gördü. Bu durum Claude’un el kitabının sınırlı çalışma belleğinden “kaybolması” nedeniyle fark edilemedi. Çalışan el kitabının kaybolmasi, yapay zekâ ajanlarının sınırlamalarından biri olarak değerlendirildi. Claude, hoşgörülü bir yönetici olarak geç kalan çalışanlara endişelenmemelerini bile söylüyordu.

Lukas Petersson, insan yöneticisinin söz konusu çalışanı çok daha erken işten çıkaracağını düşünüp bu nedenle kararın etik olmadığını düşünmediklerini belirtti. Petersson, modellerin hedefleri takip etme ve daha sert davranma yönünde giderek daha fazla eğitildiğini söyledi. Bu uyarı, işten çıkarma yetkisine sahip acımasız modellerin insan yaşamını olumsuz etkileyebileceğini vurguluyor.

Deney, yapay zekâ yönetiminin insan yönetimindeki işletmelerle aynı seviyede olmadığını gösteriyor. Mart ayında başlayan Andon Market’in banka hesabında 100 bin dolar bulunuyordu, beş ay sonra bu rakam 61 bin 186 dolara geriledi. Claude’un hoşgörülü yönetim anlayışı ve tartışmalı ticari kararları, mağaza için kayıplara yol açtı.

Bakalım bundan sonra ne olacak?

Kaynak: Orijinal Haber