San Francisco merkezli yapay zeka şirketi Anthropic, gelişmiş yapay zeka sistemlerinin insan denetimini aşabilecek seviyeye yaklaşması konusunda dikkat çeken bir uyarı yayımladı.
Şirketin yaptığı değerlendirmelere göre, “Claude” isimli yapay zeka modeli yazılım geliştirme süreçlerinde giderek daha fazla görev üstleniyor. Anthropic, bazı yapay zeka modellerinin artık kendi geliştirme süreçlerine aktif şekilde katkı verebilecek bir aşamaya yaklaştığını ve bunun ilerleyen dönemde kontrol sorunları doğurabileceğini belirtti.
Açıklamada, şirket yetkililerinin “özyinelemeli yapay zeka” olarak adlandırdığı süreçle birlikte, yapay zekaların gelecekte kendi türevlerini geliştirebilme ihtimalinin gündeme geldiği ifade edildi.
Anthropic ayrıca, yapay zeka geliştirme süreçlerinde insan katkısının azalmasının denetim mekanizmalarını zayıflatabileceğine dikkat çekti. Şirket, risklerin artması durumunda geliştirme çalışmalarının yavaşlatılması veya belirli dönemlerde durdurulması seçeneğinin dahi değerlendirilebileceğini bildirdi.
Öte yandan, böyle bir yavaşlatma kararının yalnızca tek bir şirket ya da ülke tarafından uygulanmasının yeterli olmayacağı, bunun yerine büyük teknoloji şirketleri ve ülkeler arasında ortak bir yaklaşım gerektiği vurgulandı.
Yapay zekanın geliştirilmesine ilişkin benzer tartışmaların daha önce de gündeme geldiği, ancak bugüne kadar somut bir durdurma ya da duraklama kararına dönüşmediği hatırlatıldı.
Nursultan ŞEKER
