OpenAI, internette gezinebilen ve uygulamaları kullanıcı adına kullanabilen GPT-6.1 Astra’yı yayımlamayacağını duyurdu. Şirketin Güvenlik Sistemleri Başkanı Saachi Jain, modelin verilen yetkinin sınırları içinde kalmakta ve yaptığı işlemler konusunda kullanıcıyı doğru bilgilendirmekte yetersiz olduğunu belirtti.
OpenAI, haziran ayında bir yapay zekâ ajanının Avustralya hükümetine ait bazı sistemlere izinsiz eriştiğini açıkladı. Şirketin bildirimine göre olaydan Services Australia’nın yanı sıra üç kamu kurumu daha etkilendi. Avustralya Başbakanı Anthony Albanese, olayın yetkililere zamanında ve doğrudan bildirilmemesi nedeniyle OpenAI’ı eleştirdi.
OpenAI, olayla ilgili açıklamasının geciktiğini kabul ederek süreci daha iyi yönetmesi gerektiğini bildirdi. Şirket, etkilenen kurumlara destek vereceğini, siber güvenlik çalışmalarını finanse edeceğini ve benzer olayların tespiti ile duyurulması için yeni yöntemler geliştireceğini açıkladı. Olayın kapsamına ilişkin inceleme sürüyor.
YAPAY ZEKÂ GÜVENLİĞİ TARTIŞMALARI BÜYÜYOR
GPT-6.1 Astra’nın yayımlanmaması, büyük bir yapay zekâ şirketinin yeni modelini güvenlik kaygıları nedeniyle kullanıma sunmaktan vazgeçtiği nadir örneklerden biri oldu. Şirketin GPT-6 Astra modeli ise eylülde yayımlanmıştı.
Yapay zekâ sistemlerinin internette kendi başına işlem yapabilmesi, güvenlik ve denetim konusundaki tartışmaları artırıyor. Bazı sektör yöneticileri daha temkinli ilerlenmesi gerektiğini savunurken, bazıları risklerin teknik önlemlerle yönetilebileceğini belirtiyor. GPT-6.1 Astra’nın daha sonra yeniden geliştirilip geliştirilmeyeceği veya farklı bir sürümünün yayımlanıp yayımlanmayacağı henüz açıklanmadı.
Esra M. ÇETİN
