Şevket Yusuf Tekindor
OpenAI’da 3,5 yıl çalışan ve 12 yapay zekâ modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, modellerin güvenlik testine tabi tutulduklarını fark edebileceği ve kullanıma açıldıktan sonra farklı davranabileceği uyarısında bulundu.
Modellerin testleri aşma ihtimali
Yakın zamanda görevinden ayrılan Robinson, The Atlantic’te yayımlanan makalesinde yapay zekâ güvenliği için daha kapsamlı önlemler alınması gerektiğini savundu. Gerekli düzenlemeler yapılmazsa sektörde güvenlik alanındaki başarısızlıkların artabileceğini belirtti.
Robinson, bugünün ve geleceğin yapay zekâ sistemlerinin altı ay önce geliştirilenlerden bile daha yetenekli ve tehlikeli olduğunu ifade etti. Modellerin güvenlik testlerinden kaçabileceği uyarısını da dile getirdi.
Yapay zekâ modellerinin yeteneklerinin sürekli arttığını kaydeden Robinson, yeni sistemlere yönelik güvenlik değerlendirmelerinin ne ölçüde güvenilir olduğunun daha fazla sorgulanmasını istedi.
Güvenlik değerlendirmeleri güncellenmeli
Robinson’a göre modeller test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar giderilmeden modellerin geliştirilmesine devam edilmesinin riski artıracağını belirtti.
Eski OpenAI çalışanı, yapay zekâ güvenlik testlerinin ciddi biçimde iyileştirilmesi ve güncel tutulması gerektiğini vurguladı. Yapay zekâ şirketlerinin güvenlik çalışmalarına daha fazla yatırım yapması çağrısında bulundu.
