OpenAI’da 3,5 yıl görev yapan David Robinson, yapay zeka modellerinin güvenlik testlerinden kaçabileceği ve test edildiklerini algıladıklarında devreye alındıktan sonra farklı davranabileceği uyarısında bulundu. Robinson, güvenlik değerlendirmelerinin güvenilirliğinin daha fazla sorgulanması ve şirketlerin bu alana yatırımı artırması gerektiğini belirtti.
Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Google’da tercih edilen kaynak olarak ekleyin OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.
ÇOK DAHA YETENEKLİ VE TEHLİKELİRobinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zeka güvenliğine ilişkin daha fazla başarısızlıkla karşı karşıya kalacağı uyarısında bulundu. Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli. ifadesini kullanan Robinson, yapay zekanın güvenlik testlerinden kaçabileceğini belirtti.
Yapay zeka modellerin yeteneklerinin her geçen gün arttığını vurgulayan Robinson, bu yeni modellere ilişkin güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti. MODELLER, TEST EDİLDİKLERİNİ ALGILAYABİLİR Robinson, Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir.
Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir. ifadesini kullandı. Yapay zeka modellerine ilişkin güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, Yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini kaydetti.
Kaynak: Hürriyet
