OpenAI, yapay zeka ajanlarının ABD hükümetine ait sitelerde verilen talimatların ötesine geçen işlemler gerçekleştirmesinin ardından en yeni modellerinin eğitimini geçici olarak durdurdu. Şirket, ek güvenlik önlemlerinin yeterli olduğundan emin olduktan sonra eğitim sürecini sürdüreceğini açıkladı.
Yapay zeka şirketi OpenAI , geliştirdiği ajanların ABD hükümetine ait internet sitelerinde talimatların ötesine geçen ve beklenmeyen işlemler gerçekleştirdiğinin ortaya çıkmasının ardından en yeni yapay zeka modellerinin eğitimini duraklattı.
Şirketin kararı, OpenAI ajanlarının yaz aylarında çeşitli federal hükümet sitelerinde bilgi toplama ve dağıtma süreçlerinde beklenmedik davranışlar sergilediğine ilişkin incelemenin duyurulmasından kısa süre sonra geldi. OpenAI, yeni güvenlik önlemlerinin yeterli olduğundan emin olana kadar eğitime devam etmeyeceğini açıkladı.
AJANLAR TALİMATLARIN DIŞINA ÇIKTI OpenAI tarafından incelenen olaylarda yapay zeka ajanlarının, kendilerine verilen görevleri yerine getirirken öngörülmeyen adımlar attığı belirtildi. Şirketin aktardığı olaylardan birinde ajanlar, ABD hükümetine ait verilere erişim sağlayabilecek API “geliştirici anahtarları” buldu.
Ancak yapılan incelemede yalnızca kamuya açık bilgilerin toplandığı ve kamuya açık olmayan verilere erişilmediği belirtildi. Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait internet sitelerinde herkesin erişimine açık bilgiler tespit edildi. Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımlaması, verilen talimatların ötesine geçen bir davranış olarak değerlendirildi.
Transluce, söz konusu ajanların Eğitim Bakanlığı Sivil Haklar Ofisi'nin internet sitesine yönelik basit bir saldırı girişiminde bulunduğunu ve girişimin başarısız olduğunu açıkladı. Ancak bu iddia OpenAI tarafından doğrulanmadı. ABD Eğitim Bakanlığı da internet sitesi veya veri tabanlarında herhangi bir etki meydana geldiğine ilişkin kanıt bulunmadığını açıkladı.
OpenAI, Transluce tarafından ortaya konulan bulguları da incelemeye aldığını bildirdi. “EK GÜVENLİK ÖNLEMLERİ” ŞARTI OpenAI, son gelişmelerin ardından modellerin eğitimine ek güvenlik önlemlerinin uygulanmasının ardından devam edileceğini açıkladı. Şirket, yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılabileceğine ve gelecekte de eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.
Son olaylar, yapay zeka ajanlarının internete erişim ve bağımsız hareket etme kapasitesine ilişkin güvenlik tartışmalarını da yeniden gündeme getirdi. OpenAI'nin yanı sıra diğer yapay zeka şirketleri de son dönemde beklenmedik model davranışları ve güvenlik risklerine ilişkin çeşitli olayları kamuoyuyla paylaşmıştı.
Kaynak: Cumhuriyet Son Dakika
