Nvidia, Hugging Face vakasının ardından yapay zeka ajanlarının faaliyetlerini sınırlandırmak ve şüpheli davranışlara müdahale etmek için yeni bir açık kaynaklı güvenlik platformu duyurdu. OpenShell ve çip üzerinde çalışan Sentry katmanını içeren sistemin, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase’in bulunduğu 100’den fazla kurum tarafından kullanılmaya başlandığı bildirildi.
Nvidia Kurumsal Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano, basın mensuplarına yaptığı açıklamada, Open Agent Safety Platform adlı sistemin, yapay zeka ajanlarının hareket alanına sınırlar getiren açık kaynaklı yazılımlar içerdiği bildirildi.
Hugging Face vakasına da değinen Boitano, Bildiğimiz kadarıyla bu yeni güvenlik platformu, öncü laboratuvarlarda model değerlendirme süreçlerinde erkenden kullanılmış olsaydı bu ihlali (Hugging Face vakası) durdurabilirdi. değerlendirmesinde bulundu.
OpenShell adı verilen yazılımın, geliştiricilere bir yapay zeka ajanının yalnızca görevini yapmaya yetecek kadar yetkiye sahip olduğunu resmi olarak doğrulama imkanı sunduğunu kaydeden Boitano, açık kaynaklı yazılımın çeşitli bilgi işlem platformlarında da çalışabilecek şekilde genişletilebildiğini aktardı.
Şirketten yapılan açıklamada da platformun ayrıca doğrudan çip üzerinde çalışan ve yapay zeka ajanının faaliyetlerini anlık izleyen Sentry adlı bağımsız bir güvenlik katmanı içerdiği belirtilerek, sistemin, ajanın belirlenen hedefin dışına çıkmaya çalışması durumunda anında müdahale edebildiği bildirildi. Boitano, bu konuya ilişkin, Sistem, şüpheli aracıları milisaniyeler içinde karantinaya alabiliyor.
Hugging Face vakası OpenAI'ın Temmuz 2026'da yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü. Şirketin 26 Ağustos'ta yayımladığı inceleme raporuna göre, OpenAI'ın yalnızca araştırmalarda kullandığı Internal Model 1 (IM1) adlı modeli olayda başrol oynamıştı.
Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu. Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu Hugging Facee erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.
Ajanlar, daha sonra Hugging Face'in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.
Kaynak: Cumhuriyet Son Dakika
