Anthropic, Claude dahil yapay zekâ modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalarda kullanıldığı vakalar tespit ettiğini açıkladı. Şirket, kuş gribinin memelilere adaptasyonu, toksinlerin yeniden tasarlanması ve chikungunya virüsü üzerine çalışmalarla bağlantılı hesapları engellediğini bildirdi.
Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Google’da tercih edilen kaynak olarak ekleyin Yapay zeka şirketi Anthropic'in eski çalışan Jacob Coxon, yapay zekanın gelecekte insanüstü sistemlere dönüşebileceği uyarısıyla şirketten istifa etmesinin ardından şirketten dikkat çeken bir rapor yayınlandı.
Coxon'un açıklamaları gündem olurken yayımlanan raporda, Anthropic'in yapay zeka modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek şekilde kullanıldığı vakaların tespit edildiği ifade edildi. BİYOLOJİK SİLAH RİSKİAnthropic'in yapay zeka modellerinin kötüye kullanımına ilişkin yayımladığı raporda, en ciddi risklerden birinin biyolojik kötüye kullanım olduğu vurgulandı.
Raporda, gelişmiş yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirebilecek veya yeni patojenlerin geliştirilmesine yardımcı olabilecek yeteneklere ulaşabileceği yönündeki endişelere dikkat çekildi. Şirket, bu yıl Claude dahil yapay zeka modellerini kullanarak biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalar yürüten bilim insanlarının bazı faaliyetlerini engellediğini bildirdi.
Anthropic, söz konusu araştırmacıların isimlerini, ülkelerini veya üzerinde çalıştıkları biyolojik ajanları açıklamadı. SON DERECE İNCELİKLİ BİR DURUMAnthropic'in tehdit istihbaratı başkanı Jacob Klein, biyolojik araştırmaların kötü amaçlı olup olmadığının her zaman açık biçimde anlaşılamadığını söyledi.
Klein, Çizgi romanlardaki gibi birinin 'Hey, herkesi öldürecek bir biyolojik silah yapmak istiyorum' dediğini görmüyorsunuz. Bu son derece incelikli bir durum. ifadesini kullandı. Şirket, meşru biyolojik araştırmaların da tehlikeli patojenlerin geliştirilmesine katkı sağlayabileceğine dikkat çekti.
Aşı geliştirme gibi çalışmaların faydalı sonuçlar doğurabileceği, ancak aynı tekniklerin patojenleri daha tehlikeli hale getirmek için de kullanılabileceği belirtildi. ARAŞTIRMACILARIN FAALİYETLERİ ENGELLENDİRaporda, desteklenmeyen bir bölgede çalışan bir araştırmacının Claude'u kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için kullandığı aktarıldı.
Başka bir vakada ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarlamaya çalıştığı belirtildi. Anthropic, kullanıcıların erişim kısıtlamalarını aşmaya ve güvenlik önlemlerimizden kaçınmak için araştırmalarının amacını gizlemeye çalıştığını tespit ettiğini açıkladı. Şirket, söz konusu faaliyetlerle bağlantılı hesapları yasakladı.
Mayıs ayında yaşanan bir başka vakada ise bir bilim insanının, aylarca süren şiddetli ağrı ve diğer semptomlara yol açabilen chikungunya virüsü üzerinde deney yapmak için Claude'dan fon başvurusu hazırlamasına yardım istediği belirtildi. Anthropic, araştırmanın bir bölümünün askeri bir araştırma enstitüsünde yapılmasının planlandığını tespit ettiği için vakayı endişe verici buldu.
Klein, Bilmediğimiz şey, bu araştırmanın silah olarak kullanılmak üzere yapılıp yapılmadığıdır. Ancak bir askeri kurumun işlev kazanımı araştırması yapması endişe verici. dedi. ANTHROPIC'İN RAPORUNDA BAŞKA TEHDİTLER DE YER ALDIAnthropic'in son sekiz aya ilişkin raporunda, yapay zekanın biyolojik silahların yanı sıra farklı amaçlarla kötüye kullanıldığı vakalara da yer verildi.
Raporda, Çin ve İran hükümetleriyle bağlantılı olduğundan şüphelenilen aktörlerin muhalifleri ve diaspora topluluklarını gözetlemek için yapay zeka modellerinden yararlandığı belirtildi. Rus devlet medyasının da Claude'u bağımsız habercilik görüntüsü altında çevrim içi propaganda üretmek için kullandığı öne sürüldü. Bu faaliyetler arasında Moldova'daki seçimlerle ilgili uydurma iddiaların yayılması da gösterildi.
Anthropic ayrıca Claude'un ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar dahil olmak üzere geleneksel silahların tasarım ve geliştirilmesine yönelik yazılım çalışmalarında kullanıldığı vakalar tespit ettiğini açıkladı. Raporda Çin'den üç, Rusya'dan iki ve Yemen'den bir vaka ayrıntılı olarak anlatıldı.
ANTHROPIC ÇALIŞANINDAN DİKKAT ÇEKEN İSTİFAAnthropic çalışanı Jacob Coxon'un yapay zekanın geleceğine ilişkin açıklamaları da gündem olmuştu. Coxon, yapay zekanın gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini savunarak şirketten istifa ettiğini duyurmuştu. Coxon'un paylaşımı milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.
Gözden Kaçmasın Yapay zeka uzmanı tarih vererek uyardı: İnsanlık yok olacak Haberi görüntüle
Kaynak: Hürriyet
