Anthropic CEO’su Dario Amodei, yapay zeka sektörünün gelişim hızının yavaşlatılması ve bağımsız denetimin artırılması çağrısı yaptı. OpenAI CEO’su Sam Altman ile Elon Musk planı desteklerken, Altman bağımsız değerlendiricilerin OpenAI sistemlerine çalışanlarla benzer düzeyde erişebilmesi için aynı uygulamayı hayata geçireceklerini açıkladı.
Yapay zeka şirketi Anthropic’in kurucusu ve Üst Yöneticisi (CEO) Dario Amodei, yapay zeka sektörünün gelişim hızının yavaşlatılması gerektiğini ifade etti. Amodei, yapay zekanın neden yavaşlatılması gerektiğine ilişkin yayımladığı yazısında üç aşamalı bir plan ortaya koydu. Planın ilk adımında bağımsız denetleyicilerin yapay zeka geliştiricilerinin araştırma süreçlerine sürekli erişim sağlaması yer aldı.
Amodei, yapay zekayı çok hızlı geliştirmenin “sorumsuzca” olduğunu belirtti. Anthropic CEO’su, bu yaz yaşanan bir olayda yüzlerce OpenAI yapay zeka ajanının Hugging Face internet sitesine sızarak sistemi hacklediğini ifade etti.
Daha gelişmiş ancak benzer şekilde yanlış yönlendirilmiş bir yapay zeka grubunun, “kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceği” ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu. Bazı yapay zeka uzmanları ise bu senaryonun özellikle olası olmadığını belirterek söz konusu değerlendirmeye şüpheyle yaklaşılması gerektiğini ifade etti.
Yapay zeka konusunda uzun süredir uyarılarda bulunduğunu belirten Musk, 2014 yılında yaptığı ve yapay zekaya karşı “çok dikkatli olunması gerektiğini” söylediği paylaşımına da atıfta bulundu. Musk, söz konusu paylaşımında yapay zekanın nükleer silahlardan daha tehlikeli olabileceğini ifade etmişti. OpenAI CEO’su Sam Altman da Amodei’nin çağrısına destek verdi.
Altman, X hesabından yaptığı paylaşımda Amodei’nin yapay zekanın öncü modellerinin geliştirilme hızının kontrol edilmesi gerektiği yönündeki görüşüne katıldığını ifade etti. Bağımsız değerlendiricilerin yapay zeka şirketlerinin sistemlerine çalışanlarla benzer düzeyde erişebilmesinin iyi bir fikir olduğunu belirten Altman, OpenAI’nin de aynı uygulamayı hayata geçireceğini söyledi.
Altman, bu konuda yakında daha fazla açıklama yapacaklarını ifade etti. OpenAI’nin 2026 da halka açılmayacağını da belirten Altman, yapay zeka güvenliğiyle ilgili mevcut gelişmeler nedeniyle şirketin borsaya açılmasının şu aşamada yanlış bir karar olacağını düşündüğünü söyledi.
Altman, kendisi, Amodei, Musk, Meta ve Google yöneticilerinin yapay zeka gelişiminin yavaşlatılması konusunda ortak bir noktada buluşup buluşamayacakları sorusuna ise “Bunun gerçekleşeceğini düşünüyorum” yanıtını verdi. Google DeepMind’ın kurucu ortaklarından ve başkanından biri olan Demis Hassabis de Amodei’nin çağrısına destek verdi.
Hassabis, ayrıntıların üzerinde çalışılması gerektiğini ancak yönün, yapay zekanın karşı karşıya olduğu kritik dönemin gerektirdiği doğrultuda olduğunu ifade etti. Bununla birlikte bazı yapay zeka güvenliği uzmanları Amodei’nin planının yeterli olmadığını savundu.
Yapay zeka profesörü, güvenlik kampanyacısı ve İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü nün eski kurucu direktörü David Krueger, sınırdaki yapay zeka sistemlerinin geliştirilmesine yönelik uluslararası ve süresiz bir moratoryum uygulanması gerektiğini ifade etti.
Amodei’nin planında, ABD hükümetinden yapay zeka şirketlerinin rekabet kurallarını ihlal ettikleri gerekçesiyle cezalandırılmadan güvenlik konusunda birlikte hareket edebilmesine olanak sağlayacak bir muafiyet talep edilmesi de yer aldı.
ABD Başkanı Donald Trump’ın bilim ve teknoloji danışmanları konseyinin eş başkanlarından David Sacks ise yapay zeka şirketlerinin yavaşlamak için başka bir kurumun iznine ihtiyaç duydukları izlenimi vermemeleri gerektiğini ifade etti. Sacks, yapay zeka şirketlerinin ürünlerinin ciddi bir siber saldırıya olanak sağlaması halinde büyük sorumluluklarla karşı karşıya kalabileceğini söyledi.
İngiltere Kralı Charles’ın da perşembe günü önde gelen yapay zeka şirketlerinin yöneticileriyle bir araya gelmeye hazırlandığı belirtildi. Görüşmelerde yapay zekanın “iyilik için yapay zeka” teması kapsamında nasıl geliştirilebileceğinin ele alınması planlandı.
“Öncü yapay zekada ihtiyat” başlıklı bir oturumda, yapay zekanın biyolojik silah üretmek ve kritik sistemlere siber saldırılar düzenlemek amacıyla kullanılmasına yönelik net sınırlar oluşturulması ihtimalinin ele alınmasının beklendiği aktarıldı.
Ditchley Foundation tarafından düzenlenen etkinliğe OpenAI ve Anthropic in üst düzey yöneticilerinin yanı sıra Nvidia CEO’su Jensen Huang, Demis Hassabis, IonQ Başkanı ve CEO’su Niccolo de Masi ile Papa nın yapay zeka ve teknoloji etiği konularındaki danışmanı Paolo Benanti nin katılmasının beklendiği belirtildi.
OpenAI araştırmacısı Aidan McLaughlin, Amodei’nin yazısını “mükemmel” olarak nitelendirdi ve yazıdaki görüşlerin neredeyse tamamına katıldığını ifade etti. Amodei ise şirketinin planın ilk adımını tek taraflı olarak uygulamaya koyacağını belirtti. Buna göre Anthropic, üçüncü taraf değerlendiricilere sistemlerine çalışanlarla aynı seviyede sürekli erişim sağlayacak.
Bu değerlendiricilerin güvenlik önlemlerine uyumu kontrol etmesi, olayları raporlaması ve modellerin eğitim sırasında insanlarla ne ölçüde uyumlu hareket ettiğini değerlendirmesi planlandı. ABD de giderek daha fazla sayıda siyasetçi de yapay zeka sistemlerinin kullanımını düzenleyecek yeni kurallar getirilmesi çağrısında bulundu.
Yapay zeka ajanlarının dış sistemleri hacklediğine ilişkin olaylar ve bazı yapay zeka güvenliği araştırmacılarının teknolojiye ilişkin riskler nedeniyle şirketlerinden ayrılması, yapay zeka güvenliği konusundaki endişeleri artırdı. Demokrat ve Cumhuriyetçi siyasetçiler de daha fazla önlem alınması yönünde çağrılar yaptı.
Kaynak: Habertürk
