Anthropic'in CEO'su Amodei'den yapay zekanın gelişim hızına yönelik itiraf

Güçlü olan bir teknolojinin iyi amaçla da kötü amaçla da kullanılabileceğine işaret eden Amodei, Hugging Face gibi bazı yapay zeka geliştirme platformlarının kendi başlarına hackleme yapmasından ve bu durumun artmasından endişe duyduğunu söyledi.

Amodei, dün yayımladığı ve üç aşamalı plan önerisinde bulunduğu makalesine atıfta bulunarak ilk aşama olan değerlendirme mekanizmasının, yeni yapay zeka modellerini nasıl veya ne zaman hizmete sunacaklarından daha önemli bir mesele olduğunu dile getirerek Bunun (değerlendirmenin) sektör genelinde yapılmasını ve böylece birisi ne zaman yapay zeka modeli inşa ederse en iyi güvenlik uygulamalarını anlayan üçüncü taraf değerlendirici de orada olur.

Bu değerlendiricilerin, teknolojinin ilerleme hızına ne ölçüde ayak uydurabildiklerini yapay zeka modeli üreticilerine bildirerek bu teknolojinin hızının kısıtlanmasında rol oynayacağını savunan Amodei, Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk ile ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman'ın bu plan önerisine destek vermesini şöyle değerlendirdi: Rakiplerimiz dahil diğer sektör liderlerinin bu plana ilişkin görüş birliğini ifade etmesini takdir ediyorum.

Bence sonraki adım, birçok sektör oyuncusunun üçüncü taraf değerlendiricileri onaylamasını sağlamak. Bundan sonraki adımda bir şekilde firmalar yapay zeka modeli sunmak için güvenlik standartlarını belirlemek için beraber çalışmalı. Bu belki sistemleri sunma hızıyla ilgili olabilir. Ancak bunu yapmak için hükümetin müdahil olması gerekiyor.

Bence umudumuz yüksek, beklentimiz düşük olmalı Amodei, OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan ve Anthropic'ten istifa eden Jacob Coxon'ın bu teknolojiye ilişkin uyarıları kendisinin de yaptığını söyleyerek çeşitli konularda ABD hükümet yetkilileriyle görüştüklerini ifade etti.

Yapay zekaya ilişkin yasal düzenlemelerin bu teknolojiyi tamamen yasaklamaya odaklanmaması gerektiğini savunan Amodei, Bunun sebeplerinden biri, (teknolojinin) faydalarını, tıbbi ilaçları elde edemeyecek olmamız. Bu bana doğru gelmiyor. İkincisi, bu teknoloji, Çin ve diğerleri gibi otoriter ülkeler tarafından geliştirilecek. Bu teknolojiyi nasıl kullanacaklarından endişeliyim. değerlendirmesinde bulundu.

Amodei, Çin gibi ülkelerle rekabetin, bu konuda adım atılmasının önündeki en zor ikilem olduğunu söyleyerek bu ülkelere çip satmayarak, kendi güvenliklerini artırmaya odaklanarak teknolojilerinin çalınmasının önüne geçeceklerini savundu. Anthropic'in sunduğu bir raporda yapay zekanın biyolojik terör saldırılarında kullanılıyor olabileceği iddiasına yer verildiğini belirten Amodei, Çinliler bile bunu istemiyor.

Hiçbir hükümetin çıkarında biyolojik terörizme yer yok. Bu nedenle Çinlilerle konuşup bu teknolojinin hızını kısıtlamak için işbirliği yapıp yapamayacağımızı görmemiz gerek. dedi. Amodei, bu teknolojinin olabildiğince kısıtlanması için işbirliği çağrısını yineleyerek Bence umudumuz yüksek, beklentimiz düşük olmalı. diye konuştu.

ABD Başkanı Donald Trump'ın, Çin Devlet Başkanı Şi Cinping ile yapacağı görüşmeye ilişkin soruya Amodei, ABD ve Çin, yapay zekanın biyolojik silah geliştirmek için kullanılmaması ya da biyolojik teröristlerin, biyolojik silah geliştirmek için kullanabileceği modeller sunulmaması konusunda anlaşabilir. cevabını verdi.

Amodei, yapay zekanın gidişatından duyduğu sorumluluğa ilişkin soruya, bu teknolojinin özel bir şirket tarafından geliştirilmesini tuhaf bulduğu yanıtını verdi. Bazı insanların bu teknolojinin hükümet tarafından geliştirilmesi gerektiği görüşünde olduğunu aktaran Amodei, Onlara katılıyorum. Bu durumdan rahatsızım. diyerek bu konuda sorumlu hissettiğini dile getirdi.

Amodei, bir sabah uyanıp bir kişinin Anthropic'in yapay zeka modelini birini öldürmek için kullandığını öğrenmek istemediğini söyleyerek tek kişinin sorumluluğu olmasından ziyade bu konuda herkesin rol oynaması gerektiğini ifade etti.

Bu teknolojiyi hükümete devretmek isteyip istemeyeceğine ilişkin soruya Amodei, Tek bir hükümetin, tek şirketin yapabileceği kadar kolay şekilde bu teknolojiyi kötüye kullanabileceğinden endişeliyim. Ancak demokratik yollarla seçilen hükümetlerin bir araya gelmesiyle, şirketi devretmekten ziyade bir çeşit denetim ve ortak yönetişim verilebileceğini düşünüyorum. cevabını verdi.

Amodei, yapay zeka konusunda ciddi tehlikeler olduğunu vurgulayarak Bence uzun zamandır insanlar bu teknolojinin riskleri hakkında yalan söyledi. dedi. Coxon'un istifası OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz yarış içinde olduğunu ileri süren Coxon, Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. ifadelerini kullanmıştı.

Kaynak: Cumhuriyet Son Dakika