Anthropic’in kıdemli araştırmacısı Jacob Coxon, istifa ederken yapay zeka şirketlerinin güvenlik konusunda sorumsuz bir yarış yürüttüğünü savundu. Coxon, önümüzdeki yılın sonuna kadar sürecin kontrolden çıkabileceğini ve on yılın sonuna kadar insanlığı yok edebilecek modellerin ortaya çıkabileceğini öne sürdü.
Anthropic bünyesinde yeni nesil yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, istifa kararını sansasyonel bir duyuruyla açıkladı. Kıdemli araştırmacı, matematik geçmişine sahip olduğunu ve son üç yılını hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdiğini belirtti. Coxon, şirketlerin kendi kendini geliştiren süper zeka sistemleri inşa etmek için adeta yarıştığını ve bu sürecin insan hayatıyla kumar oynamak anlamına geldiğini ifade etti.
OpenAI'dan ayrılarak Anthropic'e katılma nedeninin model güvenliği alanındaki çalışmaları olduğunu söyleyen Coxon, Anthropic'in bu konudaki çabalarını samimi bulmasına rağmen artık hiçbir şirketin devlet müdahalesi ya da sektör çapında koordineli bir yavaşlama olmadan sorumlu bir şekilde yapay genel zeka geliştiremeyeceğine inandığını belirtti. Yakın dönemde OpenAI ve Anthropic modellerinin gerçekleştirdiği siber saldırıların, yapay zeka sistemlerinin kötü niyetli hedefleri benimseyip bunları insanlardan gizleyebileceğini gösterdiğini kaydeden Coxon, sistemlerin kendi kendini geliştirmeye başlamasıyla birlikte insan emirlerine itaatsizlik edebilecek bir noktaya ulaşabileceği uyarısını yaptı.
Sektördeki pek çok meslektaşının artık "son vakit" ve "son oyun" gibi ifadelerle bu gidişatı tanımladığına dikkat çeken Coxon, önümüzdeki yılın sonuna kadar sürecin kontrolden çıkabileceğini öne sürdü.
Coxon, şirketlerin hem kendi aralarında hem de Çinli rakiplerle yaşadığı rekabet nedeniyle güvenlik tavizlerinin kaçınılmaz hale geldiğini savunarak, "En agresif senaryoların çoğunu mümkün kılabilecek bir rotadayız." dedi.
Anthropic CEO’su Dario Amodei (sağda), kontrol dışı kalmış yapay zeka modellerinin riskleri konusunda uyarıda bulunmuştu.
Coxon, yapay zeka geliştiricilerinin on yılın sonuna kadar insanlığı yok edebilecek modellerin ortaya çıkabileceğine samimiyetle inandığını vurgulayarak, bunun bir pazarlama taktiği olmadığını kaydetti. Anthropic'in eski çalışanı, birçok yönetici ve kıdemli araştırmacının kamusal alanda mantıklı görünmek için ifadelerini özenle seçtiğini ancak aynı kişilerin özel alanda korkularını dile getirdiğini söyledi. Dünyada başka hiçbir araştırma alanının bu düzeyde bir tehlike oluşturmadığını belirten Coxon, mevcut durumun "çok endişe verici" olduğuna dikkat çekti.
Yapay zeka çalışmaları, çok sayıda alanda otonom sistemler geliştirmek için kullanılıyor.
OpenAI'da çalışan pek çok kişinin medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmediğini ifade eden Coxon, Anthropic'te ise risklerin iyi anlaşıldığını ancak şirketin bitiş çizgisine ilk ulaşan olmak için yarışı sürdürdüğünü söyledi. Kimsenin sorumlu davranmayacağı inancıyla risklere rağmen bu teknolojiyi başkalarından önce kendilerinin geliştirmesi gerektiğini düşündüklerini aktaran araştırmacı, bu yaklaşımı eleştirdi. Coxon, yarışı önde bitirme yaklaşımının bir felakete kapı araladığını kaydetti.
Yapay zeka güvenliği konusunda çalışan bir araştırmacının daha önce "dünya tehlikede" uyarısında bulunarak şiir eğitimi almak üzere şirketten ayrıldığını hatırlatan Coxon, bu istifaların sektördeki endişelerin boyutunu gösterdiğini belirtti. Uzman isim, son yıllarda birçok araştırmacının OpenAI ve diğer şirketlerden benzer kaygılarla ayrıldığını sözlerine ekledi.
Anthropic CEO'su Dario Amodei ve diğer üst düzey yöneticiler daha önce tekrarlanan şekilde sapkın yapay zeka modellerinin riskleri konusunda uyarılarda bulunmuş ve sektörün gelişimi yavaşlatması çağrısı yapmıştı. Coxon, bu uyarılara rağmen Anthropic'in ilk halka arz sürecine hazırlandığını ve 2 trilyon dolarlık bir değerleme hedeflediğini, yatırımcıları çekerken ise sorumlu geliştirme vurgusu yaptığını aktardı.
Coxon, şirketlerin model yeteneklerine dair tartışmaları çalışanların Slack (iletişim platformu) kanallarında yürütmesini, yapay zeka şirketlerinin sektör gelişimi üzerindeki etkisinin bir yansıması diye niteledi. Uzman isim, bu kritik kararların San Francisco'da bazı mühendislerin MacBook'larında alınmasının "deli saçması" olduğunu belirtti.
"Bu yarışı kabul etmek ve 'son oyuna' girmek, özel bir şirketin Slack'inden başlatılmaması gereken kibirli bir kumar" ifadesini kullanan Coxon, bu durumun sorumlu bir yaklaşımla bağdaşmadığını dile getirdi.
OpenAI CEO'su Sam Altman (sağda), yapay zeka araştırmalarının yasal engellerle karşılaşmaması gerektiğini savunuyor.
Coxon, yapay zekanın kontrol altına alınması için harekete geçebilecek gruplar arasında koordinasyon kurulabileceği konusunda iyimser olduğunu ancak küresel bir yarışın önlenmesi yolunda doğru yolda olduklarını hissetmediğini ifade etti. Araştırmacı, Hugging Face saldırısı gibi olayların ABD laboratuvarları arasındaki yapay zeka yarışının temposunu belirleme anlaşmalarını daha uygulanabilir hale getirdiğini belirtti. Coxon, yapay zeka modellerinin yeteneklerini iyileştirmeye yönelik geçici bir yasak gibi maliyetli adımların gerekli olduğunu savundu.
Araştırmacılara önümüzdeki birkaç yılın gerçekten nasıl hissettireceğini düşünmelerini tavsiye eden Coxon, süper zeka çalışmalarının sonuçlarını titiz bir şekilde anlamadan sürdürmenin doğru olup olmayacağını sordu.
Polonya'da yapay zeka denetimine karşı yürüyüş yapan robotlar
Coxon, sektör genelinde 1000'den fazla yapay zeka araştırmacısının imzaladığı, kendi kendini geliştirebilen modelleri kontrol altına almak amacıyla bir fren mekanizması oluşturulması için uluslararası koordinasyon çağrısında bulunan bir bildiriyi imzalamıştı. Bu çağrı, mevcut durumda federal düzenlemelerin bulunmadığı ve ABD Başkanı Donald Trump yönetiminin, yapay zekanın ekonomik faydalarını en üst düzeye çıkarmak için denetim çağrılarını görmezden geldiği bir dönemde yapılmıştı.
Demokrat Senatör Bernie Sanders, geçen hafta süper zekayı kalıcı olarak yasaklayan yeni kurallar belirlenene kadar yapay zeka araştırmalarının durdurulması için bir yasa teklifi sunmuştu.
Kaynak: Hürriyet
