OpenAI ve Anthropic’te ön eğitim araştırmacısı olarak çalışan Jacob Coxon, iki şirketin kendi kendini geliştiren süper zekâ yarışında sorumsuz davrandığını savunarak Anthropic’ten istifa etti. Coxon, yapay zekâ yöneticilerinin teknolojinin yıkıcı sonuçlarından endişe duyduğunu ve yarışın durdurulması gerektiğini belirtti.
Yapay zeka sektörünün önde gelen devleri OpenAI ve Anthropic ’te üç yıl boyunca ön eğitim araştırmacısı olarak çalışan Jacob Coxon , şirketlerin insanlığın geleceğini tehlikeye atan kontrolsüz bir yarış içinde olduğunu belirterek istifa etti.
Kendi kendini geliştiren süper zekâ teknolojisine ulaşmak için kural tanımayan bir hızla hareket edildiğini vurgulayan Coxon, sektör yöneticilerinin dahi bu teknolojinin yıkıcı potansiyelinden endişe duyduğunu ifşa etti.
YAPAY ZEKÂ LABORATUVARLARINDA GÜVENLİK KRİZİ BÜYÜYOR Sektörün en kritik noktalarından biri olan ön eğitim (pretraining) alanında hem OpenAI hem de Anthropic çatısı altında üç yıl boyunca araştırmalar yürüten Jacob Coxon, yayınladığı bir açıklama serisiyle Anthropic’teki görevinden ayrıldığını duyurdu.
Yapay zekâ dünyasında geniş yankı uyandıran açıklamasında Coxon, her iki şirketin de sorumlu hareket etmediğini ve kontrolden çıkma riski taşıyan bir teknoloji için aceleci davrandıklarını belirtti.
Bu bir pazarlama hamlesi ya da abartı değil. Üst düzey yöneticiler ve kıdemli araştırmacılar basına kapalı kapılar arkasında bu korkularını açıkça ifade ediyorlar.
OPENAI VE ANTHROPİC ARASINDAKİ TEHLİKELİ FARK Coxon, sektörün iki dev aktörü arasındaki yaklaşım farkına da değindi: OpenAI: Çalışanların ve yöneticilerin büyük bir kısmı sürecin medeniyet ölçeğindeki risklerini ve getirebileceği felaket boyutunu henüz derinlemesine içselleştirebilmiş değil. Anthropic: Şirket risklerin farkında olsa da ilk ulaşan olma yarışına kilitlenmiş durumda.
Yetkililer, bir başkasının bu teknolojiye daha önce ulaşmasının daha felaket olacağına inanarak yarışı hızlandırıyor. Coxon, devasa özel şirketlerin Slack kanallarından alınan kararlarla insanlığın kaderini belirleyecek bir son oyun (endgame) kumarına girilmesini kibirli bir risk olarak nitelendirdi.
ARAŞTIRMACILARA ÇAĞRI: MOLA VERİLSİN, DÜZENLEME GETİRİLSİN Yapay zekâ laboratuvarlarındaki araştırmacılara da çağrıda bulunan Coxon, zihniyetini tam olarak anlayamadıkları süper zekâ modellerini çalıştırmanın büyük bir tehlike taşıdığını ifade etti.
Sektördeki yarış hırsını frenlemek adına gerekirse geçici durdurma kararları (moratoryum) veya laboratuvarlar arası hız kısıtlama anlaşmalarının şart olduğunu belirten Coxon, yapay zekâ çalışanlarını Zaten gerçekleşecek diyerek sürece boyun eğmek yerine sorumluluk almaya davet etti.
Kaynak: Cumhuriyet Son Dakika
