Yapay zeka araştırmacısı Jacob Coxon, Anthropic ve OpenAI’nin kendi kendini geliştirebilen sistemlere ulaşma yarışının insanlık için risk oluşturduğunu savundu. Uzman görüşlerinde öne çıkan senaryolar arasında öngörülemeyen davranışlar ve biyolojik silah geliştirilmesini kolaylaştırma ihtimali yer alıyor.
Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Google’da tercih edilen kaynak olarak ekleyin Yapay zekanın geleceği artık yalnızca teknoloji şirketlerinin ve bilim insanlarının tartıştığı bir konu olmaktan çıktı.
Teknolojinin giderek daha güçlü hale gelmesiyle birlikte yapay zekanın nasıl denetleneceği, insan kontrolünün nasıl korunacağı ve olası risklerin nasıl sınırlandırılacağı Birleşmiş Milletler’in (BM) de gündemine taşındı.
BM Genel Kurulu’nda liderler yapay zekanın oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri ve kamu denetimi çağrısı yaparken, ABD Başkanı Donald Trump’tan ise dikkat çeken bir çıkış geldi. Trump, BM Genel Kurulu’nda yaptığı konuşmada yapay zekanın küresel ölçekte düzenlenmesine yönelik girişimlere karşı olduğunu açıkça ortaya koydu.
ABD Başkanı ayrıca yapay zekanın adının da değiştirilmesini gündeme getirdi. Trump, yapay kelimesinin teknolojinin gerçek kapasitesini olduğundan daha küçük gösterdiğini savunarak, bundan böyle ABD’nin resmî belgelerinde “yapay zeka” yerine “süper zeka” ifadesinin kullanılacağını açıkladı. Trump, diğer ülkelerin de bu ifadeyi kullanmasını umduğunu söyledi.
SEKTÖR İÇİNDEN GELEN AÇIKLAMA TARTIŞMAYI ÜRKÜTÜCÜ BİR NOKTAYA TAŞIDITrump’ın açıklamaları, BM’de yapay zekaya ilişkin daha sıkı güvenlik önlemleri çağrılarının yapıldığı bir dönemde geldi. BM Genel Sekreteri Antonio Guterres, yapay zeka konusunda daha güçlü denetim çağrısı yaparken, 20’den fazla ülkenin lideri de gelişmiş yapay zeka sistemleri için bağlayıcı güvenlik önlemleri oluşturulmasını istedi.
Tam da yapay zekanın geleceğinin küresel ölçekte tartışıldığı bu ortamda, sektörün içinden gelen başka bir açıklama ise tartışmayı çok daha ürkütücü bir noktaya taşıdı. Yapay zeka araştırmacısı Jacob Coxon, X hesabından yaptığı uzun açıklamada Anthropic’ten istifa ettiğini duyururken, son üç yılını OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerine araştırmalar yürüterek geçirdiğini belirtti.
Her iki şirketin de yapay zekanın gelişimi konusunda sorumlu davranmadığını savunan Coxon, şirketlerin kendi kendini geliştirebilen “süper zeka” sistemlerine ulaşmak için yarıştığını ve bunun insanlığın geleceği açısından büyük bir risk oluşturduğunu ifade etti. Yapay zekanın gücünün küçümsenmemesi gerektiğini vurgulayan Coxon, yakın gelecekte insanlardan daha yetenekli sistemlerin ortaya çıkabileceğini öne sürdü.
Bu sistemlerin siber saldırılar gerçekleştirebileceğini, farklı alanlarda çok hızlı dönüşümlere yol açabileceğini ve zamanla gerçek dünyada güç ve kaynak elde edebilecek kapasiteye ulaşabileceğini belirtti. I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly.
They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026‘YÖNETİCİLER, YAPAY ZEKANIN ÖNÜMÜZDEKİ 10 YILLIK SÜREÇTE İNSANLIĞIN TAMAMINI YOK EDEBİLECEĞİNE GERÇEKTEN İNANIYOR’Ayrıca Jacob Coxon, yapay zeka geliştiren araştırmacı ve yöneticilerin önemli bir bölümünün teknolojinin 10 yılın sonuna kadar insanlığın tamamını yok edebileceğine gerçekten inandığını da öne sürdü.
Bunun bir “pazarlama taktiği” olmadığını da savunan Coxon, bazı yöneticilerin ve kıdemli araştırmacıların kamuoyuna daha temkinli açıklamalar yaptığını, ancak özel görüşmelerde aynı kişilerin yapay zekanın oluşturabileceği risklerden ciddi biçimde endişe duyduğunu iddia etti. Coxon, “Eğer gerçekten bu kadar tehlikeli olduğuna inanıyorlarsa neden hâlâ geliştiriyorlar?” sorusuna da yanıt verdi.
OpenAI’de bazı kişilerin meselenin insanlık açısından taşıdığı önemi henüz tam olarak kavramadığını, Anthropic'te ise risklerin daha iyi anlaşıldığını ancak şirketin yapay zeka yarışında geri kalma korkusuyla hareket ettiğini öne sürdü. PEKİ, YAPAY ZEKA İNSANLIĞI TAM OLARAK NASIL YOK EDEBİLİR? Daily Mail’de yer alan haber de bu soruya odaklandı ve uzman görüşleriyle beş maddeyi ön plana çıkardı.
İşte yapay zekanın insanlık için oluşturabileceği en dikkat çekici beş senaryo... 1- NE OLDUĞUNU ANLAMAYA FIRSAT BULAMAYABİLİRİZYapay zekanın insanlığı tehdit edebileceğini düşünenlerin temel argümanlarından biri, insan zekasının kendisinden çok daha üstün bir sistemin davranışlarını öngörmenin son derece zor olması.
Başka bir ifadeyle, insanlardan çok daha zeki bir yapay zekanın hangi hedefleri geliştireceğini veya bu hedeflere ulaşmak için hangi yöntemlere başvuracağını bugünden kesin olarak tahmin etmek mümkün olmayabilir. Bu yaklaşım, insanın kendisinden çok daha az zeki bir varlıktan karmaşık insan davranışlarını açıklamasını beklemesine benzetiliyor. Ancak mevcut yapay zeka sistemlerinin hâlâ önemli sınırlamaları bulunuyor.
Bazı modeller belirli ve son derece karmaşık problemlerde insanları aşabilse de bu durum, onların her alanda insanlardan daha zeki olduğu anlamına gelmiyor. Bununla birlikte, yapay zekanın giderek daha karmaşık matematiksel problemleri çözebilmesi, bu tartışmanın önemini artırıyor.
Eğer gelecekte insan kapasitesini genel anlamda aşan sistemler ortaya çıkarsa, bu sistemlerin davranışlarını önceden öngörmek çok daha zor hale gelebilir. 2- BİYOLOJİK SİLAHLARYapay zekanın insanlık için oluşturabileceği en somut risklerden biri biyolojik silahların geliştirilmesini kolaylaştırması olabilir.
Son derece gelişmiş bir yapay zekanın yeni ve tehlikeli bir biyolojik ajan tasarlamak, genetik dizilimler oluşturmak veya laboratuvar süreçlerini hızlandırmak için kullanılabileceği düşünülüyor. Bu ihtimal, yapay zeka destekli biyoloji alanındaki gelişmelerle birlikte daha fazla tartışılmaya başladı.
Stanford Üniversitesi’ndeki araştırmacıların genetik bir yapay zeka modeli kullanarak yeni virüsler üzerinde çalışma yürüttüğüne ilişkin haberler de bu endişelerin somut örneklerinden biri olarak gündeme geldi. Ancak yeni ve ölümcül bir virüs geliştirmek ile insanlığın tamamını yok etmek aynı şey değil.
Kaynak: Hürriyet
