OpenAI ve Anthropic yöneticileri, Birleşmiş Milletler Güvenlik Konseyi toplantısında yapay zekânın kontrolden çıkması, kötüye kullanılması ve gücün az sayıda elde toplanması risklerine dikkat çekti. Yetkililer, biyolojik silahların önlenmesi, modellerin test edilmesi ve uluslararası güvenlik mekanizmaları için ortak kurallar oluşturulmasını istedi.
Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Google’da tercih edilen kaynak olarak ekleyin Yapay zekâ şirketlerinden son haftalarda art arda gelen güvenlik uyarıları ve teknolojinin gelişim hızının yavaşlatılması çağrıları, yapay zekâ sistemlerinin küresel güvenlik açısından oluşturduğu riskleri Birleşmiş Milletler’in (BM) gündeminin üst sıralarına taşıdı.
BM Güvenlik Konseyi’nde çarşamba günü yapılan toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei, Hugging Face CEO’su Clement Delangue, yapay zekâ uzmanı Yoshua Bengio ile ABD, İngiltere, Fransa ve Çin’den üst düzey yetkililer, teknolojinin oluşturabileceği tehditleri ve bunlara karşı alınabilecek önlemleri ele aldı.
Toplantıda yapay zekâ sistemlerinin kısa süre içinde kendi kendilerini geliştirebileceği ve kontrolden çıkabileceği uyarıları öne çıktı. Gözden Kaçmasın Google’ın testinde hesapta olmayan hamle: Yapay zeka sınırı aştı!
Kimse bunu beklemiyordu, gerçek hedefler ortaya çıktı Haberi görüntüle ‘YA RÖNESANS YA ÇALKANTI’Altman, “Önümüzde bir seçim var” diyerek yapay zekânın “yaratıcılık ve keşfin yeni bir Rönesansı” da olabileceğini, “çalkantı ve düzensizliğin yeni bir sanayi devrimi”ne de dönüşebileceğini söyledi.
Sistemlerin kurumları geride bırakabileceği, gücü çok az sayıda elde toplayabileceği ve insanların anlayamadığı veya kontrol edemediği kararlar alabileceği uyarısında bulundu. Amodei ise yapay zekânın kötü yönetilmesi halinde “bir bütün olarak insanlık için risk” oluşturabileceğini söyledi ve yapay zekânın biyolojik silah geliştirmek için kötüye kullanılması ile modellerin kontrolden çıkması risklerine dikkati çekti.
KÜRESEL STANDART ÇAĞRISIHer iki yönetici de bu risklere karşı uluslararası ortak kurallar ve güvenlik standartları oluşturulması çağrısı yaptı. Amodei, biyolojik silah kullanımının yasaklanması, modellerin test edilmesi için küresel standartlar, yeni değerlendirme ve doğrulama sistemleri ile küresel güvenlik bildirim mekanizması oluşturulmasını istedi.
En önemli kararların “yalnızca San Francisco’daki laboratuvarlar” tarafından alınamayacağını söyleyen Altman ise kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini belirtti.
‘ŞİRKETLERE BIRAKILAMAZ’İngiltere Dışişleri Bakanı Ed Miliband de felaketi önleme görevinin şirketlere bırakılamayacağını vurguladı, İngiltere’nin gelecek yılki G20 başkanlığında yapay zekânın kontrolünü gündemin merkezine koyacağını açıkladı. Fransa Dışişleri Bakanı Jean-Noel Barrot da uluslararası toplumun teknolojiyi düzenlemesi gerektiğini söyledi.
ABD VE ÇİN FARKLI FİKİRDEAncak yapay zekâ alanındaki lider ülkeler ABD ve Çin’in yaklaşımı aynı çizgide değil. Toplantıya katılan Beyaz Saray bilim ve teknoloji danışmanı Michael Kratsios küresel bir düzenleyici yapı yerine ülkelerin kendi kapasitesini geliştirmesi ve en iyi uygulamaları paylaşması gerektiğini savundu.
Çin’in BM Büyükelçisi Fu Cong ise düzenleyici çerçevelerin, acil durum müdahalesinin ve sınır ötesi işbirliğinin geliştirilmesi çağrısı yaptı. ABD Başkanı Donald Trump da bir gün önce yapay zekâyı küresel ölçekte kontrol etmeye yönelik girişimleri reddettiğini söylemişti.
İki ülke yapay zekâ yarışını stratejik bir rekabet alanı olarak görürken, Washington küresel düzenleme fikrine karşı çıkıyor, Pekin ise düzenleyici çerçevelerin ve sınır ötesi işbirliğinin geliştirilmesini savunuyor. Gözden Kaçmasın Arda’nın bankından Salah’ın taşına Haberi görüntüle YAPAY ZEKÂYI KONUŞTULARABD Başkanı Donald Trump ile Çin Devlet Başkanı Şi Cinping Washington’da bir araya geldi.
Bu yıl ikinci kez bir araya gelen iki lider ticaret, güvenlik ve yapay zeka konularına dikkat çekerek işbirliği çağrısı yaptı. İkili görüşme öncesi bir konuşma yapan Trump, Cinping’in Beyaz Saray’ı ikinci kez ziyaret eden ilk Çin lideri olduğunu söyledi. Başkanlığının ilk döneminden beri “harika ilişkileri” olduğunu vurgulayan Trump, “O zamandan bu yana çok şey değişti” dedi.
Çin lideri daha önce eski ABD Başkanı Joe Biden döneminde Washington’ı ziyaret etmişti. ‘SORUNLARI BİRLİKTE ÇÖZELİM’Son günlerin tartışmalı konusu yapay zekâya özellikle dikkat çeken Trump, Çin lideriyle bu konuda önemli görüşmeler yapacaklarını ve “günümüzde alacakları kararların gelecek yıllara barış ve refah getireceğini” öne sürdü.
Ayrıca iki ülke arasında “daha dengeli bir ticaret” için çalışacaklarını vurguladı. Trump’ın ardından konuşma yapan Cinping, “ikilinin iyi bir diyaloğa” sahip olduğunu söyledi. “İletişimi güçlendirmeliyiz” diyen Cinping, “Bu sayede dünyanın sorunlarını beraber çözebiliriz. Çin-ABD ilişkileri için çalışmaya istekliyiz” dedi.
Gözden Kaçmasın 633 milyar liralık soru Haberi görüntüle ‘İNSANLIĞA HİZMET ETMELİ’“İnsanlığa faydalı olacak çalışmalara imza atmak istediklerini ve bunun tarihi sorumluluğu olduğunu” vurgulayan Cinping, iki ülkenin de yapay zekâ alanında büyük ilerlemeler kaydettiğini ve bu konuda büyük sorumlulukları olduğunu belirtti.
“Ancak önemli olan yapay zekânın her zaman kontrol altında tutulması ve halkın refahına hizmet etmesi” diyen Çin lideri ülkesinde ABD’li şirketlerin yatırım yapmasının da memnuniyetle karşılanacağını bildirdi. Açıklamaların ardından Oval Ofis’te bir araya gelen ikili sonrasında Beyaz Saray’daki akşam yemeğine katıldı. Yemekte Elon Musk, Mark Zuckerberg, Jeff Bezos, Sam Altman gibi teknoloji liderleri de yer aldı.
Kaynak: Hürriyet
