OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, BMGK toplantısında yapay zekanın kontrol kaybı ve kötüye kullanım risklerine dikkat çekti. İki yönetici, bu risklerin azaltılması için hükümetlerin, şirketlerin ve ülkelerin ortak düzenlemeler geliştirmesi gerektiğini belirtti.
Yapay zeka teknolojisi konusunda öne çıkan şirketlerin üst yöneticileri, BMGK de yapay zeka ve uluslararası güvenlik başlığı altında düzenlenen toplantıda değerlendirmelerde bulundu. OpenAI Üst Yöneticisi Altman, yapay zeka modellerinin geliştirilmesindeki hızın, olumlu sonuçları daha da somutlaştırmasının yanı sıra riskleri de daha acil hale getirdiğini söyledi. Altman, Önümüzde bir seçenek var.
Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir. dedi.
Yapay zekanın ideal versiyonunun, insanları dev bir makinenin dişlileri haline getirmek ya da insani unsurlar ortadan kalkana kadar hayatın her alanını optimize etmek olmadığını belirten Altman, Bu modeller, insanların bugün ulaşılamaz gibi görünen hayallerini ve hedeflerini gerçekleştirmeleri için yeni araçlar olabilir. diye konuştu.
Altman, yapay zeka sistemlerinin daha kabiliyetli ve otonom hale gelebileceğini, dünyadaki güç dengelerini değiştirebileceğini ve kendi kendilerini geliştirebildikçe insan müdahalesini saf dışı bırakabileceğini vurgulayarak, Yapay zeka geliştirme süreci giderek daha otomatik hale geldikçe, yapay zekanın ilerleme hızı da önemli ölçüde artabilir. Bu durum, son derece dikkatli davranılmasını gerektiriyor.
ifadelerini kullandı. Şirketlerin, faydalar uğruna riskleri göze almaması ve insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini kaydeden Altman, Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco daki laboratuvarlar tarafından alınmaması gerekir.
Bu kararlar, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmelidir. değerlendirmesinde bulundu. Altman, ortak çıkarlar için insanların bir araya gelmesi çağrısında bulunarak, Bir yol ayrımındayız. dedi.
Anthropic in Üst Yöneticisi Amodei de çevrim içi katıldığı toplantıda, yapay zekanın son yıllarda hızla geliştiğini belirterek, bu olağanüstü ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı. Amodei, İki ana risk kategorisi görüyorum. Birincisi, yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması.
İkinci risk ise kontrol kaybıdır; model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanmasıdır. diye konuştu. Bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getiren Amodei, Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum. şeklinde konuştu.
Yapay zeka güvenliğinin tek bir şirketin üstesinden gelebileceğinden daha büyük bir mesele olduğuna işaret eden Amodei, risklerin yönetilmesinin sektör genelinde ve küresel ölçekte işbirliği gerektirdiğini söyledi. Konseyin her üyesinin destekleyebileceği dar kapsamlı anlaşmalarla işe başlanması gerektiğini vurgulayan Amodei, yapay zekanın biyolojik silahların üretilmesinde kullanılmasının yasaklanmasını önerdi.
Devletlerin en gelişmiş yapay zeka modellerinin kabiliyetleri hakkında bilgi sahibi olabilmesi ve ülkelerin birbirlerine verdikleri taahhütlerin yerine getirilip getirilmediğini doğrulayabilmesi için değerlendirme ve doğrulama sistemlerinin kurulması çağrısında bulunan Amodei, yapay zeka modellerinin risklere karşı test edilmesi için ortak standartların belirlenmesini istedi.
Amodei, Bunun bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğuna inanıyorum. Bu odadaki insanların tüm farklılıklarına rağmen, aynı anda bize sunulan bu küresel fırsat ve küresel tehditle yüzleşmek için bu farklılıkları bir kenara bırakmalıyız. Hiçbir lider, hiçbir şirket ve hiçbir ulus bunu tek başına başaramaz. değerlendirmesinde bulundu.
Hugging Face Üst Yöneticisi Clement Delangue, otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyaya açık şekilde ilk kez duyuran şirket olarak bu saldırıdan çıkardıkları dersleri anlattı.
Yapay zekada siber güvenlik tehditlerini daha iyi anlamak ve bu tehditleri azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyleyen Delangue, yapay zekanın kapasitesinin, kaynaklarının ve kontrolünün birkaç kişinin elinde yoğunlaşması yerine bunun dağıtılmasının büyük bir ihtiyaç haline geldiğini vurguladı.
Delangue, söz konusu saldırı sırasında yapay zekanın, özellikle bu teknolojiyi insan gibi gösteren anlatımlar aracılığıyla kamuoyunda korkuya yol açabileceğini gözlemlediklerini belirtti.
Siber saldırının mağduru olmalarına rağmen yapay zekanın siber güvenlik açısından faydalı olacağına inandıklarını aktaran Delangue, Yapay zeka tarafından saldırıya uğradık, ancak daha da önemlisi, kendimizi yapay zeka kullanarak savunduk. Bu saldırı sırasında bize yardımcı olan sistemlerin aynısı, halihazırda karşı karşıya olduğumuz diğer siber saldırılara karşı mücadelemizde de bize yardımcı oluyor. dedi.
*Haberin görselleri AA tarafından servis edilmiştir.
Kaynak: Habertürk
