Yorum yazısında yapay zekânın finansal riskleri, insanlığın geleceğine yönelik olası tehditleri ve sosyolojik etkileri ele alınıyor. Metin, felaket senaryolarını değerlendirirken belirsizliğin kabul edilmesi, önyargıların sorgulanması ve kurumların hazırlık düzeyinin geliştirilmesi gerektiğini vurguluyor.
Son üç tanesi art arda olmak üzerine, YZ teknolojisinin getirdiği finansal riskleri, insanlığın bekasına ilişkin kaygıları tartışan yorumlar yazdım. Bu kez hem bu yorumları genel olarak değerlendirmeye hem de YZ’nin sosyolojik boyutu üzerine düşünmeye çalışacağım. NE İNKÂR NE PANİK Yapay zekânın babası olarak da bilinen Nobel ödüllü Prof.
Geoffrey Hinton, “İnsanlar örneğin bir nükleer patlama gibi somut tehditleri görebiliyorlar ama YZ’nin insanlığı tehdit eden özellikleri gibi soyut tehditleri kavramakta zorlanıyorlar. Ben bile duygusal düzeyde riskleri kavramakta zorlanıyorum” diyor. Gerçekten de YZ geçmiş teknolojilerden çok farklı.
Nükleer bomba bir kitle imha aracı ama kendi kendini geliştiremez, yeni bombaları yalnızca insanlar yapabilir, kullanmaya karar verebilir. YZ’nin kendini geliştirme, yeni YZ modellerini yaratma potansiyeli var; önüne konan sorunlar ne kadar zorlaşırsa o kadar hızlı geliştiği düşünülürse bu potansiyelin gerçeğe dönüşmesi çok yakın. O noktada büyük bir zekâ patlaması bekleniyor.
İkincisi YZ’nin sonsuz sayıda kopyalanabilir “ajan” modelleri gelişince öğrenme hızı da arttı. İnsanların beyinlerindeki nöron bağlantıları hâlâ en gelişmiş YZ modelininkinden çok fazla. Ancak öğrenme, paylaşma alanında YZ hızla büyüyen bir avantaja sahip. İnsanın öğrenme ve öğrendiğini konuşarak, yazarak paylaşma süreci çok yavaş. YZ ajanları öğrendiklerini anında kendi aralarında paylaşabiliyorlar.
Biri “Das Capital” i birkaç dakika içinde okuyabilir, okuduklarını anında diğer ajanlarla paylaşabilir. Bunu YZ’nin 180+ dilde gerçekleştirebildiğini de unutmamak gerekiyor. YZ’nin insanlık için yaratabileceği felaketleri sağlıklı düşünmek oldukça zor ama ünlü ekonomist Keynes ’in 3. kuşaktan yeğeni, FT yazarı Soumaya Keynes’ in konuya ilişkin notları yardımcı olabilir. Özetleyerek aktarıyorum.
İnsanların bir kısmı makinelerin gelişmesinin kolayca durdurulabileceğine inanarak aşırı rahat davranıyor, diğerleri YZ’nin insanlığı yok etmesinin kaçınılmaz olduğuna inanıyor. Soumaya, öncelikle “felaket” kavramının açık biçimde tanımlanması gerektiğini savunuyor. Milyonlarca insan ölebilir ama bu insanlığın yok olması anlamına gelmiyor. Geride kalanların zamanla daha iyi bir toplum kurması olasılığı da var.
İkincisi, bilişsel önyargılar sık ve çarpıcı biçimde, tehditleri gerçekte olduklarından çok daha büyük gösterebiliyor. Buna karşılık, kişisel olarak zarar görmeyeceğini düşünmek de tehlikeyi küçümsetebilir. YZ, riski kesin olasılıklarla değerlendirilebilecek bir kumar değildir. Kurallar, ihtimaller ve olası senaryolar henüz belirsiz.
Bu nedenle belirsizliği kabul etmek, önyargıları sorgulamak, kurumların hazırlık düzeyini geliştirmek gerekir. BELİRSİZLİKLER VE OLASILIKLAR Belirsizlikler ve olasılıklar şu iki yaklaşım etrafından ve çok güçlü bir etki altında gelişiyor ya da şekilleniyor.
Bu iki yaklaşımı Microsoft AI’ın CEO’su Mustafa Süleyman şöyle tanımlıyor: Birinci yaklaşım YZ’yi yeni bir alet olarak değil, evrimin yeni bir aşaması olarak görüyor. İnsanlık bu yeni canlı türü için yalnızca bir biyolojik önyükleyici (bootloader). Bu yaklaşım, haklarından özgürlüklerinden söz edilmesi gereken yeni bir “silikon canlı” türünün doğmakta olduğunu iddia ediyor.
İkincisi, Süleyman kendini bu safa koyuyor, “türcü bir yaklaşım” olarak YZ’nin varlığının insanın varlığına tabi olması gerektiğini, antropomorfizmin (insanmış gibi görmenin) çok yanlış olduğunu savunuyor. Her ikisi de “hızlandırmacı” olan bu yaklaşımlardan birincisi süreci serbest bırakmaktan yana, ikincisi durdurmaktansa denetim çabalarını hızlandırmaktan.
Bir de o güçlü etki var: YZ gelişebilmek için giderek artan oranda kaynak tüketiyor. Büyük kârlar yapmak umuduyla büyük mali kaynaklar YZ alanına akıyor. Diğer bir deyişle; bu iki yaklaşımdan hangisinin egemen olacağına sermaye ilişkisi karar verecek gibi görünüyor.
Birinci yaklaşım egemen olursa insanlık muazzam bir hafızası, lisan kullanma, hesap yapma, öğrenme, örgütlenme kapasitesi olan bir “varlıkla” gezegeni paylaşmak zorunda kalacak. Evrim teorisi ve insanlık tarihi bize uyum sağlama -rekabet- kapasitesi düşük türlerin zamanla yok olduğunu söylüyor. YZ’yi sermayenin elinden alacak bir güç ise henüz ortada yok.
Kaynak: Cumhuriyet Son Dakika
