Yapay zeka ajanları hedef belirleyip seçenekleri değerlendirebiliyor, plan oluşturabiliyor ve çeşitli araçlarla görevleri insan müdahalesi olmadan yürütebiliyor. Avustralya’da OpenAI tarafından geliştirilen bir ajanın devlet istatistik portalına izinsiz eriştiğinin açıklanması, bu sistemlerin güvenlik riskleri ve denetim ihtiyacı konusundaki tartışmaları artırdı.
Teknik düzeyde ne olduklarına dair tek bir tanım bulunmasa da genel kabul gören görüş düşünebilen, eyleme geçebilen ve süreçleri yineleyip, kendini düzeltebilen sistemler olduğu yönünde. Özerklik düzeyleri o denli yüksek ki, bazı uzmanlara göre hassas veriler içeren sistemlere kendi başlarına bile erişebilirler. Avustralya'da buna benzer bir olay yaşandı.
Ülkenin Başbakanı Anthony Albanese, 24 Eylül Perşembe günü yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının bir devlet istatistik portalına sızdığını belirtti. Başbakan, sistemin ülkenin kamu sağlık sistemi olan Medicare'e ait hassas olmayan verileri barındıran bir internet sitesine izinsiz erişim sağladığını açıkladı.
Olayın model uyumsuzluğu faaliyetine yönelik kapsamlı bir inceleme sırasında tespit edildiğini söylediler. Uzmanlara göre Avustralya'daki olay, yapay zeka ajanlarına atfedilen ve bir devlet kurumuna yapılan sızma girişimi olarak dünyada bilinen ilk vaka olma niteliği taşıyor. Olay, bu sistemlerin yeteneklerini bir kez daha gündeme taşıdı.
Analitik ve karar verme gücü, bu sistemleri, öncelikli olarak belirli görevleri otomatikleştirmek amacıyla tasarlanmış daha önceki programlardan ayırıyor. Bu sistemler giderek artan bir şekilde ve çoğu durumda doğrudan insan müdahalesi olmaksızın çeşitli sektörlere entegre ediliyor.
Mega firmasından bilgisayar bilimleri uzmanı ve bu tür sistemlerin geliştiricisi Ricardo Carrión durum hakkında Bir yapay zeka ajanına, tıpkı insan bir iş arkadaşından isteyeceğiniz türden bir görev tanımlıyorsunuz diyor. Amaçları, tam bağımsızlık veya insan gözetimi altında çalışma şeklinde olabilen belirli bir özerklik derecesiyle faaliyet göstermek.
Teknoloji sektöründeki tartışmaları körükleyen unsur da tam olarak bu özerklik. Bazı araştırmacılar ve geliştirme yöneticileri, şirketlerin istenmeyen davranışları önleyecek yeterli kontrolleri bulunmayan ajan sistemleri geliştiriyor olabileceği konusunda uyarılar yapıyor. Son aylarda OpenAI ve Anthropic gibi şirketler, bu tür sistemlerde beklenmedik davranış örnekleri görüldüğünü kabul etti.
Bu durum da daha sıkı kurallar ve denetim çağrılarını güçlendirdi. Sohbet robotundan çok daha fazlası Carrión, Pek çok kişinin alışkın olduğu geleneksel bir sohbet robotu, isteminize talimat, soru veya komutla yanıt veriyor diyor. Bu, insanların ChatGPT, Claude ve Gemini gibi sohbet robotlarında yaygın olarak başvurduğu kullanım şekli.
Bir ajan (yapay zeka temsilcisi) ile aradaki fark şu: Ajan, kendisine bir hedef, tamamlanacak bir görev veya alınacak bir karar gibi, verildiğinde, karar vermede belirli bir özerkliğe ve harekete geçme yetkisine sahip. Yapay zeka ajanlarının kullandığı dört temel bileşen var. Bunlardan biri, ajanın beyni işlevini gören büyük dil modeli (LLM).
Bunlar, sohbet botları tarafından da kullanılan ve muazzam miktarda bilgiyi işleme yeteneği sağlayan aynı LLM'ler. Bir diğer unsur, ajana sağlanan ve bilgiyi hem kısa hem de uzun vadede bir bağlam kutusu içinde depolayıp konumlandırmasına olanak tanıyan bellek. Bu bellek, bildiklerini hatırlamak için veritabanlarına ve özelleşmiş mimarilere dayanıyor.
Üçüncü bir bileşen, hem dijital hem de fiziksel dünyada etkileşime olanak tanıyan araçlar veya eklentiler. Bunlar; yaygın olarak bilinen API'lerden (Uygulama Programlama Arayüzleri) hesaplama yazılımlarına, kod derleyicilerine ya da internet tarayıcıları ve arama motorlarına kadar çeşitlilik gösterebiliyor. Dördüncü bileşen ise planlama modülü.
Bu, ajanın karmaşık sorunları alt adımlara bölmesini, alternatifleri değerlendirmesini ve izlenecek stratejiyi belirlemesini sağlayan bileşen. Ajana operasyonel özerkliğini kazandıran şey, işte bu planlama ve araç seçme yeteneği. Nasıl oluşturuluyorlar? Sohbet robotlarını kullanan ortalama bir kullanıcı kendi ajanlarını (özel görevli yapay zeka birimlerini) oluşturabilir.
Fakat bunu Claude, Gemini veya ChatGPT'nin standart sohbet modunda değil, bu ve diğer platformların abonelikle sunduğu ortak çalışma (co-work) modunda yapabilir. Carreón durumu Aynı komutu sohbet modunda verirseniz, sohbet robotu elindeki bilgilere dayanarak mümkün olduğunca hızlı yanıt vermeye çalışır diyor.
Ancak ortak çalışma modunda, sistem sizden 'ajan' niteliğinde bir iş yapmanızı gerektiren bir talep geldiğini varsayar. Böylece komutu yorumlar, izlenecek adımları belirler ve sorunun nasıl çözüleceğine dair bir planı uygulamaya koyar diye ekliyor. Çoğu zaman, planı nihai hale getirmeden önce size sorular yöneltir, ardından bir ajan gibi hareket etmeye başlar, hatta bazen alt ajanları devreye sokar.
İşin karmaşıklığına bağlı olarak bu süreç yarım saat, bir saat ve hatta bir gün bile sürebilir. Yapay zeka ajanı kişisel e-posta hesabına bağlanma, mesajları okuyup yorumlama, takvimi yönetme, sipariş verme ve rapor sunma gibi temel görevlerde yaratıcısına destek olabilir.
Ancak daha uzmanlık gerektiren düzeylerde, uzmanların daha ayrıntılı hedefler ve bağlantı kurulacak veritabanları oluşturmasını ve daha özelleşmiş API'lerin kullanılmasını içeren istem mühendisliği (prompt engineering) süreçlerine ihtiyaç duyuluyor.
Araştırmalara göre yapay zeka aracıları, bir görevi zamanında ve talimatlara uygun şekilde tamamlama konusunda insan becerisinin çok ötesinde, yüzde 96'ya varan bir etkinlik düzeyi sergiledi. Sonuç olarak pek çok şirket, ticari, akademik veya bilimsel alanlar da dahil, çeşitli sahalardaki görevlerin yerine getirilmesinde bu araçları bir alternatif olarak değenlendiriyor.
Carreón'a göre, günümüz telekomünikasyon şirketlerinde bir sorun yaşadığınızda, ister WhatsApp ister sesli iletişim yoluyla olsun, size yanıt veren ilk muhatap bir insan değil, yapay zeka ajanı. Bu aracı, API'lerden gelen bilgileri okumayı ve mümkün olduğunca hizmeti yeniden işler hale getirmek için gerekli aksiyonları almayı içeren bir dizi işlemi gerçekleştirme girişiminde bulunuyor.
Kaynak: Cumhuriyet Son Dakika
