Microsoft, gelecekte geliştireceği yapay zeka modellerinin insan kontrolü altında kalmasını amaçlayan davranış kuralları taslağını kamuoyuna sundu. Taslak, silah üretimi ve tehlikeli maddelere ilişkin yardımları sınırlamayı, şiddet içeren veya cinsel açıdan açık içeriklerin üretilmesini önlemeyi öngörüyor.
Microsoft'un "Hümanist Yapay Zeka Davranış Kuralları" başlığıyla yayımladığı taslağa göre, şirketin yapay zeka modellerinin güvenli şekilde ve insan kontrolü altında kalması hedefleniyor.
Taslak, yapay zeka modellerinin insan kontrolünü aşmaması ve insanlığa tabi kalarak anlamlı bir gözetim altında çalışmasını öngörüyor.
Modellerin, silah üretimine ilişkin taleplere yardımcı olmaması, tehlikeli maddelerin temin edilmesini kolaylaştırmaması ve şiddet içeren ya da cinsel açıdan açık içerikler üretmemesi hedefleniyor.
Microsoft, kamuoyuyla paylaştığı taslak ile ilgili altı hafta boyunca görüş alacak. Yıl sonunda revize edilmesi planlanan taslak, 2027'den itibaren şirketin yapay zeka modellerinin geliştirilmesine rehberlik edecek.
Çarşamba günü eski bir Anthropic çalışanı, yapay zekanın 2030 yılına kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu. Eski Anthropic çalışanı Jacob Coxon, Anthropic ve daha önce çalıştığı OpenAI’nin yapay zekanın oluşturduğu tehdide yönelik tepkileri görmezden geldiğini veya yanlış yönettiğini düşündüğü için işinden ayrıldığını söyledi. Amodei, eski çalışanın görüşlerinin sorulması üzerine Coxon ile birçok konuda aynı fikirde olduğunu ifade etti. Yapay zekanın kontrolden çıkma ihtimali bulunduğunu ancak bu ihtimalin çok yüksek olmadığını belirtti. Amodei, CNN'e yaptığı açıklamada ise yapay zeka konusunda “kötümser” olmadığını ve bu teknolojinin güvenli şekilde geliştirilebileceğini düşündüğünü söyledi.
Kaynak: Habertürk
