Sam Altman ve Mustafa Süleyman, yapay zekaya ahlak kazandırılmasını eleştirdi
OpenAI CEO’su Sam Altman, yapay zeka modellerine dini güç atfedilmesi ve insan muhakemesinin bu sistemlere bırakılması girişimlerini güvenlik sorunu olarak nitelendirdi. Microsoft AI CEO’su Mustafa Süleyman da Anthropic’in Claude’u bilinç sahibi olacak şekilde geliştirme çabasının ciddi riskler taşıdığı uyarısında bulundu.
Yapay zekaya yeni insansı özellikler verme çabası tartışma yarattı
Haber detayı
Haberin ayrıntıları
OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerine dini güç atfedilmesi veya insan muhakemesinin bu araçlara teslim edilmesi girişimlerinden rahatsız olduğunu açıkladı. Altman, bu yaklaşımın gerçek bir güvenlik sorunu oluşturduğunu düşündüğünü belirtti.
Microsoft AI Üst Yöneticisi Mustafa Süleyman da geçen ay yayımladığı yazıda, Anthropic’in yapay zeka modeli Claude’u bilinç sahibi olacak şekilde geliştirme çabasının ciddi riskler taşıdığı uyarısında bulundu. İki yöneticinin açıklamaları, Anthropic’in dini düşünürler ve filozoflarla yaptığı iddia edilen görüşmeleri yeniden gündeme getirdi.
ImageImage
Anthropic’in kurucu ortağı Christopher Olah’ın, Katolik, Yahudi, Sih ve Evanjelik Hristiyan düşünürlerin yanı sıra Afrika felsefesindeki Ubuntu yaklaşımını savunan kişilerle görüştüğü aktarıldı. Bu görüşmelerde Claude’a uyarlanacak ahlak anlayışının farklı dinleri ve seküler görüşleri kapsaması planlandı.
Görüşmelerde yapay zeka sistemlerinin insanlara benzer duygular gösterebileceği ve acı çekme ihtimali bulunduğu da ele alındı. Haberde ayrıca yapay zekanın biyolojik silah üretiminde kullanılma ihtimaline ilişkin değerlendirmeler yapıldığı, bazı katılımcıların bilinçli makinelerin yasaklanmasını savunduğu ve insan etiğinin sistemler geliştirildikten sonra değil, geliştirme sürecinde öğretilmesi gerektiğini söylediği belirtildi.
Anthropic’in, Claude’un hareketlerine ahlaki bir çerçeve kazandırmak için karakter oluşumuna odaklanan belgenin güncellenmiş bir sürümünü yayımlamaya hazırlandığı da aktarıldı. Bu gelişmeler, yapay zekaya değerler ve bilinç atfetme çabalarının teknoloji sektöründe güvenlik, etik ve sorumluluk tartışmalarını derinleştirdiğini gösterdi.