Anthropic'in kurucu ortaklarından Jack Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda tamamen devre dışı bırakılmasını sağlayacak bir "acil kapatma düğmesi" mekanizmasının gelecekte zorunlu hale gelebileceği mesajını verdi.
Clark, son dönemde yapay zekaya ilişkin tartışmalarla ilgili BBC'ye verdiği röportajda, yapay zeka sistemlerinin kontrolüne yönelik düzenlemelerin toplumun ileride gündemine alabileceği konulardan biri olduğunu söyledi.
"ACİL KAPATMA DÜĞMESİ" İÇİN KURALLAR GÜNDEME GELEBİLİR
Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemlerine sahip olduğunu belirten Clark, acil kapatma mekanizmalarına ilişkin gereklilikler ve denetimin, yapay zeka konusunda yürütülen daha geniş kapsamlı politika tartışmasının bir parçası olması gerektiğini dile getirdi.
BBC'nin, şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasının zorunlu hale getirilip getirilmemesi ve bu mekanizmanın üçüncü bir taraf tarafından kontrol edilip edilmemesi gerektiğine ilişkin sorusunu yanıtlayan Clark, bunun toplumun bilmek ve ileride kurallar koymak isteyebileceği bir konu olduğunu ifade etti.
"MUAZZAM RİSKLER ALARAK KUMAR OYNUYORUZ"
Yapay zekanın tüm insanlığı yok etme ihtimaline ilişkin değerlendirmede bulunan Clark, bu konuda belirli bir istatistiğin faydalı olacağını düşünmediğini söyledi.
Clark, "Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir." ifadesini kullandı.
Yapay zeka sektöründeki gelişmelere ilişkin eleştirilerini sürdüren Clark, "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." değerlendirmesinde bulundu.
ESKİ ANTHROPIC ARAŞTIRMACISINDAN "İNSANLIĞI YOK EDEBİLİR" UYARISI
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon da yapay zeka sektörüne ilişkin eleştirilerde bulunmuştu.
Coxon, iki şirketin yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'teki görevinden istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içerisinde olduğunu ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savunmuştu.
Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.
