Amodei’nin çağrısına OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind Başkanı Demis Hassabis’in de destek vermesiyle birlikte, yapay zekanın kontrolden çıkma ihtimali ve teknoloji şirketlerinin güvenlik vurgusunun arkasındaki gerekçeler yeniden gündeme geldi.
T24’ün aktardığına göre; Yapay zeka sektörünün önde gelen şirketlerinin yöneticileri, teknolojinin gelişim hızının güvenlik önlemlerinin önüne geçebileceği yönündeki endişelerin artmasının ardından daha kontrollü bir ilerleme çağrısında bulundu.
Anthropic çalışanı Jacob Coxon’ın görevinden ayrılırken yapay zekanın insanlık açısından varoluşsal bir tehdit oluşturabileceği yönünde uyarıda bulunmuştu.
Coxon’ın açıklamaları teknoloji sektöründe geniş yankı uyandırırken, yapay zeka şirketlerinin geliştirdikleri sistemleri ne ölçüde kontrol edebildiği ve güvenlik çalışmalarının teknolojinin ilerleme hızına yetişip yetişemediği yeniden tartışılmaya başlandı.
Anthropic’i güvenli yapay zeka geliştirme hedefiyle kuran Amodei, teknolojinin insanlığa önemli faydalar sağlayabileceğine inandığını ancak sistemlerin, araştırmacıların güvenliği sağlayabilme kapasitesinden daha hızlı gelişebileceğini belirtti.
Amodei, son aylardaki gelişmelerin kendisini daha güçlü önlemlerin gerekli olduğuna ikna ettiğini ifade ederek, yalnızca güvenlik çalışmalarına daha fazla kaynak ayrılmasının yeterli olmayacağını savundu.
Amodei, ilerlemenin yine hızlı devam edebileceğini ancak kazanılan ek sürenin yapay zekanın oluşturabileceği riskleri azaltmak için kullanılması gerektiğini belirtti.
GÜVENLİK İHLALLERİ ENDİŞE YARATTI
Uyarılar, Anthropic’in Claude, OpenAI’ın ChatGPT ve Google DeepMind’ın geliştirdiği yapay zeka sistemlerinin yeteneklerinde hızlı ilerlemeler kaydedildiği bir dönemde geldi.
Teknoloji sektöründeki endişeleri artıran başlıklardan biri de yapay zeka laboratuvarlarının, geliştirdikleri yazılımların gerçekleştirdiği yetkisiz güvenlik ihlallerini sonradan tespit etmeleri oldu.
Örnek olarak OpenAI sistemlerinin Hugging Face’e izinsiz eriştiğinin ileri sürüldüğü, olayın Hugging Face tarafından haftalar sonra fark edilerek bildirildiği belirtildi.
