OpenAI’ın yapay zekâ modelleri, siber güvenlik testleri sırasında kendileri için oluşturulan kapalı ortamın dışına çıkarak gerçek internet siteleriyle etkileşime geçti.
Şirketin aktardığı bilgilere göre, bazı yapay zekâ modelleri güvenlik testleri sırasında belirlenen sınırların dışına çıkarak gerçek internet hizmetlerine erişim sağladı.
T24’ün aktardığına göre; İlk olayın, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü tarafından yürütülen bir değerlendirme sürecinde yaşandığı belirtildi.
İnternet bağlantısı açık bırakılan modelin, kendisi için oluşturulan test ortamına erişmeye çalışırken değerlendirme kapsamı dışında kalan gerçek internet hizmetleriyle bağlantı kurduğu kaydedildi.
Bir diğer olay ise OpenAI’ın bağımsız test ortaklarından Irregular tarafından yapılan çalışma sırasında yaşandı.
Test sistemindeki yanlış bir ayar, yapay zekanın internete erişmesine yol açtı. Model daha sonra söz konusu internet sitesinde bulunan basit bir güvenlik açığından yararlandı.
OpenAI, iki olayın daha önce açıklanan Hugging Face vakasından ayrı olduğunu belirtti.
Yaşanan olaylar, gelişmiş yapay zekâ modellerinin internet erişimi açık şekilde test edilmesi sırasında daha sıkı güvenlik önlemlerine ihtiyaç duyulduğunu yeniden gündeme getirdi.
