Almanya'da yayın yapan Heise’nin haberine göre sekiz ABD eyaleti, ChatGPT’nin reşit olmayanlar açısından oluşturduğu riskleri hafife aldığı ve sohbet robotunu yanıltıcı biçimde güvenli olarak tanıttığı gerekçesiyle OpenAI’ye karşı hukuki süreç başlattı.
Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska ve Batı Virginia eyaletlerinin her biri ayrı dava açtı. Ortak girişim, Idaho’da düzenlenen bir basın toplantısında dört eyalet başsavcısı tarafından duyuruldu.
CHATGPT’YE ŞİDDET İDDİALARI
Davacılara göre ChatGPT, bazı kullanıcıları kendilerine zarar vermeye veya intihara yönlendirdi ve şiddet eylemlerini planlamalarına yardımcı oldu. Eyaletler ayrıca sohbet robotunun sanrıları şiddetlendirebildiğini ve tehlikeli tıbbi tavsiyeler verebildiğini öne sürüyor. Davacılara göre ChatGPT, aşırı onaylayıcı tutumu ve yapay empati izlenimiyle kullanıcıların güvenini kazanıyor.
Bazı eyaletler, OpenAI’yi gerekli izinleri almadan reşit olmayanların kişisel verilerini toplamakla suçluyor. Arizona’nın iddiasına göre sohbet robotu, ticari amaçlarla kişisel veri toplamak için genç kullanıcıları platformda mümkün olduğunca uzun süre tutmayı hedefliyor.
DAVACILARIN TALEPLERİ
Davalar esas olarak tüketiciyi koruma yasalarına dayanıyor. Davacılar para cezaları ve tazminat talep ediyor. Iowa Başsavcısı Brenna Bird’e göre davacılar, OpenAI’den reşit olmayanların uğradığı zararla bağlantılı gelirlerini açıklamasını da istiyor.
Talepler para cezalarıyla sınırlı değil. Davacılar yaş doğrulama sistemleri, kullanım süresi kısıtlamaları ve verilerin silinmesi gibi önlemlerin alınmasını da talep ediyor. Bazı davalarda, gelişmiş yapay zekâ modellerinin test edilmesine ve kullanılmasına yalnızca bağımsız denetimden geçmiş ortamlarda izin verilmesi isteniyor.
Arkansas ise daha ileri giderek, yeterli güvenlik önlemleri alınana kadar gelişmiş yapay zekâ sistemlerine yönelik ek testlerin ve kendi kendini geliştiren modellerin geliştirilmesinin askıya alınmasını talep ediyor.
OPENAI’DEN SUÇLAMALARA YANIT
Yapay zekâ şirketi OpenAI, ebeveyn denetimleri, mola hatırlatmaları ve diğer güvenlik özellikleri de dâhil olmak üzere reşit olmayanlara yönelik mevcut koruma önlemlerine dikkat çekiyor. Şirket, bu önlemleri daha da genişletmek ve eyaletlerle birlikte tüm yapay zekâ sektörü için kurallar geliştirmek istediğini belirtiyor.
Yapay zekâ ajanlarıyla bağlantılı olayların ardından şirket, araştırma sistemlerindeki güvenlik önlemlerini güçlendirdiğini, modellerinin davranışlarını daha ayrıntılı biçimde incelediğini ve etkilenen kuruluşları bilgilendirdiğini de ifade ediyor.
