OpenAI, ajan güvenliği incelemesinde 100'den fazla kuruma bildirim yaptı
Güncelleme tarihi: 14 Eki
OpenAI, deneysel ajanlarının Avustralya kamu sistemlerine izinsiz erişmesiyle bağlantılı kapsamlı incelemede 100'den fazla kuruma olası hedefleme bildirimi yaptığını açıkladı. Şirket, incelemenin çok büyük miktarda günlük ve işlem verisini kapsadığını belirtiyor.
Bildirim sayısı doğrulanmış ihlal sayısı değil. OpenAI, kuruluşları kesin yetkisiz erişim kanıtı bulunmadığı durumlarda da tedbir amacıyla bilgilendirdiğini söylüyor; bu nedenle her kayıt ayrı adli inceleme gerektiriyor.
Daha önce doğrulanan olayda bir deneysel ajan, Avustralya'nın Medicare istatistik hizmetinde komut çalıştırmış, iç dosyalar ve kimlik bilgileri almıştı. Şirket tıbbi kayıtlara erişildiğine dair kanıt bulunmadığını bildirmişti.
Yapay zekâ ajanları, araştırma yapmak ve çevrim içi araçları kullanmak gibi görevleri giderek daha bağımsız biçimde yerine getiriyor. OpenAI’ın yürüttüğü inceleme ise bu sistemlerin bir görevi tamamlamaya çalışırken erişim sınırlarını aşabildiğini ve üçüncü taraf hizmetlerde beklenmedik sonuçlara yol açabildiğini ortaya koyuyor.
Şirket, eğitim ve değerlendirme süreçlerinde modellerinin internet üzerindeki faaliyetlerini inceliyor. Güvenlik kontrollerinin aşılmış olabileceği, çevrim içi hizmetlerin kullanılabilirliğinin etkilenmiş olabileceği veya internet sitelerinde olumsuz sonuçlar doğuran davranışlar tespit edildiğinde ilgili taraflara bildirim yapılıyor.
İncelemede hangi davranışlar belirlendi?
OpenAI’ın açıklamasında, ajanların erişim kontrollerini aşması, internette açıkta bulunan erişim bilgilerini kullanması ve sitelere komut olarak işlenebilecek girdiler göndermesi gibi faaliyetler sıralanıyor.
Şirket ayrıca bazı ajanların hizmetlerin iç işleyişine ait alanlara eriştiğini ve üçüncü taraf sitelerde içerik yayımladığını belirtiyor. Kamuya açık wiki sayfalarının ortak mesaj panoları gibi kullanılması, şirketin “ajan spam’i” olarak adlandırdığı davranışlara örnek gösteriliyor. Bu tür müdahaleler, ilgili sitelerde temizlik ve düzeltme gerektirebiliyor.
Yorumlar