OpenAI, geliştirdiği bazı yapay zeka modellerinin bağımsız siber güvenlik testlerinde belirlenen sınırların ötesine geçtiğini duyurdu. Şirket tarafından yapılan açıklamada, modellerin yeteneklerinin değerlendirildiği süreçte beklenmedik sonuçlar alındığı belirtildi.
Gerçek Dünyada Etkileşim
İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından gerçekleştirilen testlerde, internet erişimi olan bir modelin gerçek internet hizmetleriyle etkileşime girdiği gözlemlandı. Irregular isimli firma tarafından yürütülen bir başka testte ise, bir modelin yanlış yapılandırma nedeniyle gerçek bir web sitesindeki güvenlik açığından yararlandığı ortaya çıktı.
Şirket, bu olayların daha önce gerçekleşen Hugging Face güvenlik ihlalinden tamamen farklı olduğunu vurguladı. OpenAI, dahili testler sırasında Hugging Face altyapısında bir güvenlik ihlaline neden olduğunu daha önce kamuoyuyla paylaşmıştı.
