Geçtiğimiz günlerde haberleştirdiğimiz Hugging Face güvenlik ihlalinin ardından, Hugging Face CEO'su Clem Delangue OpenAI'dan radikal şeffaflık talebinde bulundu. Delangue, araştırma topluluğunun olaydan ders çıkarabilmesi için saldırıyı gerçekleştiren agent’ın çalışma izlerinin (traces) kamuoyuyla paylaşılmasını ve savunma tarafını güçlendirecek daha kapsamlı adımlar atılmasını istedi.

CEO ayrıca OpenAI’a, Hugging Face topluluğunun daha güçlü siber güvenlik araçları geliştirebilmesi amacıyla 100 milyon dolarlık hesaplama gücü (compute) tahsis etme çağrısında bulundu. Delangue, yaşanan olayı “tarihteki ilk otonom AI agent siber saldırısı” olarak nitelendirerek, bunun AI güvenliği açısından yeni bir dönüm noktası olduğunu ifade etti.

Öte yandan siber güvenlik uzmanları, olayın yalnızca otonom agent davranışından değil, yeterince izole edilmemiş test ortamı gibi olası insan kaynaklı yapılandırma hatalarından da kaynaklanmış olabileceğine dikkat çekiyor.

OpenAI ise olayın ardından bağımsız uzmanlarla birlikte kapsamlı bir inceleme yürüttüğünü ve inceleme tamamlandıktan sonra teknik bulguları içeren ayrıntılı bir rapor yayımlayacağını açıkladı. Yazılımcılar açısından bu gelişme, AI agent’ların güvenlik sınırları, sandbox mimarileri ve agent davranışlarının izlenebilirliği gibi konuların artık üretim ortamlarında kritik bir mühendislik gereksinimi hâline geldiğini gösteriyor.

🔗  Konuyla ilgili daha detaylı bilgiye bağlantıdan ulaşabilirsiniz.