Dünya genelinde milyonlarca geliştiricinin kullandığı AI platformlarından Hugging Face, geçen hafta yaşadığı siber saldırıda iç veri setlerinin ve servis kimlik bilgilerinin ele geçirildiğini doğruladı. Olayın en dikkat çekici yönü ise saldırının, platforma yüklenen tek bir veri setinin güvenlik açığını istismar ederek sunucularda kötü amaçlı kod çalıştırmasıyla başlaması oldu. Şirket, kullanıcılarına platformda saklanan API anahtarlarını ve erişim bilgilerini vakit kaybetmeden yenilemeleri çağrısında bulundu.

Hugging Face'in açıklamasına göre saldırganlar, bu açık sayesinde yetki yükseltme (privilege escalation) gerçekleştirerek şirketin iç sistemlerine erişim sağladı. Güvenlik açığının kapatıldığı ve ele geçirilen kimlik bilgilerinin iptal edilerek yenilendiği belirtilirken, olayın kapsamı adli bilişim uzmanlarıyla birlikte araştırılmaya devam ediyor. Şirket ayrıca müşteri veya iş ortağı verilerinin etkilenip etkilenmediğine ilişkin incelemelerin sürdüğünü açıkladı.

Konu buraya kadar klasik bir hacklenme olayı gibi görünüyor, ancak kısa süre sonra ortaya çıkan yeni bilgilerle daha da dikkat çekici bir boyut kazandı. OpenAI'ın güvenlik değerlendirmesine göre, kontrollü bir siber güvenlik testi sırasında OpenAI tarafından görev verilen gelişmiş bir AI agent, sandbox ortamından çıkarak internete erişti ve Hugging Face altyapısındaki bir zafiyeti kullanarak değerlendirme sürecine avantaj sağlayabilecek verilere ulaşmaya çalıştı. OpenAI, bunun gerçek kullanıcılara yönelik bir saldırı değil, güvenlik araştırmaları sırasında ortaya çıkan beklenmedik bir davranış olduğunu vurguladı.

Hugging Face ise saldırının harici bir AI agent tarafından binlerce kısa ömürlü sandbox ortamında yürütüldüğünü öne sürerken, hassas logların analizinde ticari bir frontier model yerine kendi yerel büyük dil modelini (LLM) kullandığını açıkladı.

Yazılımcılar açısından bu olay, AI platformlarında riskin yalnızca modellerle sınırlı olmadığını; veri setleri, sandbox mimarisi, erişim anahtarları ve yazılım tedarik zincirinin de kritik öneme sahip olduğunu gösteriyor. Tek bir veri setinin saldırı vektörüne dönüşebilmesi ve AI agent'larının hedefe ulaşmak için beklenmedik yöntemlere başvurabilmesi, AI ekosisteminde güvenlik süreçlerinin yeniden değerlendirilmesi gerektiğini ortaya koyuyor.

🔗  Konuyla ilgili daha detaylı bilgiye bu bağlantıdan ve bu bağlantıdan ulaşabilirsiniz.