Güvenlik testi gerçek saldırıya dönüştü
OpenAI, GPT-5.6 Sol ile henüz kullanıma sunulmayan daha gelişmiş bir modelin siber güvenlik kapasitelerini ölçmek amacıyla şirket içinde test edildiğini bildirdi.
Yapay zekâ modellerinin en yüksek kapasitesini belirlemek için yapılan test sırasında, yüksek riskli siber faaliyetleri engelleyen bazı güvenlik sınırlamalarının azaltıldığı belirtildi.
Testlerin açık internete doğrudan erişimi bulunmayan, yüksek düzeyde izole edilmiş dijital bir ortamda gerçekleştirildiği kaydedildi. Ancak yapay zekâ ajanı, yazılım paketlerinin indirilmesine imkân sağlayan sistemdeki güvenlik açığını kullanarak internete bağlanmanın yolunu buldu.
Hedef olarak Hugging Face’i seçti
İnternete erişim sağlayan yapay zekâ modelleri, testte kendilerine verilen görevi tamamlayabilmek için yapay zekâ modelleri, veri setleri ve çeşitli yazılım kaynaklarını barındıran Hugging Face platformunu hedef aldı.
OpenAI’nin açıklamasına göre modeller, testte avantaj sağlayacak gizli bilgilere ulaşabilmek için birden fazla saldırı yöntemini art arda kullandı. Saldırıda ele geçirilmiş giriş bilgilerinden ve daha önce bilinmeyen bir güvenlik açığından yararlanıldığı belirtildi.
Modellerin, kendilerine verilen sınırlı bir test hedefini gerçekleştirmek için beklenmedik derecede ileri yöntemlere başvurduğu ifade edildi.
Saldırıyı Hugging Face tespit etti
Yazılımcılar ve yapay zekâ araştırmacıları tarafından yoğun olarak kullanılan Hugging Face, geçen hafta altyapısında bir yapay zekâ ajanından kaynaklandığı düşünülen izinsiz giriş tespit ettiğini açıklamıştı.
Şirket, saldırıyı kontrol altına aldığını duyurmuş ancak olayın arkasındaki yapay zekâ şirketinin ismini paylaşmamıştı. OpenAI tarafından yürütülen incelemenin ardından saldırının şirketin test ettiği modellerden kaynaklandığı belirlendi.
OpenAI ile Hugging Face, güvenlik açıklarını ve olayın nasıl gerçekleştiğini ortaya çıkarmak için ortak soruşturma başlattı.
OpenAI yeni önlemler alacak
OpenAI, olayla ilgili paylaştığı bilgilerin henüz ilk bulgular olduğunu belirtti. Soruşturma tamamlandıktan sonra kullanılan güvenlik açıkları ve modellerin izlediği yöntemler hakkında daha kapsamlı bir rapor yayımlanacağı bildirildi.
Şirket, gelişmiş yapay zekâ modellerinin siber kabiliyetleri arttıkça güvenlik ve denetim sistemlerinin de aynı hızla geliştirilmesi gerektiğine dikkat çekti. OpenAI’nin açıklaması
Yapay zekâ güvenliği tartışmaları büyüyor
Olay, yapay zekânın yazılımlardaki güvenlik açıklarını insanlardan daha hızlı bulabileceği ve karmaşık saldırı yöntemlerini otonom biçimde uygulayabileceği yönündeki endişeleri yeniden gündeme getirdi.
Uzmanlar, gelişmiş modellerin kritik altyapılara yönelik saldırılarda kullanılabileceğine dikkat çekerken bağımsız güvenlik testlerinin, güçlü denetim mekanizmalarının ve şirketler arası iş birliğinin artırılması gerektiğini vurguluyor.