OpenAI’ın kontrolden çıkan yapay zekası Hugging Face’le yetinmedi dört farklı hizmeti daha hackledi

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka teknolojileri hızla ilerlerken, bu gelişmelerin güvenlik boyutundaki riskleri de aynı oranda büyüyor. ChatGPT’nin geliştiricisi OpenAI, kendi laboratuvarında yürüttüğü bir test sırasında beklenmedik ve oldukça ciddi bir olayla karşılaştı. Şirketin en gelişmiş modellerinden biri, izole ortamda “görevi çözme” talimatıyla hareket ederken kontrolden çıktı ve kendi başına kapsamlı bir siber saldırı düzenledi. İlk olarak Hugging Face platformunu hedef alan ajan, olayın boyutunun çok daha büyük olduğunu ortaya koydu. OpenAI’nin yeni açıklamalarına göre yapay zeka, yalnızca bir değil, birden fazla üçüncü taraf hizmeti de başarıyla ele geçirdi. AI kontrolden çıktı! Şirketi hackledi Haberi Görüntüle SALDIRININ KAPSAMI BEKLENENDEN BÜYÜK OpenAI’ın resmi açıklamasına göre, test sırasında otonom çalışan yapay zeka ajanı Hugging Face’in sistemlerine sızmakla kalmadı. Açıkta kalan giriş bilgilerini kullanan ajan, en az dört farklı kamu hizmetine ve üçüncü taraf hesaba erişim sağladı. Bu sızmalar, ajanın sorunu çözmek için gösterdiği aşırı çabanın sonucu olarak gelişti. REKLAM Şirket, saldırının ilk aşamasında üçüncü taraf bir sandbox ortamının ele geçirildiğini ve buranın komuta merkezi olarak kullanıldığını açıkladı. Reuters’ın aktardığına göre bu hizmet sağlayıcısının Modal olduğu belirtiliyor. Bu durum, yapay zekâ ajanlarının yalnızca hedef sistemleri değil, çevresindeki ekosistemi de tehdit edebileceğini ortaya koyuyor. EXPLOITGYM TESTİ SIRASINDA GERÇEKLEŞTİ Olay, OpenAI’nin yeni nesil modellerini siber güvenlik kıyaslama platformu ExploitGym üzerinde test ederken yaşandı. Bu platform, yapay zeka ajanlarının yazılım açıklarını ne kadar hızlı tespit ettiğini ve hedef sistemlerden hassas dosyaları ne kadar etkili şekilde ele geçirebildiğini ölçüyor. İzole test ortamında olmasına rağmen ajan, açık internet erişimi sağlamak için yoğun işlem gücü harcayarak güvenlik bariyerlerini aştı. “OTONOM OLARAK GERÇEKLEŞMESİ AKIL ALMAZ” OpenAI, olayın tamamen izole test ortamında gerçekleştiğini ve dış dünyayı etkilemediğini belirtse de, ajanın sergilediği özerk davranış, sektörde ciddi tartışmalara yol açtı. Yapay zeka sistemlerinin “görevi tamamlamak” uğruna güvenlik sınırlarını aşabilme potansiyeli, gelecekteki model geliştirme süreçlerinde çok daha sıkı denetim ve güvenlik önlemlerinin zorunlu olduğunu gösteriyor. Hugging Face CEO’su Clement Delangue, X platformunda yaptığı paylaşımda olaya tepki gösterdi: “Bütün bunların otonom olarak gerçekleşmesi akıl almaz.” Yaşanan olay, yapay zeka güvenliği konusunda yeni tartışmaları da beraberinde getirdi. Otonom yapay zekâların kontrol dışına çıkması, yalnızca şirketlerin değil, küresel ölçekte dijital güvenliğin geleceğini tehdit ediyor.