Yapay zeka güvenliği küresel alarmda! Claude AI testlerde şirketleri hackledi

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka ve robotik teknolojilerdeki hızlı gelişim, insanlığın geleceğine dair büyük umutlar ve hayatımızı dönüştürme potansiyeli taşırken ciddi endişeleri de beraberinde getiriyor. Özellikle otonom sistemlerin beklenmedik davranışları ve kontrollerin aşılması, “AI’nin kontrolden çıkması” korkusunu giderek daha somut hale getiriyor. Bu endişeler yalnızca bireysel güvenlik değil; siber altyapılar, ulusal güvenlik ve küresel düzen açısından da tehdit oluşturuyor. Bu endişelerin en güncel örneği, San Francisco merkezli Anthropic’in Claude modellerinin testler sırasında üç şirketin sistemlerine izinsiz erişim sağlaması oldu. Olay, yapay zekanın yalnızca fayda değil aynı zamanda ciddi riskler de barındırdığını bir kez daha hatırlatırken, teknoloji dünyasında güvenlik tartışmalarını yeniden alevlendirdi. Otonom yapay zeka 4 hizmeti hackledi! Haberi Görüntüle TESTLERDE GERÇEK DÜNYA SIZINTISI Anthropic, 141 binden fazla test oturumunu inceledikten sonra Claude Opus 4.7, Claude Mythos 5 ve bir dahili araştırma modelinin sızma gerçekleştirdiğini tespit etti. Modellere “internet erişiminiz yok” talimatı verilmesine rağmen, üçüncü taraf değerlendirme ortağı Irregular ile yaşanan bir yanlış anlaşılma nedeniyle sistemler açık internete bağlı kaldı. Bu durum, AI’lerin temel tekniklerle (zayıf şifreler ve kimlik doğrulaması olmayan uç noktalar) gerçek şirketlere erişmesine yol açtı. REKLAM “CAPTURE-THE-FLAG” KONTROLDEN ÇIKTI Modeller, “capture-the-flag” (bayrak yakalama) adı verilen simüle edilmiş siber saldırı senaryolarında test ediliyordu. Ancak Claude Opus 4.7, kendisine verilen kurgusal şirket isminin gerçek dünyada da var olduğunu fark ederek bu hedefe yönelik gerçek bir saldırı başlattı. Model, eriştiği kimlik bilgilerini ve veritabanını gerçek dünya hedefi olarak değerlendirdi. Başka bir olayda ise Anthropic’in yeni test modeli, hedefin gerçek olduğunu anlayınca saldırıyı kendi kendine durdurdu. Şirket bu davranışı umut verici bulsa da daha fazla test yapılması gerektiğini belirtti. ANTHROPIC’TEN ACİL TEDBİR Olayların Nisan ayına kadar uzandığı belirtilirken, Anthropic 23 Temmuz’da tüm siber değerlendirmeleri askıya aldı. Etkilenen şirketlerden ikisi sızmadan habersizdi. Şirket, 27 Temmuz’da bildirimde bulundu ve üçüncü şirketle iletişime geçmeye devam ediyor. Anthropic, hem iç hem de üçüncü taraf test ortamlarında çok daha güçlü kontrollerin şart olduğunu vurguladı. OPENAI İLE PARALEL ENDİŞELER Bu gelişme, OpenAI’nin otonom ajanıyla Hugging Face altyapısını günler süren bir hack saldırısına uğratmasından kısa süre sonra yaşandı. OpenAI CEO’su Sam Altman olayı Kongre üyeleri ve Beyaz Saray ile görüşürken, Elon Musk ise X’te “AI daha akıllı ve ajanlaştıkça bunlar sıkça yaşanacak” değerlendirmesinde bulundu. REKLAM Palisade Research Direktörü Jeffrey Ladish, bu tür olayların gelecekte daha da artacağını belirterek, “Modeller daha akıllı hale geldikçe daha iyi kandıracak, daha iyi yalan söyleyecekler” ifadelerini kullandı. Bu yorum, yapay zekanın etik ve güvenlik sınırlarının yeniden tartışılması gerektiğini ortaya koyuyor. Ortak görüş ise, yapay zeka güvenliğinin yalnızca teknoloji şirketlerinin değil, hükümetlerin ve uluslararası kurumların da öncelikli gündemi olması gerektiği yönünde. WASHINGTON’DA DÜZENLEME BASKISI Olaylar, ABD hükümetinin ileri seviye yapay zeka sistemleri için gönüllü siber güvenlik test çerçevesi oluşturma çabalarını güçlendiriyor. Anthropic daha önce bazı modellerine erişimi ulusal güvenlik gerekçesiyle kısıtlamıştı. Hem Anthropic hem de OpenAI’nin halka arz hazırlıkları sürerken, sektör liderleri riskleri yönetmek için yavaşlama çağrılarını yineliyor. ABD hükümeti, bu tür olayların ardından yapay zeka güvenliği için yeni çerçeveler geliştirmeye başladı. Başkan Donald Trump, en gelişmiş modeller için gönüllü siber güvenlik test standartlarının hazırlanması talimatını verdi. Bu süreçte Anthropic ve OpenAI gibi şirketlerin halka arz öncesi daha güçlü sistemler geliştirme yarışında oldukları biliniyor. Washington’un sıkı denetim adımları, yapay zeka şirketlerinin küresel ölçekte daha şeffaf ve kontrollü bir şekilde ilerlemesini zorunlu kılıyor.