ABD AI ve Veri Şirketleri, Çin'in AI Casusluk Soruşturmasında Tanıklık Edecek

Kısa bir özet

• ABD komiteleri, Anthropic'in Claude Code'unun devletle bağlantılı bir siber saldırıda nasıl kullanıldığına dair detaylar talep ediyor.
• Anthropic, bu ayın başlarında, tehdit grubunun otomatik keşif, istismar ve veri çıkarımı yaptığını açıkladı.
• Aynı AI yetenekleri, kripto hack'lerini ve zincir üzerindeki hırsızlıkları hızlandırabilir, Decrypt'e söylendi.

Decrypt'in Sanat, Moda ve Eğlence Merkezi.

SCENE'i Keşfedin

ABD'li yasa koyucuların, belirli modellerin geniş kapsamlı bir casusluk çabasının parçası haline nasıl geldiğini açıklamaları için birkaç yapay zeka geliştirme şirketini çağırdığı bildirildi.

Aralarında, 17 Aralık'ta Amerikan Temsilciler Meclisi İç Güvenlik Komitesi önünde Claude Code'un Çin devlet aktörleri tarafından nasıl kullanıldığını açıklaması için çağrılan Anthropic CEO'su Dario Amodei de var. Bu bilgi, Çarşamba günü yayınlanan bir Axios raporuna, özel olarak paylaşılan mektuplara atıfta bulunarak ulaştı.

Bu ayın başlarında, Anthropic, Çin devletine bağlı bir hacker grubunun, şirketin AI sistemi tarafından büyük ölçüde otomatikleştirilen ilk büyük ölçekli siber operasyonu başlatmak için Claude Code adlı aracını kullandığını açıkladı.

GTG-1002 grup adı altında faaliyet gösteren saldırganlar, Anthropic'e göre çoğu aşamayı Claude Code'un yönettiği yaklaşık 30 kuruluşu hedef alan bir kampanya düzenlediler: keşif, zafiyet taraması, istismar oluşturma, kimlik bilgisi toplama ve veri sızdırma.

Takip soruşturmasına başkanlık eden, Temsilci Andrew Garbarino (R-NY) ve iki alt komite başkanı ile birlikte.

Komite, Amodei'nin Anthropic'in etkinliği ilk olarak ne zaman tespit ettiğini, saldırganların ihlalin farklı aşamalarında modellerini nasıl kullandığını ve kampanya ilerledikçe hangi güvenlik önlemlerinin başarısız olduğunu veya başarılı olduğunu tam olarak ayrıntılı bir şekilde açıklamasını istedi. Duruşmaya ayrıca Google Cloud ve Quantum Xchange yöneticilerinin de katılması bekleniyor, Axios'a göre.

“İlk kez, bir yabancı düşmanın ticari bir yapay zeka sistemini, insan müdahalesi olmaksızın neredeyse tüm bir siber operasyonu gerçekleştirmek için kullandığını görüyoruz,” Garbarino, ilk raporda yer alan bir açıklamada söyledi. “Bu, her federal ajansı ve kritik altyapının her sektörünü endişelendirmelidir.”

Decrypt yorum almak için Rep. Garbarino, Google Cloud, Quantum Xchange ve Anthropic ile iletişime geçti.

Kongre denetimi, geçen hafta İngiltere'nin güvenlik servisi MI5'in, sahte işe alımcı profilleri kullanarak milletvekilleri, lordlar ve parlamento personelini hedef alan Çin istihbarat görevlilerini tespit etmesinin ardından İngiltere'deki yasa yapıcılara bir uyarı yayınlamasının hemen ardından geliyor.

İngiltere hükümeti, “Çin ile ekonomik ilişkileri sürdürmeyi” hedeflese de, Güvenlik Bakanı Dan Jarvis'ın açıkladığına göre, “demokratik yaşam tarzımızı zayıflattıkları her zaman ülkeleri zorlamaya” hazır.

Zincir üstü finans riski altında

Bu bağlamda, gözlemciler, şu anda casusluğu destekleyen aynı AI yeteneklerinin finansal hırsızlığı da aynı kolaylıkla hızlandırabileceği konusunda uyarıyor.

“Yapay zekanın korkutucu tarafı hızdır,” AI araştırma laboratuvarı Eliza Labs'ın kurucusu Shaw Walters, Decrypt'e söyledi. “Eskiden elle yapılan işler artık büyük ölçekte otomatik hale getirilebiliyor.”

Walters, mantıksal olarak tehlikeli derecede basit olabileceğini açıkladı. Eğer ulus-devlet aktörleri hack kampanyaları için modelleri kırabilir ve manipüle edebilirse, bir sonraki adım, ajan benzeri yapay zekayı “cüzdanları boşaltmak veya fonları fark edilmeden siphonlamak” için yönlendirmek olacaktır.

AI ajanları, “hedefle ilişki kurup güven inşa edebilir, bir sohbeti sürdürebilir ve onları bir dolandırıcılığa düşme noktasına getirebilir,” dedi Walters.

Yeterince eğitildiğinde, bu ajanlar “blok zinciri sözleşmelerine saldırmak için harekete geçebilirler,” dedi Walters.

“Hatta sözde “uyumlu” modeller olan Claude bile, 'senin' kodundaki güvenlik açıklarını bulmana yardımcı olmaktan mutluluk duyacaktır - elbette, neyin senin olduğunu ve neyin olmadığını bilmez ve yardımcı olmaya çalışırken, paranın çekilebileceği birçok sözleşmede zayıflıklar bulacaktır,” dedi.

Ancak Walters, bu tür saldırılara karşı yanıtların “inşa edilmesinin kolay olduğunu” söylese de, gerçek şu ki “kötü insanların zaten sahip olduğumuz güvenlik önlemlerini aşmaya çalışması” ve modelleri “zarar vermekten çok yardım ettiklerine ikna ederek kara şapkalı işler yapmaya yönlendirmeye” çalışmasıdır.