Американські AI та дані компанії свідчитимуть у справі про шпигунство Китаю в галузі AI

Коротко

• Звітно, що комітети США шукають деталі того, як код Anthropic Claude був використаний у кібернападі, пов'язаному з державою.
• Anthropic розкрив на початку цього місяця, що загрозлива група автоматизованої розвідки, експлуатації та витягання даних.
• Ті ж самі можливості ШІ можуть прискорити крипто-атаки та крадіжки в ланцюзі, повідомив Decrypt.

Центр мистецтв, моди та розваг Decrypt.

Відкрийте SCENE

Законодавці США, як повідомляється, викликали кілька компаній з розробки ШІ, щоб пояснити, як певні моделі стали частиною широкомасштабної шпигунської діяльності.

Серед них є генеральний директор Anthropic Дріо Амодей, якого попросили з'явитися перед Комітетом з питань внутрішньої безпеки Палати представників 17 грудня, щоб пояснити, як китайські державні актори використовували Claude Code, згідно з доповіддю Axios, опублікованою в середу, з посиланням на листи, що були поділені приватно.

На початку цього місяця компанія Anthropic повідомила, що група хакерів, пов'язана з китайською державою, використала її інструмент Claude Code для запуску того, що компанія описала як першу масштабну кібероперацію, в основному автоматизовану системою ШІ.

Діючи під груповою назвою GTG-1002, зловмисники організували кампанію, спрямовану на близько 30 організацій, при цьому Клод Код відповідав за більшість етапів відповідно до Anthropic: розвідка, сканування вразливостей, створення експлойтів, збору облікових даних та ексфільтрацію даних.

Головує за подальшим розслідуванням конгресмен Ендрю Гарбаріно (R-NY) разом із двома головами підкомітетів.

Комітет хотів, щоб Амодей детально розповів, коли саме Anthropic вперше виявила активність, як зловмисники використовували його моделі під час різних етапів зламу, а також які заходи безпеки провалилися або спрацювали в ході кампанії. Слухання також включатиме керівників Google Cloud та Quantum Xchange, згідно з Axios.

“Вперше ми спостерігаємо, як іноземний супротивник використовує комерційну AI-систему для здійснення практично всієї кіберактивності з мінімальною участю людини,” - сказав Гарбарино в заяві, що цитувалася в початковому звіті. “Це повинно турбувати кожне федеральне агентство та кожен сектор критичної інфраструктури.”

Decrypt звернувся до депутата Гарбаріно, Google Cloud, Quantum Xchange та Anthropic за коментарем.

Конгресійний контроль відбувається на тлі окремого попередження від британської служби безпеки MI5, яка минулого тижня видала попередження британським законодавцям після виявлення китайських розвідників, які використовують фальшиві профілі рекрутерів для націлювання на членів парламенту, лордів та парламентських працівників.

Хоча він прагне “продовжити економічні відносини з Китаєм”, уряд Великої Британії готовий “кинути виклик країнам, коли вони підривають наш демократичний спосіб життя”, сказав міністр безпеки Дэн Джарвіс у заяві.

Фінанси на блокчейні під загрозою

На тлі цього спостерігачі застерігають, що ті ж самі можливості штучного інтелекту, які зараз використовуються для шпигунства, так само легко можуть прискорити фінансові крадіжки.

“Жахлива річ у штучному інтелекті — це швидкість,” сказав Шоу Уолтерс, засновник дослідницької лабораторії штучного інтелекту Eliza Labs, Decrypt. “Те, що раніше робилося вручну, тепер можна автоматизувати в масовому масштабі.”

Логіка може бути небезпечно простою, пояснив Уолтерс. Якщо державні актори зможуть зламати та маніпулювати моделями для хакерських кампаній, наступним кроком буде направлення агентного ШІ “щоб висмоктати гаманці або непомітно siphon кошти.”

Агенти штучного інтелекту можуть “завести знайомство та довіру з метою, підтримувати розмову і довести їх до того, щоб вони потрапили в шахрайство”, пояснив Уолтерс.

Після достатнього навчання ці агенти також можуть “почати атакувати контракти в ланцюзі”, стверджував Уолтерс.

“Навіть так звані “узгоджені” моделі, як Claude, з радістю допоможуть вам знайти вразливості в 'вашому' коді – звичайно, вона не має уявлення, що є, а що не є вашим, і намагаючись бути корисною, вона обов'язково знайде вразливості в багатьох контрактах, з яких можна вивести гроші,” сказав він.

Але хоча на відповіді на такі атаки “легко побудувати”, реальність, каже Уолтерс, полягає в тому, що “це погані люди намагаються обійти засоби захисту, які ми вже маємо”, намагаючись обдурити моделі, щоб “займатися чорним справою, переконуючи їх, що вони допомагають, а не завдають шкоди.”