شركات البيانات والذكاء الاصطناعي الأمريكية ستشهد في تحقيق التجسس على الذكاء الاصطناعي الصيني

باختصار

• تُفيد التقارير أن اللجان الأمريكية تسعى للحصول على تفاصيل حول كيفية استخدام كود كلود من شركة أنثروبيك في هجوم سيبراني مرتبط بالدولة.
• أعلنت Anthropic في وقت سابق من هذا الشهر أن مجموعة التهديدات تقوم بالتجسس الآلي واستغلال الثغرات واستخراج البيانات.
• قيل لـ Decrypt أن نفس قدرات الذكاء الاصطناعي يمكن أن تسرع من عمليات اختراق العملات المشفرة والسرقة على السلسلة.

مركز فنون الموضة والترفيه في Decrypt.

اكتشف SCENE

أفاد المشرعون الأمريكيون أنهم استدعوا العديد من شركات تطوير الذكاء الاصطناعي لشرح كيف أصبحت بعض النماذج جزءًا من جهد تجسس واسع النطاق.

من بينهم الرئيس التنفيذي لشركة أنثروبيك ديريو أموداي، الذي طُلب منه الظهور أمام لجنة الأمن الداخلي في مجلس النواب في 17 ديسمبر لشرح كيفية استخدام الجهات الفاعلة الحكومية الصينية لرمز كلود، وفقًا لتقرير Axios الذي صدر يوم الأربعاء، مستندًا إلى رسائل تم تبادلها بشكل خاص.

في وقت سابق من هذا الشهر، كشفت شركة أنثروبيك أن مجموعة قرصنة مرتبطة بالدولة الصينية استخدمت أداتها كلود كود لإطلاق ما وصفته الشركة بأنه أول عملية سيبرانية واسعة النطاق تم أتمتتها بشكل كبير بواسطة نظام ذكاء اصطناعي.

تحت اسم المجموعة GTG-1002، نظم المهاجمون حملة استهدفت حوالي 30 منظمة، حيث تولى كلود كود معظم المراحل وفقًا لشركة أنتروبيك: الاستطلاع، مسح الثغرات، إنشاء الاستغلال، جمع بيانات الاعتماد، واستخراج البيانات.

يرأس التحقيق التتبعي النائب أندرو غاربارينو (R-NY) إلى جانب رئيسين للجنتين فرعيتين.

أراد اللجنة من أمودي أن يوضح بالضبط متى اكتشفت أنثروبك النشاط لأول مرة، وكيف استغل المهاجمون نماذجها خلال مراحل مختلفة من الخرق، وما هي التدابير الوقائية التي فشلت أو نجحت مع تقدم الحملة. ستشمل الجلسة أيضًا تنفيذيين من جوجل كلاود وكوانتوم إكس تشينج، وفقًا لآكسيوس.

“لأول مرة، نشهد خصماً أجنبياً يستخدم نظام ذكاء اصطناعي تجاري لتنفيذ عملية سيبرانية كاملة تقريباً مع الحد الأدنى من التدخل البشري”، قال غاربارينو في بيان تم الاستشهاد به في التقرير الأولي. “يجب أن يثير ذلك قلق كل وكالة فدرالية وكل قطاع من البنية التحتية الحيوية.”

Decrypt قد تواصلت مع النائب غاربارينو، Google Cloud، Quantum Xchange، و Anthropic للتعليق.

تأتي الرقابة من الكونغرس بعد تحذير منفصل من جهاز الأمن البريطاني MI5، الذي أصدر الأسبوع الماضي تنبيهاً للمشرعين البريطانيين بعد تحديده ضباط استخبارات صينيين يستخدمون ملفات تعريف مزيفة لموظفي التوظيف لاستهداف النواب، والأقران، وموظفي البرلمان.

بينما تسعى إلى “استمرار علاقة اقتصادية مع الصين”، فإن الحكومة البريطانية مستعدة “لتحدي الدول كلما undermined our democratic way of life”، كما قال وزير الأمن دان جارفيس في البيان.

التمويل على السلسلة في خطر

في هذا السياق، يحذر المراقبون من أن القدرات نفسها للذكاء الاصطناعي التي تدعم الآن التجسس يمكن أن تسرع بنفس السهولة سرقة الأموال.

“الشيء المخيف في الذكاء الاصطناعي هو السرعة”، قال شو والترز، مؤسس مختبر أبحاث الذكاء الاصطناعي إيلزا لابز، لموقع ديكريبت. “ما كان يُنجز يدويًا يمكن الآن أتمتته على نطاق واسع جدًا.”

قد تكون المنطق بسيطة بشكل خطير، كما أوضح والترز. إذا كان بإمكان الجهات الفاعلة من دول الأمم اختراق النماذج والتلاعب بها من أجل حملات القرصنة، فإن الخطوة التالية ستكون توجيه الذكاء الاصطناعي المدفوع “لتفريغ المحافظ أو سحب الأموال دون أن يتم اكتشافها.”

أوضح والترز أن وكلاء الذكاء الاصطناعي يمكنهم “بناء علاقة وثقة مع الهدف، واستمرار المحادثة، وجعلهم يصلون إلى مرحلة الوقوع في فخ الاحتيال.”

قال والترز إنه بمجرد تدريب هذه الوكلاء بشكل كافٍ، يمكنهم أيضًا “البدء في الهجوم على العقود على السلسلة.”

“حتى النماذج “المتوافقة” مثل كلود ستساعدك بكل سرور في العثور على نقاط الضعف الأمنية في “رمزك” - بالطبع، ليس لديها فكرة عما هو ملكك وما هو ليس كذلك، وفي محاولة لتكون مفيدة، من المؤكد أنها ستجد نقاط ضعف في العديد من العقود حيث يمكن سحب الأموال”، قال.

لكن بينما تعتبر الردود على مثل هذه الهجمات “سهلة البناء”، فإن الواقع، كما يقول والترز، هو أن “هناك أشخاصًا سيئين يحاولون التلاعب بالضمانات التي لدينا بالفعل”، من خلال محاولة خداع النماذج إلى “القيام بأعمال غير قانونية من خلال الإقناع بأنها تساعد، وليس تضر.”