شرح سطح هجوم الذكاء الاصطناعي

يعمل الذكاء الاصطناعي على تغيير الطريقة التي تقوم بها المؤسسات ببناء البرامج وشحنها والتفاعل معها. ومعها يأتي واقع أمني جديد.

مع قيام المزيد من الفرق باعتماد الذكاء الاصطناعي التوليدي والنماذج الأساسية والمسارات المخصصة، فإنها تقدم أيضًا سطح هجوم أوسع وأكثر تعقيدًا. أحد البرامج التي لم يتم إنشاء معظم برامج الأمان للتعامل معها. هذا هو سطح هجوم الذكاء الاصطناعي، وفهمها هو المفتاح لإدارة المخاطر في البيئات السحابية اليوم.

إن سطح هجوم الذكاء الاصطناعي، في جوهره، عبارة عن مجموعة من جميع الطرق التي يمكن من خلالها استغلال نظام الذكاء الاصطناعي، والتي تمتد عبر البيانات والبنية التحتية والتطبيقات والمستخدمين.

يتضمن كل مكون يتفاعل مع الذكاء الاصطناعي أو يدعمه: بيانات التدريب، والنماذج، وواجهات برمجة التطبيقات، وخطوط الأنابيب، والمزيد. ولأن أنظمة الذكاء الاصطناعي غالبًا ما يتم بناؤها ونشرها بسرعة، وبمدخلات من العديد من الفرق المختلفة، فإن سطح الهجوم يمكن أن ينمو بسرعة وبشكل غير متوقع.

الذكاء الاصطناعي لا يحل محل المخاطر التقليدية. انها طبقات فوقهم.

ولا تزال فرق الأمن تراقب الخدمات المكشوفة، والهويات المتساهلة بشكل مفرط، والأنظمة غير المصححة. ولكن مع الذكاء الاصطناعي، تظهر مخاطر جديدة: الحقن الفوري، وتسرب بيانات التدريب، وتسميم النماذج، واستخدام النماذج دون تعقب. وغالبًا ما تنبع هذه المخاطر من أجزاء مختلفة من المنظمة، حيث قد لا تكون الضوابط الأمنية موجودة بعد.

على سبيل المثال، يمكن أن تصبح نقطة نهاية واجهة برمجة التطبيقات (API) التي تعرض نموذجًا للمستخدمين النهائيين بمثابة ناقل حقن سريع. أو قد يؤدي دلو التخزين المشترك المستخدم لبيانات التدريب إلى تسرب معلومات حساسة عن طريق الخطأ. لم تعد هذه حالات حافة بعد الآن. لقد أصبحت شائعة.

لفهم ما هو على المحك بشكل أفضل، من المفيد تقسيم سطح هجوم الذكاء الاصطناعي إلى بضعة مكونات رئيسية:

• بيانات التدريب
  أساس أي نموذج. إذا كان يتضمن بيانات حساسة أو خاصة، فقد يتم تسريب هذه المعلومات أو حفظها عن غير قصد بواسطة النموذج.

• التحف النموذجية
  يمكن للنماذج المدربة نفسها أن تسرب الأسرار، أو تتصرف بشكل غير متوقع، أو يعاد استخدامها بطرق غير آمنة إذا لم يتم التعامل معها بعناية.

• خطوط أنابيب الذكاء الاصطناعي
  تقوم أدوات مثل MLflow أو SageMaker أو Vertex AI بتنسيق دورة حياة النماذج وغالبًا ما تأتي بتكوينات معقدة ووصول مرتفع.

• واجهات برمجة التطبيقات والواجهات
  يتم عرض العديد من نماذج الذكاء الاصطناعي عبر واجهات برمجة التطبيقات. وبدون الضمانات المناسبة، يمكن أن يكونوا عرضة للحقن الفوري أو تقنيات التلاعب الأخرى.

• الظل منظمة العفو الدولية
  يمكن أن يؤدي الاستخدام غير المتعقب أو غير المصرح به لخدمات الذكاء الاصطناعي من قبل المطورين أو علماء البيانات أو فرق الأعمال إلى إنشاء نقاط عمياء فيما يتعلق بالأمان.

وتفتح كل طبقة من هذه الطبقات مسارات جديدة للاستغلال، ويقع الكثير منها خارج المناطق التقليدية التي تراقبها الفرق الأمنية.

هذه المخاطر ليست نظرية. لقد أدت بالفعل إلى حوادث كبيرة. تبرز بعض الأمثلة الحديثة:

• تم الكشف عن 38 تيرابايت من بيانات Microsoft الداخلية
  اكتشف باحثو Wiz رمز SAS مميزًا تم تكوينه بشكل خاطئ مما أدى إلى كشف 38 تيرابايت من البيانات الخاصة، بما في ذلك ملفات تدريب الذكاء الاصطناعي والوثائق الداخلية وبيانات الاعتماد.

• ثغرة أمنية في الحقن السريع في BingBang
  وفي حالة أخرى، اكتشف Wiz مشكلة في ميزات الذكاء الاصطناعي في Bing والتي سمحت للمهاجمين بالتلاعب بمخرجات النموذج، مما يوضح كيف يمكن استخدام الحقن الفوري للتحكم في أنظمة الذكاء الاصطناعي التي تواجه الجمهور.

• التسوية الرئيسية على مستوى السحابة
  لم يكن الاختراق Storm-0558 خاصًا بالذكاء الاصطناعي، لكنه كشف كيف يمكن استهداف البنية التحتية الحساسة (مثل مفاتيح المصادقة) للوصول إلى أنظمة واسعة النطاق، بما في ذلك تلك التي تدعم الذكاء الاصطناعي.

لمزيد من الأمثلة والتحليل الفني، تعد مدونة Wiz Cloud Threat Landscape ومدونة Wiz Research مكانين رائعين للتعمق فيه.

لا يجب أن يكون تأمين الذكاء الاصطناعي أمراً مرهقاً. فيما يلي بعض نقاط البداية العملية:

1. خريطة البيئة الخاصة بك
   تحديد الأماكن التي يتم فيها استخدام الذكاء الاصطناعي بالفعل – بشكل رسمي وغير رسمي. يعد Shadow AI أمرًا شائعًا، خاصة في الفرق سريعة الحركة.

2. تأمين بيانات التدريب الخاصة بك
   تدقيق مصادر التدريب للمحتوى الحساس أو الأسرار أو معلومات التعريف الشخصية. استخدم عناصر التحكم في الوصول والتسجيل لتقليل التعرض.

3. تعزيز البنية الأساسية لتعلم الآلة لديك
   قم بتطبيق نفس الدقة التي تطبقها على أنظمة الإنتاج: تقييد الأذونات، ومراقبة الوصول، وفحص التكوينات بانتظام.

4. مراقبة نقاط نهاية الذكاء الاصطناعي
   يجب التعامل مع واجهات LLM وواجهات برمجة التطبيقات كنقاط دخول حساسة. انتبه إلى إساءة الاستخدام أو السلوك غير المتوقع أو الأذونات المفرطة.

5. بناء الملكية المشتركة
   غالبًا ما يكون اعتماد الذكاء الاصطناعي متعدد الوظائف. تلعب فرق الأمان والتطوير والسحابة والبيانات دورًا في تقليل المخاطر. تأكد من محاذاة الجميع.

مع توسع سطح هجوم الذكاء الاصطناعي، أصبحت نماذج الأمان التقليدية غير كافية. لا تزال معظم الأدوات تنظر إلى المخاطر في صوامع رأسية: التحقق من التعليمات البرمجية أو البنية التحتية أو وقت التشغيل بشكل منفصل. لكن مخاطر الذكاء الاصطناعي لا تعمل بهذه الطريقة. يمتد إلى الأنظمة والفرق والطبقات.

يأخذ Wiz نهجا أفقيامما يتيح لك رؤية شاملة بدءًا من التعليمات البرمجية وحتى وقت التشغيل، عبر دورة حياة الذكاء الاصطناعي بأكملها. نحن نساعدك على تحطيم الصوامع وبناء صورة موحدة عن مكان وجود المخاطر وكيفية ارتباطها.

وإليك الطريقة:

• اكتشف ما يجري
  يكتشف Wiz تلقائيًا النماذج غير المُدارة وواجهات برمجة التطبيقات وخدمات الذكاء الاصطناعي عبر السحابة الخاصة بك، بما في ذلك الذكاء الاصطناعي الظلي الذي يدور خارج نطاق رؤية الأمان. مع AI-BOM، يمكنك الحصول على جرد كامل لما هو قيد الاستخدام، ومن يقوم به، وأين.

• فهم الصورة كاملة
  الخطر لا يعيش في عزلة. يربط Wiz Security Graph التكوينات الخاطئة الخاصة بالذكاء الاصطناعي (مثل مجموعات التدريب المفتوحة أو نقاط النهاية المكشوفة) مع السياق الأوسع للهوية والبيانات ومخاطر الشبكة. هذا يعني أنه يمكنك رؤية كيف يمكن للمهاجم أن يتحرك بشكل جانبي.

• إعطاء الأولوية لما هو أكثر أهمية
  بدلاً من إرهاق التنبيه، يعرض لك Wiz مسارات الهجوم الحقيقية التي تؤدي إلى التأثير، حتى تتمكن من التركيز على القضايا القليلة التي تهمك، وليس الكثير منها التي لا تهم.

• تأمين الذكاء الاصطناعي على نطاق واسع
  من خلال إدارة الوضع الأمني ​​للذكاء الاصطناعي (AI-SPM)، توفر Wiz الحوكمة والرؤية لكل جزء من بيئة الذكاء الاصطناعي لديك. وهذا يعني أنه يمكنك تأمين كل شيء بدءًا من بيانات التدريب وحتى استدلال الإنتاج، دون إبطاء عمل الفرق.

يقوم Wiz بإخراج الأمان من الأكوام الرأسية إلى تدفق كيفية بناء الفرق الحديثة للذكاء الاصطناعي ونشره. لا يتعلق الأمر بالتحكم في كل قرار. يتعلق الأمر بمنح الفرق الرؤية والثقة للتحرك بسرعة، دون التهور.

يعمل الذكاء الاصطناعي على تغيير طريقة بناء البرمجيات. يتضمن ذلك البرنامج الذي نستخدمه لتأمينه.

ستكون المنظمات التي تزدهر هي تلك التي تتعامل مع أمن الذكاء الاصطناعي كمسؤولية مشتركة وتتغلب على المخاطر قبل أن تصبح عناوين الأخبار. من خلال الرؤية الصحيحة والتعاون المناسب والسياق المناسب، من الممكن احتضان الذكاء الاصطناعي بأمان.