مع اعتماد المؤسسات للذكاء الاصطناعي، تظل الرؤية تحديًا كبيرًا تواجهه فرق الأمن أثناء عملها على إزالة النقاط العمياء واكتشاف كل تكنولوجيا الذكاء الاصطناعي في بيئتها. على الرغم من أنه من الشائع بين المؤسسات الاستفادة من خدمات الذكاء الاصطناعي المُدارة، إلا أن بياناتنا تظهر ذلك لا تزال 42% من المؤسسات تختار استضافة نماذج الذكاء الاصطناعي ذاتيًا. يدعم Wiz الآن تحديد نماذج الذكاء الاصطناعي المستضافة وفحصها لتزويد المؤسسات برؤية واضحة لنماذجها المستضافة بالإضافة إلى اكتشاف النماذج الضارة. تعتمد هذه الميزة على إمكانية المراقبة الحالية التي يوفرها Wiz في نماذج الذكاء الاصطناعي المُدارة مثل تلك المتوفرة عبر OpenAI وAzure AI Services وAmazon Bedrock وGoogle Vertex AI وغيرها. يمكن للعملاء الآن معرفة أين وكيف يتم استخدام نماذج الذكاء الاصطناعي في بيئتهم السحابية، وإزالة أي نقاط عمياء في مسارات الذكاء الاصطناعي الخاصة بهم.
تتمتع المؤسسات التي تستضيف نماذج الذكاء الاصطناعي الخاصة بها بميزة القدرة على الاستفادة من مجموعة واسعة من النماذج مفتوحة المصدر التي قد لا تكون متوفرة في حلول SaaS، ولكنها تواجه أيضًا تحديات فريدة عندما يتعلق الأمر بتأمين مسارات الذكاء الاصطناعي الخاصة بها. غالبًا ما يتم تنزيل هذه النماذج مباشرةً من مستودعات عامة مفتوحة المصدر “قابلة للكتابة عالميًا” مثل Hugging Face وPyTorch Hub، مما يعني أن المطورين وعلماء البيانات وممارسي الذكاء الاصطناعي يشكلون علاقة ثقة ضمنية بين مؤسساتهم والمساهمين في النماذج مفتوحة المصدر التي يستخدمونها في بيئتهم السحابية. ويؤدي هذا إلى ظهور مخاطر جديدة في سلسلة التوريد تتطلب ضوابط أمنية تعويضية. تمامًا كما يمكن للمؤسسات الاستفادة من SBOM (قائمة المواد البرمجية) لتحديد نقاط الضعف ومعالجتها عبر سلسلة توريد البرامج الخاصة بها، يجب على فرق الأمان توسيع هذه الفكرة لمعالجة المخاطر في نماذج الذكاء الاصطناعي لضمان عدم تقديم التجارب لتهديدات جديدة. اليوم، نحن متحمسون لإضافة دعم للكشف عن النماذج الضارة، ومواصلة التزامنا بتمكين عملائنا من الابتكار بشكل آمن باستخدام الذكاء الاصطناعي.
الرؤية في النماذج المستضافة
توفر قائمة مواد الذكاء الاصطناعي (AI-BOM) من Wiz للعملاء رؤية واضحة لخطوط الذكاء الاصطناعي الخاصة بهم، بما في ذلك نماذج وخدمات الذكاء الاصطناعي المُدارة، وبدءًا من اليوم، تمكنهم من اكتشاف نماذج الذكاء الاصطناعي المستضافة عبر بيئتهم السحابية. يكتشف Wiz الآن النماذج المستضافة بتنسيقات مثل PyTorch وTensorflow، سواء تم الحصول عليها من Hugging Face أو من أي مكان آخر، وما إذا كانت تعمل على جهاز افتراضي أو مخزنة في حاوية تخزين. يمكن لفرق الأمن وعلماء البيانات اكتساب رؤية سريعة لأي نماذج ذكاء اصطناعي يتم نشرها في بيئتهم بغض النظر عن مكان وجودهم، ومراقبتها من خلال Wiz Inventory أو Wiz Security Graph، وبالتالي التخفيف من مخاطر النقاط العمياء و”Shadow AI” في وضعهم الأمني السحابي.
تمكين علماء البيانات من الاستفادة بشكل آمن من نماذج مجتمع الذكاء الاصطناعي
تقوم فرق الذكاء الاصطناعي وعلماء البيانات بانتظام بتجربة النماذج مفتوحة المصدر التي طورها مجتمع الذكاء الاصطناعي، مما يسهل على المؤسسات تطوير تطوير الذكاء الاصطناعي بسرعة من خلال التعاون المفتوح ومشاركة المعرفة والابتكار. ومع ذلك، فإن استخدام نماذج من مصدر غير موثوق به يؤدي إلى مخاطر خفية تحتاج المؤسسات إلى الحماية منها.
أحد الأمثلة على هذا الخطر موجود في النماذج التي تستخدم ملفات المخلل. Pickle هو تنسيق Python شائع الاستخدام لتخزين أوزان نماذج الذكاء الاصطناعي. على الرغم من أن استخدام ملفات المخلل منتشر على نطاق واسع، إلا أن التنسيق معروف به مخاطرها الأمنية المحتملة. حسب التصميم، يسمح تنسيق المخلل بتنفيذ تعليمات برمجية عشوائية، مما يعني أن المهاجم يمكنه إساءة استخدام هذا وإنشاء نموذج ذكاء اصطناعي ضار، والذي قد يتم تنزيله عن غير قصد بواسطة علماء البيانات ثم استخدامه في خطوط أنابيب الذكاء الاصطناعي الخاصة بالمؤسسة.
تم اكتشاف مثال واقعي لهذا الخطر الذي يظهر في الإنتاج بواسطة فريق أبحاث Wiz عندما وجدوا مشكلة معمارية تؤثر على Hugging Face Hub. تمكن فريق البحث من تحميل نموذج ضار بتنسيق مخلل إلى Hugging Face الذي منحهم غلافًا عكسيًا، وتمكنوا من الاستفادة منه للهروب من الحاوية التي تشغل النموذج، ومن ثم اختراق خدمة Hugging Face Inference API، والتي من خلالها يمكنهم الوصول إلى بيانات عملاء Hugging Face الآخرين.
مثال آخر اكتشفه فريق أبحاث Wiz هو مستودع النماذج وبيانات التدريب المخزنة في ملف مثيل تخزين Azure الذي تم تكوينه بشكل خاطئ والذي تديره Microsoft. سمح هذا التكوين الخاطئ بأن يكون المستودع قابلاً للكتابة من قبل مستخدمين مجهولين، مما يعني أنه كان من الممكن أن يقوم جهة التهديد باستبدال النماذج بنماذج ضارة خلسة. نظرًا لأنه تم تنسيقها كملفات مخللة، فقد يكون هذا قد سمح للمهاجم بتنفيذ التعليمات البرمجية عن بُعد على الأجهزة التي يستخدمها أي علماء بيانات كانوا يحصلون على نماذجهم من هذا المستودع. يوضح هذا أهمية الاحتفاظ بمخزون على مستوى المؤسسة لنماذج الذكاء الاصطناعي المستضافة ذاتيًا، بما في ذلك اكتشاف النماذج في مجموعات التخزين، وإثراء هذه البيانات بمعلومات سياقية حول التعرض العام وأذونات الوصول المجهولة. وإلى جانب هذين المثالين، بحث بواسطة JFrog وقد أظهر أيضًا أن النماذج الضارة يتم تحميلها بانتظام إلى Hugging Face Hub بواسطة جهات التهديد، مما يعني أن هذا يمثل خطرًا حقيقيًا قد يواجهه العملاء في البرية.
على الرغم من أنه من المعروف أن تنسيق المخلل غير آمن، إلا أنه وغيره من التنسيقات غير الآمنة لا تزال تشهد استخدامًا واسع النطاق في مجتمع الذكاء الاصطناعي. ومع ذلك، من المهم بالنسبة لنا أن نساعد عملائنا على استخدام تنسيقات النماذج غير الآمنة بطرق تحمي بيئاتهم السحابية من المخاطر التي تنطوي عليها.
تقديم فحص النماذج الضارة
لمساعدة عملائنا على تأمين نماذج الذكاء الاصطناعي الخاصة بهم، يسعدنا تقديم إمكانات مسح النماذج من Wiz التي تكتشف المخاطر الأمنية في تنسيقات النماذج غير الآمنة حتى تتمكن المؤسسات من التعرف عليها ومعالجتها بسرعة. يمكنك الآن اكتشاف نماذج الذكاء الاصطناعي المستضافة في بيئتك والاعتماد على إمكانات المسح الجديدة لدينا لتنبيهك بالنتائج الأمنية المتعلقة بها، مثل النماذج التي تنفذ أوامر مشبوهة أو تحاول الاتصال بالإنترنت. فيما يلي مثال حيث اكتشف Wiz مثيل EC2 الذي يستضيف نماذج PyTorch التي قد تنفذ تعليمات برمجية ضارة إذا تم تحميلها.
اكتشف التهديدات في الوقت الفعلي في نماذج الذكاء الاصطناعي لديك
وبدون إمكانية المراقبة، قد يتم تحميل هذه النماذج الضارة وتنفيذ التعليمات البرمجية الخاصة بها قبل أن تتاح لفريق الأمان فرصة التعرف عليها أو إزالتها. ولهذا السبب من المهم أن يكون لدى المؤسسات نهج دفاعي متعمق حتى تتمكن في حالة حدوث تهديد من اكتشافه وإزالته في الوقت الفعلي. يمكن لعملاء Wiz Sensor الاستفادة من الحماية في وقت التشغيل ضد السلوك المشبوه الذي ينشأ في نماذج الذكاء الاصطناعي، لذلك في حالة حدوث تهديد، يمكنهم اكتشافه في الوقت المناسب وتقليل نطاق الانفجار. على سبيل المثال، اكتشف Wiz هنا اتصالاً بدأه نموذج الذكاء الاصطناعي بمجال مرتبط بأنشطة تعدين العملات المشفرة، مما قد يشير إلى أن هذا النموذج قد تسلل عبر سلسلة التوريد الخاصة بالمؤسسة ويقوم الآن بتسهيل النشاط الضار. لا يمكن للعملاء تخفيف المخاطر المرتبطة بنماذج الذكاء الاصطناعي المستضافة الخاصة بهم فحسب، بل يمكنهم أيضًا اكتشاف التهديدات في وقت التشغيل والتأكد من حماية بيئاتهم السحابية من مخاطر سلسلة التوريد هذه.
باختصار، يتيح مسح نموذج Wiz AI للعملاء ما يلي:
-
ضمان الرؤية في نماذج الذكاء الاصطناعي المستضافة
-
مراقبة النماذج غير الآمنة عبر بيئتهم
-
عمليات نشر آمنة للذكاء الاصطناعي من خلال تحديد التهديدات الأمنية وإزالتها بسرعة
تمكين ابتكار الذكاء الاصطناعي الآمن
هدفنا هو مساعدة مؤسستك على زيادة الابتكار في مجال الذكاء الاصطناعي بشكل آمن. يمكنك معرفة المزيد عنها ويز AI-SPM هنا وحول مسح النماذج من خلال زيارة موقعنا مستندات ويز (تسجيل الدخول مطلوب). إذا كنت تفضل أ العرض المباشر، نود أن نتواصل معك.
