لقد أدخل الذكاء الاصطناعي حقبة جديدة من الابتكار، مما مكّن المؤسسات من إنشاء تطبيقات متطورة. لقد رأينا العديد من عملائنا يعتمدون بالفعل خدمات الذكاء الاصطناعي في بيئاتهم السحابية، ووجد فريق البحث لدينا أن أكثر من 70% من البيئات السحابية تستخدم بالفعل الذكاء الاصطناعي اليوم. ومع هذا الاعتماد السريع للذكاء الاصطناعي، تشعر فرق الأمن بالقلق بشأن الآثار الأمنية المترتبة على إدخال الذكاء الاصطناعي في بيئتهم السحابية وسطح الهجوم المتزايد. نستمر في سماع المؤسسات الأمنية تتساءل: “كيف يمكننا غرس الأمن في عمليات الذكاء الاصطناعي في مؤسستي؟”.
يعكس اعتماد الذكاء الاصطناعي اليوم الوضع الذي كانت عليه السحابة قبل عدة سنوات: فكل شخص تقريبًا يستخدمها، ولكن عدد قليل جدًا من المؤسسات لديها عملية مطبقة للتحكم فيها. ولكن على عكس الثورة السحابية، يتم تطوير أمن الذكاء الاصطناعي جنبًا إلى جنب مع التكنولوجيا الجديدة. ولمساعدة عملائنا على مواجهة هذا التحدي الأمني للذكاء الاصطناعي، توصلنا إلى أربعة أسئلة مهمة نعتقد أنه يجب على كل مؤسسة أمنية أن تطرحها على نفسها:
-
هل تعرف مؤسستي ما هي خدمات وتقنيات الذكاء الاصطناعي التي يتم تشغيلها في بيئتي؟
-
هل أعرف مخاطر الذكاء الاصطناعي في بيئتي؟
-
هل يمكنني تحديد أولويات مخاطر الذكاء الاصطناعي الحرجة؟
-
هل يمكنني اكتشاف سوء الاستخدام في مسارات الذكاء الاصطناعي الخاصة بي؟
الهدف من هذا التمرين هو مساعدة فرق الأمان على البقاء واثقة من قدرتها على الاستفادة من الذكاء الاصطناعي مع الحفاظ على بيئتها آمنة والمساعدة في تسريع اعتماد الذكاء الاصطناعي.
دعنا نتعمق في ما يعنيه أن تكون قادرًا على الإجابة بنعم على كل سؤال من هذه الأسئلة:
-
هل تعرف مؤسستي ما هو الذكاء الاصطناعي الذي يعمل في بيئتي؟
يطلق مقدمو الخدمات السحابية باستمرار خدمات جديدة للذكاء الاصطناعي، ويسارع المطورون وعلماء البيانات إلى تجربة التقنيات الجديدة. عندما يبدأ المطورون في الابتكار باستخدام الذكاء الاصطناعي، هل يمكن لفريق الأمان لديك الإجابة بسهولة على نماذج الذكاء الاصطناعي أو مجموعات تطوير البرامج (SDK) أو الخدمات التي يتم تشغيلها في البيئة؟ هل يمكنك اكتشاف مخازن البيانات المستخدمة لبيانات التدريب؟ أو الأدوات وأعباء العمل المستخدمة لتدريب النموذج أو الأنظمة التي تستضيف الاستدلال؟ إذا كانت الإجابة على أي من هذه الأسئلة هي لا، فأنت لست وحدك، وتواجه العديد من المؤسسات ظل الذكاء الاصطناعي في الاعتماد المبكر للذكاء الاصطناعي. ولكن إذا كان فريقك لا يعرف ما هي نماذج الذكاء الاصطناعي وخطوط الأنابيب الموجودة في البيئة، فكيف يمكنهم تأمينها بشكل فعال؟ في Wiz، ننظر إلى الرؤية باعتبارها عامل التمكين الأساسي لاعتماد الذكاء الاصطناعي الآمن. لا ينبغي أن يعتمد فريق الأمان لديك على المطورين وعلماء البيانات لتحديد خدمات الذكاء الاصطناعي التي قاموا بتمكينها، بل يجب أن يكون قادرًا على اكتشاف AI-BOM الكامل في الوقت الفعلي تقريبًا، بما في ذلك خدمات الذكاء الاصطناعي المُدارة والمستضافة ذاتيًا، ومجموعات SDK، والمكتبات، ووظائف الضبط الدقيق والمزيد في بيئتك.
-
هل أعرف مخاطر الذكاء الاصطناعي في بيئتي؟
نجح فريق الأمان لديك في اكتساب رؤية واضحة لمكونات الذكاء الاصطناعي، فماذا بعد؟ السؤال التالي الذي يجب أن يطرحه فريقك على نفسه هو: ما هي المخاطر الجديدة التي يتم إدخالها على بيئتي من خلال اعتماد الذكاء الاصطناعي؟ كيف يتغير سطح الهجوم الخاص بي؟ يتضمن التدريب على نموذج الذكاء الاصطناعي تخزين مجموعات كبيرة من البيانات ويتطلب من فريقك التأكد من حمايتك من مخاطر البيانات مثل تسرب البيانات. أحد الأمثلة الواقعية لمخاطر بيانات التدريب هو الاكتشاف الأخير الذي قام به فريق البحث لدينا. وجدت أبحاث ويز 38 تيرابايت من البيانات التي كشفها باحثو الذكاء الاصطناعي في Microsoft عن طريق الخطأ، بما في ذلك البيانات الحساسة مثل الأسرار المكشوفة والمفاتيح الخاصة وكلمات المرور. لا يقتصر الأمر على مخاطر البيانات التي يتم إدخالها إلى البيئة فحسب، بل تحتاج فرق الأمان أيضًا إلى الحماية من مخاطر النماذج مثل تسميم النموذج، حيث يتمكن المهاجم من الوصول إلى بيانات التدريب وتسميمها ببيانات ضارة لتغيير مخرجات النموذج. بالإضافة إلى ذلك، توجد مخاطر مماثلة في مسارات الذكاء الاصطناعي كما هي موجودة في السحابة: نقاط الضعف، والتكوينات الخاطئة، والتعرض للشبكة، والأذونات المفرطة. تحتاج المؤسسات التي تبتكر باستخدام الذكاء الاصطناعي إلى الحصول على رؤية واضحة لجميع هذه الأنواع من المخاطر لضمان الأمان في مسارات الذكاء الاصطناعي الخاصة بها.
-
هل يمكنني تحديد أولويات مخاطر الذكاء الاصطناعي الحرجة؟
لقد اكتشفت جميع المخاطر في بيئتي، كيف سيعطي فريقك الأولوية لمشكلة أو ثغرة أمنية في تكوين الذكاء الاصطناعي على حساب الأخرى؟ لتحديد أولويات مخاطر الذكاء الاصطناعي بشكل فعال، تحتاج المؤسسات إلى فهم السياق الكامل عبر السحابة وعبء العمل. على سبيل المثال، يمكنك اكتشاف تكوين خاطئ للذكاء الاصطناعي عندما يكون هناك مثيل للكمبيوتر المحمول تم تمكين الوصول إلى الجذر فيه، ولكن إذا كنت تعرف الآن أيضًا أن بيانات التدريب التي يستخدمها المثيل تحتوي على بيانات حساسة، فسيصبح ذلك خطرًا كبيرًا تحتاج إلى تحديد أولوياته. ولهذا السبب من المهم أن تكون لديك لوحة معلومات تعمل بمثابة لوح زجاجي واحد لجميع المخاطر في مسار الذكاء الاصطناعي، مما يسمح لك بفهم كيفية تضافر المخاطر معًا لتؤدي إلى مسار هجوم في البيئة. يجب أن توفر لوحة المعلومات تحديدًا دقيقًا لأولويات المخاطر للسماح لفرق الأمان وفرق الذكاء الاصطناعي لديك بإزالة المخاطر الأكثر أهمية بشكل فعال، حتى يتمكنوا من التركيز على المزيد من ابتكارات الذكاء الاصطناعي.
-
هل يمكنني اكتشاف سوء الاستخدام في مسارات الذكاء الاصطناعي الخاصة بي؟
لقد قمت باكتشاف المخاطر الحرجة في البيئة وإزالتها بشكل استباقي، فهل أنت محمي تمامًا ضد تهديدات الذكاء الاصطناعي؟ كما هو الحال مع حماية البيئة السحابية الخاصة بك، فأنت تريد إزالة أكبر قدر ممكن من المخاطر الحرجة، ولكن قد لا تتمكن من إزالة كل المخاطر الموجودة في بيئتك. يجذب الذكاء الاصطناعي أيضًا انتباه الجهات الفاعلة في مجال التهديد، ولهذا السبب لا تزال بحاجة إلى التأكد من أنك مستعد لأي تهديدات قد تظهر. يجب أن تكون فرق الأمان قادرة على اكتشاف الأنشطة المشبوهة في مسارات الذكاء الاصطناعي، مثل قيام مستخدم خارجي بإساءة استخدام نموذج الذكاء الاصطناعي، أو زرع نموذج ضار في الوقت الفعلي حتى يتمكنوا من الاستجابة بسرعة، وتقليل نصف قطر الانفجار، وإزالة التهديد.
تحتاج فرق الأمان إلى طرح هذه الأسئلة عندما تتبنى مؤسستهم الذكاء الاصطناعي في بيئتهم ويمكنهم استخدام هذه الأسئلة كمبادئ توجيهية عند البحث عن حل AI-SPM. توفر لك أداة AI-SPM التي تتيح لك الإجابة بنعم على هذه الأسئلة إمكانات أمان الذكاء الاصطناعي الأساسية لحماية خطوط أنابيب الذكاء الاصطناعي الخاصة بك. في Wiz، نريد التأكد من أن عملائنا يمكنهم مواكبة وتيرة ابتكار الذكاء الاصطناعي ولهذا السبب أطلقنا إمكانات AI-SPM الخاصة بنا. يوفر Wiz AI-SPM لعملائنا رؤية كاملة لخطوط أنابيب الذكاء الاصطناعي الخاصة بهم من خلال إمكانات AI-BOM بدون وكيل، ويوسع تحليل مسار الهجوم الخاص بنا إلى الذكاء الاصطناعي حتى يتمكنوا من إزالة مخاطر الذكاء الاصطناعي الحرجة بشكل استباقي. يمكنك معرفة المزيد بزيارة موقعنا صفحة حل AI-SPM. إذا كنت تفضل أ العرض المباشر، نود أن نتواصل معك.
