تُظهر نظرة على اتجاهات السوق الحالية في مجال التكنولوجيا أن الذكاء الاصطناعي التوليدي (GenAI) يشكل بلا شك المستقبل. يمكن لـ GenAI أتمتة مجموعة واسعة من المهام، مما يوفر الوقت للبشر للتركيز على الابتكار. يمكنه تحليل كميات كبيرة من البيانات، وتوفير تجارب مخصصة للعملاء، ويكون بمثابة أداة تعليمية قوية.
ومع ذلك، من المهم ملاحظة أن هذه التطورات في GenAI تشكل مخاطر أمنية كبيرة يجب على مقدمي التكنولوجيا معالجتها. يؤدي نشر الذكاء الاصطناعي التوليدي (GenAI)، ونماذج اللغات الكبيرة (LLMs)، وواجهات الدردشة، خاصة تلك المرتبطة بحلول الطرف الثالث خارج جدار الحماية الخاص بالمؤسسة، إلى توسيع أسطح الهجوم المحتملة ويشكل تهديدات أمنية متزايدة للشركات.
ستعمل GenAI، جنبًا إلى جنب مع البرامج الضارة الذكية، على تعزيز كفاءة المهاجمين، وتعزيز درجة أعلى من الأتمتة، وتصعيد استقلالية الهجمات. وهذا بدوره يعزز بشكل كبير الأدوات المتاحة لكل من المهاجمين والمدافعين. كما يقدم الحقن السريع لـ GenAI والتوجيه النموذجي مخاطر أمان البيانات التي يصعب التخفيف منها بشكل فعال.
وعلى الرغم من أن هذه المخاطر تثير القلق، إلا أنها توفر أيضًا فرصًا جديدة لمقدمي التكنولوجيا الأمنية. ويسلط تقرير حديث صادر عن مؤسسة Gartner، والذي يقدم رؤى موضوعية وقابلة للتنفيذ للمديرين التنفيذيين وفرقهم، الضوء على العديد من هذه المخاطر ويحدد الفرص التي تخلقها للابتكار في مجال الأمن السيبراني.
وفقًا لفهمنا، يؤكد تقرير Gartner على أهمية الفهم والاستعداد للمخاطر الأمنية المرتبطة بـ GenAI. ويحدد أربعة مجالات رئيسية للمخاطر: الخصوصية وأمن البيانات، وتعزيز كفاءة الهجوم، والمعلومات الخاطئة، ومخاطر الاحتيال والهوية.
الخصوصية وأمن البيانات
غالبًا ما تتطلب أدوات GenAI الوصول إلى البيانات للتدريب وإنشاء المخرجات. يمكن أن يؤدي الافتقار إلى تقنيات إخفاء هوية البيانات، إذا لم يتم استخدامها بشكل كافٍ و/أو تمت مشاركة البيانات مع أطراف ثالثة ومع إدارة أذونات ترخيص واجهة برمجة التطبيقات، إلى تسرب محتمل للبيانات أو انتهاكات. بدون موافقة صريحة ومراقبة، هناك خطر انتهاك حقوق الخصوصية أو تفويضات أمن البيانات. بالإضافة إلى ذلك، قد تكون أدوات GenAI أيضًا عرضة لانتهاكات البيانات، مما يؤدي إلى الوصول غير المصرح به إلى المعلومات الحساسة أو الكشف عنها.
تعزيز كفاءة الهجوم
يمكن لتقنيات GenAI إنشاء إصدارات مشتقة حديثًا من المحتوى والاستراتيجيات والتصميمات والأساليب من خلال التعلم من مستودعات كبيرة لمحتوى المصدر الأصلي. تتمتع GenAI بتأثيرات عميقة على الأعمال، بما في ذلك اكتشاف المحتوى وإنشائه والأصالة واللوائح التنظيمية؛ أتمتة العمل البشري؛ وتجارب العملاء والموظفين. تتوقع جارتنر أنه بحلول عام 2025، سيقود الوكلاء المستقلون الهجمات الإلكترونية المتقدمة التي تؤدي إلى ظهور “برامج ضارة ذكية”، مما يدفع مقدمي الخدمات إلى تقديم ابتكارات تعالج المخاطر والتهديدات الفريدة لـ LLM وGenAI.
معلومات مضللة
أدوات GenAI قادرة على إنتاج محتوى جديد يبدو موثوقًا وواقعيًا بتنسيق صوتي وفيديو ونص، وتتيح إمكانات الأتمتة إمكانيات الهجوم التفاعلي. ويمكن أن تستخدم الجهات الفاعلة الخبيثة هذه القدرات لنشر معلومات مزيفة والتأثير على آراء الناس بشأن المسائل الاجتماعية والسياسية بطريقة فعالة وآلية بشكل متزايد. تتعرض قنوات التواصل الاجتماعي لخطر إغراقها بالمعلومات المزيفة.
مخاطر الاحتيال والهوية
تشكل قدرة GenAI على إنشاء بيانات الصور والفيديو والصوت الاصطناعية أيضًا خطرًا على خدمات التحقق من الهوية والمصادقة البيومترية التي تركز على وجه الشخص أو صوته. إذا تم تقويض هذه العمليات، فيمكن للمهاجمين تخريب عمليات فتح الحسابات في البنوك أو الوصول إلى حسابات المواطنين لدى الحكومة أو خدمات الرعاية الصحية. يعد هذا مصدر قلق متزايد لكل من العملاء الحاليين ومستقبلي المبيعات فيما يتعلق بمدى جدوى حلولهم إذا تم تقديمها مع صور ومقاطع فيديو وصوت مزيفة.
ولمعالجة هذه المخاطر، توصي Gartner بدمج حلول الذكاء الاصطناعي التوليدية في المنتجات الأمنية من خلال بناء إستراتيجية منتج محدثة تعالج المخاطر الأمنية لـ GenAI. يتضمن ذلك استكشاف سلوكيات البرامج الضارة الذكية المحتملة بشكل استباقي، مع التركيز على تحسين أساليب التنسيق بين المنتجات وذكاء التهديدات وتعزيز سرعة تبادل المعلومات عبر واجهات برمجة التطبيقات حول المستخدمين والملفات والأحداث وما شابه ذلك مع موفري خدمات الوقاية المجاورة.
ويشير التقرير أيضًا إلى أنه بحلول عام 2025، سيقود الوكلاء المستقلون هجمات إلكترونية متقدمة تؤدي إلى ظهور “برامج ضارة ذكية”، مما يدفع مقدمي الخدمات إلى تقديم ابتكارات تعالج المخاطر والتهديدات الفريدة لـ LLM وGenAI.
يقدم GenAI فرصًا ومخاطر كبيرة. مع استمرار موفري التكنولوجيا في التنقل في سوق الذكاء الاصطناعي المتغير والأدوات الناشئة عنه، يجب أن يظل البقاء على اطلاع واستعداد لمواجهة التهديدات الأمنية المحتملة أولوية قصوى. ولن يضمن ذلك سلامة وثقة المستخدمين فحسب، بل سيؤدي أيضًا إلى زيادة الإيرادات من خلال التمييز ومعالجة فرص التحول الأمني الرئيسية التي توفرها هذه المخاطر.
جارتنر، التكنولوجيا الناشئة: أهم 4 مخاطر أمنية لـ GenAI، لورانس بينجري، سواتي راخيجا، لي ماكمولن، عاكف خان، مارك واه، آيليت هيمان، كارل مانيون، 10 أغسطس 2023.
GARTNER هي علامة تجارية مسجلة وعلامة خدمة لشركة Gartner, Inc. و/أو الشركات التابعة لها في الولايات المتحدة وعلى المستوى الدولي، ويتم استخدامها هنا بتصريح. جميع الحقوق محفوظة.
