الفكرة أن أصبح بإمكان المحتالين استخدام الذكاء الاصطناعي لشحذ خداعهم، وصقل لغتهم، وتليين مزاحهم مع الضحايا، أصبح الآن حقيقة واقعة لأي شخص يكافح عمليات الاحتيال التي تسرق عشرات المليارات من الدولارات سنويًا في جميع أنحاء العالم. ولكن يمكن لمنظمة العفو الدولية بشكل كامل يستبدل محتال بشري، يقوم بشكل مستقل ببناء شبكة من الخداع تؤدي إلى الاستثمار المزيف الذي يحتال على العلامة؟ تشير إحدى تجارب الدراسات إلى أنها قادرة على تنفيذ معظم هذه العمليات الطويلة الأمد بشكل أكثر فعالية من البشر، بل وربما تكون قادرة على ذلك.
أجرى باحثون من أربع جامعات – أمريتا فيشوا فيديابيثام في الهند، وجامعة فوسكاري في البندقية، وجامعة ملبورن، وجامعة بن غوريون في النقب – دراسة واسعة النطاق حول استخدام وإمكانات روبوتات الدردشة التوليدية المستندة إلى الذكاء الاصطناعي في صناعة الاحتيال المتنامية التي تتمحور حول شكل من أشكال الاحتيال المعروف باسم “ذبح الخنازير”، وهي عمليات احتيال رومانسية تعتمد على النصوص والتي تتحول في النهاية إلى استثمارات عملات مشفرة مزيفة تسرق ما يصل إلى ستة أرقام من الضحايا. في دراستهم، حرض الباحثون روبوتات الدردشة المدعومة بالذكاء الاصطناعي مباشرة ضد البشر في محاكاة لعملية الاحتيال – أو بشكل أكثر تحديدًا، المحادثات الطويلة لبناء الثقة التي تؤدي في النهاية إلى التماس استثمار مزيف من هدف عملية الاحتيال.
لقد وجدوا أنه بالنسبة لمراحل إنشاء العلاقة في عملية الاحتيال – وهي المرحلة التي تمثل عادةً في عمليات الاحتيال في العالم الحقيقي الجزء الأطول من التفاعلات مع الضحية، والتي غالبًا ما تمتد إلى أشهر – كان أداء روبوت الدردشة الذي يعمل بالذكاء الاصطناعي فعالاً بشكل ملحوظ، حيث نجح في انتحال شخصية إنسان وتفوق في بعض المقاييس على “المحتالين” البشريين الحقيقيين في تجربتهم.
بعد أسبوع من التحدث إلى 22 شخصًا تم تجنيدهم ليكونوا بمثابة “ضحايا” عن غير قصد، تم تكليف روبوتات الدردشة والمحتالين البشريين بمطالبة الضحية إما بتنزيل تطبيق أو لعب لعبة عبر الإنترنت كبديل عن استعدادهم لتلبية طلب المحتال. وقد استوفى ما يقرب من نصف الأشخاص الخاضعين للاختبار هذا الطلب الخاص ببرنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، في حين أن أقل من واحد من كل خمسة ابتلع الطعم عند التحدث إلى إنسان. قام المشاركون أيضًا بتقييم مستوى ثقتهم بكل “شخص” كانوا يراسلونه، وأعطوا درجات أعلى بكثير لروبوت الذكاء الاصطناعي.
يشير هذا، كما يقول الباحثون، إلى أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي يمكن أن تتولى قريبًا الكثير من عمليات الاحتيال كعملاء احتيال مستقلين تمامًا – حتى استبدال الموظفين، الذين غالبًا ما يكونون ضحايا الاتجار بالبشر للعمل القسري، ويعملون في عمليات الاحتيال في المقام الأول عبر جنوب شرق آسيا. ولتجنب تفعيل الإجراءات الوقائية المضمنة في نماذج اللغات الكبيرة للكشف عن عمليات الاحتيال، سيتولى المحتال البشري المحادثة في المرحلة الأخيرة فقط من العملية لتوجيه الضحية نحو تطبيق أو موقع استثماري مزيف.
يقول يسرويل ميرسكي، أستاذ علوم الكمبيوتر في جامعة بن غوريون في النقب والذي يركز على أمن الذكاء الاصطناعي: “من خلال تنفيذ المرحلة الأولى الكاملة من عملية الاحتيال تلقائيًا مع حاملي شهادة الماجستير في القانون على نطاق واسع، فإنك تصل بالضحية إلى هذه النقطة حيث يتمتعون بمستوى عالٍ جدًا من الثقة. ثم من خلال نقلها إلى المحتال البشري في النهاية، فإن هذا يتجاوز تمامًا أي ضمانات للبائع”. “بجهد قليل نسبيًا، أصبحنا قادرين على صنع عميل يمكنه التفوق على الإنسان في بناء هذه الثقة العاطفية القابلة للاستغلال.”
هوك، الخط، والغطاس
ولفهم كيفية عمل ذبح الخنازير عمليا، أجرى الباحثون مقابلات مع 145 من العاملين السابقين في عمليات الاحتيال، بما في ذلك الناجين من الاتجار بالبشر الذين أجبروا على العمل في مجمعات الاحتيال في كمبوديا وميانمار ولاوس. واستنادًا جزئيًا إلى تلك المقابلات، بالإضافة إلى نصوص الاحتيال والأدلة التي قدمها عمال الاحتيال السابقون، يصف الباحثون نموذجًا لكيفية عمل الاحتيال يسمونه “الخطاف والخط والغطاس”. يتم ربط الضحية برسالة أولية مثيرة للاهتمام، ثم ينخرط في محادثة طويلة الأمد لبناء العلاقات، ولا يتم خداعه إلا في نهاية هذه العملية للقيام باستثمار مزيف. (يصف مصطلح “ذبح الخنازير” في حد ذاته نفس النظام ولكن مع استعارة تسمين “الخنازير” من خلال بناء الثقة قبل “ذبحها” عن طريق الاحتيال الاستثماري – على الرغم من عدم تشجيع هذا المصطلح في كثير من الأحيان بسبب إشارته التحقيرية للضحايا).
في نظام الاحتيال هذا، أدرك الباحثون أن الغالبية العظمى من أعمال المحتالين عبارة عن محادثة ودية أو رومانسية غير ضارة. لقد توقعوا أن هذه مهمة قد يكون حامل الماجستير في القانون قادرًا على القيام بها تمامًا مثل الإنسان. أكد عمال الاحتيال الذين قابلهم الباحثون أنهم غالبًا ما يستخدمون الذكاء الاصطناعي لتحسين لغتهم ومحادثاتهم، وللترجمة، ولجعل الشخصيات المزيفة التي لعبوها أكثر إقناعًا، ولعمل مقاطع فيديو مزيفة. لكن الباحثين قرروا اختبار ما إذا كان ماجستير إدارة الأعمال وحده يمكنه تنفيذ مرحلة المحادثة في عملية الاحتيال بشكل مستقل دون وجود أي إنسان في الحلقة.
