يقال إن تطبيق ملعب الصور الذي يعمل به الذكاء الاصطناع

يقال إن تطبيق ملعب الصور الخاص بـ Apple لديه بعض المشكلات التحيز. شارك عالم التعلم الآلي مؤخرًا العديد من المخرجات التي تم إنشاؤها باستخدام تطبيق الذكاء الاصطناعي (AI) وادعى أنه يحتوي على لون البشرة غير الصحيحة وملمس الشعر في عدة مناسبات. وقيل أيضًا إن هذه الأثرات غير دقيقة يتم إقرانها مع صور نمطية عنصرية محددة ، مما يزيد من المشكلة. من الصعب تحديد ما إذا كانت القضية المزعومة هي حادثة لمرة واحدة أو قضية واسعة النطاق. والجدير بالذكر أن عملاق التكنولوجيا القائم على كوبرتينو قدم التطبيق أولاً كجزء من بدلة Apple Intelligence مع تحديث iOS 18.2.

قد يحتوي تطبيق ملعب صور Apple على مشكلات تحيز

شارك Jochem Gietema ، قيادة علوم التعلم الآلي في Onfido ، منشور المدونة، تسليط الضوء على تجاربه باستخدام تطبيق ملعب صور Apple. في المنشور ، شارك عدة مجموعات من المخرجات التي تم إنشاؤها باستخدام تطبيق ملعب الصور وأبرز حالات التحيزات العنصرية من خلال نموذج اللغة الكبير الذي يعمل على تشغيل التطبيق. والجدير بالذكر أن موظفي Gadgets 360 لم يلاحظوا أي تحيزات من هذا القبيل أثناء اختبار التطبيق.

“أثناء التجربة ، لاحظت أن التطبيق غير لون بشرتي وشعره اعتمادًا على المطالبة. المهن مثل Investment Banker vs. Farmer تنتج صورًا بألوان بشرة مختلفة جدًا. وينطبق الشيء نفسه على التزلج مقابل كرة السلة ، وملابس الشارع مقابل الدعوى ، والأكثر مشكلة ، ثري مقابل الفقراء “. بريد.

المخرجات المتحيزة المزعومة التي تم إنشاؤها باستخدام تطبيق ملعب الصور
الصورة الائتمان: Jochem Gietema

إن عدم الدقة والتحيزات هذه ليست غير عادية مع LLMs ، والتي يتم تدريبها على مجموعات بيانات كبيرة قد تحتوي على صور نمطية مماثلة. في العام الماضي ، واجه نموذج Gemini AI من Google رد فعل عنيف لتحيزات مماثلة. ومع ذلك ، فإن الشركات ليست عاجزة تمامًا لمنع مثل هذه الأجيال وغالبًا ما تنفذ طبقات مختلفة من الأمن لمنعها.

يأتي تطبيق ملعب صور Apple أيضًا مع قيود معينة لمنع المشكلات المرتبطة بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعى. على سبيل المثال ، يدعم تطبيق Apple Intelligence فقط أنماط الكرتون والتوضيح لتجنب مثيلات DeepFakes. بالإضافة إلى ذلك ، يتم إنشاء الصور التي تم إنشاؤها أيضًا مع حقل رؤية ضيق من الرؤية والذي عادة ما يلتقط الوجه فقط مع كمية صغيرة من التفاصيل الإضافية. يتم ذلك أيضًا للحد من أي حالات من هذه الحالات وغير الدقة.

لا يسمح عملاق التكنولوجيا أيضًا بأي مطالبات تحتوي على كلمات سلبية وأسماء المشاهير أو الشخصيات العامة ، وأكثر من ذلك للحد من المستخدمين الذين يسيئون استخدام الأداة لحالات الاستخدام غير المقصودة. ومع ذلك ، إذا كانت الادعاءات صحيحة ، فسوف يحتاج صانع iPhone إلى تضمين طبقات إضافية من الأمان لضمان عدم الشعور بالتمييز ضد التطبيق.