يعانى تطبيق Image Playground من Apple من بعض مشكلات التحيز، وشارك عالم التعلم الآلي مؤخرًا العديد من المخرجات التي تم إنشاؤها باستخدام تطبيق الذكاء الاصطناعي (AI) وادعى أنه يحتوي على لون بشرة غير صحيح وملمس شعر في عدة مناسبات.

وقيل أيضًا أن هذه الأخطاء مقترنة بصور نمطية عنصرية محددة، مما يزيد من المشكلة ، ومن الصعب تحديد ما إذا كانت المشكلة المزعومة حادثة لمرة واحدة أم مشكلة واسعة النطاق.

والجدير بالذكر، أن عملاق التكنولوجيا الذي يقع مقره في كوبرتينو قدم التطبيق لأول مرة كجزء من دعوى Apple Intelligence مع تحديث iOS 18.2.

قد يكون تطبيق Image Playground التابع لشركة Apple يعانى من مشكلات تتعلق بالتحيز.

شارك Jochem Gietema، رئيس قسم علوم التعلم الآلي في Onfido، منشورًا على مدونته ، يسلط فيه الضوء على تجاربه في استخدام تطبيق Image Playground من Apple.

وفي المنشور، شارك عدة مجموعات من النتائج التي تم إنشاؤها باستخدام تطبيق Image Playground وسلط الضوء على حالات التحيز العنصري من خلال نموذج اللغة الكبير الذي يدعم التطبيق، والجدير بالذكر أن أعضاء فريق Gadgets 360 لم يلاحظوا أي تحيزات من هذا القبيل أثناء اختبار التطبيق.

وقال جيتيما في منشور على موقع لينكد إن ، أثناء إجراء التجارب، لاحظت أن التطبيق غيّر لون بشرتي وشعري بناءً على المهنة للمستخدم فاختلاف المهن مثل المصرفي الاستثماري مقابل المزارع أنتج صورًا بدرجات لون بشرة مختلفة تمامًا ، وينطبق الأمر نفسه على التزلج مقابل كرة السلة، وملابس الشارع مقابل البدلة، والأكثر إشكالية، الأثرياء مقابل الفقراء".

وأضاف، إن مثل هذه الأخطاء والتحيزات ليست غير عادية في برامج الماجستير في القانون، والتي يتم تدريبها على مجموعات بيانات كبيرة قد تحتوي على صور نمطية مماثلة ، وفي العام الماضي واجه نموذج الذكاء الاصطناعي جيميني من جوجل ردود فعل عنيفة بسبب تحيزات مماثلة ، ومع ذلك، فإن الشركات ليست عاجزة تمامًا عن منع مثل هذه الأجيال وغالبًا ما تنفذ طبقات مختلفة من الأمان لمنعها.

ويأتى تطبيق Image Playground من Apple أيضًا مع قيود معينة لمنع المشكلات المرتبطة بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعى، على سبيل المثال، يدعم تطبيق Apple Intelligence أنماط الرسوم المتحركة والرسوم التوضيحية فقط لتجنب حالات التزييف العميق.

بالإضافة إلى ذلك، يتم إنشاء الصور المولدة أيضًا بمجال رؤية ضيق لا يلتقط عادةً سوى الوجه مع قدر ضئيل من التفاصيل الإضافية ، ويتم ذلك أيضًا للحد من أي حالات من التحيز وعدم الدقة.

كما لا تسمح شركة التكنولوجيا العملاقة بأي مطالبات تحتوي على كلمات سلبية أو أسماء المشاهير أو الشخصيات العامة، والمزيد للحد من إساءة استخدام المستخدمين للأداة في حالات الاستخدام غير المقصودة، ومع ذلك، إذا كانت الادعاءات صحيحة، فسوف تحتاج شركة iPhone إلى تضمين طبقات إضافية من الأمان لضمان عدم شعور المستخدمين بالتمييز أثناء استخدام التطبيق.