توصل تحقيق أجرته صحيفة الجارديان، إلى أن أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، ويمكنها إرجاع تعليمات برمجية ضارة وخاطئة من مواقع الويب التي تبحث فيها.
وجعلت شركة OpenAI منتج البحث متاحًا للعملاء الذين يدفعون مقابل خدماتها، وتشجع المستخدمين على جعله أداة البحث الافتراضية لديهم، ولكن التحقيق كشف عن مشكلات أمنية محتملة مع النظام الجديد.
واختبرت صحيفة The Guardian كيفية استجابة ChatGPT عندما طُلب منها تلخيص صفحات الويب التي تحتوي على محتوى مخفي. يمكن أن يحتوي هذا المحتوى المخفي على تعليمات من أطراف ثالثة تعمل على تغيير استجابات ChatGPT، أو يمكن أن يحتوي على محتوى مصمم للتأثير على استجابة ChatGPT، مثل كمية كبيرة من النص المخفي الذي يتحدث عن فوائد منتج أو خدمة.
ويمكن استخدام هذه التقنيات بشكل ضار، على سبيل المثال لجعل ChatGPT يعيد تقييمًا إيجابيًا لمنتج ما على الرغم من المراجعات السلبية على نفس الصفحة، كما وجد باحث أمني أن ChatGPT يمكنه أيضًا إعادة التعليمات البرمجية الضارة من مواقع الويب التي يبحث فيها.
في الاختبارات، تم منح ChatGPT عنوان URL لموقع ويب مزيف تم تصميمه ليبدو وكأنه صفحة منتج لكاميرا، ثم تم سؤال أداة الذكاء الاصطناعي عما إذا كانت الكاميرا تستحق الشراء، أعادت الإجابة عن صفحة التحكم تقييمًا إيجابيًا ولكنه متوازن، مع تسليط الضوء على بعض الميزات التي قد لا يحبها الناس.
ومع ذلك، عندما تضمن النص المخفي تعليمات لـ ChatGPT لإرجاع تقييم إيجابي، كانت الاستجابة إيجابية تمامًا دائمًا، وكانت هذه هي الحال حتى عندما كانت الصفحة تحتوي على تقييمات سلبية- يمكن استخدام النص المخفي لتجاوز درجة التقييم الفعلية.
يمكن أيضًا استخدام التضمين البسيط للنص المخفي بواسطة أطراف ثالثة بدون تعليمات لضمان تقييم إيجابي، مع وجود اختبار واحد يتضمن مراجعات مزيفة إيجابية للغاية أثرت على الملخص الذي تم إرجاعه بواسطة ChatGPT.
وقال جاكوب لارسن، الباحث في مجال الأمن السيبراني في شركة CyberCX، إنه يعتقد أنه إذا تم إطلاق نظام البحث الحالي ChatGPT بالكامل في حالته الحالية، فقد يكون هناك «خطر كبير» من قيام الأشخاص بإنشاء مواقع ويب تهدف على وجه التحديد إلى خداع المستخدمين.
ومع ذلك، فقد حذر من أن وظيفة البحث لم يتم إصدارها إلا مؤخرًا وأن OpenAI سوف تقوم باختبار وإصلاح هذا النوع من المشكلات، وأضاف أن «وظيفة البحث هذه ظهرت مؤخرًا وهي متاحة فقط للمستخدمين المتميزين».
