مفاجأة في نتائج بحث ChatGPT.. معرضة للتلاعب وتقدم معلومات مضللة

كتبت هاجر عبدالعليم

مفاجأة في نتائج بحث ChatGPT

رغم التطور الهائل في أدوات الذكاء الاصطناعي، لا تزال نتائج بحث ChatGPT غير دقيقة، إذ كشفت نتائج أداة البحث عبر الإنترنت في روبوت الذكاء الاصطناعي ChatGPT أنّها قد تكون عرضة للتلاعب، ما يؤدي إلى تقديم معلومات مضللة وغير صحيحة، إذ تعمل أدوات البحث المدعومة بالذكاء الاصطناعي على جمع البيانات من نتائج البحث، ثم معالجتها لتقديم إجابات مختصرة تسهم في الإجابة عن استفسارات المستخدمين بسرعة، لكنها لا زالت تواجه تحديات لتحقيق نتائج دقيقة وموثوقة.

نتائج بحث ChatGPT

بحسب صحيفة «theguardian» البريطانية، فإنّ أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، ويمكنها إرجاع تعليمات برمجية ضارة من مواقع الويب التي تبحث فيها، وذلك ما أوضحته نتائج بحث ChatGPT، إذ جعلت شركة OpenAI منتج البحث متاحًا للعملاء الذين يدفعون مقابل خدماتها، وتشجع المستخدمين على جعله أداة البحث الافتراضية لديهم، ولكن التحقيق كشف عن مشكلات أمنية محتملة مع النظام الجديد، فأظهرت آلية معالجة البيانات في أداة البحث في ChatGPT قابلية للتلاعب عبر تقنية تُعرف باسم «حقن الإعلانات Ad Injection»، وتعتمد هذه الطريقة على تضمين محتوى مخفي في المواقع الإلكترونية للتأثير في نتائج محركات البحث المدعومة بالذكاء الاصطناعي.

مفاجأة في نتائج بحث ChatGPT

وأوضحت نتائج البحث أن هذه الفرضية تم اختبارها عبر تجربة عملية، وهي إنشاء صفحة مزيفة مليئة بالمراجعات السلبية لمنتج ما، مع إضافة تعليمات مخفية تعزز صورة المنتج بنحو إيجابي، وأظهرت نتائج بحث ChatGPT تقييمات إيجابية للمنتج، بالرغم من أنّ المراجعات المنشورة كانت سلبية، إذ لا تزال أداة البحث عبر الإنترنت في ChatGPT جديدة نسبيًا، ولم يتم طرحها للاستخدام العام النهائي، ولكن يتم اختبارها من بعض مستخدمي ChatGPT، كما أنّها من المرجح أن تنجح في OpenAI في معالجة كل هذه المشكلات قبل أن يتم إطلاقها في المستقبل.
نصائح لنتائج بحث ChatGPT

ويُحذر بعض الخبراء من الاعتماد الكلي على نتائج محركات البحث المدعومة بالذكاء الاصطناعي، والتعامل معها كأدوات مساعدة ذكية وليست مصادر موثوقة يُعتمد عليها بشكل نهائي، وهذا ليس بجديد، خاصة وأنّ شركة جوجل واجهت تحديات كبيرة عند طرح ميزة «المطالعات الذكية AI Overviews» في محرك البحث الخاص بها، من أجل تقديم نتائج بحث سريعة مدعومة بالذكاء الاصطناعي.