يستخدم المجرمون والمخادعون مواقع الويب المخترقة وأسماء النطاق المنتهية الصلاحية لـ “Poison” ChatGPT مع توصيات غير مرغوب فيها – إليك كيفية البقاء آمنة

• لا يمكن لـ ChatGPT معرفة ما إذا كان قد تم اختراق موقع أو انتهت صلاحيته أو إعادة استخدامه لكازينو البريد العشوائي
• قد تبدو الإجابات التي تم إنشاؤها من الذكاء الاصطناعى موثوقة ، حتى عندما يستشهدون بمصادر مختطفة تمامًا ومزيفة
• تولد النطاقات الخيرية منتهية الصلاحية كمواقع لعب القمار ولا تزال تمر كمصادر منظمة العفو الدولية الجديرة بالثقة

سرعان ما أصبحت ChatGPT مصدرًا متوقعًا للأشخاص الذين يبحثون عن توصيات ، من الخدمات عبر الإنترنت إلى الشركات المحلية ، لكن الأدلة الجديدة تشير إلى أن اقتراحاتها التي تم إنشاؤها من الذكاء الاصطناعى قد لا يتم دائمًا تأسيسها في مصادر جديرة بالثقة.

في الواقع ، يتم استخلاص البعض من مواقع الويب التي تم اختراقها أو تنتهي مجالاتها وتم إعادة تعويضها ، وغالبًا ما تعزز الكازينوهات عبر الإنترنت ومنصات المقامرة.

خلال الأشهر القليلة الماضية ، جيمس بروكبانك ، المدير الإداري والمؤسس في Digitaloft، تم توثيق مدى انتشار المشكلة على نطاق واسع ، حيث كشفت عن أمثلة على محتوى ChatGPT مستشهدة من المواقع التي تم التلاعب بها بوضوح.

استغلال الفجوات في التحقق من صحة مصدر الذكاء الاصطناعي

في إحدى الحالات ، كان لدى موقع الويب الخاص بالممارسة القانونية الوظيفية ، الذي يديره المحامي فيرونيكا ت. بارتون ، صفحات يوصي الكازينوهات في المملكة المتحدة المدفونة داخلها.

“لقد تم اختراق موقعهم وأضاف هذه الصفحة” ، لاحظ Brockbank بعد مراجعة الأدلة.

في حالة أخرى ، تم تحويل موقع تابع مرة واحدة إلى تحالف شباب الأمم المتحدة إلى منصة تدفع “الكازينوهات وليس على Gamstop”.

على الرغم من أن القائمة التي استضافتها تحتوي على رابط خارجي واحد فقط ، إلا أنه أدى إلى مجال آخر معيد.

استمر هذا النمط مع المجالات المنتهية الصلاحية ، بما في ذلك تلك التي كانت تنتمي إلى مؤسسة خيرية للفنون التي لم تنته الآن مرتبطة سابقًا من قبل بي بي سي ، سي إن إن ، وبلومبرج.

تم الاستشهاد بهذا المجال ، الذي يدفع محتوى المقامرة الآن ، من قبل ChatGPT استجابةً للاستعلام حول الكازينوهات غير الوهمية.

تستغل هذه التكتيكات نقاط الضعف في كيفية اختيار ChatGPT وتستشهد بمصادر ، على عكس محركات البحث التقليدية ، يفتقر النموذج إلى آليات للتحقق من شرعية ملكية الموقع أو نية التحرير.

نتيجة لذلك ، يمكن للمحتوى الذي يتم حقنه على مواقع الويب المعرضة للخطر السطح في إجاباته دون أي أعلام حمراء واضحة للمستخدم.

يبدو أن ChatGPT يفضل المحتوى الأخير ولا يزال يعزو السلطة استنادًا إلى سمعة المجال القديمة ، حتى عندما لا يكون لمحتوى المجال استمرارية مع ماضيه – الذي يفتح الباب أمام الجهات الفاعلة السيئة لمعالجة الرؤية من خلال الوسائل التي لا علاقة لها بالمصداقية.

خلاصة القول هي أن المستخدمين الذين يتحولون إلى ChatGPT للحصول على توصيات يجب ألا يفترضوا أن كل إجابة مدعومة بمصدر موثوق.

يمكن أن يقطع الاختيار السريع لسلطة الموقع المذكورة وتاريخه وملكيته وأهميته شوطًا طويلًا في تجنب الاقتراحات المضللة أو الضارة.