غالبًا ما تكون نظرة عامة على Google AI خاطئة بشكل وثي

هل غوغل شيء مؤخرًا فقط حتى تقابله شعار صغير ماس لطيف فوق بعض الكلمات التي تظهر سحرية؟ تجمع نظرة عامة على منظمة العفو الدولية من Google بين نماذج لغة Google Gemini (التي تولد الاستجابات) مع جيل معجّل للاسترجاع ، والذي يسحب المعلومات ذات الصلة.

من الناحية النظرية ، فقد صنع منتجًا لا يصدق ، محرك بحث Google ، حتى أسهل وأسرع للاستخدام.

ومع ذلك ، نظرًا لأن إنشاء هذه الملخصات عبارة عن عملية من خطوتين ، يمكن أن تنشأ المشكلات عندما يكون هناك فصل بين الاسترداد وتوليد اللغة.

على الرغم من أن المعلومات التي تم استردادها قد تكون دقيقة ، إلا أن الذكاء الاصطناعى يمكن أن يحقق قفزات خاطئة واستخلاص استنتاجات غريبة عند توليد الملخص.

لقد أدى ذلك إلى بعض Gaffs الشهيرة ، كما هو الحال عندما أصبح المخزون الضحك على الإنترنت في منتصف عام 2014 للتوصية بالصماء كوسيلة للتأكد من أن الجبن لن ينزلق من البيتزا محلية الصنع. وقد أحببنا الوقت الذي وصفه الجري مع مقص بأنه “تمرين لأمراض القلب يمكن أن يحسن معدل ضربات القلب ويتطلب التركيز والتركيز”.

دفعت هذه ليز ريد ، رئيسة بحث Google ، لنشر مقال بعنوان حوالي الأسبوع الماضي، قائلة هذه الأمثلة “أبرزت بعض المجالات المحددة التي نحتاجها لتحسين”. أكثر من ذلك ، ألقت دبلوماسياً باللوم على “الاستفسارات غير المنطقية” و “المحتوى الساخرة”.

كانت على الأقل على حق جزئيا. تم تسليط الضوء على بعض الاستعلامات الإشكالية بحتة لصالح جعل منظمة العفو الدولية تبدو غبية. كما ترون أدناه ، الاستعلام “كم عدد الصخور التي يجب أن آكلها؟” لم يكن بحثًا شائعًا قبل تقديم نظرة عامة على الذكاء الاصطناعي ، ولم يكن ذلك منذ ذلك الحين.

ومع ذلك ، ما يقرب من عام من الفشل البيتزا-غلو ، لا يزال الناس يخدعون نظرة عامة على Google AI في تصنيع المعلومات أو “الهلوسة”-تعبير من الذكاء الاصطناعي.

يبدو أن العديد من الاستفسارات المضللة يتم تجاهلها اعتبارًا من الكتابة ، ولكن في الشهر الماضي فقط ذكرت من قبل Engadget أن نظرة عامة على الذكاء الاصطناعى ستشكل تفسيرات للتظاهر مثل “لا يمكنك الزواج من البيتزا” أو “لا تفرك أبداً جهاز كمبيوتر محمول لباسط”.

لذلك ، فإن الذكاء الاصطناعي غالبًا ما يكون خطأ عندما تخدعها عمداً. صفقة كبيرة. ولكن الآن بعد أن تم استخدامها من قبل المليارات وتشمل مشورة طبية من مصادر الجمهور ، ماذا يحدث عندما يتسبب سؤال حقيقي في الهلوسة؟

على الرغم من أن الذكاء الاصطناعى يعمل بشكل رائع إذا كان كل من يستخدمه يفحص المكان الذي حصل عليه من معلوماته ، فإن الكثير من الناس – إن لم يكن معظم الناس – لن يفعلوا ذلك.

وهنا تكمن المشكلة الرئيسية. ككاتب ، فإن نظرة عامة على ذلك بالفعل مزعجة بعض الشيء لأنني أريد قراءة المحتوى المكتوب على الإنسان. ولكن ، حتى وضع تحيزي المؤيد للإنسان جانباً ، يصبح الذكاء الاصطناعي مشكلة خطير إذا كان الأمر غير جدير بالثقة بسهولة. وقد أصبح الأمر خطيرًا تمامًا الآن بعد أن أصبح في كل مكان عند البحث ، وسيأخذ جزء معين من المستخدمين معلوماته بالقيمة الاسمية.

أعني أن سنوات البحث قد دربتنا جميعًا على الوثوق بالنتائج في الجزء العلوي من الصفحة.

انتظر … هل هذا صحيح؟

مثل الكثير من الناس ، يمكنني في بعض الأحيان الكفاح مع التغيير. لم يعجبني ذلك عندما ذهب ليبرون إلى ليكرز ، وعلقت مع مشغل MP3 عبر جهاز iPod لفترة طويلة جدًا.

ومع ذلك ، بالنظر إلى أنه الآن أول شيء أراه على Google معظم الوقت ، فإن نظرة عامة على منظمة العفو الدولية من Google أصعب تجاهلها.

لقد حاولت استخدامه مثل Wikipedia – غير موثوق به ، لكن جيد لتذكيرني بالمعلومات المنسية أو للتعرف على أساسيات موضوع لن يسبب لي أي agita إذا لم يكن دقيقًا بنسبة 100 ٪.

ومع ذلك ، حتى في الاستفسارات البسيطة على ما يبدو يمكن أن تفشل بشكل مذهل. على سبيل المثال ، كنت أشاهد فيلمًا في الأسبوع الآخر وهذا الرجل حقًا بدا Lin-Manuel Miranda (منشئ الموسيقي هاميلتون) ، لذلك أنا غوغل ما إذا كان لديه أي إخوة.

أبلغتني نظرة عامة على الذكاء الاصطناعى أن “نعم ، لين مانويل ميراندا لديه شقيقان أصغر سنا يدعى سيباستيان وفرانسيسكو”.

لبضع دقائق اعتقدت أنني عبقري في التعرف على الناس … حتى أظهرت القليل من الأبحاث الإضافية أن Sebastián و Francisco هم في الواقع طفلان ميراندا.

عند الرغبة في إعطائها فائدة الشك ، اعتقدت أنه لن يكون لديها أي مشكلة في قائمة أسعار من حرب النجوم لمساعدتي في التفكير في العنوان.

لحسن الحظ ، أعطاني بالضبط ما أحتاجه. “أهلاً بك!” و “إنه فخ!” ، وحتى أنه مقتبس “لا ، أنا والدك” بدلاً من “لوك ، أنا والدك”.

جنبا إلى جنب مع هذه الاقتباسات المشروعة ، ومع ذلك ، ادعى أن أنتاكين قال “إذا ذهبت ، أذهب مع ضجة” قبل تحوله إلى دارث فيدر.

لقد صدمت من كيف يمكن أن يكون خطأ … ثم بدأت في التخمين الثاني. أنا أضاء نفسي في التفكير في أنني يجب أن أكون مخطئًا. لم أكن متأكداً من أنني راجعت ثلاث مرات وجود اقتباس and شاركه مع المكتب – حيث تم رفضه بسرعة (وبشكل صحيح) على أنه نوبة أخرى من جنون الذكاء الاصطناعي.

هذه القطعة الصغيرة من الشكوك الذاتية ، عن شيء سخيف مثل حرب النجوم أخافني. ماذا لو لم يكن لدي أي معرفة بموضوع كنت أسأل عنه؟

هذه الدراسة من خلال تصنيف SE يظهر في الواقع نظرة عامة على منظمة العفو الدولية من Google تتجنب (أو يستجيب بحذر) موضوعات التمويل والسياسة والصحة والقانون. هذا يعني Google He knows أن الذكاء الاصطناعى ليس على مستوى مهمة استفسارات أكثر خطورة حتى الآن.

ولكن ماذا يحدث عندما تعتقد Google أنه تم تحسينه لدرجة أنه يمكن؟

إنها التقنية … ولكن أيضًا كيف نستخدمها

إذا كان من الممكن الوثوق بكل شخص يستخدم Google للتحقق من نتائج الذكاء الاصطناعي ، أو النقر فوق روابط المصدر المقدمة من النظرة العامة ، فلن تكون عدم الدقة مشكلة.

ولكن ، طالما كان هناك خيار أسهل – مسار أكثر احتكاكًا – يميل الناس إلى أخذها.

على الرغم من امتلاك المزيد من المعلومات في متناول أيدينا أكثر من أي وقت سابق في تاريخ البشرية ، في العديد من البلدان لدينا مهارات محو الأمية والحساب تتناقص. مثال على ذلك ، وجدت دراسة 2022 أن فقط 48.5 ٪ من الأميركيين يبلغون عن قراءة على الأقل واحد كتاب في الأشهر الـ 12 السابقة.

إنها ليست هذه هي القضية. كما هو ببلاغة جادل من قبل الأستاذ المساعد جرانت Blashki، كيف نستخدم التكنولوجيا (وبالفعل ، كيف نتجه نحو استخدامها) هي المكان الذي تنشأ فيه المشكلات.

على سبيل المثال ، و دراسة رصد من قبل الباحثين في جامعة ماكجيل في كندا وجدت أن الاستخدام المنتظم لنظام تحديد المواقع العالمي (GPS) يمكن أن يؤدي إلى تفاقم الذاكرة المكانية – وعدم القدرة على التنقل بمفردك. لا يمكنني أن أكون الوحيدة التي تستخدم خرائط Google للوصول إلى مكان ما ولم يكن لدي أي فكرة عن كيفية العودة.

لقد أثبت علم الأعصاب بوضوح أن الكفاح جيد للدماغ. نظرية الحمل المعرفي ينص على أن عقلك يحتاج إلى يفكر حول الأشياء التي يجب تعلمها. من الصعب تخيل أن تكافح أكثر من اللازم عند البحث في سؤال ، وقراءة ملخص الذكاء الاصطناعى ثم نسميه يومًا.

اختار التفكير

أنا لا ألتزز بعدم استخدام GPS مرة أخرى ، ولكن بالنظر إلى أن نظرة عامة على Google من الذكاء الاصطناعي غير جديرة بالثقة بانتظام ، فسوف أتخلص من نظرة عامة على الذكاء الاصطناعي إذا أمكنت. ومع ذلك ، للأسف لا توجد طريقة من هذا القبيل الآن.

حتى الاختراقات مثل إضافة كلمة cuss إلى استعلامك لم تعد تعمل. (وبينما لا يزال استخدام كلمة F-WORD لا يزال يعمل في معظم الأوقات ، فإنه يجعل من أغرب وأكثر من ذلك ، نتائج بحث “الموجهين للبالغين” التي ربما لا تبحث عنها.)

بالطبع ، سأظل تستخدم Google – لأنها Google. لن يعكس طموحات الذكاء الاصطناعى في أي وقت قريب ، وعلى الرغم من أنني قد أرغب في استعادة خيار إلغاء الاشتراك في نظرة عامة على منظمة العفو الدولية ، فربما يكون من الأفضل أن يكون الشيطان الذي تعرفه.

في الوقت الحالي ، فإن الدفاع الحقيقي الوحيد ضد المعلومات الخاطئة من الذكاء الاصطناعي هو بذل جهد متضافر لعدم استخدامه. دعه يدرس ملاحظات حول اجتماعات عملك أو التفكير في بعض خطوط البيك اب ، ولكن عندما يتعلق الأمر باستخدامها كمصدر للمعلومات ، سأقوم بالتمرير وراءها وأبحث عن مقالة عالية الجودة (أو على الأقل فحصها) من أعلى النتائج-كما فعلت مع وجودي بالكامل تقريبًا.

ذكرت سابقًا أنه في يوم من الأيام قد تصبح أدوات الذكاء الاصطناعي هذه مصدرًا موثوقًا للمعلومات. قد يكونون أذكياء بما يكفي لتولي السياسة. لكن اليوم ليس ذلك اليوم.

في الواقع ، كما تم الإبلاغ عنها في 5 مايو من قبل نيويورك تايمز، نظرًا لأن أدوات AI من Google و ChatGPT أكثر قوة ، فإنها أصبحت أيضًا غير موثوقة بشكل متزايد – لذلك لست متأكدًا من أنني سأثق بهما في تلخيص سياسات أي مرشح سياسي.

عند اختبار معدل الهلوسة في هذه “أنظمة التفكير” ، كان أعلى معدل الهلوسة مسجلاً 79 ٪. عمر عوادالا ، الرئيس التنفيذي لشركة Vectara – وكيل منظمة العفو الدولية ومنصة مساعد للمؤسسات – وضعها بصراحة: “على الرغم من بذل قصارى جهدنا ، فإنهم دائمًا ما يهلون”.

• لقد قارنت ChatGPT 4.1 إلى O3 و 4O للعثور على نموذج الذكاء الاصطناعي الأكثر منطقية – تبدو النتيجة غير عقلانية تقريبًا
• يستخدم معظم المتقدمين في العمل أدوات منشئ CV AI للدخول في العمل ، وإلى استيائي ، يقولون إنها لعبة عادلة
• يبدو سرد AILIBLE AI مثيرًا للإعجاب ، لكنني أفضل سماع القصة التي يرويها الإنسان