AI Slop يسيطر على الإنترنت ولدي ما يكفي منه

في كل مرة أقوم فيها بفتح Facebook-والتي من المسلم به أن لا هذه الأيام في كثير من الأحيان-لقد قابلت صورة حالمة تشبه القصص الخيالية من حسابات تسمى أشياء مثل “الطبيعة مذهلة”. تقع قلعة تفصيلية للغاية في الغابات الاسكتلندية أو أنقاض المعابد المغمورة بالماء الكريستالي. لثانية مقسمة ، أتساءل – انتظر ، هل هذا حقيقي؟ ثم ، عند التفتيش الدقيق ، أدرك ، بالطبع ، أنه من الذكاء الاصطناعي.

التعليقات دائما فوضى. يعلن بعض الناس بثقة ، “إنه منظمة العفو الدولية!” ، بينما يصر الآخرون ، “لا ، إنه حقيقي”. على الرغم من ذلك ، فإن أغرب الردود هي تلك التي تعترف بأنها مزيفة ولكن لا يبدو أنها تهتم: “إنها منظمة العفو الدولية ، لكنها لا تزال جميلة. آمل أن أزور يومًا ما. “

لا يمكنني حتى البدء في تفريغ الجمباز العقلي المثير للإعجاب اللازمة لتبرير سبب حدوث مزيفة هناك. بدلاً من ذلك ، دعنا نتحدث عن AI Slop – ما هو عليه ، ولماذا موجود ، وما إذا كان ينبغي أن نكون قلقين بشأنه.

ما هو الذكاء الذكري – ولماذا هو موجود؟

AI Slop هو مصطلح يستخدم لوصف المحتوى الذي تم إنشاؤه من الذكاء الاصطناعى والذي لا معنى له أو كسول أو مضللة أو سيئًا حقًا-فكر في الأمر باعتباره البريد العشوائي لعصر الذكاء الاصطناعي. إنه يظهر في كل مكان حيث تصبح أدوات الذكاء الاصطناعي أكثر سهولة.

يمكن لأي شخص توليد طلاق AI ، لكنه يميل إلى الظهور حيث يخدم غرضًا محددًا. في بعض الأحيان ، تم تصميمه للتضليل ، سواء من خلال الصور الفيروسية المزيفة ، أو النقر فوق AI المكتوبة ، أو المحتوى الذي يتظاهر بأنه حقيقي.

في أوقات أخرى ، يتم استخدامها لدفع حركة المرور ، مع حسابات وسائل التواصل الاجتماعي والمنتديات التي تنشئ المنشورات التي أنشأتها الذكاء الاصطناعي للمشاركة. ثم هناك لعبة كبار المسئولين الاقتصاديين-مواقع الويب بالكامل التي تم تصميمها من محتوى الذكاء الاصطناعي منخفض الجهد ، مصمم على عدم الإبلاغ بل لمعالجة تصنيفات البحث. وأحيانًا ، لا يوجد AI Slop دون سبب حقيقي على الإطلاق – ببساطة لأن الناس يمكنهم القيام بذلك ، يفعلون ذلك.

لماذا الذكاء الاصطناعي سيء للغاية؟ في كثير من الأحيان ، يتعلق الأمر بالأسس المتسارعة والهزلة والرقابة البشرية القليلة أو معدومة. أدوات الذكاء الاصطناعي جيدة فقط مثل التعليمات التي يتم تقديمها. إذا كان شخص ما لا يعرف كيفية صياغة موجه قوي – أو ببساطة يندفع من خلاله – فإن النتيجة غالبًا ما تكون عامة أو غير دقيقة أو غريبة أو الثلاثة في وقت واحد. تتصاعد المشكلة عندما تكون الذكاء الاصطناعي آلي

والقضية لا تتوقف عند هذا الحد. يتم تدريب نماذج الذكاء الاصطناعى بشكل متزايد على البيانات التي تم إنشاؤها من الذكاء الاصطناعي ، مما يخلق حلقة ملاحظات من المحتوى السيئ. إذا تم تغذية نظام الذكاء الاصطناعى بالبيانات الخاطئة أو منخفضة الجودة أو متحيزة ، فستعكس مخرجاته ذلك. بمرور الوقت ، يزداد الأمر سوءًا – AI Slop خلق المزيد من المنحدر من الذكاء الاصطناعي.

ما هو أكثر من ذلك ، نحن بحاجة إلى أن نتذكر أن معظم نماذج اللغة الكبيرة (LLMs) ليست مصممة لتكون آلات الحقيقة – وهي مصممة لتقليد أنماط الكلام البشري. وهذا هو المكان الذي تبدأ فيه المشكلة الحقيقية.

ولكن الشيء هو أن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لن ينتشر بسهولة إذا أرادت المنصات بالفعل إيقافه. ومع ذلك ، بدلاً من التكسير ، يبدو أن بعض من أسوأ المجرمين يعتنقونها.

يمكن أن يكون الحل البسيط هو معاقبة البريد العشوائي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عن طريق الحد من وصوله على منصة مثل Facebook. لكن هذا لا يحدث – على الأقل ، ليس بعد. في كثير من الحالات ، تستفيد المنصات من المشاركة التي تجلبها الذكاء.

وفق حظقال مارك زوكربيرج: “أعتقد أننا سنضيف فئة جديدة كاملة من المحتوى الذي تم إنشاؤه أو تم تلخيص المحتوى الذكري أو المحتوى الموجود معًا بواسطة الذكاء الاصطناعي بطريقة أو بأخرى.”

لا حديث عن الاعتدال الأفضل. مجرد دعوة مفتوحة للمزيد منها.

هل يجب أن نكون قلقين بشأن صعود الذكاء الاصطناعي؟

ليس من السهل دائمًا إخبار المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى من الشيء الحقيقي. في بعض الأحيان ، من الواضح-يد مع تسعة أصابع أو الكتابة الغريبة جدًا ، إنها مضحكة. ولكن عندما تصبح الذكاء الاصطناعي أكثر تطوراً ، تزداد صعوبة الاختلافات ، وهذه مشكلة لجميع أنواع الأسباب.

الهلوسة الذكاء الاصطناعي ، وتوليد المعلومات التي تبدو مقنعة ولكنها ليست حقيقية. وعندما يبدو شيء واقعيًا ، يكون من الصعب فصل الحقيقة عن الخيال. هذا صحيح بشكل خاص في سياقات معينة. إذا ظهرت صورة تم إنشاؤها من الذكاء الاصطناعى في تغريدة هجومية ، يميل الناس إلى التدقيق فيها. ولكن عندما يتم نشر نفس صورة الذكاء الاصطناعي على صفحة على Facebook حول وجهات السفر حالمة ، فمن الأرجح أن تؤخذ بالقيمة الاسمية. الأمر نفسه ينطبق على الأخبار أو المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى والذي يبدو موثوقًا به-إذا كان هناك شيء ما موثوق به ، فمن غير المرجح أن نتساءل عنه.

وإذا فقدنا القدرة على معرفة ما هو حقيقي وما هو مزيف ، فلدينا مشكلة خطيرة. نحن نرى بالفعل آثار سوء المعلومات عبر الإنترنت والتخلص من المعلومات في الوقت الفعلي. AI Slop لا يضلل فقط – فهو يثير الثقة في المعلومات نفسها. وبمجرد اختفاء تلك الثقة ، كيف تغير الطريقة التي نتفاعل بها مع الإنترنت؟

في أسوأ الأحوال ، يمكن أن يؤدي إلى عدم الثقة التام في كل شيء. لا يضيف صعود الصحافة الناتجة عن الذكاء الاصطناعى والاعتماد المتزايد على المصادر غير الدقيقة إلا إلى المشكلة. حتى لو تمكنا من فصل الذكاء الاصطناعى تمامًا عن المحتوى الذي تم إنشاؤه للإنسان ، فإن الحجم الهائل من الانسحاب غير المرغوب فيه-نتائج البحث في الفيضانات ، والغرق في معلومات الجودة-هو كارثة في حد ذاتها.

ثم هناك التكلفة البيئية. يتطلب المحتوى الذي تم إنشاؤه من الذكاء الاصطناعى طاقة حوسبة ضخمة ، ويستهلك الطاقة بمعدل ينذر بالخطر. عند استخدام AI للمهام المفيدة حقًا ، قد تكون هذه المفاضلة منطقية. ولكن هل نحن على استعداد حقًا للحرق من خلال الموارد لمجرد الخروج من خردة لا نهاية لها منخفضة الجودة؟

وأخيرا ، هناك حلقة تدريب الذكاء الاصطناعى. فكر في الأمر: تتعلم الذكاء الاصطناعي من بيانات الإنترنت. ولكن إذا تم إغراق الإنترنت بشكل متزايد بالخردة التي تم إنشاؤها من الذكاء الاصطناعى ، فسيتم تدريب نماذج الذكاء الاصطناعى في المستقبل على Slop ، مما ينتج عنه نتائج أكثر سلطًا. نحن بالفعل في عمق الركبة في الانحدار-وهو يرتفع.

كيف تكتشف الذكاء الذكري

خردة من الذكاء الاصطناعى ليست جديدة-كان هناك محتوى مزيف ومضلل دائمًا-ولكن مع تحسن الذكاء الاصطناعي ، أصبح اكتشافه أكثر صعوبة. لحسن الحظ ، هناك علامات telltale.

واحدة من أكبر الهبات هي بصرية … الغرابة. غالبًا ما يكون للصور ومقاطع الفيديو التي يتم إنشاؤها من الذكاء الاصطناعى جودة غريبة ، مع مزج غريب أو أيدي مشوهة أو خلفيات لا معنى لها. قد لا تكون هذه العيوب واضحة دائمًا للوهلة الأولى ، لكنها تميل إلى الكشف عن نفسها كلما طالت مدة نظرتك.

مع النص المكتوب من الذكاء الاصطناعى ، فإن الأعلام الحمراء مختلفة. غالبًا ما تشعر اللغة غامضة أو عامة بشكل مفرط أو معبأة بكلمات طنانة ، وتفتقر إلى العمق أو الفوارق التي تتوقعها من الكتابة البشرية. في بعض الأحيان ، هناك قفزات منطقية غريبة – جمل تبدو جيدة بشكل فردي ولكن لا تتصل تمامًا عند قراءتها معًا. التكرار هو فكرة أخرى ، حيث تميل نماذج الذكاء الاصطناعى إلى إعادة صياغة نفس الفكرة بطرق مختلفة قليلاً بدلاً من تقديم رؤية جديدة.

خطوة رئيسية أخرى هي التحقق من المصدر. هل يأتي المحتوى من منفذ إخباري موثوق به أو منشئ ذي سمعة طيبة ، أم أنه من حساب فيروسي عشوائي بدون تأليف واضح؟ إذا كان هناك شيء ما يبدو ، فإن البحث عن مصادر إضافية أو مرجعًا متقاطعًا مع مواقع ويب ذات مصداقية يمكن أن يساعد في تأكيد ما إذا كان حقيقيًا.

وإذا كنت تستخدم الذكاء الاصطناعي بنفسك ، فإن المسؤولية تهم. يمكن أن تساعد كتابة مطالبات مدروسة ، ونتائج التحقق من الحقائق ، واستخدام الذكاء الاصطناعي كأداة لتحسين الإبداع الإنساني بدلاً من استبداله ، بدلاً من استبداله الإبداع الإنساني ، بمنع انتشار المحتوى المنخفض الجودة والمضللة. إن التحقق من المعلومات المزدوجة ، والقلق من الهلوسة من الذكاء الاصطناعي ، وتقييم نقدي ما تضعه في العالم هو خطوات أساسية. لأنه في نهاية اليوم ، لا أحد يريد أن يكون مزارعًا.

الترجيع على مدار الساعة

سيستخدم بعض الأشخاص دائمًا تقنية جديدة بطرق تمتص – و AI Slop دليل. لا يمكننا إرجاع الساعة والتراجع عن مدى سهولة الوصول إلى أدوات الذكاء الاصطناعي (على الرغم من أن البعض يجادلون يجب علينا). بدلاً من ذلك ، بدلاً من الشعور بالعجز ، نحتاج إلى التحسن في تحديد Slop – ونأمل أن يكونوا أدوات أفضل للتصدي لها.

لسوء الحظ ، لا تبدو شركات وسائل التواصل الاجتماعي مهتمة بالمساعدة. لكن شركات مثل Google و Openai على الأقل تقول إنها تعمل على طرق لاكتشاف العرس العشوائي من الذكاء الاصطناعي بشكل أفضل وإنتاج استجابات أكثر أمانًا وأكثر فائدة. هذا يبدو جيدًا ، ولكن ما لم تتغير الأمور قريبًا ، فسوف نخوض من خلال الذكاء الاصطناعي إلى الأبد.

• هل يمكنك استخدام chatgpt لإنشاء حياة الحلم؟ لماذا يجب أن تفكر قبل تجربة هذا الاتجاه الفيروسي tiktok
• لقد أصبحت خبيرًا في ChatGPT من خلال رفع مستوى مطالبات الذكاء الاصطناعي – إليك 8 نصائح من أجل النجاح
• هل أنت مهذب في الدردشة؟ إليك المكان الذي ترتب فيه بين مستخدمي AI chatbot