آمل أن تأتي ميزة اكتشاف AI Deepfake إلى المزيد من الهواتف قريبًا – لكنها تحتاج إلى ترقية مفتاح واحدة لتكون مفيدة حقًا

جنبا إلى جنب مع الأسلحة النووية وعصي صورة شخصية ، تعتبر Deepfakes من بين تلك التطورات التكنولوجية النادرة التي يرغب معظمنا في عدم تطورها على الإطلاق.

يشير PortManteau من “التعلم العميق” و “مزيف” ، “Deepfake” إلى صورة أو فيديو أو صوت صوتي تقوم بتوليف المواد الحقيقية بمحتوى تم إنشاؤه بواسطة الذكاء الاصطناعى. ربما تكون قد رأيت Tiktok of Tom Cruise يرقص في الفناء الخلفي له أو صورة البابا فرانسيس يرتدي معطف بالينسياجا (لم يكن أي منهما حقيقيًا ، بالطبع) ، ولكن لكل ميمي غير ضار ، هناك 100 عملية احتيال شائكة ديبفيك مصممة لخداع الناس من أموالهم.

في الواقع ، فإن عدد محاولات الاحتيال القائمة على Deepfake يقال ارتفع بنسبة 2،137 ٪ على مدار السنوات الثلاث الماضية – لقد أبلغنا أنفسنا عن قضية شملت “المدير المالي العميق” الذي قام بخداع الموظفين في تسليم أكثر من 25 مليون دولار – وبالنظر إلى الطبيعة الالتهابية لمشهد السياسة اليوم ، أصبح من الصعب بشكل متزايد فصل الحقيقة عن الواقع .

ألن يكون من المفيد إذن أن يكون لديك أداة لاكتشاف DeepFake في هاتفك الذكي؟ نظام تحذير مصمم لفضح الجهات الفاعلة السيئة قبل أن يقنعك بهويتهم المزيفة؟ أدخل Honor ، صانع المحمول الصيني وراء بعض من أفضل الهواتف في المملكة المتحدة وأوروبا ، الذين أعلنوا العام الماضي عن DeepFake Detection ، وهي ميزة هاتف ذكي يمكنها تحديد وتحذير المستخدمين من المحتوى المعالج رقميًا.

تفحص أداة على الجهاز معلومات عن إطار على حدة مثل الاتصال بالعين والإضاءة ووضوح الصورة وتشغيل الفيديو للكشف عن العيوب غير المحسوسة للعين البشرية. إذا تم تحديد التناقضات ، فإن ميزة اكتشاف DeepFake تؤدي إلى نافذة منبثقة تقرأ: “تنبيه عملية الاحتيال. يبدو أن الشخص الآخر يمكن أن يستخدم الذكاء الاصطناعي لمبادلة وجهه. ” رائع جدا ، أليس كذلك؟

أكدت Honor أن أداةها الجديدة الفريدة ستكون متوفرة على مستوى العالم من أبريل ، مما يعني أن أصحاب أجهزة Honor Honor ، مثل Honor Magic 7 Pro ، سيتم الدفاع عنها بشكل أفضل ضد المحتالين الذين يستخدمون Deepfake.

هناك مشكلة واحدة فقط.

لا يعمل Deepfake Detection إلا أثناء مكالمات الفيديو ، مما يعني أنك ستحتاج إلى استهدافها من قبل محتال في الحياة الواقعية ، لاستدعاء الفيديو حتى يكون لها أي استخدام.

بالتأكيد ، لا تزال الميزة ذات قيمة لحالة الاستخدام الخاصة هذه – أنا متأكد يكمن DeepFakes في كيفية استخدامها لنشر المعلومات الخاطئة على منصات الطرف الثالث.

إن منصات الوسائط الاجتماعية مثل X و Facebook غارقة في المحتوى الذي تم معالجته من قبل الذكاء الاصطناعي-سواء كان ذلك هو DeepFakes أو محتوى الصور والفيديو الذي تم إنشاؤه بالكامل من الذكاء الاصطناعي. نود جميعًا أن نعتقد أنه يمكننا اكتشاف مزيف ، لكن هذه التكنولوجيا جاءت حتى الآن في وقت قليل جدًا. في الواقع ، وجدت دراسة حديثة أن محو الأمية من الذكاء الاصطناعي بين عامة الناس منخفضة بشكل محبط ، مع 0.1 ٪ فقط من المشاركين قادرين على التمييز بشكل صحيح بين المحفزات الحقيقية والعرق.

ربما لا يثير الدهشة ، وجدت هذه الدراسة أن كبار السن معرضون بشكل خاص للخداع الذي تم إنشاؤه بواسطة الذكاء الاصطناعى ، وعلى الرغم من أن المشاركين الأصغر سنا كانا أكثر ثقة في قدرتهم على اكتشاف الأفعال العميقة ، إلا أن أدائهم الفعلي في الدراسة كان ضعيفًا بنفس القدر.

النقطة المهمة هي: من الصعب تحديد موقع Deepfakes ، حتى بالنسبة لأولئك منا الذين هم على الإنترنت بشكل مزمن. تعد أداة الهواتف الذكية المدمجة التي تحدد محتالات DeepFake التي تسمى الفيديو رائعة ، ويستحق الشرف الثناء لتطوير واحدة. لكن ساحة معركة Deepfake الحقيقية ليست في كاميراتنا الأمامية ، إنها على صفحاتنا لك. إذا تمكنت من إشراك DeepFake أثناء التمرير عبر Instagram ، فإن ذلك سيجعل هواتف مثل Honor Magic 7 Pro أكثر فائدة.

بالطبع ، هناك أسباب تجعل Honor لا يمكن (أو عدم) توسيع وظائف اكتشاف DeepFake إلى منصات الطرف الثالث ، وبينما لم تقاتل الشركة بعد ما هي (سألت) ، أنا اشتبه في أن الأمر يتعلق بهذه المنصات التي تسيطر عليها شروط الاستخدام المقلدة.

ربما ، إذن ، تقع المسؤولية على المنصات نفسها لتنفيذ أزرار فحص الواقع المدمجة. أمثال X و Facebook لا تشمس بالضبط في الثقة العامة الآن ، وبينما ميتا لا المطالبة “لإزالة الوسائط المضللة المعالجة (التي) تم تحريرها أو تصنيعها” ، سيؤكد تصفح سريع لأغذية والديك على Facebook أنه يجب القيام بالمزيد. يمكن لمصنعي الهواتف الذكية مثل Honor تقديم يد ، لكن يجب السماح لهم بذلك.

المحتالون آفة ، لكن المعلومات الخاطئة هي العدو الحقيقي. البابا فرانسيس يرتدي معطف بالينسياجا أمر مضحك ، ولكن ماذا عن عندما يذهب البابا فرانسيس فيروسي لإدانة الكاثوليكية؟ كل شيء ممتع وألعاب حتى تتحول عمليات إعادة تغريد إلى أعمال شغب. يجب أن تكون هواتفنا الذكية جيدة في اكتشاف DeepFakes بقدر ما تخدمها لنا ، وآمل أن تعمل المزيد من الشركات المصنعة (وبالفعل منصات التواصل الاجتماعي) على طرق لمعالجة هذه القضية.

• معالجة تهديد Deepfakes في مكان العمل
• محادثة واحدة هي كل ما يتطلبه هذا الذكاء الاصطناعى لعمق شخصيتك بأكملها
• هجمات Deepfakes و AI هي أكبر مخاوف أمنية للعمال