استنسخت صوتي في ثوانٍ باستخدام تطبيق AI مجاني ، ونحن بحاجة حقًا إلى التحدث عن تخليق الكلام

قد لا يكون هذا الصوت الذي تسمعه – حتى واحد تتعرف عليه – حقيقيًا ، وقد لا يكون لديك أي طريقة لمعرفة. التوليف الصوتي ليس ظاهرة جديدة ، ولكن هناك عدد متزايد من التطبيقات المتوفرة بحرية يضع هذه القدرة القوية لتجفيف الصوت في أيدي الأشخاص العاديين ، وقد تكون التداعيات بعيدة المدى ولا يمكن إيقافها.

accident دراسة تقارير المستهلك نظر ذلك إلى نصف دزينة من هذه الأدوات يضع المخاطر في الإغاثة الصارخة. تستخدم منصات مثل Elevenlabs ، و Complemeify ، وتشبه الذكاء الاصطناعى ، وغيرها نماذج توليف الكلام القوية لتحليل وإعادة إنشاء الأصوات ، وأحيانًا مع ضمانات صغيرة في مكانها. يحاول البعض – Decript ، على سبيل المثال ، يسأل عن موافقة صوتية مسجلة قبل أن يعيد النظام إنشاء توقيع صوتي. لكن الآخرين ليسوا حذرين للغاية.

لقد وجدت تطبيقًا يسمى Playkit من Play.ht سيتيح لك استنساخ صوت مجانًا لمدة ثلاثة أيام ثم يتقاضى لك 5.99 دولار في الأسبوع. PayWall من الناحية النظرية شيء من العوائق ضد سوء الاستخدام المحتمل – باستثناء أنني تمكنت من استنساخ صوت دون البدء في المحاكمة.

قل ، “سهل للغاية”

يمرتك التطبيق من خلال الإعداد ثم يقدم بعض الحيوانات المستنسخة الصوتية مسبقًا ، بما في ذلك تلك الخاصة بالرئيس دونالد ترامب وإيلون موسك (نعم ، يمكنك أن تجعل الرئيس يقول أشياء مثل ، “أعتقد أنه ينبغي دعم DEI وتوسيعها في جميع أنحاء العالم”). ولكن في القمة ، هناك خيار “استنساخ”.

كل ما كان علي فعله هو اختيار مقطع فيديو من مكتبة الصور الخاصة بي وتحميله. يجب أن يبلغ طول مقاطع الفيديو 30 ثانية على الأقل (ولكن ليس أكثر من دقيقة) والإنجليزية. كان بإمكاني اختيار واحد مع أي شخص فيه ، وإذا كنت قد قمت ، على سبيل المثال ، بتصوير مقطع لمقابلة جورج كلوني ، كان بإمكاني تحميل ذلك (المزيد على ذلك لاحقًا).

قام النظام بتحليل الصوت بسرعة. لا يخبرك التطبيق ما إذا كان يتم إجراء ذلك محليًا أو في السحابة ، لكنني سأفترض الأخير ، لأن هذه النماذج القوية نادراً ما تعمل محليًا على جهاز محمول (انظر ChatGPT في Apple Intelligence). لقد قمت بحفظ استنساخ صوتي باسمي حتى أتمكن من تحديده مرة أخرى من قائمة الأصوات المستنسخة.

عندما أريد أن يقول استنساخي شيئًا في صوتي ، فإنني ببساطة أكتب النص وأضغط على زر إنشاء كبير. هذه العملية عادة ما تستغرق 10 إلى 15 ثانية.

تقوم Voices Playkit بإنشاء ، بما في ذلك لي ، دقيقة بشكل مخيف. إذا كان لدي انتقاد واحد ، فهذا هو أن النغمة والعاطفة متوقفة قليلاً. استنساخ لي يبدو نفسه سواء كان يتحدث عن ما يجب التقاطه لتناول العشاء أو القول أنه كان في حادث سيارة فظيع. حتى نقاط التعجب لا تغير التعبير.

ومع ذلك ، يمكن أن أرى الناس ينخدعون بهذا. تذكر أن أي شخص لديه وصول إلى 30 ثانية من الفيديو الخاص بك تتحدث يمكن أن يستنسخ صوتك بشكل فعال ثم يستخدمه كما يرغب. بالتأكيد ، سيتعين عليهم في النهاية دفع 5.99 دولارًا في الأسبوع لمواصلة استخدامه ، ولكن إذا كان شخص ما يخطط لعملية احتيال مالية ، فقد يعتقدون أن الأمر يستحق ذلك.

من المؤكد أن منصات مثل هذه لا تتطلب إذنًا صريحًا للاستنساخ الصوتي ، وقلقي هو أنه لا توجد ضمانات أو لوائح في الأفق. خدمات مثل Decript ، التي تتطلب موافقة صوتية من هدف الاستنساخ ، هي القيم المتطرفة.

Play.ht يدعي أنه يحمي حقوق صوت الناس. إليك مقتطفات من صفحة AI الأخلاقية:

منصةنا تقدر حقوق الملكية الفكرية والملكية الشخصية. يُسمح للمستخدمين باستنساخ أصواتهم الخاصة فقط أو تلك التي لديهم إذن صريح. تم تصميم هذه السياسة الصارمة لمنع أي انتهاك محتمل لحقوق الطبع والنشر ودعم مستوى عالٍ من الاحترام والمسؤولية.

إنه وعد كبير ، لكن الحقيقة هي أنني بدأت في تسجيل مقاطع مدتها 30 ثانية من مونولوجات الأفلام الشهيرة من قبل بنديكت كومبرباتش و آل باتشينو ، وفي أقل من دقيقة ، كان لدي استنساخ صوت قابل للاستخدام لكلا الممثلين.

ما هو مطلوب هنا هو لائحة الذكاء الاصطناعى العالمي ، ولكن هذا يحتاج إلى اتفاق وتعاون على مستوى الحكومة ، والآن هذا ليس وشيكًا. في عام 2023 ، وقع الرئيس جو بايدن آنذاك الأمر التنفيذي على الذكاء الاصطناعي هذا المطلوب جزئيًا لتقديم بعض التوجيهات التنظيمية (تابع أمر آخر متعلق من الذكاء الاصطناعى في وقت مبكر من هذا العام). تعتبر إدارة ترامب حساسية تجاه التنظيم الحكومي (وأي أمر تنفيذي بايدن) وألغته بسرعة. المشكلة هي أنه لم يقترح بعد أي شيء ليحل محله. يبدو أن الخطة الجديدة هي الأمل في أن تكون شركات الذكاء الاصطناعى مواطنين رقميين جيدين ، وعلى الأقل تحاول أي ضرر.

لسوء الحظ ، فإن معظم هذه الشركات مثل الشركات المصنعة للأسلحة. إنهم لا يؤذون الناس مباشرة – لا أحد يصنع صوتًا صوتيًا يدعو عمك المسن ويقنعه باستنساخ صوتك الذي يحتاجه بشكل عاجل إلى توصيلك بآلاف الدولارات – لكن بعض الأشخاص الذين يستخدمون أسلحة الذكاء الاصطناعى هم.

لا يوجد حل سهل لما أخشى أن يصبح أزمة لإزالة الصوت ، لكنني أقترح عليك أن تثق بصورة صريحة في الأصوات التي تسمعها في مقاطع الفيديو أو على الهاتف أو في الرسائل الصوتية. إذا كنت في أي شك ، فاتصل بالشخص المعني مباشرة.

في غضون ذلك ، آمل أن تصر المزيد من المنصات الصوتية على الإذن الصوتي و / أو موثقة قبل أن تسمح للمستخدمين باستنساخ صوت أي شخص.

• Chatgpt كتبت للتو أجمل قصة قصيرة ، وأنا …
• ChatGpt مشفر لعبة لي في ثوان وأنا ببساطة …
• طلبت من Gemini لعب لعبة مغامرة قائمة على النص مع …