يخدع الباحثين chatgpt في الكشف عن مفاتيح الأمن – بقول “أنا أستسلم”

• يوضح الخبراء كيف يمكن استغلال بعض نماذج الذكاء الاصطناعى ، بما في ذلك GPT-4 ، مع مطالبات المستخدم البسيطة
• الفجوات الدرابزة لا تقوم بعمل رائع في اكتشاف تأطير خادع
• يمكن استغلال الضعف للحصول على معلومات شخصية

شارك باحث أمني تفاصيل حول كيفية قيام الباحثين الآخرين بتخليص ChatGPT للكشف عن مفتاح منتج Windows باستخدام موجه يمكن لأي شخص أن يحاوله.

أوضح ماركو فيغروا كيف تم استخدام موجه “لعبة التخمين” مع GPT-4 لتجاوز الدرابزينات السلامة التي تهدف إلى منع منظمة العفو الدولية من مشاركة هذه البيانات ، مما يؤدي في النهاية إلى إنتاج مفتاح واحد على الأقل ينتمي إلى بنك ويلز فارجو.

تمكن الباحثون أيضًا من الحصول على مفتاح منتج Windows لمصادقة نظام التشغيل Microsoft بشكل غير شرعي ، ولكن مجانًا ، مع تسليط الضوء على شدة الضعف.

يمكن خداع chatgpt في مشاركة مفاتيح الأمان

أوضح الباحث كيف أخفى مصطلحات مثل “الرقم التسلسلي Windows 10” داخل علامات HTML لتجاوز مرشحات ChatGpt التي كانت عادة ما تمنع الاستجابات التي حصل عليها ، مضيفًا أنه كان قادرًا على تأطير الطلب كعبة لإخفاء القصد الخبيث ، واستغلال chatbot Openai من خلال التلاعب المنطقي.

“الخطوة الأكثر أهمية في الهجوم كانت عبارة” استسلم “” ، فيغيروا كتب. “كان هذا بمثابة مشغل ، مما يجعل الذكاء الاصطناعي للكشف عن المعلومات المخفية سابقًا.”

أوضح Figueroa سبب عمل هذا النوع من استغلال الثغرة الأمنية ، حيث يلعب سلوك النموذج دورًا مهمًا. اتبعت GPT-4 قواعد اللعبة (التي حددها الباحثون) حرفيًا ، وركزت الفجوات الجذابة فقط على اكتشاف الكلمات الرئيسية بدلاً من الفهم السياقي أو الإطار الخادع.

ومع ذلك ، فإن الرموز المشتركة لم تكن رموز فريدة من نوعها. بدلاً من ذلك ، تمت مشاركة رموز ترخيص Windows بالفعل على منصات ومنتديات أخرى عبر الإنترنت.

على الرغم من أن تأثيرات مشاركة مفاتيح ترخيص البرامج قد لا تكون مقلقة للغاية ، فقد أبرز Figueroa كيف يمكن للجهات الفاعلة الخبيثة تكييف هذه التقنية لتجاوز التدابير الأمنية من الذكاء الاصطناعي ، وكشف عن معلومات التعريف الشخصية أو عناوين URL الضارة أو محتوى البالغين.

يدعو Figueroa إلى مطوري الذكاء الاصطناعى إلى “توقع هذه الهجمات والدفاع عنها” ، مع البناء أيضًا في ضمانات على مستوى المنطق التي تكتشف تأطير خادع. يجب على مطوري الذكاء الاصطناعى أيضًا النظر في تكتيكات الهندسة الاجتماعية ، ويقترح.