منظمة العفو الدولية

يكسر الطلاب خوارزميات التصنيف التلقائي AI للحصول على درجات أفضل

يكسر الطلاب خوارزميات التصنيف التلقائي AI للحصول على درجات أفضل


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

تخيل أنك عدت إلى المدرسة ورأيت درجاتك تقفز من F إلى A + بعد كتابة مجموعة مختارة من الكلمات المحددة في مربع أثناء اختبار عبر الإنترنت. هذه الكلمات ليس لها بنية متماسكة ، ولا تخلق جملة. كنت تعتقد أنه كان جنونا!

ولكن بعد اكتشاف أن اختباراتهم عبر الإنترنت يتم تصنيفها بواسطة خوارزميات الذكاء الاصطناعي ، وجد عدد من الطلاب في الولايات المتحدة طريقة لخداع النظام والانتقال من الدرجات المنخفضة إلى الأعلى.

الحافة كان أول من أبلغ عن القصة.

راجع أيضًا: أخلاقيات الذكاء الاصطناعي: فوائد ومخاطر أنظمة الذكاء الاصطناعي

شاهدت والدتها المعنية ، دانا سيمونز ، طفلها لازار يجري اختبارًا عبر الإنترنت حيث أدركت بسرعة أن خوارزمية الذكاء الاصطناعي كانت تصنفه ، الحافة. تم تقديم الدرجة بمجرد تقديم لازار للاختبار ، وهو شيء لا يمكن لأي إنسان القيام به.

بعد النظر إلى الإجابات الصحيحة ، اكتشف سيمونز أن Edgenuity ، نظام الدرجات التلقائي عبر الإنترنت ، كان يمسح إجابات الطلاب بحثًا عن الكلمات الرئيسية - إذا لم تظهر هذه ، فإن الدرجة كانت منخفضة ، ولكن إذا كانت موجودة (لا بغض النظر عما إذا كانت مكتوبة بجمل كاملة) ، كانت الدرجة عالية.

اكتشف Simmons و Lazare طريقة لخداع النظام. للإجابة على سؤال ، يكتب Lazare الآن جملتين عاديتين متبوعة بسلسلة من الكلمات الرئيسية ذات الصلة المحتملة. كما أوضح لازار ل الحافة، فهو يكتب عادةً الكلمات المكتوبة في السؤال أو المذكورة في فيديو السؤال.

تحديث الخوارزمية. لقد كسرها: جملتان كاملتان ، متبوعة بكلمة سلطة لجميع الكلمات الرئيسية التي يمكن تطبيقها. 100٪ في كل مهمة. الطلاب علىEdgenuityInc ، هذه تذكرتك. لقد انتقل من F إلى A + دون تعلم أي شيء.

- Dana Simmons (DanaJSimmons) 2 سبتمبر 2020

لازار هو مجرد واحد من العديد من الطلاب الذين اكتشفوا هذه الطريقة.

نظرًا لعدد الفصول والاختبارات عبر الإنترنت التي تجري عبر الإنترنت في الوقت الحالي ، فقد يكون هذا النوع من خوارزمية الذكاء الاصطناعي مدعاة للقلق. لم يعد يتعين على الطلاب الدراسة فعليًا لإجراء اختباراتهم طالما أنهم يكتشفون طريقة لخداع نظام الذكاء الاصطناعي باستخدام الكلمات الرئيسية.

هناك طريقة أخرى للنظر إليها ، ربما ، هي القول إن هذا يمكن أن يكون تعلمًا جيدًا وممارسة جيدة للمستقبل ، حيث سيكون الأطفال في وضع جيد في المستقبل إذا فهموا أنظمة الحوسبة جيدًا منذ صغرهم.


شاهد الفيديو: ثغرة الحصول على الكونكر بسهولة كل كيم 60 نقطة تقييم. ثغرات ببجي موبايل (قد 2022).