By visiting our site, you agree to our privacy policy regarding cookies, tracking statistics, etc.
يتناول هذا التقرير، الذي تم بحثه خلال صيف 2024، الاستخدام المتزايد لروبوتات الدردشة الآلية القائمة على الذكاء الاصطناعي في الأوساط الأكاديمية بعد إطلاق ChatGPT في عام 2022 واستجابة المؤسسات التعليمية من خلال أدوات الكشف عن الذكاء الاصطناعي. ويناقش التقرير الفعالية المتفاوتة لهذه الأدوات في تحديد المحتوى الذي ينشئه الذكاء الاصطناعي، مع وجود مشكلات مثل الإيجابيات الكاذبة والسلبيات الكاذبة. كما يسلط التقرير الضوء على المخاوف الأخلاقية المتعلقة بالخصوصية والدقة واستخدام الذكاء الاصطناعي في التعليم. تعيد بعض المؤسسات النظر في استخدام أدوات الكشف، وتختار بدلاً من ذلك دمج الذكاء الاصطناعي في المناهج الدراسية بشكل مسؤول.
هذا الدليل مخصص في المقام الأول للجامعات ومؤسسات التعليم العالي الأخرى المشاركة في برنامج ندوات الأمن السيبراني من Google.org. وهو موجه لأعضاء هيئة التدريس المشاركين في هذه البرامج. بالإضافة إلى الحلقات الدراسية للأمن السيبراني في Google.org، قد يكون هذا الدليل مناسبًا أيضًا للمنظمات الأخرى المشاركة في التعليم العملي للأمن السيبراني.
أثار إطلاق ChatGPT في عام 2022 اهتمامًا عالميًا بالذكاء الاصطناعي (AI) وأدى إلى انتشار استخدام روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي، بما في ذلك من قبل الطلاب. بعد ظهور روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي، أثيرت مخاوف من قبل مؤسسات التعليم العالي بشأن "الاستخدام غير العادل للمحتوى الذي يولده الذكاء الاصطناعي في بيئة أكاديمية"1 و"أصالة وملاءمة المحتوى الذي يولده روبوت الدردشة الآلي".2
وللكشف عن الاستخدام غير المناسب أو غير العادل لروبوتات الدردشة هذه وإدارته، ازدادت شعبية أدوات الكشف عن الذكاء الاصطناعي مع انتشار أدوات كشف الانتحال القياسية، مثل TurnItIn، التي تتمحور حول الكشف عن المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي بدرجات متفاوتة من الفعالية وبأسعار مختلفة.3 معظم أدوات الكشف عن الذكاء الاصطناعي في الأوساط الأكاديمية مدمجة في منصات تعليمية أوسع، مثل Moodle أو Canvas أو Blackboard أو Brightspace أو Schoology أو Sakai.4
تحدد أدوات الكشف عن الذكاء الاصطناعي النص الذي تم إنشاؤه باستخدام مطابقة الأنماط بدلاً من مقارنته بقاعدة بيانات، كما تفعل أدوات فحص الانتحال التقليدية. يتم تدريب النماذج اللغوية على كميات هائلة من البيانات النصية لتعلم قواعد اللغة الاحتمالية، والتي تستخدمها لإنشاء محتوى جديد. ومع ذلك، غالبًا ما يُظهر النص الذي تم إنشاؤه أنماطًا يمكن التنبؤ بها، مثل تراكيب الجمل المتسقة، والإفراط في استخدام بعض حروف العطف والمفردات، وأطوال الجمل أو الفقرات التي يمكن التنبؤ بها. تهدف أدوات الكشف إلى اكتشاف هذه الأنماط، وقد تدمج أيضًا عمليات التحقق التقليدية من الانتحال لتحديد النص الذي قد يكون قد تم إعادة إنتاجه مباشرةً من بيانات التدريب الخاصة بالنموذج.5
عندما تم إصدار أدوات الكشف عن الذكاء الاصطناعي لأول مرة، سارعت مؤسسات التعليم العالي إلى دمجها في منصات التعليم. ومع ذلك، يمكن التحايل على معظم أدوات الكشف بالذكاء الاصطناعي، إن لم يكن جميعها، إذا ما توفر الوقت والجهد الكافي.6 ولذلك، فإن بعض مؤسسات التعليم العالي تتراجع عن قرارها باستخدام أدوات الكشف بالذكاء الاصطناعي. في عام 2023، قامت جامعات فاندربيلت وولاية ميشيغان ونورث وسترن وجامعة تكساس في أوستن بتعطيل أدوات الكشف عن الذكاء الاصطناعي الخاصة بها Turnitin، مستشهدةً بمشاكل تتعلق بالفعالية التي نوقشت أعلاه.7 ومن المرجح أن تحذو مؤسسات تعليمية أخرى حذوها، حيث قد تكون أدوات الكشف تسبب مشاكل أكثر مما تحل.8 بعض المؤسسات الأكاديمية لا تعطل أدوات الكشف عن الذكاء الاصطناعي فحسب، بل تجد طرقًا لدمج أدوات الكشف عن الذكاء الاصطناعي بشكل أخلاقي ومنتج في مناهجها الدراسية.9
وعلاوة على ذلك، تم إصدار أدوات "أنسنة" جديدة لتمكين مستخدمي LLM من تجاوز أدوات الكشف عن الذكاء الاصطناعي من خلال "إعادة صياغة الجمل، وتغيير التراكيب، ودمج مفردات متنوعة" مما يقلل بشكل كبير من احتمال اكتشاف الذكاء الاصطناعي.10 تشير الأبحاث الأولية إلى أن أدوات إعادة الصياغة تعقد بشكل كبير عملية الكشف عن الذكاء الاصطناعي.11 على سبيل المثال، وجدت صحيفة واشنطن بوست أن Turnitin تكافح في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عندما يمزج النص بين المحتوى البشري والمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي من خلال أدوات إعادة الصياغة.12
على الرغم من أن Turnitin أصدرت خاصية جديدة للكشف عن إعادة الصياغة بالذكاء الاصطناعي لأداة الكشف عن الذكاءالاصطناعي،13 إلا أن مثل هذه الاستجابات تخلق سياقًا صعبًا في السوق للكشف عن الذكاء الاصطناعي، مع تحول شركات أخرى إلى نماذج أعمالأخرى،14 أو إغلاقها.15
ترد أدناه مجموعة مختارة من أدوات الكشف الرئيسية للذكاء الاصطناعي بالترتيب الأبجدي. لقد قمنا أيضًا بتضمين المعلومات المتاحة للجمهور فيما يتعلق بفعالية الكشف، وتكامل المنصة التعليمية، والتسعير (بالدولار الأمريكي)، وتاريخ الإصدار و/أو التحديث. لاحظ أن معظم أدوات الكشف عن الذكاء الاصطناعي المدرجة أدناه فعالة بشكل أساسي ضد ChatGPT-3.5 فقط.
أداة الكشف عن الذكاء الاصطناعي | هل هناك تكامل في منصات التعليم؟ | السعر (بالدولار الأمريكي) | تاريخ الإصدار/التحديث |
تجميع | نعم: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMS | لم يتم العثور على معلومات16 | شباط/فبراير 2023 |
المحتوى على نطاق واسع | نعم: معلومات محدودة | 49 دولار/شهر 17 | لا توجد معلومات |
كاشف المحتوى بالذكاء الاصطناعي | لا توجد معلومات | لم يتم العثور على معلومات | 202318 |
نسخ التسريبات | نعم: Moodle و Canvas و Blackboard و Brightspace و Schoology و Sakai | 7.99$ - 13.99$/شهرياً19 | كانون الثاني/يناير 2023 |
كروس بلاج | لا توجد معلومات | 7 دولارات إلى 100 دولار/شهرياً20 | كانون الثاني/يناير 2023 |
كشف GPT | لا توجد معلومات | 7$ - 29$/شهرياً21 | لا توجد معلومات |
دوبليشيكر | لا توجد معلومات | 110 دولارات - 2000 دولار في السنة22 | 2024 |
جو وينستون | لا توجد معلومات | 12 دولار - 32 دولار/شهر23 | شباط/فبراير 2023 |
GPT-صفر | نعم: Canvas، Coursify.me، حلول K16، NewsGuard | من 10 دولارات إلى 23 دولاراً شهرياً24 | كانون الثاني/يناير 2023 |
الأصالة | نعم: مودل، سكربر | 14.95 دولار - 30 دولار/شهر25 | تشرين الثاني/نوفمبر 2022 |
كاشف الانتحال (كشف الانتحال) | لا توجد معلومات | 110$ - 330$ - 330$ في السنة26 | لا توجد معلومات |
كويلبوت | نعم: لا توجد تفاصيل متاحة للجمهور عن أي منصات | من 0 إلى 8.33 دولار/شهر27 | لا توجد معلومات |
شتلة | غير واضح | من 0 إلى 12 دولار/شهرياً28 | كانون الثاني/يناير 2023 |
سكيسبيس | من المحتمل، ولكن نقص المعلومات | من 0 إلى 8 دولارات شهرياً29 | لا توجد معلومات |
تيرنيتين | نعم: برايت سبيس، سكريبر | 3 دولارات/طالب/سنة30 | أبريل 2023 |
ذكاء اصطناعي غير قابل للكشف | لا توجد معلومات | من 5 دولارات إلى 14.99 دولار/شهر31 | مايو 2023 |
ضبط الكلمات | من المحتمل، ولكن نقص المعلومات | من 0 إلى 9.99 دولاراً شهرياً32 | كانون الثاني/يناير 2023 |
كاشف الذكاء الاصطناعي للكاتب | لا توجد معلومات | من 0 إلى 18 دولار/شهرياً33 | لا توجد معلومات |
زيرو جي بي تي تي | نعم: لا توجد تفاصيل متاحة للجمهور عن أي منصات | من 0 إلى 18.99 دولارًا أمريكيًا/شهريًا34 | كانون الثاني/يناير 2023 |
في سياق أدوات الكشف عن الذكاء الاصطناعي، تحدث النتائج الإيجابية الخاطئة عندما تحدد أداة الكشف عن الذكاء الاصطناعي بشكل غير صحيح المحتوى المقدم على أنه من إنتاج الذكاء الاصطناعي. تشير بعض الدراسات إلى أن أدوات الكشف بالذكاء الاصطناعي لديها معدل إيجابي كاذب مرتفع، وأن عددًا قليلًا فقط من أدوات الكشف بالذكاء الاصطناعي لديها معدلات منخفضة بشكل ملحوظ من الكشف الإيجابي الخاطئ.35 في بيئة أكاديمية، قد يعني هذا وضع علامة غير صحيحة على عمل الطالب على أنه من إنشاء الذكاء الاصطناعي، في حين أنه في الواقع من إنشاء الإنسان. هناك أيضًا اختلافات تم العثور عليها اعتمادًا على نموذج الذكاء الاصطناعي المستخدم لتوليد النص المرسل لأداة الكشف عن الذكاء الاصطناعي لاختباره، والعكس بالعكس مع نتائج متفاوتة عبر الدراسات.36 بالإضافة إلى ذلك، من المرجح أن يتم تصنيف المحتوى الذي أعده غير الناطقين باللغة الإنجليزية بشكل غير صحيح على أنه من إنشاء الذكاء الاصطناعي، وهو ما يمثل مشكلة واضحة للمؤسسات التعليمية التي تضم طلابًا من خلفيات مختلفة.37
في سياق أدوات الكشف عن الذكاء الاصطناعي، تحدث السلبيات الخاطئة عندما تفشل أداة الكشف عن الذكاء الاصطناعي في تحديد المحتوى المُرسَل على أنه من إنشاء الذكاء الاصطناعي. وقد أظهرت بعض الأدوات حساسية منخفضة، حيث حددت بشكل صحيح بالكاد 15% من العينات المرسلة على أنها من إنشاء الذكاءالاصطناعي،38 بينما أظهرت أدوات أخرى درجة شبه مثالية في تصنيف المحتوى المكتوب من قبل البشر، حيث أخطأت في تصنيف 3% فقط من العينات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.39 بشكل عام، تتفاوت النتائج بشكل كبير في الدقة اعتمادًا على أداة الكشف عن الذكاء الاصطناعي المستخدمة. تشير إحدى الدراسات إلى أن اثنتين فقط من أدوات الكشف الرئيسية للذكاء الاصطناعي تصنفان جميع العينات ال 126 بشكل صحيح على أنها إما من إنشاء الذكاء الاصطناعي أو من إنشاء الإنسان.40 ويدعي باحثون آخرون أن أدوات الكشف عن الذكاء الاصطناعي تنتج المزيد من السلبيات الخاطئة عند تحليل لغة أكثر تعقيدًا.41
بشكل عام، تتفاوت فعالية أدوات الكشف عن الذكاء الاصطناعي اعتمادًا على الأداة المستخدمة، ومقابل أي نموذج. وجدت إحدى الدراسات أن أدوات الكشف بالذكاء الاصطناعي أكثر فعالية مع محتوى ChatGPT-3.5، وأقل فعالية مع محتوى ChatGPT-4، باستثناء Copyleaks وTurnitin وOriginality.ai التي كانت دقتها أكبر من 83% في الكشف عن محتوى ChatGPT-4.42 وخلصت هذه الدراسة إلى أن "حالة الكاشف المجانية أو المدفوعة ليست مؤشرًا جيدًا على دقته"،43 على الرغم من أن النتائج المتناقضة (مع حجم عينة صغير) تشير مبدئيًا إلى أن أدوات الكشف عن الذكاء الاصطناعي المدفوعة تبدو أفضل من أدوات الكشف عن الذكاء الاصطناعي المجانية.44 كما تركز الدراسات بشكل عام على فعالية أدوات الكشف عن الذكاء الاصطناعي ضد ChatGPT، متجاهلةً أدوات الكشف عن المحتوى اللغوي الأخرى. قد يكون هذا بسبب الشعبية الأكبر لنماذج OpenAI مقارنةً بنماذج أخرى مثل Gemini أو Mistral أو Command.
يثير استخدام روبوتات الدردشة القائمة على الذكاء الاصطناعي في الأوساط الأكاديمية أسئلة أخلاقية مهمة، بدءًا من الإضرار بسمعة كل من الطلاب ومؤسسات التعليم العالي. بالنسبة للطلاب، قد يؤدي عدم الإفصاح عن استخدام المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي وتمريره على أنه خاص بهم إلى الإضرار بتعليمهم المستمر ومهنهم المستقبلية. وبالمثل، يمكن أن تواجه الجامعات اتهامات بتمكين الانتحال والغش والفشل في الحفاظ على النزاهة الأكاديمية.
ومع ذلك، فإن استخدام أدوات الكشف بالذكاء الاصطناعي دون ضمانات مناسبة يولد مخاوف كبيرة بنفس القدر حول الخصوصية والموافقة، خاصة فيما يتعلق بالترتيبات التعاقدية بين الجامعات ومزود الأداة. وتشمل هذه المخاوف ما يحدث للمحتوى الذي تم تحميله، وكيفية تخزينه، والموافقة إذا تم استخدام المحتوى الذي تم تحميله في بيانات التدريب في المستقبل.
علاوة على ذلك، كما ناقشنا في القسم السابق، قد تخطئ أدوات الكشف عن الذكاء الاصطناعي في تحديد المحتوى المكتوب من قبل الإنسان على أنه ذكاء اصطناعي (نتائج إيجابية كاذبة) أو قد تفشل في اكتشاف النص الذي أنشأه الذكاء الاصطناعي (نتائج سلبية كاذبة). تتباين الدقة بشكل كبير، حيث تتفوق بعض الأدوات في اكتشاف ChatGPT-3.5. وأخيرًا، يلعبون لعبة القط والفأر بأساليب للتهرب من الاكتشاف - بما في ذلك البرامج التي تولد محتوى مصمم خصيصًا بحيث لا يمكن اكتشافه بواسطة أدوات الكشف القياسية للذكاء الاصطناعي.45
تساهم أدوات الكشف عن الذكاء الاصطناعي أيضًا في المناقشات الأوسع نطاقًا حول الوصول والإنصاف والأثر البيئي. قد يستخدم الطلاب الذكاء الاصطناعي لدعم ترجمة وفهم المقررات الدراسية، خاصةً إذا كانوا يدرسون في بلد ناطق بالإنجليزية وينتمون إلى خلفية غير ناطقة بالإنجليزية أو غيرها من خلفيات الأقليات التي كانت فرصها في التعليم الجامعي أقل تاريخيًا. كما تنشأ مشكلات الوصول أيضًا بسبب التوافر التجاري لـ LLMs؛ فقد يتمكن الطلاب الأكثر ثراءً من دفع ثمن النماذج الأكثر تطورًا و/أو تغذية عملهم من خلال LLMs متعددة، مما يعني أن فرص الكشف تنخفض بشكل كبير.46
يدعم برنامج الحلقات الدراسية للأمن السيبراني من Google.org دورات دراسية في مجال الأمن السيبراني في جامعات مختارة وغيرها من مؤسسات التعليم العالي المؤهلة في أوروبا والشرق الأوسط وأفريقيا، لمساعدة الطلاب على معرفة المزيد عن الأمن السيبراني واستكشاف مسارات في هذا المجال. يدعم البرنامج بنشاط توسيع نطاق التدريب في مجال الأمن السيبراني في الجامعات، لبناء القوى العاملة المتنوعة اللازمة لمساعدة المنظمات الأكثر عرضة للخطر على منع الهجمات السيبرانية المحتملة. كما يعالج البرنامج المخاطر الجديدة الناجمة عن الذكاء الاصطناعي (AI)، ويزود الطلاب بفهم التغييرات القائمة على الذكاء الاصطناعي في مشهد التهديدات السيبرانية ويساعدهم على دمج الذكاء الاصطناعي بفعالية في تدابير الأمن السيبراني العملية.
يُتوقع من الجامعات المشاركة أن تعمل بنشاط على تعزيز المساواة والتنوع والشمول في برامجها. وينبغي لها أن تشجع المشاركة القوية للأفراد من خلفيات متنوعة وأن تخلق بيئة شاملة للتعليم، وبالتالي إثراء تجربة التعلم الشاملة وتعزيز مجتمع الأمن السيبراني.
جاري التحميل…