بزيارتك لموقعنا، فإنك توافق على سياسة الخصوصية فيما يتعلق بملفات تعريف الارتباط، وإحصائيات التتبع، وما إلى ذلك.
يتناول هذا التقرير، الذي تم بحثه خلال صيف 2024، الاستخدام المتزايد لروبوتات الدردشة الآلية القائمة على الذكاء الاصطناعي في الأوساط الأكاديمية بعد إطلاق ChatGPT في عام 2022 واستجابة المؤسسات التعليمية من خلال أدوات الكشف عن الذكاء الاصطناعي. ويناقش التقرير الفعالية المتفاوتة لهذه الأدوات في تحديد المحتوى الذي ينشئه الذكاء الاصطناعي، مع وجود مشكلات مثل الإيجابيات الكاذبة والسلبيات الكاذبة. كما يسلط التقرير الضوء على المخاوف الأخلاقية المتعلقة بالخصوصية والدقة واستخدام الذكاء الاصطناعي في التعليم. تعيد بعض المؤسسات النظر في استخدام أدوات الكشف، وتختار بدلاً من ذلك دمج الذكاء الاصطناعي في المناهج الدراسية بشكل مسؤول.
هذا الدليل مخصص في المقام الأول للجامعات ومؤسسات التعليم العالي الأخرى المشاركة في برنامج ندوات الأمن السيبراني من Google.org. وهو موجه لأعضاء هيئة التدريس المشاركين في هذه البرامج. بالإضافة إلى الحلقات الدراسية للأمن السيبراني في Google.org، قد يكون هذا الدليل مناسبًا أيضًا للمنظمات الأخرى المشاركة في التعليم العملي للأمن السيبراني.
أثار إطلاق ChatGPT في عام 2022 اهتماماً عالمياً بالذكاء الاصطناعي (AI) وأدى إلى انتشار استخدام روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي على نطاق واسع، بما في ذلك من قبل الطلاب. بعد ظهور روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي، أثيرت مخاوف من قبل مؤسسات التعليم العالي بشأن "الاستخدام غير العادل للمحتوى الذي يولده الذكاء الاصطناعي في بيئة أكاديمية"1 و"أصالة وملاءمة المحتوى الذي ينشئه روبوت الدردشة الآلي".2
وللكشف عن الاستخدام غير المناسب أو غير العادل لروبوتات الدردشة هذه وإدارتها، ازدادت شعبية أدوات الكشف عن الذكاء الاصطناعي مع انتشار أدوات الانتحال القياسية، مثل TurnItIn، التي تتمحور حول الكشف عن المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي بدرجات متفاوتة من الفعالية وبأسعار مختلفة.3 يتم دمج معظم أدوات الكشف عن الذكاء الاصطناعي في الأوساط الأكاديمية في منصات تعليمية أوسع، مثل Moodle أو Canvas أو Blackboard أو Brightspace أو Schoology أو Sakai.4
تحدد أدوات الكشف عن الذكاء الاصطناعي النص الذي تم إنشاؤه باستخدام مطابقة الأنماط بدلاً من مقارنته بقاعدة بيانات، كما تفعل أدوات فحص الانتحال التقليدية. يتم تدريب النماذج اللغوية على كميات هائلة من البيانات النصية لتعلم قواعد اللغة الاحتمالية، والتي تستخدمها لإنشاء محتوى جديد. ومع ذلك، غالبًا ما يُظهر النص الذي تم إنشاؤه أنماطًا يمكن التنبؤ بها، مثل تراكيب الجمل المتسقة، والإفراط في استخدام بعض حروف العطف والمفردات، وأطوال الجمل أو الفقرات التي يمكن التنبؤ بها. تهدف أدوات الكشف إلى اكتشاف هذه الأنماط، وقد تدمج أيضًا عمليات التحقق من الانتحال التقليدية لتحديد النص الذي قد يكون قد تم إعادة إنتاجه مباشرةً من بيانات التدريب الخاصة بالنموذج.5
عندما تم إصدار أدوات الكشف عن الذكاء الاصطناعي لأول مرة، سارعت مؤسسات التعليم العالي إلى دمجها في منصات التعليم. ومع ذلك، يمكن التحايل على معظم أدوات الكشف عن الذكاء الاصطناعي، إن لم يكن كلها، إذا ما توفر الوقت والجهد الكافي.6 لذلك تتراجع بعض مؤسسات التعليم العالي عن قرارها باستخدام أجهزة الكشف بالذكاء الاصطناعي. في عام 2023، قامت كل من فاندربيلت وولاية ميشيغان ونورث وسترن وجامعة تكساس في أوستن بتعطيل أجهزة الكشف بالذكاء الاصطناعي Turnitin، مستشهدةً بمشاكل تتعلق بالفعالية التي تمت مناقشتها أعلاه.7 من المرجح أن تحذو مؤسسات تعليمية أخرى حذوها، حيث قد تكون أدوات الكشف تسبب مشاكل أكثر مما تحل.8 ولا تكتفي بعض المؤسسات الأكاديمية بتعطيل أدوات الكشف عن الذكاء الاصطناعي فحسب، بل تعمل على إيجاد طرق لدمج برامج الماجستير في القانون بشكل أخلاقي ومنتج في مناهجها الدراسية.9
علاوةً على ذلك، تم إصدار أدوات "أنسنة" جديدة لتمكين مستخدمي LLM من تجاوز أدوات الكشف عن الذكاء الاصطناعي من خلال "إعادة صياغة الجمل، وتغيير التراكيب، ودمج مفردات متنوعة" مما يقلل بشكل كبير من احتمالية اكتشاف الذكاء الاصطناعي.10 تشير الأبحاث الأولية إلى أن أدوات إعادة الصياغة تعقّد بشكل كبير عملية الكشف عن الذكاء الاصطناعي.11 على سبيل المثال، وجدت صحيفة واشنطن بوست أن Turnitin يواجه صعوبة في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عندما يمزج النص بين المحتوى البشري والمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي من خلال أدوات إعادة الصياغة.12
على الرغم من أن Turnitin أصدرت ميزة جديدة لاكتشاف إعادة الصياغة بالذكاء الاصطناعي لأداة اكتشاف الذكاء الاصطناعي الخاصة بها,13 مثل هذه الاستجابات تخلق سياقًا صعبًا في السوق للكشف عن الذكاء الاصطناعي، مع تحول الشركات الأخرى إلى نماذج أعمال أخرى,14 أو الإغلاق15
ترد أدناه مجموعة مختارة من أدوات الكشف الرئيسية للذكاء الاصطناعي بالترتيب الأبجدي. لقد قمنا أيضًا بتضمين المعلومات المتاحة للجمهور فيما يتعلق بفعالية الكشف، وتكامل المنصة التعليمية، والتسعير (بالدولار الأمريكي)، وتاريخ الإصدار و/أو التحديث. لاحظ أن معظم أدوات الكشف عن الذكاء الاصطناعي المدرجة أدناه فعالة بشكل أساسي ضد ChatGPT-3.5 فقط.
أداة الكشف عن الذكاء الاصطناعي | هل هناك تكامل في منصات التعليم؟ | السعر (بالدولار الأمريكي) | تاريخ الإصدار/التحديث |
تجميع | نعم: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMS | لم يتم العثور على معلومات16 | شباط/فبراير 2023 |
المحتوى على نطاق واسع | نعم: معلومات محدودة | $49/شهر17 | لا توجد معلومات |
كاشف المحتوى بالذكاء الاصطناعي | لا توجد معلومات | لم يتم العثور على معلومات | 202318 |
نسخ التسريبات | نعم: Moodle و Canvas و Blackboard و Brightspace و Schoology و Sakai | $7.99-$13.99/month19 | كانون الثاني/يناير 2023 |
كروس بلاج | لا توجد معلومات | $7-$100/month20 | كانون الثاني/يناير 2023 |
كشف GPT | لا توجد معلومات | $7-$29/شهرياً21 | لا توجد معلومات |
دوبليشيكر | لا توجد معلومات | $110-$2000/year22 | 2024 |
جو وينستون | لا توجد معلومات | $12-$32/month23 | شباط/فبراير 2023 |
GPT-صفر | نعم: Canvas، Coursify.me، حلول K16، NewsGuard | $10-$23/month24 | كانون الثاني/يناير 2023 |
الأصالة | نعم: مودل، سكربر | $14.95-$30/month25 | تشرين الثاني/نوفمبر 2022 |
كاشف الانتحال (كشف الانتحال) | لا توجد معلومات | $110-$330/year26 | لا توجد معلومات |
كويلبوت | نعم: لا توجد تفاصيل متاحة للجمهور عن أي منصات | $0-$8.33/month27 | لا توجد معلومات |
شتلة | غير واضح | $0-$12/شهر28 | كانون الثاني/يناير 2023 |
سكيسبيس | من المحتمل، ولكن نقص المعلومات | $0-$8/شهر29 | لا توجد معلومات |
تيرنيتين | نعم: برايت سبيس، سكريبر | $3/طالب/عام30 | أبريل 2023 |
ذكاء اصطناعي غير قابل للكشف | لا توجد معلومات | $5-$14.99/month31 | مايو 2023 |
ضبط الكلمات | من المحتمل، ولكن نقص المعلومات | $0-$9.99/month32 | كانون الثاني/يناير 2023 |
كاشف الذكاء الاصطناعي للكاتب | لا توجد معلومات | $0-$18/شهر33 | لا توجد معلومات |
زيرو جي بي تي تي | نعم: لا توجد تفاصيل متاحة للجمهور عن أي منصات | $0-$18.99/month34 | كانون الثاني/يناير 2023 |
في سياق أدوات الكشف عن الذكاء الاصطناعي، تحدث النتائج الإيجابية الخاطئة عندما تحدد أداة الكشف عن الذكاء الاصطناعي المحتوى المرسل بشكل غير صحيح على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. تشير بعض الدراسات إلى أن أدوات الكشف بالذكاء الاصطناعي لديها معدل إيجابي كاذب مرتفع، وهناك عدد قليل فقط من أدوات الكشف بالذكاء الاصطناعي لديها معدلات منخفضة بشكل ملحوظ من الكشف الإيجابي الكاذب.35 في بيئة أكاديمية، قد يعني ذلك وضع علامة غير صحيحة على عمل الطالب على أنه من إنشاء الذكاء الاصطناعي، في حين أنه في الواقع من إنشاء الإنسان. هناك أيضًا اختلافات تم العثور عليها اعتمادًا على نموذج الذكاء الاصطناعي المستخدم في إنشاء النص المرسل لأداة الكشف عن الذكاء الاصطناعي لاختباره، والعكس بالعكس مع وجود نتائج متفاوتة عبر الدراسات.36 بالإضافة إلى ذلك، من المرجح أن يتم تصنيف محتوى غير الناطقين باللغة الإنجليزية بشكل غير صحيح على أنه من إنتاج الذكاء الاصطناعي، وهو ما يمثل مشكلة واضحة للمؤسسات التعليمية التي تضم طلابًا من خلفيات مختلفة.37
في سياق أدوات الكشف عن الذكاء الاصطناعي، تحدث السلبيات الخاطئة عندما تفشل أداة الكشف عن الذكاء الاصطناعي في تحديد المحتوى المرسل على أنه من إنتاج الذكاء الاصطناعي. وقد أظهرت بعض الأدوات حساسية منخفضة، حيث حددت بشكل صحيح بالكاد 15% من العينات المقدمة على أنها من إنتاج الذكاء الاصطناعي,38 في حين أظهر آخرون درجة شبه مثالية في تصنيف المحتوى المكتوب من قِبل البشر، حيث أخطأوا في تصنيف 3% فقط من العينات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.39 بشكل عام، تختلف النتائج بشكل كبير في الدقة اعتمادًا على أداة الكشف عن الذكاء الاصطناعي المستخدمة. تشير إحدى الدراسات إلى أن اثنتين فقط من أدوات الكشف عن الذكاء الاصطناعي الرئيسية صنفتا جميع العينات ال 126 بشكل صحيح على أنها إما من صنع الذكاء الاصطناعي أو من صنع الإنسان.40 ويزعم باحثون آخرون أن أدوات الكشف بالذكاء الاصطناعي تنتج المزيد من السلبيات الخاطئة عند تحليل لغة أكثر تعقيداً.41
بشكل عام، تتفاوت فعالية أدوات الكشف عن الذكاء الاصطناعي اعتمادًا على الأداة المستخدمة، ومقابل أي نموذج. وجدت إحدى الدراسات أن أدوات الكشف بالذكاء الاصطناعي أكثر فعالية مع محتوى ChatGPT-3.5، وأقل فعالية مع محتوى ChatGPT-4، باستثناء Copyleaks وTurnitin وOriginality.ai التي كانت دقتها أكبر من 83% في الكشف عن محتوى ChatGPT-4.42 خلصت هذه الدراسة إلى أن "حالة الكاشف المجانية أو المدفوعة ليست مؤشرًا جيدًا على دقته",43 على الرغم من أن النتائج المتناقضة (مع صغر حجم العينة) تشير مبدئياً إلى أن أدوات الكشف عن الذكاء الاصطناعي المدفوعة تبدو أفضل من أدوات الكشف المجانية.44 تركز الدراسات أيضًا بشكل عام على فعالية أدوات الكشف بالذكاء الاصطناعي ضد ChatGPT، متجاهلةً نماذج LLMs الأخرى. قد يرجع ذلك إلى الشعبية الأكبر لنماذج OpenAI مقارنةً بنماذج أخرى مثل Gemini أو Mistral أو Command.
يثير استخدام روبوتات الدردشة القائمة على الذكاء الاصطناعي في الأوساط الأكاديمية أسئلة أخلاقية مهمة، بدءًا من الإضرار بسمعة كل من الطلاب ومؤسسات التعليم العالي. بالنسبة للطلاب، قد يؤدي عدم الإفصاح عن استخدام المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي وتمريره على أنه خاص بهم إلى الإضرار بتعليمهم المستمر ومهنهم المستقبلية. وبالمثل، يمكن أن تواجه الجامعات اتهامات بتمكين الانتحال والغش والفشل في الحفاظ على النزاهة الأكاديمية.
ومع ذلك، فإن استخدام أدوات الكشف بالذكاء الاصطناعي دون ضمانات مناسبة يولد مخاوف كبيرة بنفس القدر حول الخصوصية والموافقة، خاصة فيما يتعلق بالترتيبات التعاقدية بين الجامعات ومزود الأداة. وتشمل هذه المخاوف ما يحدث للمحتوى الذي تم تحميله، وكيفية تخزينه، والموافقة إذا تم استخدام المحتوى الذي تم تحميله في بيانات التدريب في المستقبل.
علاوة على ذلك، وكما ناقشنا في القسم السابق، قد تخطئ أدوات الكشف عن الذكاء الاصطناعي في تحديد المحتوى المكتوب من قبل الإنسان على أنه ذكاء اصطناعي (نتائج إيجابية كاذبة) أو قد تفشل في اكتشاف النص الذي أنشأه الذكاء الاصطناعي (نتائج سلبية كاذبة). تتباين الدقة بشكل كبير، حيث تتفوق بعض الأدوات في اكتشاف ChatGPT-3.5. أخيرًا، تلعب هذه الأدوات لعبة القط والفأر بأساليب للتهرب من الاكتشاف - بما في ذلك البرامج التي تنشئ محتوى مصمم خصيصًا بحيث لا يمكن اكتشافه بواسطة أدوات الكشف القياسية للذكاء الاصطناعي.45
تساهم أدوات الكشف عن الذكاء الاصطناعي أيضًا في المناقشات الأوسع نطاقًا حول الوصول والإنصاف والأثر البيئي. قد يستخدم الطلاب الذكاء الاصطناعي لدعم ترجمة وفهم المقررات الدراسية، خاصةً إذا كانوا يدرسون في بلد ناطق بالإنجليزية وينتمون إلى خلفية غير ناطقة بالإنجليزية أو غيرها من خلفيات الأقليات التي كانت فرصها في التعليم الجامعي أقل تاريخيًا. تنشأ مشكلات الوصول أيضًا بسبب التوافر التجاري لـ LLMs؛ فقد يتمكن الطلاب الأكثر ثراءً من دفع تكاليف النماذج الأكثر تطورًا و/أو تغذية عملهم من خلال LLMs متعددة، مما يعني أن فرص الكشف تنخفض بشكل كبير.46
يدعم برنامج الحلقات الدراسية للأمن السيبراني من Google.org دورات دراسية في مجال الأمن السيبراني في جامعات مختارة وغيرها من مؤسسات التعليم العالي المؤهلة في أوروبا والشرق الأوسط وأفريقيا، لمساعدة الطلاب على معرفة المزيد عن الأمن السيبراني واستكشاف مسارات في هذا المجال. يدعم البرنامج بنشاط توسيع نطاق التدريب في مجال الأمن السيبراني في الجامعات، لبناء القوى العاملة المتنوعة اللازمة لمساعدة المنظمات الأكثر عرضة للخطر على منع الهجمات السيبرانية المحتملة. كما يعالج البرنامج المخاطر الجديدة الناجمة عن الذكاء الاصطناعي (AI)، ويزود الطلاب بفهم التغييرات القائمة على الذكاء الاصطناعي في مشهد التهديدات السيبرانية ويساعدهم على دمج الذكاء الاصطناعي بفعالية في تدابير الأمن السيبراني العملية.
يُتوقع من الجامعات المشاركة أن تعمل بنشاط على تعزيز المساواة والتنوع والشمول في برامجها. وينبغي لها أن تشجع المشاركة القوية للأفراد من خلفيات متنوعة وأن تخلق بيئة شاملة للتعليم، وبالتالي إثراء تجربة التعلم الشاملة وتعزيز مجتمع الأمن السيبراني.
جاري التحميل...