By visiting our site, you agree to our privacy policy regarding cookies, tracking statistics, etc.
Η παρούσα έκθεση, η οποία διερευνήθηκε κατά τη διάρκεια του καλοκαιριού 2024, εξετάζει την αυξημένη χρήση των AI chatbots στον ακαδημαϊκό χώρο μετά την έναρξη του ChatGPT το 2022 και την ανταπόκριση των εκπαιδευτικών ιδρυμάτων μέσω εργαλείων ανίχνευσης AI. Συζητά τη διαφορετική αποτελεσματικότητα αυτών των εργαλείων στον εντοπισμό περιεχομένου που παράγεται από ΤΝ, με ζητήματα όπως τα ψευδώς θετικά και τα ψευδώς αρνητικά αποτελέσματα. Η έκθεση υπογραμμίζει επίσης ηθικές ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής, την ακρίβεια και τη χρήση της ΤΝ στην εκπαίδευση. Ορισμένα ιδρύματα επανεξετάζουν τη χρήση εργαλείων ανίχνευσης, επιλέγοντας αντ’ αυτού να ενσωματώσουν την ΤΝ στα προγράμματα σπουδών με υπευθυνότητα.
Ο παρών οδηγός απευθύνεται κυρίως σε πανεπιστήμια και άλλα ιδρύματα τριτοβάθμιας εκπαίδευσης που συμμετέχουν στο πρόγραμμα σεμιναρίων κυβερνοασφάλειας Google.org. Απευθύνεται στους Πρωταθλητές Διδακτικού Προσωπικού και στους Πρωταθλητές EDI αυτών των προγραμμάτων. Πέρα από τα Σεμινάρια Κυβερνοασφάλειας του Google.org, ο παρών οδηγός μπορεί επίσης να έχει σημασία για άλλους οργανισμούς που ασχολούνται με την πρακτική εκπαίδευση στην κυβερνοασφάλεια.
Η έναρξη του ChatGPT το 2022 προκάλεσε παγκόσμιο ενδιαφέρον για την τεχνητή νοημοσύνη (AI) και οδήγησε σε ευρεία χρήση των chatbots AI, μεταξύ άλλων και από φοιτητές. Μετά την εμφάνιση των AI chatbots, εκφράστηκαν ανησυχίες από τα ιδρύματα τριτοβάθμιας εκπαίδευσης σχετικά με την "αθέμιτη χρήση περιεχομένου που παράγεται από τεχνητή νοημοσύνη σε ακαδημαϊκό περιβάλλον "1 και την "πρωτοτυπία και καταλληλότητα του περιεχομένου που παράγεται από το chatbot "2.
Για τον εντοπισμό και τη διαχείριση της ακατάλληλης ή αθέμιτης χρήσης τέτοιων chatbots, τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης έχουν αυξηθεί σε δημοτικότητα, με τα τυποποιημένα εργαλεία λογοκλοπής, όπως το TurnItIn, να προσανατολίζονται στον εντοπισμό περιεχομένου που παράγεται από τεχνητή νοημοσύνη σε διάφορους βαθμούς αποτελεσματικότητας και σε διάφορες τιμές.3 Τα περισσότερα εργαλεία ανίχνευσης τεχνητής νοημοσύνης στον ακαδημαϊκό χώρο είναι ενσωματωμένα σε ευρύτερες εκπαιδευτικές πλατφόρμες, όπως το Moodle, το Canvas, το Blackboard, το Brightspace, το Schoology ή το Sakai.4
Τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης εντοπίζουν το παραγόμενο κείμενο χρησιμοποιώντας αντιστοίχιση μοτίβων αντί να το συγκρίνουν με μια βάση δεδομένων, όπως κάνουν οι παραδοσιακοί ελεγκτές λογοκλοπής. Τα γλωσσικά μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων κειμένου για να μάθουν πιθανοτικούς γλωσσικούς κανόνες, τους οποίους χρησιμοποιούν για τη δημιουργία νέου περιεχομένου. Ωστόσο, το παραγόμενο κείμενο παρουσιάζει συχνά προβλέψιμα μοτίβα, όπως συνεπείς δομές προτάσεων, υπερβολική χρήση ορισμένων συνδέσμων και λεξιλογίου και προβλέψιμα μήκη προτάσεων ή παραγράφων. Τα εργαλεία ανίχνευσης στοχεύουν στον εντοπισμό αυτών των μοτίβων και μπορεί επίσης να ενσωματώνουν παραδοσιακούς ελέγχους λογοκλοπής για τον εντοπισμό κειμένου που μπορεί να έχει αναπαραχθεί απευθείας από τα δεδομένα εκπαίδευσης του μοντέλου.5
Όταν κυκλοφόρησαν για πρώτη φορά εργαλεία ανίχνευσης τεχνητής νοημοσύνης, τα ιδρύματα τριτοβάθμιας εκπαίδευσης έσπευσαν να τα ενσωματώσουν στις εκπαιδευτικές πλατφόρμες. Ωστόσο, τα περισσότερα, αν όχι όλα, τα εργαλεία ανίχνευσης ΤΝ μπορούν να παρακαμφθούν με αρκετό χρόνο και προσπάθεια.6 Ορισμένα ιδρύματα τριτοβάθμιας εκπαίδευσης αντιστρέφουν επομένως την απόφασή τους να χρησιμοποιήσουν ανιχνευτές ΤΝ. Το 2023, το Vanderbilt, το Michigan State, το Northwestern και το Πανεπιστήμιο του Τέξας στο Austin απενεργοποίησαν τους ανιχνευτές ΤΝ του Turnitin, επικαλούμενα προβλήματα αποτελεσματικότητας που συζητήθηκαν παραπάνω.7 Είναι πιθανό να ακολουθήσουν και άλλα εκπαιδευτικά ιδρύματα, καθώς μπορεί να είναι ότι τα εργαλεία ανίχνευσης προκαλούν περισσότερα προβλήματα από όσα λύνουν.8 Ορισμένα ακαδημαϊκά ιδρύματα όχι μόνο απενεργοποιούν τα εργαλεία ανίχνευσης ΤΝ, αλλά βρίσκουν τρόπους για να ενσωματώσουν τα LLM ηθικά και παραγωγικά στα προγράμματα σπουδών τους.9
Επιπλέον, έχουν κυκλοφορήσει νέα εργαλεία "εξανθρωπισμού" που επιτρέπουν στους χρήστες LLM να παρακάμπτουν τα εργαλεία ανίχνευσης ΤΝ μέσω "αναδιατύπωσης προτάσεων, αλλαγής δομών και ενσωμάτωσης ποικίλου λεξιλογίου", γεγονός που μειώνει σημαντικά την πιθανότητα ανίχνευσης ΤΝ.10 Οι αρχικές έρευνες δείχνουν ότι τα εργαλεία παράφρασης περιπλέκουν σημαντικά την ανίχνευση ΤΝ.11 Για παράδειγμα, η Washington Post διαπίστωσε ότι το Turnitin δυσκολεύεται να εντοπίσει περιεχόμενο που δημιουργήθηκε από ΤΝ όταν το κείμενο αναμειγνύει περιεχόμενο που δημιουργήθηκε από ανθρώπους και ΤΝ μέσω εργαλείων παράφρασης.12
Παρόλο που η Turnitin κυκλοφόρησε μια νέα λειτουργία ανίχνευσης παράφρασης τεχνητής νοημοσύνης στο εργαλείο ανίχνευσης τεχνητήςνοημοσύνης13 , οι αντιδράσεις αυτές δημιουργούν ένα δύσκολο πλαίσιο αγοράς για την ανίχνευση τεχνητής νοημοσύνης, με άλλες εταιρείες να στρέφονται σε άλλα επιχειρηματικάμοντέλα14 ή νακλείνουν15.
Παρακάτω παρατίθενται με αλφαβητική σειρά ορισμένα από τα σημαντικότερα εργαλεία ανίχνευσης τεχνητής νοημοσύνης. Έχουμε επίσης συμπεριλάβει δημόσια προσβάσιμες πληροφορίες σχετικά με την αποτελεσματικότητα της ανίχνευσης, την ενσωμάτωση της εκπαιδευτικής πλατφόρμας, την τιμολόγηση (σε δολάρια ΗΠΑ) και την ημερομηνία κυκλοφορίας ή/και ενημέρωσης. Σημειώστε ότι τα περισσότερα από τα εργαλεία ανίχνευσης ΤΝ που παρατίθενται παρακάτω είναι κυρίως αποτελεσματικά μόνο κατά του ChatGPT-3.5.
Εργαλείο ανίχνευσης AI | Υπάρχει ενσωμάτωση σε εκπαιδευτικές πλατφόρμες; | Τιμολόγηση (USD) | Ημερομηνία έκδοσης/ενημέρωσης |
Compilatio | Ναι: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMS | Δεν βρέθηκαν πληροφορίες16 | Φεβρουάριος 2023 |
Περιεχόμενο σε κλίμακα | Ναι: περιορισμένες πληροφορίες | $49/μήνα17 | Δεν υπάρχουν πληροφορίες |
Ανιχνευτής περιεχομένου AI | Δεν υπάρχουν πληροφορίες | Δεν βρέθηκαν πληροφορίες | 202318 |
Copyleaks | Ναι: Moodle, Canvas, Blackboard, Brightspace, Schoology, Sakai | $7,99-$13,99/μήνα19 | Ιανουάριος 2023 |
Crossplag | Δεν υπάρχουν πληροφορίες | $7-$100/μήνα20 | Ιανουάριος 2023 |
Ανίχνευση GPT | Δεν υπάρχουν πληροφορίες | $7-$29/μήνα21 | Δεν υπάρχουν πληροφορίες |
Duplichecker | Δεν υπάρχουν πληροφορίες | $110-$2000/έτος22 | 2024 |
Πήγαινε Γουίνστον | Δεν υπάρχουν πληροφορίες | $12-$32/μήνα23 | Φεβρουάριος 2023 |
GPT-Zero | Ναι: Canvas, Coursify.me, K16 solutions, NewsGuard | $10-$23/μήνα24 | Ιανουάριος 2023 |
Πρωτοτυπία | Ναι: Moodle, Scribbr | $14.95-$30/μήνα25 | Νοέμβριος 2022 |
Ανιχνευτής λογοκλοπής (ανίχνευση τεχνητής νοημοσύνης) | Δεν υπάρχουν πληροφορίες | $110-$330/έτος26 | Δεν υπάρχουν πληροφορίες |
Quillbot | Ναι: Δεν υπάρχουν δημόσια διαθέσιμες λεπτομέρειες σχετικά με τις πλατφόρμες | $0-$8,33/μήνα27 | Δεν υπάρχουν πληροφορίες |
Δενδρύλλιο | Ασαφές | $0-$12/μήνα28 | Ιανουάριος 2023 |
Scispace | Πιθανόν, ωστόσο η έλλειψη πληροφοριών | $0-$8/μήνα29 | Δεν υπάρχουν πληροφορίες |
Turnitin | Ναι: Brightspace, Scribbr | $3/φοιτητής/έτος30 | Απρίλιος 2023 |
Μη ανιχνεύσιμο AI | Δεν υπάρχουν πληροφορίες | $5-$14.99/μήνα31 | Μάιος 2023 |
Wordtune | Πιθανόν, ωστόσο η έλλειψη πληροφοριών | $0-$9.99/μήνα32 | Ιανουάριος 2023 |
Ανιχνευτής AI του συγγραφέα | Δεν υπάρχουν πληροφορίες | $0-$18/μήνα33 | Δεν υπάρχουν πληροφορίες |
ZeroGPT | Ναι: Δεν υπάρχουν δημόσια διαθέσιμες λεπτομέρειες σχετικά με τις πλατφόρμες | $0-$18.99/μήνα34 | Ιανουάριος 2023 |
Στο πλαίσιο των εργαλείων ανίχνευσης τεχνητής νοημοσύνης, τα ψευδώς θετικά αποτελέσματα προκύπτουν όταν ένα εργαλείο ανίχνευσης τεχνητής νοημοσύνης αναγνωρίζει εσφαλμένα το υποβληθέν περιεχόμενο ως παραγόμενο από τεχνητή νοημοσύνη. Ορισμένες μελέτες υποδεικνύουν ότι τα εργαλεία ανίχνευσης ΤΝ έχουν υψηλό ποσοστό ψευδώς θετικών αποτελεσμάτων και μόνο λίγα εργαλεία ανίχνευσης ΤΝ έχουν σημαντικά χαμηλά ποσοστά ψευδώς θετικών αποτελεσμάτων.35 Σε ένα ακαδημαϊκό περιβάλλον, αυτό μπορεί να σημαίνει ότι η εργασία των φοιτητών χαρακτηρίζεται εσφαλμένα ως παραγόμενη από ΤΝ, ενώ στην πραγματικότητα είναι ανθρώπινη. Υπάρχουν επίσης διαφορές ανάλογα με το ποιο μοντέλο ΤΝ χρησιμοποιείται για τη δημιουργία του υποβαλλόμενου κειμένου για να ελεγχθεί από το εργαλείο ανίχνευσης ΤΝ, και αντίστροφα, με διαφορετικά αποτελέσματα μεταξύ των μελετών.36 Επιπλέον, το περιεχόμενο από μη φυσικούς ομιλητές της αγγλικής γλώσσας είναι πιθανότερο να ταξινομηθεί εσφαλμένα ως παραγόμενο από ΤΝ, γεγονός που προφανώς αποτελεί ζήτημα για εκπαιδευτικά ιδρύματα με φοιτητές από διάφορα υπόβαθρα.37
Στο πλαίσιο των εργαλείων ανίχνευσης τεχνητής νοημοσύνης, τα ψευδώς αρνητικά αποτελέσματα προκύπτουν όταν ένα εργαλείο ανίχνευσης τεχνητής νοημοσύνης αποτυγχάνει να αναγνωρίσει το περιεχόμενο που υποβάλλεται ως παραγόμενο από τεχνητή νοημοσύνη. Ορισμένα εργαλεία έχουν δείξει χαμηλή ευαισθησία, αναγνωρίζοντας σωστά μόλις το 15% των υποβληθέντων δειγμάτων ως παραγόμενα απόΤΝ38 , ενώ άλλα παρουσιάζουν σχεδόν τέλεια αποτελέσματα στην ταξινόμηση περιεχομένου που έχει γραφτεί από ανθρώπους, ταξινομώντας λανθασμένα μόνο το 3% των δειγμάτων που έχουν παραχθεί απόΤΝ39. Μια μελέτη υποδεικνύει ότι μόνο δύο από τα κύρια εργαλεία ανίχνευσης ΤΝ ταξινομούν σωστά και τα 126 δείγματα είτε ως ΤΝ είτε ως ανθρώπινης παραγωγής.40 Άλλοι ερευνητές υποστηρίζουν ότι τα εργαλεία ανίχνευσης ΤΝ παράγουν περισσότερα ψευδώς αρνητικά αποτελέσματα όταν αναλύουν πιο περίπλοκη γλώσσα.41
Σε γενικές γραμμές, η αποτελεσματικότητα των εργαλείων ανίχνευσης ΤΝ ποικίλλει ανάλογα με το εργαλείο που χρησιμοποιείται και με ποιο μοντέλο. Μια μελέτη διαπίστωσε ότι τα εργαλεία ανίχνευσης ΤΝ είναι πιο αποτελεσματικά με το περιεχόμενο ChatGPT-3.5 και λιγότερο με το ChatGPT-4, εκτός από τα Copyleaks, Turnitin και Originality.ai, τα οποία είχαν ακρίβεια μεγαλύτερη από 83% στην ανίχνευση του περιεχομένουChatGPT-442. Η μελέτη αυτή κατέληξε στο συμπέρασμα ότι "η δωρεάν ή επί πληρωμή κατάσταση ενός ανιχνευτή δεν αποτελεί καλό δείκτη της ακρίβειάς του "43 , αν και αντίθετα ευρήματα (με μικρό μέγεθος δείγματος) υποδηλώνουν προσωρινά ότι τα επί πληρωμή εργαλεία ανίχνευσης ΤΝ φάνηκαν να είναι καλύτερα από τα δωρεάν εργαλεία ανίχνευσης ΤΝ.44 Οι μελέτες επικεντρώνονται επίσης γενικά στην αποτελεσματικότητα των εργαλείων ανίχνευσης ΤΝ έναντι του ChatGPT, αγνοώντας άλλα LLM. Αυτό μπορεί να οφείλεται στη μεγαλύτερη δημοτικότητα των μοντέλων της OpenAI σε σύγκριση με άλλα, όπως τα Gemini, Mistral ή Command.
Η χρήση των AI chatbots AI στον ακαδημαϊκό χώρο εγείρει σημαντικά ηθικά ζητήματα, αρχής γενομένης από τη βλάβη της φήμης τόσο των φοιτητών όσο και των ιδρυμάτων τριτοβάθμιας εκπαίδευσης. Για τους φοιτητές, η μη αποκάλυψη της χρήσης περιεχομένου που παράγεται από ΤΝ και η παράδοσή του ως δικό τους μπορεί να βλάψει τη συνεχιζόμενη εκπαίδευσή τους και τη μελλοντική τους σταδιοδρομία. Τα πανεπιστήμια μπορούν ομοίως να αντιμετωπίσουν κατηγορίες ότι επιτρέπουν τη λογοκλοπή, την εξαπάτηση και δεν τηρούν την ακαδημαϊκή ακεραιότητα.
Ωστόσο, η χρήση εργαλείων ανίχνευσης τεχνητής νοημοσύνης χωρίς κατάλληλες διασφαλίσεις δημιουργεί εξίσου σημαντικές ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής και τη συναίνεση, ιδίως όσον αφορά τις συμβατικές ρυθμίσεις μεταξύ των πανεπιστημίων και του παρόχου του εργαλείου. Τέτοιες ανησυχίες περιλαμβάνουν το τι συμβαίνει με το περιεχόμενο που μεταφορτώνεται, πώς αποθηκεύεται και τη συναίνεση εάν το περιεχόμενο που μεταφορτώνεται χρησιμοποιείται σε μελλοντικά δεδομένα εκπαίδευσης.
Επιπλέον, όπως συζητήθηκε στην προηγούμενη ενότητα, τα εργαλεία ανίχνευσης ΤΝ ενδέχεται να αναγνωρίσουν εσφαλμένα το περιεχόμενο που έχει γραφτεί από άνθρωπο ως ΤΝ (ψευδώς θετικά αποτελέσματα) ή να αποτύχουν να ανιχνεύσουν κείμενο που έχει παραχθεί από ΤΝ (ψευδώς αρνητικά αποτελέσματα). Η ακρίβεια ποικίλλει ευρέως, με ορισμένα εργαλεία να ανιχνεύουν καλύτερα το ChatGPT-3.5. Τέλος, παίζουν ένα παιχνίδι γάτας και ποντικιού με μεθόδους για να αποφύγουν την ανίχνευση - συμπεριλαμβανομένου λογισμικού που παράγει ειδικά περιεχόμενο σχεδιασμένο ώστε να μην ανιχνεύεται από τα τυπικά εργαλεία ανίχνευσηςΤΝ45.
Τα εργαλεία ανίχνευσης ΤΝ συμβάλλουν επίσης σε ευρύτερες συζητήσεις σχετικά με την πρόσβαση, την ισότητα και τον περιβαλλοντικό αντίκτυπο. Οι φοιτητές μπορεί να χρησιμοποιούν την ΤΝ για να υποστηρίξουν τη μετάφραση και την κατανόηση των μαθημάτων, ιδίως εάν σπουδάζουν σε αγγλόφωνη χώρα και προέρχονται από μη αγγλόφωνο ή άλλο μειονοτικό περιβάλλον με ιστορικά λιγότερες ευκαιρίες για πανεπιστημιακή εκπαίδευση. Προβλήματα πρόσβασης προκύπτουν επίσης λόγω της εμπορικής διαθεσιμότητας των LLM- οι πιο εύποροι φοιτητές μπορεί να είναι σε θέση να πληρώσουν για πιο εξελιγμένα μοντέλα και/ή να τροφοδοτήσουν την εργασία τους μέσω πολλαπλών LLM, πράγμα που σημαίνει ότι οι πιθανότητες εντοπισμού μειώνονταισημαντικά46.
Το πρόγραμμα σεμιναρίων κυβερνοασφάλειας Google.org υποστηρίζει μαθήματα σεμιναρίων κυβερνοασφάλειας σε επιλεγμένα πανεπιστήμια και άλλα επιλέξιμα ιδρύματα τριτοβάθμιας εκπαίδευσης στην Ευρώπη, τη Μέση Ανατολή και την Αφρική, για να βοηθήσει τους φοιτητές να μάθουν περισσότερα για την κυβερνοασφάλεια και να διερευνήσουν τις προοπτικές του τομέα. Το πρόγραμμα υποστηρίζει ενεργά την επέκταση της εκπαίδευσης σε θέματα κυβερνοασφάλειας στα πανεπιστήμια, ώστε να δημιουργηθεί το ποικιλόμορφο εργατικό δυναμικό που απαιτείται για να βοηθήσει τους πιο ευάλωτους οργανισμούς να αποτρέψουν πιθανές κυβερνοεπιθέσεις. Επίσης, αντιμετωπίζει τους νέους κινδύνους από την τεχνητή νοημοσύνη (AI), παρέχοντας στους φοιτητές κατανόηση των αλλαγών που βασίζονται στην AI στο τοπίο των απειλών στον κυβερνοχώρο και βοηθώντας τους να ενσωματώσουν αποτελεσματικά την AI σε πρακτικά μέτρα κυβερνοασφάλειας.
Τα συμμετέχοντα πανεπιστήμια αναμένεται να προωθήσουν ενεργά την ισότητα, την πολυμορφία και την ένταξη στα προγράμματά τους. Θα πρέπει να ενθαρρύνουν την έντονη συμμετοχή ατόμων με διαφορετικό υπόβαθρο και να δημιουργούν ένα περιβάλλον εκπαίδευσης χωρίς αποκλεισμούς, εμπλουτίζοντας έτσι τη συνολική μαθησιακή εμπειρία και ενισχύοντας την κοινότητα της κυβερνοασφάλειας.
Φόρτωση…