Επισκεπτόμενοι τον ιστότοπό μας, συμφωνείτε με πολιτική απορρήτου σχετικά με τα cookies, τα στατιστικά στοιχεία παρακολούθησης κ.λπ.
Υποβάλετε τώρα αίτηση για δωρεάν υποστήριξη από το Κέντρο Υπηρεσιών Κυβερνοασφάλειας
Υποβάλετε αίτηση για δωρεάν υποστήριξη στην κυβερνοασφάλεια
Παρακολουθήστε το Ransomware Defence Summer Bootcamp στο Άμστερνταμ, Ιούνιος 2026
Παρακολουθήστε το δωρεάν καλοκαιρινό μας bootcamp για την άμυνα κατά του ransomware
Εγγραφείτε στο online live μάθημα Foundations of Cybersecurity and AI
Μάθετε online για τα θεμέλια της ασφάλειας στον κυβερνοχώρο και το AI
Η παρούσα έκθεση, η οποία διερευνήθηκε κατά τη διάρκεια του καλοκαιριού 2024, εξετάζει την αυξημένη χρήση των AI chatbots στον ακαδημαϊκό χώρο μετά την έναρξη του ChatGPT το 2022 και την ανταπόκριση των εκπαιδευτικών ιδρυμάτων μέσω εργαλείων ανίχνευσης AI. Συζητά τη διαφορετική αποτελεσματικότητα αυτών των εργαλείων στον εντοπισμό περιεχομένου που παράγεται από ΤΝ, με ζητήματα όπως τα ψευδώς θετικά και τα ψευδώς αρνητικά αποτελέσματα. Η έκθεση υπογραμμίζει επίσης ηθικές ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής, την ακρίβεια και τη χρήση της ΤΝ στην εκπαίδευση. Ορισμένα ιδρύματα επανεξετάζουν τη χρήση εργαλείων ανίχνευσης, επιλέγοντας αντ' αυτού να ενσωματώσουν την ΤΝ στα προγράμματα σπουδών με υπευθυνότητα.
Ο παρών οδηγός απευθύνεται κυρίως σε πανεπιστήμια και άλλα ιδρύματα τριτοβάθμιας εκπαίδευσης που συμμετέχουν στο πρόγραμμα σεμιναρίων κυβερνοασφάλειας Google.org. Απευθύνεται στους Πρωταθλητές Διδακτικού Προσωπικού και στους Πρωταθλητές EDI αυτών των προγραμμάτων. Πέρα από τα Σεμινάρια Κυβερνοασφάλειας του Google.org, ο οδηγός αυτός μπορεί επίσης να έχει σημασία για άλλους οργανισμούς που ασχολούνται με την πρακτική εκπαίδευση στην κυβερνοασφάλεια.
Η έναρξη του ChatGPT το 2022 προκάλεσε παγκόσμιο ενδιαφέρον για την τεχνητή νοημοσύνη (AI) και οδήγησε σε ευρεία χρήση των chatbots AI, μεταξύ άλλων και από φοιτητές. Μετά την εμφάνιση των AI chatbots, εκφράστηκαν ανησυχίες από τα ιδρύματα τριτοβάθμιας εκπαίδευσης σχετικά με την "αθέμιτη χρήση περιεχομένου που παράγεται από τεχνητή νοημοσύνη σε ακαδημαϊκό περιβάλλον"1 και την "πρωτοτυπία και την καταλληλότητα του περιεχομένου που παράγεται από το chatbot".2
Για τον εντοπισμό και τη διαχείριση της ακατάλληλης ή αθέμιτης χρήσης τέτοιων chatbots, τα εργαλεία ανίχνευσης AI έχουν αυξηθεί σε δημοτικότητα, με τα τυπικά εργαλεία λογοκλοπής, όπως το TurnItIn, να στρέφονται προς τον εντοπισμό περιεχομένου που παράγεται από AI σε διάφορους βαθμούς αποτελεσματικότητας και σε διάφορες τιμές.3 Τα περισσότερα εργαλεία ανίχνευσης τεχνητής νοημοσύνης στον ακαδημαϊκό χώρο είναι ενσωματωμένα σε ευρύτερες εκπαιδευτικές πλατφόρμες, όπως οι Moodle, Canvas, Blackboard, Brightspace, Schoology ή Sakai.4
Τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης εντοπίζουν το παραγόμενο κείμενο με τη χρήση αντιστοίχισης μοτίβων αντί να το συγκρίνουν με μια βάση δεδομένων, όπως κάνουν οι παραδοσιακοί ελεγκτές λογοκλοπής. Τα γλωσσικά μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων κειμένου για να μάθουν πιθανοτικούς γλωσσικούς κανόνες, τους οποίους χρησιμοποιούν για τη δημιουργία νέου περιεχομένου. Ωστόσο, το παραγόμενο κείμενο παρουσιάζει συχνά προβλέψιμα μοτίβα, όπως συνεπείς δομές προτάσεων, υπερβολική χρήση ορισμένων συνδέσμων και λεξιλογίου και προβλέψιμα μήκη προτάσεων ή παραγράφων. Τα εργαλεία ανίχνευσης στοχεύουν στον εντοπισμό αυτών των μοτίβων και μπορεί επίσης να ενσωματώνουν παραδοσιακούς ελέγχους λογοκλοπής για τον εντοπισμό κειμένου που μπορεί να έχει αναπαραχθεί απευθείας από τα δεδομένα εκπαίδευσης του μοντέλου.5
Όταν κυκλοφόρησαν για πρώτη φορά εργαλεία ανίχνευσης τεχνητής νοημοσύνης, τα ιδρύματα τριτοβάθμιας εκπαίδευσης έσπευσαν να τα ενσωματώσουν στις εκπαιδευτικές πλατφόρμες. Ωστόσο, τα περισσότερα, αν όχι όλα, τα εργαλεία ανίχνευσης ΤΝ μπορούν να παρακαμφθούν με αρκετό χρόνο και προσπάθεια.6 Ως εκ τούτου, ορισμένα ιδρύματα τριτοβάθμιας εκπαίδευσης αντιστρέφουν την απόφασή τους να χρησιμοποιήσουν ανιχνευτές ΤΝ. Το 2023, το Vanderbilt, το Michigan State, το Northwestern και το Πανεπιστήμιο του Τέξας στο Όστιν απενεργοποίησαν τους ανιχνευτές τεχνητής νοημοσύνης Turnitin, επικαλούμενα προβλήματα αποτελεσματικότητας που αναφέρθηκαν παραπάνω.7 Είναι πιθανό να ακολουθήσουν και άλλα εκπαιδευτικά ιδρύματα, καθώς ενδέχεται τα εργαλεία ανίχνευσης να προκαλούν περισσότερα προβλήματα από όσα επιλύουν.8 Ορισμένα ακαδημαϊκά ιδρύματα όχι μόνο απενεργοποιούν τα εργαλεία ανίχνευσης της ΤΝ, αλλά βρίσκουν τρόπους να ενσωματώσουν τα LLM ηθικά και παραγωγικά στα προγράμματα σπουδών τους.9
Επιπλέον, έχουν κυκλοφορήσει νέα εργαλεία "εξανθρωπισμού" που επιτρέπουν στους χρήστες του LLM να παρακάμπτουν τα εργαλεία ανίχνευσης ΤΝ μέσω "επαναδιατύπωσης προτάσεων, αλλαγής δομών και ενσωμάτωσης ποικίλου λεξιλογίου", γεγονός που μειώνει σημαντικά την πιθανότητα ανίχνευσης ΤΝ.10 Η αρχική έρευνα δείχνει ότι τα εργαλεία παράφρασης περιπλέκουν σημαντικά την ανίχνευση της ΤΝ.11 Για παράδειγμα, η Washington Post διαπίστωσε ότι το Turnitin δυσκολεύεται να εντοπίσει περιεχόμενο που έχει δημιουργηθεί από τεχνητή νοημοσύνη όταν το κείμενο αναμειγνύει περιεχόμενο που έχει δημιουργηθεί από ανθρώπους και τεχνητή νοημοσύνη μέσω εργαλείων παράφρασης.12
Παρόλο που το Turnitin κυκλοφόρησε μια νέα λειτουργία ανίχνευσης παράφρασης AI στο εργαλείο ανίχνευσης AI,13 οι αντιδράσεις αυτές δημιουργούν ένα δύσκολο πλαίσιο αγοράς για την ανίχνευση ΤΝ, με άλλες εταιρείες να στρέφονται σε άλλα επιχειρηματικά μοντέλα,14 ή κλείσιμο.15
Παρακάτω παρατίθενται με αλφαβητική σειρά ορισμένα από τα σημαντικότερα εργαλεία ανίχνευσης τεχνητής νοημοσύνης. Έχουμε επίσης συμπεριλάβει δημόσια προσβάσιμες πληροφορίες σχετικά με την αποτελεσματικότητα της ανίχνευσης, την ενσωμάτωση της εκπαιδευτικής πλατφόρμας, την τιμολόγηση (σε δολάρια ΗΠΑ) και την ημερομηνία κυκλοφορίας ή/και ενημέρωσης. Σημειώστε ότι τα περισσότερα από τα εργαλεία ανίχνευσης ΤΝ που παρατίθενται παρακάτω είναι κυρίως αποτελεσματικά μόνο κατά του ChatGPT-3.5.
| Εργαλείο ανίχνευσης AI | Υπάρχει ενσωμάτωση σε εκπαιδευτικές πλατφόρμες; | Τιμολόγηση (USD) | Ημερομηνία έκδοσης/ενημέρωσης |
| Compilatio | Ναι: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMS | Δεν βρέθηκαν πληροφορίες16 | Φεβρουάριος 2023 |
| Περιεχόμενο σε κλίμακα | Ναι: περιορισμένες πληροφορίες | $49/μήνα17 | Δεν υπάρχουν πληροφορίες |
| Ανιχνευτής περιεχομένου AI | Δεν υπάρχουν πληροφορίες | Δεν βρέθηκαν πληροφορίες | 202318 |
| Copyleaks | Ναι: Moodle, Canvas, Blackboard, Brightspace, Schoology, Sakai | $7.99-$13.99/month19 | Ιανουάριος 2023 |
| Crossplag | Δεν υπάρχουν πληροφορίες | $7-$100/month20 | Ιανουάριος 2023 |
| Ανίχνευση GPT | Δεν υπάρχουν πληροφορίες | $7-$29/μήνα21 | Δεν υπάρχουν πληροφορίες |
| Duplichecker | Δεν υπάρχουν πληροφορίες | $110-$2000/year22 | 2024 |
| Πήγαινε Γουίνστον | Δεν υπάρχουν πληροφορίες | $12-$32/month23 | Φεβρουάριος 2023 |
| GPT-Zero | Ναι: Canvas, Coursify.me, K16 solutions, NewsGuard | $10-$23/month24 | Ιανουάριος 2023 |
| Πρωτοτυπία | Ναι: Moodle, Scribbr | $14.95-$30/month25 | Νοέμβριος 2022 |
| Ανιχνευτής λογοκλοπής (ανίχνευση τεχνητής νοημοσύνης) | Δεν υπάρχουν πληροφορίες | $110-$330/year26 | Δεν υπάρχουν πληροφορίες |
| Quillbot | Ναι: Δεν υπάρχουν δημόσια διαθέσιμες λεπτομέρειες σχετικά με τις πλατφόρμες | $0-$8.33/month27 | Δεν υπάρχουν πληροφορίες |
| Δενδρύλλιο | Ασαφές | $0-$12/μήνα28 | Ιανουάριος 2023 |
| Scispace | Πιθανόν, ωστόσο η έλλειψη πληροφοριών | $0-$8/μήνα29 | Δεν υπάρχουν πληροφορίες |
| Turnitin | Ναι: Brightspace, Scribbr | $3/φοιτητής/έτος30 | Απρίλιος 2023 |
| Μη ανιχνεύσιμο AI | Δεν υπάρχουν πληροφορίες | $5-$14.99/month31 | Μάιος 2023 |
| Wordtune | Πιθανόν, ωστόσο η έλλειψη πληροφοριών | $0-$9.99/month32 | Ιανουάριος 2023 |
| Ανιχνευτής AI του συγγραφέα | Δεν υπάρχουν πληροφορίες | $0-$18/μήνα33 | Δεν υπάρχουν πληροφορίες |
| ZeroGPT | Ναι: Δεν υπάρχουν δημόσια διαθέσιμες λεπτομέρειες σχετικά με τις πλατφόρμες | $0-$18.99/month34 | Ιανουάριος 2023 |
Στο πλαίσιο των εργαλείων ανίχνευσης τεχνητής νοημοσύνης, τα ψευδώς θετικά αποτελέσματα προκύπτουν όταν ένα εργαλείο ανίχνευσης τεχνητής νοημοσύνης αναγνωρίζει εσφαλμένα το υποβληθέν περιεχόμενο ως παραγόμενο από τεχνητή νοημοσύνη. Ορισμένες μελέτες υποδεικνύουν ότι τα εργαλεία ανίχνευσης ΤΝ έχουν υψηλό ποσοστό ψευδώς θετικών αποτελεσμάτων και μόνο λίγα εργαλεία ανίχνευσης ΤΝ έχουν σημαντικά χαμηλά ποσοστά ψευδώς θετικών αποτελεσμάτων.35 Σε ένα ακαδημαϊκό περιβάλλον, αυτό μπορεί να σημαίνει ότι οι εργασίες των φοιτητών χαρακτηρίζονται εσφαλμένα ως παραγόμενες από τεχνητή νοημοσύνη, ενώ στην πραγματικότητα είναι ανθρώπινης παραγωγής. Υπάρχουν επίσης διαφορές ανάλογα με το ποιο μοντέλο τεχνητής νοημοσύνης χρησιμοποιείται για τη δημιουργία του υποβαλλόμενου κειμένου για τον έλεγχο του εργαλείου ανίχνευσης τεχνητής νοημοσύνης, και αντίστροφα, με διαφορετικά αποτελέσματα μεταξύ των μελετών.36 Επιπλέον, το περιεχόμενο που προέρχεται από μη φυσικούς ομιλητές της αγγλικής γλώσσας είναι πιο πιθανό να ταξινομηθεί εσφαλμένα ως παραγόμενο από τεχνητή νοημοσύνη, γεγονός που προφανώς αποτελεί πρόβλημα για εκπαιδευτικά ιδρύματα με μαθητές από διάφορα υπόβαθρα.37
Στο πλαίσιο των εργαλείων ανίχνευσης τεχνητής νοημοσύνης, τα ψευδώς αρνητικά αποτελέσματα προκύπτουν όταν ένα εργαλείο ανίχνευσης τεχνητής νοημοσύνης αποτυγχάνει να αναγνωρίσει το περιεχόμενο που υποβάλλεται ως παραγόμενο από τεχνητή νοημοσύνη. Ορισμένα εργαλεία παρουσίασαν χαμηλή ευαισθησία, αναγνωρίζοντας σωστά μόλις 15% των υποβληθέντων δειγμάτων ως παραγόμενα από ΤΝ,38 ενώ άλλα επιδεικνύουν σχεδόν τέλεια αποτελέσματα στην ταξινόμηση περιεχομένου που έχει γραφτεί από ανθρώπους, ταξινομώντας λανθασμένα μόνο 3% των δειγμάτων που δημιουργήθηκαν από τεχνητή νοημοσύνη.39 Σε γενικές γραμμές, τα αποτελέσματα διαφέρουν σημαντικά ως προς την ακρίβεια ανάλογα με το εργαλείο ανίχνευσης ΤΝ που χρησιμοποιείται. Μια μελέτη δείχνει ότι μόνο δύο από τα κύρια εργαλεία ανίχνευσης ΤΝ ταξινομούν σωστά και τα 126 δείγματα είτε ως ΤΝ είτε ως ανθρώπινης παραγωγής.40 Άλλοι ερευνητές υποστηρίζουν ότι τα εργαλεία ανίχνευσης ΤΝ παράγουν περισσότερα ψευδώς αρνητικά αποτελέσματα όταν αναλύουν πιο περίπλοκη γλώσσα.41
Σε γενικές γραμμές, η αποτελεσματικότητα των εργαλείων ανίχνευσης ΤΝ ποικίλλει ανάλογα με το εργαλείο που χρησιμοποιείται και με ποιο μοντέλο. Μια μελέτη διαπίστωσε ότι τα εργαλεία ανίχνευσης ΤΝ είναι πιο αποτελεσματικά με περιεχόμενο ChatGPT-3.5 και λιγότερο με ChatGPT-4, εκτός από τα Copyleaks, Turnitin και Originality.ai, τα οποία είχαν ακρίβεια μεγαλύτερη από 83% στον εντοπισμό περιεχομένου ChatGPT-4.42 Η μελέτη αυτή κατέληξε στο συμπέρασμα ότι "η κατάσταση ενός ανιχνευτή ως δωρεάν ή επί πληρωμή δεν αποτελεί καλό δείκτη της ακρίβειάς του",43 αν και τα αντίθετα ευρήματα (με μικρό μέγεθος δείγματος) υποδηλώνουν προσωρινά ότι τα επί πληρωμή εργαλεία ανίχνευσης τεχνητής νοημοσύνης φαίνεται να είναι καλύτερα από τα δωρεάν εργαλεία ανίχνευσης τεχνητής νοημοσύνης.44 Οι μελέτες επικεντρώνονται επίσης γενικά στην αποτελεσματικότητα των εργαλείων ανίχνευσης ΤΝ έναντι του ChatGPT, αγνοώντας άλλες LLM. Αυτό μπορεί να οφείλεται στη μεγαλύτερη δημοτικότητα των μοντέλων της OpenAI σε σύγκριση με άλλα, όπως τα Gemini, Mistral ή Command.
Η χρήση των chatbots τεχνητής νοημοσύνης στην ακαδημαϊκή κοινότητα εγείρει σημαντικά ηθικά ζητήματα, αρχής γενομένης από τη ζημία της φήμης τόσο για τους φοιτητές όσο και για τα ιδρύματα τριτοβάθμιας εκπαίδευσης. Για τους φοιτητές, η μη αποκάλυψη της χρήσης περιεχομένου που παράγεται από ΤΝ και η παράδοσή του ως δικό τους μπορεί να βλάψει τη συνεχιζόμενη εκπαίδευσή τους και τη μελλοντική τους σταδιοδρομία. Τα πανεπιστήμια μπορούν ομοίως να αντιμετωπίσουν κατηγορίες ότι επιτρέπουν τη λογοκλοπή, την εξαπάτηση και δεν τηρούν την ακαδημαϊκή ακεραιότητα.
Ωστόσο, η χρήση εργαλείων ανίχνευσης τεχνητής νοημοσύνης χωρίς κατάλληλες διασφαλίσεις δημιουργεί εξίσου σημαντικές ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής και τη συναίνεση, ιδίως όσον αφορά τις συμβατικές ρυθμίσεις μεταξύ των πανεπιστημίων και του παρόχου του εργαλείου. Τέτοιες ανησυχίες περιλαμβάνουν το τι συμβαίνει με το περιεχόμενο που μεταφορτώνεται, πώς αποθηκεύεται και τη συναίνεση εάν το περιεχόμενο που μεταφορτώνεται χρησιμοποιείται σε μελλοντικά δεδομένα εκπαίδευσης.
Επιπλέον, όπως συζητήθηκε στην προηγούμενη ενότητα, τα εργαλεία ανίχνευσης ΤΝ ενδέχεται να αναγνωρίσουν εσφαλμένα το περιεχόμενο που έχει γραφτεί από άνθρωπο ως ΤΝ (ψευδώς θετικά αποτελέσματα) ή να αποτύχουν να ανιχνεύσουν κείμενο που έχει παραχθεί από ΤΝ (ψευδώς αρνητικά αποτελέσματα). Η ακρίβεια ποικίλλει ευρέως, με ορισμένα εργαλεία να ανιχνεύουν καλύτερα το ChatGPT-3.5. Τέλος, παίζουν ένα παιχνίδι γάτας και ποντικιού με μεθόδους για να αποφύγουν την ανίχνευση - συμπεριλαμβανομένου λογισμικού που παράγει ειδικά περιεχόμενο σχεδιασμένο ώστε να μην ανιχνεύεται από τα τυπικά εργαλεία ανίχνευσης ΤΝ.45
Τα εργαλεία ανίχνευσης ΤΝ συμβάλλουν επίσης σε ευρύτερες συζητήσεις σχετικά με την πρόσβαση, την ισότητα και τις περιβαλλοντικές επιπτώσεις. Οι φοιτητές μπορεί να χρησιμοποιούν την ΤΝ για να υποστηρίξουν τη μετάφραση και την κατανόηση των μαθημάτων, ιδίως εάν σπουδάζουν σε αγγλόφωνη χώρα και προέρχονται από μη αγγλόφωνο ή άλλο μειονοτικό περιβάλλον με ιστορικά λιγότερες ευκαιρίες για πανεπιστημιακή εκπαίδευση. Προβλήματα πρόσβασης προκύπτουν επίσης λόγω της εμπορικής διαθεσιμότητας των LLM- οι πιο εύποροι φοιτητές μπορεί να είναι σε θέση να πληρώσουν για πιο εξελιγμένα μοντέλα και/ή να τροφοδοτήσουν την εργασία τους μέσω πολλαπλών LLM, πράγμα που σημαίνει ότι οι πιθανότητες εντοπισμού μειώνονται σημαντικά.46
Το πρόγραμμα σεμιναρίων κυβερνοασφάλειας Google.org υποστηρίζει μαθήματα σεμιναρίων κυβερνοασφάλειας σε επιλεγμένα πανεπιστήμια και άλλα επιλέξιμα ιδρύματα τριτοβάθμιας εκπαίδευσης στην Ευρώπη, τη Μέση Ανατολή και την Αφρική, για να βοηθήσει τους φοιτητές να μάθουν περισσότερα για την κυβερνοασφάλεια και να διερευνήσουν τις προοπτικές του τομέα. Το πρόγραμμα υποστηρίζει ενεργά την επέκταση της εκπαίδευσης σε θέματα κυβερνοασφάλειας στα πανεπιστήμια, ώστε να δημιουργηθεί το ποικιλόμορφο εργατικό δυναμικό που απαιτείται για να βοηθήσει τους πιο ευάλωτους οργανισμούς να αποτρέψουν πιθανές κυβερνοεπιθέσεις. Επίσης, αντιμετωπίζει τους νέους κινδύνους από την τεχνητή νοημοσύνη (AI), παρέχοντας στους φοιτητές κατανόηση των αλλαγών που βασίζονται στην AI στο τοπίο των απειλών στον κυβερνοχώρο και βοηθώντας τους να ενσωματώσουν αποτελεσματικά την AI σε πρακτικά μέτρα κυβερνοασφάλειας.
Τα συμμετέχοντα πανεπιστήμια αναμένεται να προωθήσουν ενεργά την ισότητα, την πολυμορφία και την ένταξη στα προγράμματά τους. Θα πρέπει να ενθαρρύνουν την έντονη συμμετοχή ατόμων με διαφορετικό υπόβαθρο και να δημιουργούν ένα περιβάλλον εκπαίδευσης χωρίς αποκλεισμούς, εμπλουτίζοντας έτσι τη συνολική μαθησιακή εμπειρία και ενισχύοντας την κοινότητα της κυβερνοασφάλειας.