Приєднуйтесь до нас на Binding Hook Live 27 жовтня в Underbelly Boulevard Soho в Лондоні
Приєднуйтесь до нас на Binding Hook Live
Звіт

Вирішення проблем виявлення ШІ в академічних колах

Семінари з кібербезпеки

У цьому звіті, підготовленому влітку 2024 року, досліджується зростання використання чат-ботів зі штучним інтелектом в академічних колах після запуску ChatGPT у 2022 році та реакція навчальних закладів на це за допомогою інструментів виявлення штучного інтелекту. У ньому обговорюється різна ефективність цих інструментів у виявленні контенту, створеного штучним інтелектом, а також такі проблеми, як хибнопозитивні та хибнонегативні спрацьовування. У звіті також висвітлюються етичні проблеми, пов'язані з конфіденційністю, точністю та використанням ШІ в освіті. Деякі навчальні заклади переглядають використання інструментів виявлення, вирішуючи натомість відповідально інтегрувати ШІ в навчальні програми.

Для кого цей посібник?

Цей посібник призначений насамперед для університетів та інших вищих навчальних закладів, які беруть участь у Програмі семінарів з кібербезпеки Google.org. Він адресований факультетським чемпіонам та чемпіонам з електронного документообігу цих програм. Окрім семінарів Google.org з кібербезпеки, цей посібник також може бути корисним для інших організацій, що займаються практичною освітою з кібербезпеки.

Зростання кількості чат-ботів зі штучним інтелектом та інструментів виявлення

Запуск ChatGPT у 2022 році викликав інтерес до штучного інтелекту (ШІ) у всьому світі та призвів до широкого використання чат-ботів зі штучним інтелектом, у тому числі й студентами. Після появи чат-ботів зі штучним інтелектом вищі навчальні заклади висловили занепокоєння щодо "недобросовісного використання контенту, створеного штучним інтелектом, в академічному середовищі"1 та "оригінальність і доречність контенту, згенерованого чат-ботом".2

Для виявлення та управління неналежним або недобросовісним використанням таких чат-ботів зросла популярність інструментів виявлення ШІ, причому стандартні інструменти для виявлення плагіату, такі як TurnItIn, з різним ступенем ефективності та за різними ціновими показниками виявляють контент, згенерований ШІ.3  Більшість інструментів виявлення ШІ в академічних колах інтегровані в більш широкі освітні платформи, такі як Moodle, Canvas, Blackboard, Brightspace, Schoology або Sakai.4

Інструменти виявлення ШІ ідентифікують згенерований текст, використовуючи співставлення шаблонів, а не порівнюючи його з базою даних, як це роблять традиційні програми перевірки на плагіат. Мовні моделі навчаються на величезних обсягах текстових даних, щоб вивчити імовірнісні мовні правила, які вони використовують для створення нового контенту. Однак згенерований текст часто демонструє передбачувані шаблони, такі як однакові структури речень, надмірне використання певних сполучників і лексики, а також передбачувану довжину речень або абзаців. Інструменти виявлення спрямовані на виявлення цих шаблонів, а також можуть включати традиційну перевірку на плагіат, щоб виявити текст, який міг бути відтворений безпосередньо з навчальних даних моделі.5

Реакція на інструменти виявлення ШІ

Коли інструменти виявлення штучного інтелекту були вперше випущені, вищі навчальні заклади поспішили інтегрувати їх в освітні платформи. Однак більшість, якщо не всі, інструменти виявлення ШІ можна обійти, якщо докласти достатньо часу та зусиль.6 Тому деякі вищі навчальні заклади скасовують своє рішення про використання датчиків зі штучним інтелектом. У 2023 році Вандербільт, Мічиганський державний, Північно-Західний і Техаський університети в Остіні відключили свої АІ-детектори Turnitin, посилаючись на проблеми з ефективністю, про які йшлося вище.7 Інші навчальні заклади, ймовірно, наслідуватимуть цей приклад, оскільки може виявитися, що інструменти виявлення створюють більше проблем, ніж вирішують.8 Деякі навчальні заклади не лише відключають інструменти для виявлення ШІ, але й знаходять способи етичного та продуктивного включення магістерських програм у свої навчальні програми.9

Крім того, були випущені нові інструменти-"гуманізатори", які дозволяють користувачам LLM обходити інструменти виявлення ШІ шляхом "перефразування речень, зміни структури та включення різноманітної лексики", що значно знижує ймовірність виявлення ШІ.10 Початкові дослідження показують, що інструменти перефразування значно ускладнюють виявлення ШІ.11 Наприклад, Washington Post виявив, що Turnitin має проблеми з ідентифікацією контенту, створеного штучним інтелектом, коли в тексті змішується людський контент і контент, створений штучним інтелектом, за допомогою інструментів перефразування.12

Хоча Turnitin випустив нову функцію виявлення перефразування ШІ в своєму інструменті виявлення ШІ,13 Такі відповіді створюють складний ринковий контекст для виявлення ШІ, а інші компанії переорієнтовуються на інші бізнес-моделі,14 або закриття.15

Які інструменти для виявлення ШІ є на ринку?

Нижче в алфавітному порядку наведено перелік основних інструментів для виявлення ШІ. Ми також включили загальнодоступну інформацію про ефективність виявлення, інтеграцію з освітніми платформами, ціну (в доларах США), а також дату випуску та/або оновлення. Зверніть увагу, що більшість з перелічених нижче інструментів виявлення ШІ ефективні лише проти ChatGPT-3.5.

Інструмент виявлення ШІЧи є інтеграція в освітні платформи?Ціни (USD)Дата випуску/оновлення
CompilatioТак: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMSІнформацію не знайдено16Лютий 2023 року
Зміст у масштабіТак: обмежена інформація$49/місяць17Немає інформації
AI-детектор вмістуНемає інформаціїІнформацію не знайдено202318
CopyleaksТак: Moodle, Canvas, Blackboard, Brightspace, Schoology, Sakai$7.99-$13.99/month19Січень 2023 року
CrossplagНемає інформації$7-$100/month20Січень 2023 року
Виявити GPTНемає інформації$7-$29/місяць21Немає інформації
DuplicheckerНемає інформації$110-$2000/year222024
Вперед, Вінстоне.Немає інформації$12-$32/month23Лютий 2023 року
GPT-нульТак: Canvas, Coursify.me, рішення K16, NewsGuard$10-$23/month24Січень 2023 року
ОригінальністьТак: Moodle, Scribbr$14.95-$30/month25Листопад 2022
Детектор плагіату (ШІ-детектор)Немає інформації$110-$330/year26Немає інформації
Квілбот.Так: У відкритому доступі немає інформації про те, які саме платформи$0-$8.33/month27Немає інформації
СаджанецьНеясно.$0-$12/місяць28Січень 2023 року
ScispaceЙмовірно, однак брак інформації$0-$8/місяць29Немає інформації
ТурнітинТак: Brightspace, Scribbr$3/студент/рік30Квітень 2023 року
ШІ, який неможливо виявитиНемає інформації$5-$14.99/month31Травень 2023 року
WordtuneЙмовірно, однак брак інформації$0-$9.99/month32Січень 2023 року
ШІ-детектор для письменникаНемає інформації$0-$18/місяць33Немає інформації
ZeroGPTТак: У відкритому доступі немає інформації про те, які саме платформи$0-$18.99/month34Січень 2023 року

Ефективність інструментів виявлення ШІ

Хибні спрацьовування

У контексті інструментів виявлення ШІ хибні спрацьовування виникають, коли інструмент виявлення ШІ неправильно ідентифікує надісланий контент як згенерований ШІ. Деякі дослідження показують, що інструменти виявлення ШІ мають високий рівень хибних спрацьовувань, і лише деякі інструменти виявлення ШІ мають суттєво низький рівень хибних спрацьовувань.35  В академічному середовищі це може означати неправильне позначення студентської роботи як створеної штучним інтелектом, хоча насправді вона створена людиною. Також виявлено відмінності залежно від того, яка модель ШІ використовується для створення тексту, що подається на перевірку інструменту виявлення ШІ, і навпаки, з різними результатами в різних дослідженнях.36 Крім того, контент, створений особами, які не є носіями англійської мови, з більшою ймовірністю може бути неправильно класифікований як створений штучним інтелектом, що, очевидно, є проблемою для навчальних закладів, де навчаються студенти з різним походженням.37

Хибнонегативні результати

У контексті інструментів виявлення ШІ помилкові спрацьовування виникають, коли інструмент виявлення ШІ не може ідентифікувати надісланий контент як згенерований ШІ. Деякі інструменти показали низьку чутливість, правильно ідентифікувавши лише 15% з надісланих зразків як згенеровані ШІ,38 тоді як інші демонструють майже ідеальний результат у класифікації написаного людиною контенту, неправильно класифікуючи лише 3% зразків, згенерованих штучним інтелектом.39  Загалом, результати дуже різняться за точністю залежно від того, який інструмент виявлення ШІ використовується. Одне дослідження показало, що лише два з основних інструментів виявлення ШІ правильно класифікували всі 126 зразків як створені штучним інтелектом або людиною.40 Інші дослідники стверджують, що інструменти виявлення ШІ дають більше помилкових спрацьовувань при аналізі більш складної мови.41

Інші міркування

Загалом, ефективність інструментів виявлення ШІ варіюється залежно від того, який інструмент використовується і проти якої моделі. Одне дослідження показало, що інструменти виявлення ШІ більш ефективні з контентом у форматі ChatGPT-3.5 і менш ефективні з контентом у форматі ChatGPT-4, за винятком Copyleaks, Turnitin і Originality.ai, точність яких у виявленні контенту в форматі ChatGPT-4 була вищою за 83%.42 У цьому дослідженні зроблено висновок, що "безкоштовний чи платний статус детектора не є добрим показником його точності",43 хоча контрастні результати (з невеликим розміром вибірки) попередньо вказують на те, що платні інструменти для виявлення ШІ виявилися кращими за безкоштовні інструменти для виявлення ШІ.44 Дослідження також зазвичай зосереджуються на ефективності інструментів виявлення ШІ проти ChatGPT, ігноруючи інші LLM. Це може бути пов'язано з більшою популярністю моделей OpenAI порівняно з іншими, такими як Gemini, Mistral або Command.

Етика використання інструментів виявлення ШІ

Використання чат-ботів зі штучним інтелектом в академічних колах порушує значні етичні питання, починаючи з репутаційної шкоди як для студентів, так і для вищих навчальних закладів. Якщо студенти не повідомляють про використання контенту, створеного штучним інтелектом, і видають його за власний, це може зашкодити їхньому навчанню та майбутній кар'єрі. Університети також можуть зіткнутися зі звинуваченнями в потуранні плагіату, шахрайстві та недотриманні академічної доброчесності.

Однак використання інструментів виявлення ШІ без належних гарантій викликає не менше занепокоєння щодо конфіденційності та згоди, особливо щодо контрактних домовленостей між університетами та постачальником інструменту. Зокрема, йдеться про те, що відбувається із завантаженим контентом, як він зберігається, а також про згоду на використання завантаженого контенту в майбутніх навчальних даних.

Крім того, як зазначалося в попередньому розділі, інструменти виявлення ШІ можуть помилково ідентифікувати написаний людиною контент як ШІ (помилкові спрацьовування) або не виявляти текст, створений ШІ (помилкові негативні спрацьовування). Точність широко варіюється, причому деякі інструменти краще виявляють ChatGPT-3.5. Нарешті, вони грають у гру в кота і мишу з методами уникнення виявлення, включаючи програмне забезпечення, яке спеціально генерує контент, призначений для невиявлення стандартними інструментами виявлення ШІ.45 

Інструменти виявлення штучного інтелекту також сприяють ширшим дискусіям щодо доступу, рівності та впливу на навколишнє середовище. Студенти можуть використовувати ШІ для підтримки перекладу і розуміння курсових робіт, особливо якщо вони навчаються в англомовній країні і є представниками неангломовних або інших меншин, які історично мають менше можливостей для отримання університетської освіти. Проблеми з доступом також виникають через комерційну доступність магістерських програм; більш заможні студенти можуть оплачувати більш складні моделі та/або передавати свої роботи кільком магістрам, а це означає, що шанси на виявлення значно зменшуються.46

Примітки та посилання

  1.  Вебер-Вульф, Дебора, Алла Анохіна-Наумека, Соня Б'єлобаба, Томаш Фолтинек, Жан Герреро-Діб, Олуміде Попула, Петр Шигут та Лорна Ваддінгтон. "Тестування інструментів виявлення текстів, створених за допомогою штучного інтелекту". Міжнародний журнал з освітньої доброчесності 19, № 1 (25 грудня 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
  1.  Ельхатат, Ахмед М., Халед Ельсаїд та Саїд Альмір. "Оцінка ефективності інструментів виявлення контенту зі штучним інтелектом у розрізненні тексту, написаного людиною та згенерованого штучним інтелектом". Міжнародний журнал з освітньої доброчесності 19, № 1 (1 вересня 2023): 17. https://doi.org/10.1007/s40979-023-00140-5.
  1.  *Хоча цей звіт фокусується лише на академічному використанні, ми визнаємо, що існують кейси використання та потенційні переваги інструментів виявлення ШІ за межами академічної сфери, наприклад, у видавничій індустрії, журналістиці, рекрутингу та управлінні персоналом.
  1. Copyleaks. "Плагін для перевірки плагіату в LMS". Copyleaks. Доступно 29 серпня 2024 р. https://copyleaks.com/learning-management-systems.
  1. Фурз, Леон. "Виявлення ШІ в освіті - це глухий кут". Леон Фурзе, 8 квітня 2024 року. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.
  1. Коффі, Лорен. "Професори з обережністю ставляться до інструментів для виявлення письмових робіт, створених штучним інтелектом". Inside Higher Ed, 9 лютого 2024 року. https://www.insidehighered.com/news/tech-innovation/artificial-intelligence/2024/02/09/professors-proceed-caution-using-ai.
  1. Кілька джерел:
    1. Гаффарі, Ширін. "Університети переосмислюють використання детекторів письма зі штучним інтелектом для перевірки студентських робіт". Bloomberg.com21 вересня 2023 року. https://www.bloomberg.com/news/newsletters/2023-09-21/universities-rethink-using-ai-writing-detectors-to-vet-students-work
    2. Коулі, Майкл. "Посібник з виявлення ШІ та чому ми відключаємо детектор ШІ Turnitin". Університет Вандербільта, 16 серпня 2023 року. https://www.vanderbilt.edu/brightspace/2023/08/16/guidance-on-ai-detection-and-why-were-disabling-turnitins-ai-detector/.
  1. Фурз, Леон. "Виявлення ШІ в освіті - це глухий кут". Леон Фурзе, 8 квітня 2024 року. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.
  1.  Корнельський університет. "Етичний штучний інтелект для викладання та навчання". Центр педагогічних інновацій. Доступно 29 серпня 2024 року. https://teaching.cornell.edu/generative-artificial-intelligence/ethical-ai-teaching-and-learning.
  1.  MarGrowth. "Огляд UPass: Наскільки ефективно він може обійти виявлення ШІ | HackerNoon," 31 липня 2024 року. https://hackernoon.com/upass-review-how-effective-it-can-bypass-ai-detection.
  1. Кілька джерел: 
    1. Кар, Суджита Кумар, Тіна Бансал, Суміт Моді та Аміт Сінгх. "Наскільки чутливі безкоштовні інструменти для виявлення текстів, згенерованих штучним інтелектом? Порівняння популярних інструментів для виявлення АІ-текстів". Індійський журнал психологічної медицини11 травня 2024 року, 02537176241247934. https://doi.org/10.1177/02537176241247934.
    2.  Вебер-Вульф, Дебора, Алла Анохіна-Наумека, Соня Б'єлобаба, Томаш Фолтинек, Жан Герреро-Діб, Олуміде Попула, Петр Шигут та Лорна Ваддінгтон. "Тестування інструментів виявлення текстів, створених за допомогою штучного інтелекту". Міжнародний журнал з освітньої доброчесності 19, № 1 (25 грудня 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
    3. Садасіван, Віну Санкар, Аунон Кумар, Шрірам Баласубраманіан, Веньсяо Ван та Сохейл Фейзі. "Чи можна надійно розпізнати текст, створений штучним інтелектом?", 2023. https://doi.org/10.48550/ARXIV.2303.11156.
    4. Крішна, Калпеш, Ісяо Сонг, Марцена Карпінська, Джон Вітінг та Мохіт Айєр. "Перефразування уникає детекторів тексту, згенерованого штучним інтелектом, але пошук є ефективним захистом", 2023. https://doi.org/10.48550/ARXIV.2303.13408.
  1. Фаулер, Джеффрі, А. "Ми протестували новий ChatGPT-детектор для вчителів. Він позначив невинного студента". Tech in Your Life, 3 квітня 2023 року. https://www.washingtonpost.com/technology/2023/04/01/chatgpt-cheating-detection-turnitin/.
  1. Янг, Лора. "Виявлення перефразовування штучного інтелекту: Зміцнення цілісності академічного письма". Turnitin, 16 липня 2024 року. https://www.turnitin.com/blog/ai-paraphrasing-detection-strengthening-the-integrity-of-academic-writing.
  1.  Едвардс, Бендж. "Чому детектори написання ШІ не працюють". Ars Technica, 14 липня 2023 року. https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/.
  1. Кілька джерел:
    1. Колдеві, Девін. "OpenAI відмовляється від детектора написаного штучним інтелектом тексту через "низьку точність". TechCrunch, 25 липня 2023 року. https://techcrunch.com/2023/07/25/openai-scuttles-ai-written-text-detector-over-low-rate-of-accuracy/.
    2. Коулі, Майкл. "Посібник з виявлення ШІ та чому ми відключаємо детектор ШІ Turnitin". Університет Вандербільта, 16 серпня 2023 року. https://www.vanderbilt.edu/brightspace/2023/08/16/guidance-on-ai-detection-and-why-were-disabling-turnitins-ai-detector/.
  1. Compilatio. "Перевірка вмісту ШІ: Виявлення ШІ за допомогою Compilatio." Compilatio. Доступно 27 серпня 2024 р. https://www.compilatio.net/en/ai-detector-info.
  1. Масштабування контенту. "AI Detector - це перевірка АІ в реальному часі та детектор чатGPT". Content @ Scale. Доступно 27 серпня 2024 р. https://brandwell.ai/ai-content-detector/.
  1.  "Копайлікс". "Copyleaks запускає детектор контенту зі штучним інтелектом | Прес-реліз". Copyleaks. Доступно 27 серпня 2024 р. https://copyleaks.com/about-us/media/copyleaks-launches-ai-content-detector.
  1.  Копайлікс. "Ціноутворення". Copyleaks. Доступно 19 серпня 2024 р. https://copyleaks.com/pricing.
  1. Іваннікова, Ольга. "Що таке АІ-детектор Crossplag? Ціна, можливості та як ним користуватися", 12 червня 2024 року. https://articlesbase.com/tech/emerging-technologies/artificial-intelligence/ai-tools-and-software/what-is-crossplag-ai-detector-pricing-features-and-how-to-use/.
  1.  DetectGPT. "ШІ-детектор, якому можна довіряти - DetectGPT". Режим доступу: https://detectgpt.com/#pricing.
  1.  Подвійна шашка. "Ціни та плани". Duplichecker.com. Доступно 27 серпня 2024 р. https://www.duplichecker.com/pricing.
  1.   Вінстон Ел. "Ціноутворення". Вінстон Ейлі (блог). Режим доступу: 27 серпня 2024 р. https://gowinston.ai/pricing/.
  1. GPTZero. "Ціноутворення". GPTZero. Доступно 19 серпня 2024 р. https://gptzero.me/.
  1. Scribbr. “Frequently Asked Questions: How Much Does Originality AI Cost?” Scribbr. Accessed August 19, 2024. https://www.scribbr.com/frequently-asked-questions/how-much-does-originality-ai-cost/#:~:text=Originality.ai%20offers%20two%20pricing,10%20words%20for%20fact%20checking.
  1. PlagiarismDetector.net. "Ціноутворення та плани | Plagiarismdetector.net". PlagiarismDetector.net. Доступно 27 серпня 2024 р. https://plagiarismdetector.net/pricing.
  1. Квілбот. "Ціноутворення". Quillbot, n.d. https://quillbot.com/premium.
    1. Sapling AI. "Ціни на API | Документація для розробників Sapling.Ai". Sapling AI. Доступно 27 серпня 2024 р. https://sapling.ai/docs/api/pricing/.
    2. Штучний інтелект Саплайн. "Плани і ціни | Саплінг". Sapling AI. Доступно 27 серпня 2024 р. https://sapling.ai/pricing.
  1.  SciSpace. "SciSpace Premium - необмежений доступ до інструментів дослідження ШІ". SciSpace. Доступно 27 серпня 2024 року. https://typeset.io/pricing.
  1.  Міллер, Нік. "Ціноутворення на турнітин у 2024 році: Скільки це коштує?" Середній (блог), 11 липня 2024 року. https://medium.com/@nickmiller_writer/turnitin-pricing-in-2024-what-does-it-cost-80f552a7a20f.
  1. Невидимий ШІ. "Непомітна ціна: Виберіть ідеальний план для ваших потреб". Невидимий ШІ. Доступно 27 серпня 2024 р. https://undetectable.ai/pricing.
  1. Wordtune. "Тарифи та тарифні плани Wordtune | Виберіть свій тарифний план." Wordtune. Доступно 27 серпня 2024 р. https://www.wordtune.com/plans.
  1. Writer AI Studio. "Ціноутворення". Writer AI Studio. Доступно 27 серпня 2024 р. https://dev.writer.com/home/pricing.
  1.  Доступ до API для університетів; ZeroGPT, "ZeroGPT - Ціноутворення". "ZeroGPT - Ціноутворення". Доступно 3 вересня 2024 року. https://www.zerogpt.com/pricing.
  1.  Попков, Андрій А., і Тайсон С. Барретт. "Штучний інтелект проти академічних кіл: Експериментальне дослідження точності ШІ-детекторів тексту в академічному письмі з поведінкового здоров'я". Підзвітність у дослідженнях22 березня 2024 року, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1.  *Copyleaks, Turnitin, Originality.ai, Scribbr, Grammica, GPTZero, Crossplag, OpenAI, IvyPanda, GPT Radar, Content at Scale, Writer і Content Detector здатні класифікувати створений людиною контент, тоді як ZeroGPT, SEO.ai неефективні в цьому відношенні. Кілька джерел:
    1. Волтерс, Вільям Х. "Ефективність програмного забезпечення, призначеного для виявлення текстів, створених штучним інтелектом: Порівняння 16 детекторів тексту зі штучним інтелектом". Відкрита інформаційна наука 7, № 1 (6 жовтня 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
    2. Попков, Андрій А., і Тайсон С. Барретт. "Штучний інтелект проти академічних кіл: Експериментальне дослідження точності ШІ-детекторів тексту в академічному письмі з поведінкового здоров'я". Підзвітність у дослідженнях22 березня 2024 року, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1.  Лян, Вейсін, Мерт Юксекгонул, Інін Мао, Ерік Ву та Джеймс Зоу. "Детектори GPT упереджено ставляться до письменників, які не є носіями англійської мови". Візерунки 4, № 7 (2023): 100779. https://doi.org/10.1016/j.patter.2023.100779.
  1.  Попков, Андрій А., і Тайсон С. Барретт. "Штучний інтелект проти академічних кіл: Експериментальне дослідження точності ШІ-детекторів тексту в академічному письмі з поведінкового здоров'я". Підзвітність у дослідженнях22 березня 2024 року, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1.  Там же.
  1.  Волтерс, Вільям Х. "Ефективність програмного забезпечення, призначеного для виявлення текстів, створених штучним інтелектом: Порівняння 16 детекторів тексту зі штучним інтелектом". Відкрита інформаційна наука 7, № 1 (6 жовтня 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
  1.  Райан, "Детектори ChatGPT є упередженими і їх легко обдурити, показують дослідження". Райан, Джексон. "Детектори ChatGPT є упередженими і їх легко обдурити, показують дослідження". CNET, 12 липня 2023 року. https://www.cnet.com/tech/services-and-software/chatgpt-detectors-are-biased-and-easy-to-fool-research-shows/.
  1. Волтерс, Вільям Х. "Ефективність програмного забезпечення, призначеного для виявлення текстів, створених штучним інтелектом: Порівняння 16 детекторів тексту зі штучним інтелектом". Відкрита інформаційна наука 7, № 1 (6 жовтня 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
  1.  Там же.
  2.  Попков, Андрій А., і Тайсон С. Барретт. "Штучний інтелект проти академічних кіл: Експериментальне дослідження точності ШІ-детекторів тексту в академічному письмі з поведінкового здоров'я". Підзвітність у дослідженнях22 березня 2024 року, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1.  Вебер-Вульф, Дебора, Алла Анохіна-Наумека, Соня Б'єлобаба, Томаш Фолтинек, Жан Герреро-Діб, Олуміде Попула, Петр Шигут та Лорна Ваддінгтон. "Тестування інструментів виявлення текстів, створених за допомогою штучного інтелекту". Міжнародний журнал з освітньої доброчесності 19, № 1 (25 грудня 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
  2. Фурз, Леон. "Виявлення ШІ в освіті - це глухий кут". Леон Фурзе, 8 квітня 2024 року. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.

Про програму семінарів з кібербезпеки Google.org

Програма семінарів з кібербезпеки Google.org підтримує семінарські курси з кібербезпеки у вибраних університетах та інших вищих навчальних закладах Європи, Близького Сходу та Африки, щоб допомогти студентам дізнатися більше про кібербезпеку та дослідити шляхи розвитку в цій галузі. Програма активно підтримує розширення навчання з кібербезпеки в університетах, щоб сформувати різноманітну робочу силу, необхідну для допомоги найбільш вразливим організаціям у запобіганні потенційним кібератакам. Вона також розглядає нові ризики, пов'язані зі штучним інтелектом (ШІ), надаючи студентам розуміння змін у ландшафті кіберзагроз на основі ШІ та допомагаючи їм ефективно інтегрувати ШІ в практичні заходи з кібербезпеки.

Очікується, що університети-учасники активно просуватимуть рівність, різноманітність та інклюзивність у своїх програмах. Вони повинні заохочувати активну участь осіб з різним походженням і створювати інклюзивне середовище для навчання, тим самим збагачуючи загальний навчальний досвід і зміцнюючи спільноту кібербезпеки.

Автори

П'єр Лебрен

Коледж Лейденського університету

Юй Йонг Мак

Проєктний менеджер

Джеймс Ширз

Співдиректор, опікун громади

Макс Смітс

Співдиректор, опікун громади

Дякуємо, що підписалися на нашу розсилку!

Дякуємо! Отримано запрошення на участь у конференції "Управління проблемами виявлення штучного інтелекту в академічних колах

Дякуємо за заявку! Ми будемо на зв'язку.

Подати заявку: Управління викликами виявлення ШІ в академічних колах

Вирішення проблем виявлення ШІ в академічних колах

Завантаження...

Завантаження...