Nahlásit
Semináře o kybernetické bezpečnosti

Zvládání výzev spojených s detekcí umělé inteligence v akademické sféře

Tato zpráva, jejíž výzkum probíhal v létě 2024, zkoumá zvýšené využívání chatbotů s umělou inteligencí v akademickém prostředí po spuštění ChatGPT v roce 2022 a reakci vzdělávacích institucí prostřednictvím nástrojů pro detekci umělé inteligence. Pojednává o různé účinnosti těchto nástrojů při identifikaci obsahu vytvořeného AI, přičemž se zabývá otázkami, jako jsou falešně pozitivní a falešně negativní výsledky. Zpráva také upozorňuje na etické obavy týkající se soukromí, přesnosti a využití AI ve vzdělávání. Některé instituce přehodnocují používání detekčních nástrojů a místo toho se rozhodují pro zodpovědné začlenění UI do výukových programů.

Pro koho je tento průvodce určen?

Tato příručka je určena především pro univerzity a další vysokoškolské instituce, které se účastní programu seminářů kybernetické bezpečnosti Google.org. Je určena fakultním šampionům a šampionům EDI těchto programů. Kromě Seminářů kybernetické bezpečnosti Google.org může být tato příručka relevantní i pro další organizace zapojené do praktického vzdělávání v oblasti kybernetické bezpečnosti.

Nárůst chatbotů a detekčních nástrojů s umělou inteligencí

Spuštění ChatGPT v roce 2022 vyvolalo celosvětový zájem o umělou inteligenci (AI) a vedlo k širokému využívání chatbotů s umělou inteligencí, včetně studentů. Po nástupu chatbotů s umělou inteligencí se objevily obavy vysokoškolských institucí ohledně "nespravedlivého používání obsahu generovaného umělou inteligencí v akademickém prostředí "1 a "originality a vhodnosti obsahu generovaného chatbotem".2

K odhalování a zvládání nevhodného nebo nekalého používání takových chatbotů jsou stále populárnější nástroje pro detekci umělé inteligence, přičemž standardní nástroje pro odhalování plagiátů, jako je TurnItIn, se v různé míře účinnosti a za různou cenu zaměřují na odhalování obsahu generovaného umělou inteligencí.3 Většina nástrojů pro detekci umělé inteligence na akademické půdě je integrována do širších vzdělávacích platforem, jako jsou Moodle, Canvas, Blackboard, Brightspace, Schoology nebo Sakai.4

Nástroje pro detekci umělé inteligence identifikují vytvořený text pomocí porovnávání vzorů, nikoliv porovnáváním s databází, jak to dělají tradiční nástroje pro kontrolu plagiátů. Jazykové modely jsou trénovány na obrovském množství textových dat, aby se naučily pravděpodobnostní jazyková pravidla, která používají k vytváření nového obsahu. Vygenerovaný text však často vykazuje předvídatelné vzorce, jako jsou konzistentní struktury vět, nadměrné používání určitých spojek a slovní zásoby a předvídatelná délka vět nebo odstavců. Detekční nástroje se zaměřují na odhalování těchto vzorců a mohou také zahrnovat tradiční kontroly plagiátorství, aby identifikovaly text, který mohl být reprodukován přímo z trénovacích dat modelu.5

Reakce na nástroje pro detekci AI

Když se poprvé objevily nástroje pro detekci umělé inteligence, vysokoškolské instituce si pospíšily s jejich integrací do vzdělávacích platforem. Většinu, ne-li všechny nástroje pro detekci UI je však možné při dostatku času a úsilí obejít.6 Některé vysokoškolské instituce proto své rozhodnutí využívat detektory UI ruší. Vanderbilt, Michigan State, Northwestern a University of Texas at Austin v roce 2023 deaktivovaly své detektory umělé inteligence Turnitin s odkazem na výše zmíněné problémy s účinností.7 Další vzdělávací instituce budou pravděpodobně následovat jejich příkladu, protože se může stát, že detekční nástroje způsobují více problémů, než kolik jich řeší.8 Některé akademické instituce nejenže deaktivují nástroje pro detekci umělé inteligence, ale hledají způsoby, jak eticky a produktivně začlenit LLM do svých studijních programů.9

Kromě toho byly vydány nové "humanizační" nástroje, které uživatelům LLM umožňují obejít nástroje pro detekci UI prostřednictvím "přeformulování vět, změny struktur a začlenění pestré slovní zásoby", což výrazně snižuje pravděpodobnost detekce UI.10 První výzkumy naznačují, že nástroje pro parafrázování výrazně komplikují detekci UI.11 Například Washington Post zjistil, že Turnitin má problémy s identifikací obsahu vytvořeného UI, pokud se v textu mísí obsah vytvořený člověkem a UI prostřednictvím nástrojů pro parafrázování.12

Přestože společnost Turnitin vydala novou funkci detekce parafrázování umělou inteligencí ke svému nástroji pro detekci uměléinteligence13, takové reakce vytvářejí pro detekci umělé inteligence obtížný kontext na trhu, protože jiné společnosti se přeorientovávají na jiné obchodnímodely14 nebo ukončujíčinnost15.

Jaké nástroje pro detekci umělé inteligence jsou na trhu?

Níže je v abecedním pořadí uveden výběr hlavních nástrojů pro detekci UI. Zahrnuli jsme také veřejně dostupné informace týkající se účinnosti detekce, integrace vzdělávací platformy, ceny (v USD) a data vydání a/nebo aktualizace. Všimněte si, že většina níže uvedených nástrojů pro detekci UI je účinná především pouze proti ChatGPT-3.5.

Nástroj pro detekci umělé inteligenceExistuje integrace do vzdělávacích platforem?Ceny (USD)Datum vydání/aktualizace
KompilaceAno: Moodle, Brightspace, Canvas, Microsoft Teams, Blackboard, Open LMSNebyly nalezeny žádné informace16únor 2023
Obsah ve velkém měřítkuAno: omezené informace49 USD/měsíc17Žádné informace
Detektor obsahu AIŽádné informaceNebyly nalezeny žádné informace202318
CopyleaksAno: Moodle, Canvas, Blackboard, Brightspace, Schoology, Sakai7,99 - 13,99 USD/měsíc19leden 2023
CrossplagŽádné informace7-100 USD/měsíc20leden 2023
Detekce GPTŽádné informace7-29 USD/měsíc21Žádné informace
DuplicheckerŽádné informace110 až 2000 dolarů ročně222024
Jdi na WinstonaŽádné informace12-32 USD/měsíc23únor 2023
GPT-ZeroAno: Canvas, Coursify.me, K16 solutions, NewsGuard10-23 USD/měsíc24leden 2023
OriginalitaAno: Moodle, Scribbr14,95-30 USD/měsíc25listopad 2022
Detektor plagiátorství (detekce umělou inteligencí)Žádné informace110-330 USD/rok26Žádné informace
QuillbotAno: Veřejně nejsou k dispozici žádné podrobnosti o tom, které platformy to jsou.0-8,33 USD/měsíc27Žádné informace
SaplingNejasné0-12 USD/měsíc28leden 2023
ScispacePravděpodobně, nicméně nedostatek informací0-8 USD/měsíc29Žádné informace
TurnitinAno: Brightspace, Scribbr3 USD/student/rok30duben 2023
Nezjistitelná AIŽádné informace5-14,99 USD/měsíc31květen 2023
WordtunePravděpodobně, nicméně nedostatek informací0-9,99 USD/měsíc32leden 2023
Detektor umělé inteligence spisovateleŽádné informace0-18 USD/měsíc33Žádné informace
ZeroGPTAno: Veřejně nejsou k dispozici žádné podrobnosti o tom, které platformy to jsou.0-18,99 USD/měsíc34leden 2023

Účinnost nástrojů pro detekci AI

Falešně pozitivní výsledky

V kontextu nástrojů pro detekci umělé inteligence dochází k falešně pozitivním výsledkům, když nástroj pro detekci umělé inteligence nesprávně identifikuje předložený obsah jako vytvořený umělou inteligencí. Některé studie ukazují, že nástroje pro detekci UI mají vysokou míru falešně pozitivních detekcí a pouze několik nástrojů pro detekci UI má výrazně nízkou míru falešně pozitivních detekcí.35 V akademickém prostředí to může znamenat nesprávné označení studentské práce jako vytvořené UI, i když je ve skutečnosti vytvořená člověkem. Byly také zjištěny rozdíly v závislosti na tom, jaký model umělé inteligence je použit k vygenerování předloženého textu pro testování nástrojem pro detekci umělé inteligence, a naopak s různými výsledky napříč studiemi.36 Kromě toho je pravděpodobnější, že obsah od nerodilých mluvčích angličtiny bude nesprávně klasifikován jako vygenerovaný umělou inteligencí, což je samozřejmě problém pro vzdělávací instituce se studenty z různých prostředí.37

Falešně negativní výsledky

V kontextu nástrojů pro detekci umělé inteligence dochází k falešně negativním výsledkům, když nástroj pro detekci umělé inteligence neidentifikuje předložený obsah jako vytvořený umělou inteligencí. Některé nástroje vykázaly nízkou citlivost, když správně identifikovaly sotva 15 % předložených vzorků jako vygenerovaných umělou inteligencí,38 zatímco jiné vykazují téměř dokonalé výsledky v klasifikaci lidmi napsaného obsahu a chybně klasifikují pouze 3 % vzorků vygenerovaných umělou inteligencí.39 Obecně se výsledky značně liší v přesnosti v závislosti na tom, jaký nástroj pro detekci umělé inteligence je použit. Jedna studie naznačuje, že pouze dva z hlavních nástrojů pro detekci UI správně klasifikovaly všech 126 vzorků jako vytvořené UI nebo člověkem.40 Jiní výzkumníci tvrdí, že nástroje pro detekci UI produkují více falešně negativních výsledků při analýze složitějšího jazyka.41

Další úvahy

Obecně se účinnost nástrojů pro detekci UI liší v závislosti na tom, jaký nástroj a proti jakému modelu je použit. Jedna studie zjistila, že nástroje pro detekci UI jsou účinnější u obsahu ChatGPT-3.5 a méně účinné u obsahu ChatGPT-4, s výjimkou nástrojů Copyleaks, Turnitin a Originality.ai, které měly více než 83% přesnost při detekci obsahu ChatGPT-4.42 Tato studie dospěla k závěru, že "bezplatný nebo placený status detektoru není dobrým ukazatelem jeho přesnosti",43 ačkoli kontrastní zjištění (s malou velikostí vzorku) předběžně naznačují, že placené nástroje pro detekci UI se zdají být lepší než bezplatné nástroje pro detekci UI.44 Studie se také obecně zaměřují na účinnost nástrojů pro detekci UI proti ChatGPT a ignorují ostatní LLM. To může být způsobeno větší popularitou modelů OpenAI ve srovnání s jinými, jako jsou Gemini, Mistral nebo Command.

Etika používání nástrojů pro detekci umělé inteligence

Používání chatbotů s umělou inteligencí v akademickém prostředí vyvolává závažné etické otázky, počínaje poškozením pověsti studentů i vysokoškolských institucí. V případě studentů může neoznámení používání obsahu generovaného umělou inteligencí a jeho vydávání za vlastní poškodit jejich další vzdělávání a budoucí kariéru. Univerzity mohou podobně čelit obvinění z umožnění plagiátorství, podvádění a nedodržování akademické integrity.

Používání nástrojů pro detekci umělé inteligence bez náležitých ochranných opatření však vyvolává stejně závažné obavy ohledně ochrany soukromí a souhlasu, zejména pokud jde o smluvní ujednání mezi univerzitami a poskytovatelem nástroje. Tyto obavy zahrnují, co se stane s nahraným obsahem, jak bude uložen a souhlas, pokud bude nahraný obsah použit v budoucích tréninkových datech.

Jak bylo uvedeno v předchozí části, nástroje pro detekci umělé inteligence mohou navíc nesprávně identifikovat obsah napsaný člověkem jako umělou inteligenci (falešně pozitivní výsledky) nebo mohou selhat při detekci textu vytvořeného umělou inteligencí (falešně negativní výsledky). Přesnost se značně liší, přičemž některé nástroje jsou v detekci ChatGPT-3.5 lepší. V neposlední řadě hrají hru na kočku a myš metody, jak se vyhnout detekci - včetně softwaru, který speciálně generuje obsah navržený tak, aby nebyl detekovatelný standardními nástroji pro detekci UI.45

Nástroje pro detekci umělé inteligence také přispívají k širším debatám o přístupu, spravedlnosti a dopadu na životní prostředí. Studenti mohou využívat AI k podpoře překladu a porozumění učiva, zejména pokud studují v anglicky mluvící zemi a pocházejí z neanglicky mluvícího nebo jiného minoritního prostředí s historicky menšími možnostmi vysokoškolského vzdělání. Problémy s přístupem vznikají také kvůli komerční dostupnosti LLM; lépe situovaní studenti mohou být schopni zaplatit si sofistikovanější modely a/nebo podávat své práce prostřednictvím více LLM, což znamená, že šance na odhalení výrazně klesá.46

Poznámky a odkazy

  1. Weber-Wulff, Debora, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomáš Foltýnek, Jean Guerrero-Dib, Olumide Popoola, Petr Šigut a Lorna Waddington. "Testování detekčních nástrojů pro text generovaný umělou inteligencí." International Journal for Educational Integrity 19, č. 1 (25. prosince 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
  1. Elkhatat, Ahmed M., Khaled Elsaid a Saeed Almeer. "Evaluating the Efficacy of AI Content Detection Tools in Differentiating between Human and AI-Generated Text (Hodnocení účinnosti nástrojů pro detekci obsahu vytvořeného umělou inteligencí při rozlišování mezi lidským textem a textem vytvořeným umělou inteligencí)". International Journal for Educational Integrity 19, č. 1 (1. září 2023): 17. https://doi.org/10.1007/s40979-023-00140-5.
  1. *Ačkoli se tato zpráva zaměřuje pouze na akademické využití, uvědomujeme si, že existují případy využití a potenciální přínosy nástrojů pro detekci umělé inteligence i mimo akademickou sféru, například ve vydavatelském průmyslu, žurnalistice nebo v oblasti náboru a lidských zdrojů.
  1. Copyleaks. "LMS Plagiarism Checker Plugin." Copyleaks. Přístup 29. srpna 2024. https://copyleaks.com/learning-management-systems.
  1. Furze, Leon. "Detekce umělé inteligence ve vzdělávání je slepá ulička." Leon Furze, 8. dubna 2024. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.
  1. Coffey, Lauren. "Profesoři opatrní vůči nástrojům na odhalování textů vytvořených umělou inteligencí." Inside Higher Ed, 9. února 2024. https://www.insidehighered.com/news/tech-innovation/artificial-intelligence/2024/02/09/professors-proceed-caution-using-ai.
  1. Více zdrojů:
    1. Ghaffary, Shirin. "Univerzity přehodnocují používání detektorů psaní s umělou inteligencí k prověřování prací studentů." Bloomberg.Com, 21. září 2023 . https://www.bloomberg.com/news/newsletters/2023-09-21/universities-rethink-using-ai-writing-detectors-to-vet-students-work.
    2. Coley, Michael. "Pokyny k detekci umělé inteligence a proč vypínáme detektor umělé inteligence Turnitin." Vanderbiltova univerzita, 16. srpna 2023. https://www.vanderbilt.edu/brightspace/2023/08/16/guidance-on-ai-detection-and-why-were-disabling-turnitins-ai-detector/.
  1. Furze, Leon. "Detekce umělé inteligence ve vzdělávání je slepá ulička." Leon Furze, 8. dubna 2024. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.
  1. Cornellova univerzita. "Etická umělá inteligence pro výuku a učení." Centrum pro inovace ve výuce. Dostupné 29. srpna 2024. https://teaching.cornell.edu/generative-artificial-intelligence/ethical-ai-teaching-and-learning.
  1. MarGrowth. "UPass Review: HackerNoon," 31. července 2024. https://hackernoon.com/upass-review-how-effective-it-can-bypass-ai-detection.
  1. Více zdrojů:
    1. Kar, Sujita Kumar, Teena Bansal, Sumit Modi a Amit Singh. "How Sensitive Are the Free AI-Detector Tools in Detecting AI-Generated Texts?" (Jak citlivé jsou bezplatné nástroje pro detekci textů vytvořených umělou inteligencí? A Comparison of Popular AI-Detector Tools (Srovnání populárních nástrojů pro detekci umělé inteligence)." Indian Journal of Psychological Medicine, 11. května 2024, 02537176241247934. https://doi.org/10.1177/02537176241247934.
    2. Weber-Wulff, Debora, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomáš Foltýnek, Jean Guerrero-Dib, Olumide Popoola, Petr Šigut a Lorna Waddington. "Testování detekčních nástrojů pro text generovaný umělou inteligencí." International Journal for Educational Integrity 19, č. 1 (25. prosince 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
    3. Sadasivan, Vinu Sankar, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang a Soheil Feizi. "Can AI-Generated Text Be Reliably Detected?", 2023. https://doi.org/10.48550/ARXIV.2303.11156.
    4. Krishna, Kalpesh, Yixiao Song, Marzena Karpinska, John Wieting a Mohit Iyyer. "Paraphrasing Evades Detectors of AI-Generated Text, but Retrieval Is an Effective Defense," 2023. https://doi.org/10.48550/ARXIV.2303.13408.
  1. Fowler, Geoffrey, A. "Testovali jsme nový detektor ChatGPT pro učitele. Označil nevinného studenta." Tech in Your Life, 3. dubna 2023. https://www.washingtonpost.com/technology/2023/04/01/chatgpt-cheating-detection-turnitin/.
  1. Young, Laura. "AI Paraphrasing Detection: Posílení integrity akademického psaní." Turnitin, 16. července 2024. https://www.turnitin.com/blog/ai-paraphrasing-detection-strengthening-the-integrity-of-academic-writing.
  1. Edwards, Benj. "Proč detektory psaní umělé inteligence nefungují." Ars Technica, 14. července 2023. https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/.
  1. Více zdrojů:
    1. Coldewey, Devin. "OpenAI Scuttles AI-Written Text Detector over 'Low Rate of Accuracy'." TechCrunch, 25. července 2023. https://techcrunch.com/2023/07/25/openai-scuttles-ai-written-text-detector-over-low-rate-of-accuracy/.
    2. Coley, Michael. "Pokyny k detekci umělé inteligence a proč vypínáme detektor umělé inteligence Turnitin." Vanderbiltova univerzita, 16. srpna 2023. https://www.vanderbilt.edu/brightspace/2023/08/16/guidance-on-ai-detection-and-why-were-disabling-turnitins-ai-detector/.
  1. Kompilace. "Kontrola obsahu AI: Detekce umělé inteligence pomocí Compilatio." Compilatio. Přístup 27. srpna 2024. https://www.compilatio.net/en/ai-detector-info.
  1. Obsah ve velkém měřítku. "AI Detector je detektor AI a ChatGPT v reálném čase." Obsah ve velkém měřítku. Přístup 27. srpna 2024. https://brandwell.ai/ai-content-detector/.
  1. Copyleaks. "Copyleaks spouští AI Content Detector | Tisková zpráva." Copyleaks. Přístup 27. srpna 2024. https://copyleaks.com/about-us/media/copyleaks-launches-ai-content-detector.
  1. Copyleaks. "Ceny." Copyleaks. Přístup 19. srpna 2024. https://copyleaks.com/pricing.
  1. Ivankov, Olga. "Co je detektor umělé inteligence Crossplag? Ceny, funkce a způsob použití," 12. června 2024. https://articlesbase.com/tech/emerging-technologies/artificial-intelligence/ai-tools-and-software/what-is-crossplag-ai-detector-pricing-features-and-how-to-use/.
  1. DetectGPT. "Detektor umělé inteligence, kterému můžete věřit - DetectGPT." Přístup 27. srpna 2024. https://detectgpt.com/#pricing.
  1. Dupli Checker. "Ceny a plány." Duplichecker.com. Přístup 27. srpna 2024. https://www.duplichecker.com/pricing.
  1. Winston AI. "Cenotvorba." Winston AI (blog). Přístup 27. srpna 2024. https://gowinston.ai/pricing/.
  1. GPTZero. "Cenotvorba." GPTZero. Přístup 19. srpna 2024. https://gptzero.me/.
  1. Scribbr. "Často kladené otázky: Kolik stojí originální umělá inteligence?" Scribbr. Přístup 19. srpna 2024. https://www.scribbr.com/frequently-asked-questions/how-much-does-originality-ai-cost/#:~:text=Originality.ai%20offers%20dva%20pricing,10%20slov%20for%20fact%20checking.
  1. PlagiarismDetector.net. "Ceny a plány | Plagiarismdetector.Net." PlagiarismDetector.net. Přístup 27. srpna 2024. https://plagiarismdetector.net/pricing.
  1. Quillbot. "Cenotvorba." Quillbot, b.d. https://quillbot.com/premium.
    1. Sapling AI. "Ceník API | Dokumentace pro vývojáře Sapling.Ai." Sapling AI. Přístup 27. srpna 2024. https://sapling.ai/docs/api/pricing/.
    2. Sapling AI. "Plány a ceny | Sapling." Sapling AI. Přístup 27. srpna 2024. https://sapling.ai/pricing.
  1. SciSpace. "SciSpace Premium - neomezený přístup k nástrojům pro výzkum umělé inteligence." SciSpace. Přístup 27. srpna 2024. https://typeset.io/pricing.
  1. Miller, Nick. "Turnitin Pricing in 2024: Kolik to stojí?" Medium (blog), 11. července 2024. https://medium.com/@nickmiller_writer/turnitin-pricing-in-2024-what-does-it-cost-80f552a7a20f.
  1. Nezjistitelná AI. "Nezjistitelné ceny: ": Vyberte si ideální plán pro své potřeby. Nezjistitelná AI. Přístup 27. srpna 2024. https://undetectable.ai/pricing.
  1. Wordtune. "Ceny a plány Wordtune | Vyberte si svůj plán." Wordtune. Přístup 27. srpna 2024. https://www.wordtune.com/plans.
  1. Studio Writer AI. "Ceny." Writer AI Studio. Přístup 27. srpna 2024. https://dev.writer.com/home/pricing.
  1. Přístup k API možný pro univerzity; ZeroGPT, "ZeroGPT - Pricing. "ZeroGPT. "ZeroGPT - Pricing." Přístup 3. září 2024. https://www.zerogpt.com/pricing.
  1. Popkov, Andrey A. a Tyson S. Barrett. "AI vs. Academia: S. Barrett: Experimentální studie přesnosti detektorů textu AI v akademickém psaní v oblasti behaviorálního zdraví." (Experimental Study on AI Text Detectors' Accuracy in Behavioral Health Academic Writing. Accountability in Research, March 22, 2024, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1. *Copyleaks, Turnitin, Originality.ai, Scribbr, Grammica, GPTZero, Crossplag, OpenAI, IvyPanda, GPT Radar, Content at Scale, Writer a Content Detector dokáží klasifikovat obsah vytvořený člověkem, zatímco ZeroGPT, SEO.ai jsou v tomto ohledu neúčinné. Více zdrojů:
    1. Walters, William H. "The Effectiveness of Software Designed to Detect AI-Generated Writing: A Comparison of 16 AI Text Detectors." Open Information Science 7, č. 1 (6. října 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
    2. Popkov, Andrey A. a Tyson S. Barrett. "AI vs. Academia: S. Barrett: Experimentální studie přesnosti detektorů textu AI v akademickém psaní v oblasti behaviorálního zdraví." (Experimental Study on AI Text Detectors' Accuracy in Behavioral Health Academic Writing. Accountability in Research, March 22, 2024, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1. Liang, Weixin, Mert Yuksekgonul, Yining Mao, Eric Wu a James Zou. "GPT Detectors Are Biased against Non-Native English Writers" (Detektory GPT jsou zkreslené vůči nerodilým mluvčím angličtiny). Patterns 4, č. 7 (2023): 100779. https://doi.org/10.1016/j.patter.2023.100779.
  1. Popkov, Andrey A. a Tyson S. Barrett. "AI vs. Academia: S. Barrett: Experimentální studie přesnosti detektorů textu AI v akademickém psaní v oblasti behaviorálního zdraví." (Experimental Study on AI Text Detectors' Accuracy in Behavioral Health Academic Writing. Accountability in Research, March 22, 2024, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1. Tamtéž.
  1. Walters, William H. "The Effectiveness of Software Designed to Detect AI-Generated Writing: A Comparison of 16 AI Text Detectors." Open Information Science 7, č. 1 (6. října 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
  1. Ryan, "Detektory ChatGPT jsou zkreslené a snadno se dají oklamat, ukazuje výzkum." Ryan, Jackson. "ChatGPT Detectors Are Biased and Easy to Fool, Research Shows" (Detektory ChatGPT jsou zkreslené a snadno se dají oklamat, jak ukazuje výzkum). CNET, 12. července 2023. https://www.cnet.com/tech/services-and-software/chatgpt-detectors-are-biased-and-easy-to-fool-research-shows/.
  1. Walters, William H. "The Effectiveness of Software Designed to Detect AI-Generated Writing: A Comparison of 16 AI Text Detectors." Open Information Science 7, č. 1 (6. října 2023): 20220158. https://doi.org/10.1515/opis-2022-0158.
  1. Tamtéž.
  2. Popkov, Andrey A. a Tyson S. Barrett. "AI vs. Academia: S. Barrett: Experimentální studie přesnosti detektorů textu AI v akademickém psaní v oblasti behaviorálního zdraví." (Experimental Study on AI Text Detectors' Accuracy in Behavioral Health Academic Writing. Accountability in Research, March 22, 2024, 1-17. https://doi.org/10.1080/08989621.2024.2331757.
  1. Weber-Wulff, Debora, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomáš Foltýnek, Jean Guerrero-Dib, Olumide Popoola, Petr Šigut a Lorna Waddington. "Testování detekčních nástrojů pro text generovaný umělou inteligencí." International Journal for Educational Integrity 19, č. 1 (25. prosince 2023): 26. https://doi.org/10.1007/s40979-023-00146-z.
  2. Furze, Leon. "Detekce umělé inteligence ve vzdělávání je slepá ulička." Leon Furze, 8. dubna 2024. https://leonfurze.com/2024/04/09/ai-detection-in-education-is-a-dead-end/.

O programu seminářů kybernetické bezpečnosti Google.org

Program Google.org Cybersecurity Seminars podporuje semináře o kybernetické bezpečnosti na vybraných univerzitách a dalších způsobilých vysokoškolských institucích v Evropě, na Blízkém východě a v Africe, aby pomohl studentům dozvědět se více o kybernetické bezpečnosti a prozkoumat možnosti uplatnění v této oblasti. Program aktivně podporuje rozšiřování vzdělávání v oblasti kybernetické bezpečnosti na vysokých školách, aby se vytvořila různorodá pracovní síla potřebná k tomu, aby pomohla nejzranitelnějším organizacím předcházet potenciálním kybernetickým útokům. Zabývá se také novými riziky plynoucími z umělé inteligence (AI), poskytuje studentům porozumění změnám v oblasti kybernetických hrozeb na základě AI a pomáhá jim efektivně začlenit AI do praktických opatření v oblasti kybernetické bezpečnosti.

Od zúčastněných univerzit se očekává, že budou v rámci svých programů aktivně podporovat rovnost, rozmanitost a inkluzi. Měly by podporovat silnou účast osob z různých prostředí a vytvářet inkluzivní prostředí pro vzdělávání, čímž obohatí celkovou zkušenost se vzděláváním a posílí komunitu kybernetické bezpečnosti.

Authors

Pierre Lebrun

Leiden University College

YuYing Mak

Project Officer

James Shires

Co-Director, Community Trustee

Max Smeets

Co-Director, Community Trustee

Thank you! RSVP received for Zvládání výzev spojených s detekcí umělé inteligence v akademické sféře

Thank you for applying! We will be in touch.

Thank you for signing up to our newsletter!

Apply for: Zvládání výzev spojených s detekcí umělé inteligence v akademické sféře

Zvládání výzev spojených s detekcí umělé inteligence v akademické sféře

Načítání...

Načítání…