Návštěvou našich stránek souhlasíte s našimi zásady ochrany osobních údajů týkající se souborů cookie, statistik sledování atd.

LLM

Tento modul se zabývá velkými jazykovými modely (LLM) a zaměřuje se na jejich vývoj a aplikace. Zahrnuje základní pojmy v oblasti zpracování přirozeného jazyka, architekturu modelů, jako je GPT (Generative Pre-trained Transformer), a jejich aplikace v úlohách, jako je generování textu, překlad a tvorba obsahu, spolu s etickými aspekty a možnými zkresleními.

Portál > Umělá inteligence > LLM

Tvůrce učebních osnov

Zobrazit učební plán

Li, Yujia, David Choi, Junyoung Chung, Nate Kushman, Julian Schrittwieser, Rémi Leblond, Tom Eccles a další: "Competition-Level Code Generation with AlphaCode". Science 378, č. 6624 (9. prosince 2022): 1092-97.

https://doi.org/10.1126/science.abq1158

Stiennon, Nisan, Long Ouyang, Jeff Wu, Daniel M. Ziegler, Ryan Lowe, Chelsea Voss, Alec Radford, Dario Amodei a Paul Christiano. "Learning to Summarize from Human Feedback." ArXiv, 15. února 2022.

http://arxiv.org/abs/2009.01325

Garg, Shivam, Dimitris Tsipras, Percy Liang a Gregory Valiant. "Co se mohou transformátoři naučit v kontextu? A Case Study of Simple Function Classes." arXiv, 11. srpna 2023.

http://arxiv.org/abs/2208.01066

He, Junxian, Chunting Zhou, Xuezhe Ma, Taylor Berg-Kirkpatrick a Graham Neubig. "Towards a Unified View of Parameter-Efficient Transfer Learning." arXiv, 2. února 2022.

http://arxiv.org/abs/2110.04366

Zhang, Susan, Stephen Roller, Naman Goyal, Mikel Artetxe, Moya Chen, Shuohui Chen, Christopher Dewan, et al. "OPT: Open Pre-Trained Transformer Language Models." arXiv, 2022.

https://doi.org/10.48550/ARXIV.2205.01068

Clark, Kevin, Minh-Thang Luong, Quoc V. Le a Christopher D. Manning. "ELECTRA: Pre-Training Text Encoders as Discriminators Rather Than Generators." arXiv, 2020.

https://doi.org/10.48550/ARXIV.2003.10555

Liu, Yinhan, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer a Veselin Stoyanov. "RoBERTa: Robustly Optimized BERT Pretraining Approach." arXiv, 26. července 2019.

http://arxiv.org/abs/1907.11692

Radford, Alec a Karthik Narasimhan. "Improving Language Understanding by Generative Pre-Training", 2018.

https://www.semanticscholar.org/paper/Improving-Language-Understanding-by-Generative-Radford-Narasimhan/cd18800a0fe0b668a1cc19f2ec95b5003d0a5035

Peters, Matthew E., Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee a Luke Zettlemoyer. "Deep Contextualized Word Representations." arXiv, 2018.

https://doi.org/10.48550/ARXIV.1802.05365

Manning, Christopher D. "Human Language Understanding & Reasoning." Daedalus 151, č. 2 (1. května 2022): 127-38.

https://doi.org/10.1162/daed_a_01905

Děkujeme! RSVP přijato pro Li, Yujia, David Choi, Junyoung Chung, Nate Kushman, Julian Schrittwieser, Rémi Leblond, Tom Eccles, et al. "Competition-Level Code Generation with AlphaCode". Science 378, č. 6624 (9. prosince 2022): 1092-97.

Děkujeme, že jste se přihlásili k odběru našeho newsletteru!

Li, Yujia, David Choi, Junyoung Chung, Nate Kushman, Julian Schrittwieser, Rémi Leblond, Tom Eccles a další: "Competition-Level Code Generation with AlphaCode". Science 378, č. 6624 (9. prosince 2022): 1092-97.

Načítání...

Načítání...