نموذج لغوي كبير
مراجع

↑  Patel، Roma؛ Pavlick، Ellie (06 أكتوبر 2021). "Mapping Language Models to Grounded Conceptual Spaces". ICLR. مؤرشف من الأصل في 2023-06-24. اطلع عليه بتاريخ 2023-06-27.
↑  "A Closer Look at Large Language Models Emergent Abilities". مؤرشف من الأصل في 2023-06-24. اطلع عليه بتاريخ 2024-10-07.
↑  Ornes، Stephen (16 مارس 2023). "The Unpredictable Abilities Emerging From Large AI Models". Quanta Magazine. مؤرشف من الأصل في 2023-03-16. اطلع عليه بتاريخ 2023-03-16.
↑  Schaeffer، Rylan؛ Miranda، Brando؛ Koyejo، Sanmi (01 أبريل 2023). "Are Emergent Abilities of Large Language Models a Mirage?". arXiv:2304.15004 [cs.AI]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Li، Kenneth؛ Hopkins، Aspen K.؛ Bau، David؛ Viégas، Fernanda؛ Pfister، Hanspeter؛ Wattenberg، Martin (01 أكتوبر 2022). "Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task". arXiv:2210.13382 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "Large Language Model: world models or surface statistics?". The Gradient. 21 يناير 2023. مؤرشف من الأصل في 2023-04-01. اطلع عليه بتاريخ 2023-06-12.
↑  Jin، Charles؛ Rinard، Martin (01 مايو 2023). "Evidence of Meaning in Language Models Trained on Programs". arXiv:2305.11169 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Nanda، Neel؛ Chan، Lawrence؛ Lieberum، Tom؛ Smith، Jess؛ Steinhardt، Jacob (01 يناير 2023). "Progress measures for grokking via mechanistic interpretability". arXiv:2301.05217 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3 4 5  Mitchell، Melanie؛ Krakauer، David C. (28 مارس 2023). "The debate over understanding in AI's large language models". Proceedings of the National Academy of Sciences. ج. 120 ع. 13: e2215907120. arXiv:2210.13966. Bibcode:2023PNAS..12015907M. DOI:10.1073/pnas.2215907120. PMC:10068812. PMID:36943882. مؤرشف من الأصل في 2023-07-22. اطلع عليه بتاريخ 2024-10-07.
↑  Metz، Cade (16 مايو 2023). "Microsoft Says New A.I. Shows Signs of Human Reasoning". The New York Times. مؤرشف من الأصل في 2025-01-30. اطلع عليه بتاريخ 2024-10-07.
1 2  Bubeck، Sébastien؛ Chandrasekaran، Varun؛ Eldan، Ronen؛ Gehrke، Johannes؛ Horvitz، Eric؛ Kamar، Ece؛ Lee، Peter؛ Lee، Yin Tat؛ Li، Yuanzhi؛ Lundberg، Scott؛ Nori، Harsha؛ Palangi، Hamid؛ Ribeiro، Marco Tulio؛ Zhang، Yi (2023). "Sparks of Artificial General Intelligence: Early experiments with GPT-4". arXiv:2303.12712 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "ChatGPT is more like an 'alien intelligence' than a human brain, says futurist". ZDNET. 2023. مؤرشف من الأصل في 2023-06-12. اطلع عليه بتاريخ 2023-06-12.
1 2  Newport، Cal (13 أبريل 2023). "What Kind of Mind Does ChatGPT Have?". The New Yorker. مؤرشف من الأصل في 2023-06-12. اطلع عليه بتاريخ 2023-06-12.
↑  Roose، Kevin (30 مايو 2023). "Why an Octopus-like Creature Has Come to Symbolize the State of A.I." The New York Times. مؤرشف من الأصل في 2023-05-30. اطلع عليه بتاريخ 2023-06-12.
↑  "The A to Z of Artificial Intelligence". Time Magazine. 13 أبريل 2023. مؤرشف من الأصل في 2023-06-16. اطلع عليه بتاريخ 2023-06-12.
↑  Ji، Ziwei؛ Lee، Nayeon؛ Frieske، Rita؛ Yu، Tiezheng؛ Su، Dan؛ Xu، Yan؛ Ishii، Etsuko؛ Bang، Yejin؛ Dai، Wenliang؛ Madotto، Andrea؛ Fung، Pascale (نوفمبر 2022). "Survey of Hallucination in Natural Language Generation" (pdf). ACM Computing Surveys. جمعية آلات الحوسبة. ج. 55 ع. 12: 1–38. arXiv:2202.03629. DOI:10.1145/3571730. S2CID:246652372. مؤرشف من الأصل في 2023-03-26. اطلع عليه بتاريخ 2023-01-15.
↑  Varshney، Neeraj؛ Yao، Wenlin؛ Zhang، Hongming؛ Chen، Jianshu؛ Yu، Dong (2023). "A Stitch in Time Saves Nine: Detecting and Mitigating Hallucinations of LLMs by Validating Low-Confidence Generation". arXiv:2307.03987 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Lakoff، George (1999). Philosophy in the Flesh: The Embodied Mind and Its Challenge to Western Philosophy; Appendix: The Neural Theory of Language Paradigm. New York Basic Books. ص. 569–583. ISBN:978-0-465-05674-3.
↑  "NTL | ICSI". www.icsi.berkeley.edu. اطلع عليه بتاريخ 2024-11-10.
↑  Evans، Vyvyan. (2014). The Language Myth. Cambridge University Press. ISBN:978-1-107-04396-1.
↑  Friston، Karl J. (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior; Chapter 4 The Generative Models of Active Inference. The MIT Press. ISBN:978-0-262-36997-8.
1 2  Huyen، Chip (18 أكتوبر 2019). "Evaluation Metrics for Language Modeling". The Gradient. مؤرشف من الأصل في 2021-08-25. اطلع عليه بتاريخ 2024-01-14.
1 2  Clark، Christopher؛ Lee، Kenton؛ Chang، Ming-Wei؛ Kwiatkowski، Tom؛ Collins، Michael؛ Toutanova، Kristina (2019). "BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions". arXiv:1905.10044 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3  Wayne Xin Zhao؛ Zhou، Kun؛ Li، Junyi؛ Tang، Tianyi؛ Wang، Xiaolei؛ Hou، Yupeng؛ Min، Yingqian؛ Zhang، Beichen؛ Zhang، Junjie؛ Dong، Zican؛ Du، Yifan؛ Yang، Chen؛ Chen، Yushuo؛ Chen، Zhipeng؛ Jiang، Jinhao؛ Ren، Ruiyang؛ Li، Yifan؛ Tang، Xinyu؛ Liu، Zikang؛ Liu، Peiyu؛ Nie، Jian-Yun؛ Wen، Ji-Rong (2023). "A Survey of Large Language Models". arXiv:2303.18223 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "openai/simple-evals"، غيت هاب، OpenAI، 28 مايو 2024، مؤرشف من الأصل في 2024-10-04، اطلع عليه بتاريخ 2024-05-28
↑  "openai/evals"، غيت هاب، OpenAI، 28 مايو 2024، مؤرشف من الأصل في 2024-05-08، اطلع عليه بتاريخ 2024-05-28
↑  "Sanitized open-source datasets for natural language and code understanding: how we evaluated our 70B model". imbue.com (بالإنجليزية). Archived from the original on 2024-07-26. Retrieved 2024-07-24.
↑  Srivastava، Aarohi؛ وآخرون (2022). "Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models". arXiv:2206.04615 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Lin، Stephanie؛ Hilton، Jacob؛ Evans، Owain (2021). "TruthfulQA: Measuring How Models Mimic Human Falsehoods". arXiv:2109.07958 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Zellers، Rowan؛ Holtzman، Ari؛ Bisk، Yonatan؛ Farhadi، Ali؛ Choi، Yejin (2019). "HellaSwag: Can a Machine Really Finish Your Sentence?". arXiv:1905.07830 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "Prepare for truly useful large language models". Nature Biomedical Engineering. ج. 7 ع. 2: 85–86. 7 مارس 2023. DOI:10.1038/s41551-023-01012-6. PMID:36882584. S2CID:257403466. مؤرشف من الأصل في 2024-04-15. اطلع عليه بتاريخ 2024-10-07.
↑  "Your job is (probably) safe from artificial intelligence". The Economist. 7 مايو 2023. مؤرشف من الأصل في 2023-06-17. اطلع عليه بتاريخ 2023-06-18.
↑  "Generative AI Could Raise Global GDP by 7%". Goldman Sachs. مؤرشف من الأصل في 2023-06-18. اطلع عليه بتاريخ 2023-06-18.
↑  Peng، Zhencan؛ Wang، Zhizhi؛ Deng، Dong (13 يونيو 2023). "Near-Duplicate Sequence Search at Scale for Large Language Model Memorization Evaluation" (pdf). Proceedings of the ACM on Management of Data. ج. 1 ع. 2: 1–18. DOI:10.1145/3589324. S2CID:259213212. مؤرشف (PDF) من الأصل في 2024-08-27. اطلع عليه بتاريخ 2024-01-20. Citing Lee et al 2022.
↑  Peng، Zhencan؛ Wang، Zhizhi؛ Deng، Dong (13 يونيو 2023). "Near-Duplicate Sequence Search at Scale for Large Language Model Memorization Evaluation" (pdf). Proceedings of the ACM on Management of Data. ج. 1 ع. 2: 8. DOI:10.1145/3589324. S2CID:259213212. مؤرشف (PDF) من الأصل في 2024-08-27. اطلع عليه بتاريخ 2024-01-20..
↑  Alba، Davey (1 مايو 2023). "AI chatbots have been used to create dozens of news content farms". The Japan Times. مؤرشف من الأصل في 2024-08-24. اطلع عليه بتاريخ 2023-06-18.
↑  "Could chatbots help devise the next pandemic virus?". Science. 14 يونيو 2023. DOI:10.1126/science.adj2463. مؤرشف من الأصل في 2023-06-18. اطلع عليه بتاريخ 2023-06-18.
↑  Stephen Council (1 ديسمبر 2023). "How Googlers cracked an SF rival's tech model with a single word". SFGATE. SFGATE. مؤرشف من الأصل في 2023-12-16. اطلع عليه بتاريخ 2024-10-07.
↑  Hubinger، Evan (10 يناير 2024). "Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training". arXiv:2401.05566 [cs.CR]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Kang، Daniel (2023). "Exploiting programmatic behavior of LLMs: Dual-use through standard security attacks". arXiv:2302.05733 [cs.CR]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Wang، Yongge (20 يونيو 2024). "Encryption Based Covert Channel for Large Language Models" (pdf). IACR ePrint 2024/586. مؤرشف (PDF) من الأصل في 2024-06-24. اطلع عليه بتاريخ 2024-06-24.
1 2  Stokel-Walker، Chris (22 نوفمبر 2023). "ChatGPT Replicates Gender Bias in Recommendation Letters". Scientific American. مؤرشف من الأصل في 2023-12-29. اطلع عليه بتاريخ 2023-12-29.
↑  Luo، Queenie؛ Puett، Michael J.؛ Smith، Michael D. (28 مارس 2023). "A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube". arXiv:2303.16281v2 [cs.CY]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Cheng، Myra؛ Durmus، Esin؛ Jurafsky، Dan (29 مايو 2023)، Marked Personas: Using Natural Language Prompts to Measure Stereotypes in Language Models، arXiv:2305.18189
↑  Kotek، Hadas؛ Dockum، Rikker؛ Sun، David (05 نوفمبر 2023). "Gender bias and stereotypes in Large Language Models". Proceedings of the ACM Collective Intelligence Conference. CI '23. New York, NY, USA: Association for Computing Machinery. ص. 12–24. DOI:10.1145/3582269.3615599. ISBN:979-8-4007-0113-9. مؤرشف من الأصل في 2024-09-20. اطلع عليه بتاريخ 2024-10-07.
↑  Heikkilä، Melissa (7 أغسطس 2023). "AI language models are rife with different political biases". MIT Technology Review. مؤرشف من الأصل في 2024-09-15. اطلع عليه بتاريخ 2023-12-29.
↑  "Improving language understanding with unsupervised learning". openai.com. 11 يونيو 2018. مؤرشف من الأصل في 2023-03-18. اطلع عليه بتاريخ 2023-03-18.
↑  "finetune-transformer-lm". GitHub. مؤرشف من الأصل في 2023-05-19. اطلع عليه بتاريخ 2024-01-02.
1 2  Devlin، Jacob؛ Chang، Ming-Wei؛ Lee، Kenton؛ Toutanova، Kristina (11 أكتوبر 2018). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding". arXiv:1810.04805v2 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Prickett، Nicole Hemsoth (24 أغسطس 2021). "Cerebras Shifts Architecture To Meet Massive AI/ML Models". The Next Platform. مؤرشف من الأصل في 2023-06-20. اطلع عليه بتاريخ 2023-06-20.
↑  "BERT". غيت هاب. 13 مارس 2023. مؤرشف من الأصل في 2021-01-13. اطلع عليه بتاريخ 2023-03-13 – عبر GitHub.
↑  Patel، Ajay؛ Li، Bryan؛ Rasooli، Mohammad Sadegh؛ Constant، Noah؛ Raffel، Colin؛ Callison-Burch، Chris (2022). "Bidirectional Language Models Are Also Few-shot Learners". arXiv:2209.14500 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Devlin، Jacob؛ Chang، Ming-Wei؛ Lee، Kenton؛ Toutanova، Kristina (11 أكتوبر 2018). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding". arXiv:1810.04805v2 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Raffel، Colin؛ Shazeer، Noam؛ Roberts، Adam؛ Lee، Katherine؛ Narang، Sharan؛ Matena، Michael؛ Zhou، Yanqi؛ Li، Wei؛ Liu، Peter J. (2020). "Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer". Journal of Machine Learning Research. ج. 21 ع. 140: 1–67. arXiv:1910.10683. ISSN:1533-7928. مؤرشف من الأصل في 2024-10-05. اطلع عليه بتاريخ 2024-10-07.
↑  "google-research/text-to-text-transfer-transformer"، غيت هاب، Google Research، 02 أبريل 2024، مؤرشف من الأصل في 2024-03-29، اطلع عليه بتاريخ 2024-04-04
↑  "Imagen: Text-to-Image Diffusion Models". imagen.research.google. مؤرشف من الأصل في 2024-03-27. اطلع عليه بتاريخ 2024-04-04.
↑  "Pretrained models — transformers 2.0.0 documentation". huggingface.co. مؤرشف من الأصل في 2024-08-05. اطلع عليه بتاريخ 2024-08-05.
↑  "xlnet". GitHub. مؤرشف من الأصل في 2024-01-02. اطلع عليه بتاريخ 2024-01-02.
↑  Yang، Zhilin؛ Dai، Zihang؛ Yang، Yiming؛ Carbonell، Jaime؛ Salakhutdinov، Ruslan؛ Le، Quoc V. (2 يناير 2020). "XLNet: Generalized Autoregressive Pretraining for Language Understanding". arXiv:1906.08237 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "GPT-2: 1.5B Release". OpenAI (بالإنجليزية). 05 Nov 2019. Archived from the original on 2019-11-14. Retrieved 2019-11-14.
↑  "Better language models and their implications". openai.com. مؤرشف من الأصل في 2023-03-16. اطلع عليه بتاريخ 2023-03-13.
1 2  "OpenAI's GPT-3 Language Model: A Technical Overview". lambdalabs.com. 3 يونيو 2020. مؤرشف من الأصل في 2023-03-27. اطلع عليه بتاريخ 2023-03-13.
↑  "openai-community/gpt2-xl · Hugging Face". huggingface.co. مؤرشف من الأصل في 2024-07-24. اطلع عليه بتاريخ 2024-07-24.
↑  "gpt-2". GitHub. مؤرشف من الأصل في 2023-03-11. اطلع عليه بتاريخ 2023-03-13.
↑  Wiggers، Kyle (28 أبريل 2022). "The emerging types of language models and why they matter". TechCrunch. مؤرشف من الأصل في 2023-03-16. اطلع عليه بتاريخ 2023-03-09.
Table D.1 in Brown، Tom B.؛ Mann، Benjamin؛ Ryder، Nick؛ Subbiah، Melanie؛ Kaplan، Jared؛ Dhariwal، Prafulla؛ Neelakantan، Arvind؛ Shyam، Pranav؛ Sastry، Girish؛ Askell، Amanda؛ Agarwal، Sandhini؛ Herbert-Voss، Ariel؛ Krueger، Gretchen؛ Henighan، Tom؛ Child، Rewon؛ Ramesh، Aditya؛ Ziegler، Daniel M.؛ Wu، Jeffrey؛ Winter، Clemens؛ Hesse، Christopher؛ Chen، Mark؛ Sigler، Eric؛ Litwin، Mateusz؛ Gray، Scott؛ Chess، Benjamin؛ Clark، Jack؛ Berner، Christopher؛ McCandlish، Sam؛ Radford، Alec؛ Sutskever، Ilya؛ Amodei، Dario (28 مايو 2020). "Language Models are Few-Shot Learners". arXiv:2005.14165v4 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "ChatGPT: Optimizing Language Models for Dialogue". OpenAI. 30 نوفمبر 2022. مؤرشف من الأصل في 2022-11-30. اطلع عليه بتاريخ 2023-01-13.
↑  "GPT Neo". غيت هاب. 15 مارس 2023. مؤرشف من الأصل في 2023-03-12. اطلع عليه بتاريخ 2023-03-12 – عبر GitHub.
1 2 3  Gao، Leo؛ Biderman، Stella؛ Black، Sid؛ Golding، Laurence؛ Hoppe، Travis؛ Foster، Charles؛ Phang، Jason؛ He، Horace؛ Thite، Anish؛ Nabeshima، Noa؛ Presser، Shawn؛ Leahy، Connor (31 ديسمبر 2020). "The Pile: An 800GB Dataset of Diverse Text for Language Modeling". arXiv:2101.00027 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Iyer، Abhishek (15 مايو 2021). "GPT-3's free alternative GPT-Neo is something to be excited about". VentureBeat. مؤرشف من الأصل في 2023-03-09. اطلع عليه بتاريخ 2023-03-13.
↑  "GPT-J-6B: An Introduction to the Largest Open Source GPT Model | Forefront". www.forefront.ai. مؤرشف من الأصل في 2023-03-09. اطلع عليه بتاريخ 2023-02-28.
↑  Dey، Nolan؛ Gosal، Gurpreet؛ Zhiming؛ Chen؛ Khachane، Hemant؛ Marshall، William؛ Pathria، Ribhu؛ Tom، Marvin؛ Hestness، Joel (01 أبريل 2023). "Cerebras-GPT: Open Compute-Optimal Language Models Trained on the Cerebras Wafer-Scale Cluster". arXiv:2304.03208 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Alvi، Ali؛ Kharya، Paresh (11 أكتوبر 2021). "Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, the World's Largest and Most Powerful Generative Language Model". Microsoft Research. مؤرشف من الأصل في 2023-03-13. اطلع عليه بتاريخ 2023-03-13.
1 2  Smith، Shaden؛ Patwary، Mostofa؛ Norick، Brandon؛ LeGresley، Patrick؛ Rajbhandari، Samyam؛ Casper، Jared؛ Liu، Zhun؛ Prabhumoye، Shrimai؛ Zerveas، George؛ Korthikanti، Vijay؛ Zhang، Elton؛ Child، Rewon؛ Aminabadi، Reza Yazdani؛ Bernauer، Julie؛ Song، Xia (04 فبراير 2022). "Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, A Large-Scale Generative Language Model". arXiv:2201.11990 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Wang، Shuohuan؛ Sun، Yu؛ Xiang، Yang؛ Wu، Zhihua؛ Ding، Siyu؛ Gong، Weibao؛ Feng، Shikun؛ Shang، Junyuan؛ Zhao، Yanbin؛ Pang، Chao؛ Liu، Jiaxiang؛ Chen، Xuyi؛ Lu، Yuxiang؛ Liu، Weixin؛ Wang، Xi؛ Bai، Yangfan؛ Chen، Qiuliang؛ Zhao، Li؛ Li، Shiyong؛ Sun، Peng؛ Yu، Dianhai؛ Ma، Yanjun؛ Tian، Hao؛ Wu، Hua؛ Wu، Tian؛ Zeng، Wei؛ Li، Ge؛ Gao، Wen؛ Wang، Haifeng (23 ديسمبر 2021). "ERNIE 3.0 Titan: Exploring Larger-scale Knowledge Enhanced Pre-training for Language Understanding and Generation". arXiv:2112.12731 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "Product". Anthropic. مؤرشف من الأصل في 2023-03-16. اطلع عليه بتاريخ 2023-03-14.
1 2  Askell، Amanda؛ Bai، Yuntao؛ Chen، Anna؛ وآخرون (9 ديسمبر 2021). "A General Language Assistant as a Laboratory for Alignment". arXiv:2112.00861 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Bai، Yuntao؛ Kadavath، Saurav؛ Kundu، Sandipan؛ وآخرون (15 ديسمبر 2022). "Constitutional AI: Harmlessness from AI Feedback". arXiv:2212.08073 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Dai، Andrew M؛ Du، Nan (9 ديسمبر 2021). "More Efficient In-Context Learning with GLaM". ai.googleblog.com. مؤرشف من الأصل في 2023-03-12. اطلع عليه بتاريخ 2023-03-09.
↑  "Language modelling at scale: Gopher, ethical considerations, and retrieval". www.deepmind.com. 8 ديسمبر 2021. مؤرشف من الأصل في 2023-03-20. اطلع عليه بتاريخ 2023-03-20.
1 2 3  Hoffmann، Jordan؛ Borgeaud، Sebastian؛ Mensch، Arthur؛ وآخرون (29 مارس 2022). "Training Compute-Optimal Large Language Models". arXiv:2203.15556 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "PaLM: Scaling Language Modeling with Pathways" (PDF). مؤرشف من الأصل (pdf) في 2023-06-10. اطلع عليه بتاريخ 2024-10-07.
1 2  Cheng، Heng-Tze؛ Thoppilan، Romal (21 يناير 2022). "LaMDA: Towards Safe, Grounded, and High-Quality Dialog Models for Everything". ai.googleblog.com. مؤرشف من الأصل في 2022-03-25. اطلع عليه بتاريخ 2023-03-09.
Thoppilan، Romal؛ De Freitas، Daniel؛ Hall، Jamie؛ Shazeer، Noam؛ Kulshreshtha، Apoorv؛ Cheng، Heng-Tze؛ Jin، Alicia؛ Bos، Taylor؛ Baker، Leslie؛ Du، Yu؛ Li، YaGuang؛ Lee، Hongrae؛ Zheng، Huaixiu Steven؛ Ghafouri، Amin؛ Menegali، Marcelo (01 يناير 2022). "LaMDA: Language Models for Dialog Applications". arXiv:2201.08239 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Black، Sidney؛ Biderman، Stella؛ Hallahan، Eric؛ وآخرون (01 مايو 2022). "GPT-NeoX-20B: An Open-Source Autoregressive Language Model". Proceedings of BigScience Episode #5 – Workshop on Challenges & Perspectives in Creating Large Language Models. Transactions of the Association for Computational Linguistics. ج. Proceedings of BigScience Episode #5 – Workshop on Challenges & Perspectives in Creating Large Language Models. ص. 95–136. مؤرشف من الأصل في 2022-12-10. اطلع عليه بتاريخ 2022-12-19.
1 2 3  Hoffmann، Jordan؛ Borgeaud، Sebastian؛ Mensch، Arthur؛ Sifre، Laurent (12 أبريل 2022). "An empirical analysis of compute-optimal large language model training". Deepmind Blog. مؤرشف من الأصل في 2022-04-13. اطلع عليه بتاريخ 2023-03-09.
↑  Narang, Sharan; Chowdhery, Aakanksha (4 Apr 2022). "Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance". ai.googleblog.com (بالإنجليزية). Archived from the original on 2022-04-04. Retrieved 2023-03-09.
↑  Susan Zhang؛ Mona Diab؛ Luke Zettlemoyer. "Democratizing access to large-scale language models with OPT-175B". ai.facebook.com. مؤرشف من الأصل في 2023-03-12. اطلع عليه بتاريخ 2023-03-12.
↑  Zhang، Susan؛ Roller، Stephen؛ Goyal، Naman؛ Artetxe، Mikel؛ Chen، Moya؛ Chen، Shuohui؛ Dewan، Christopher؛ Diab، Mona؛ Li، Xian؛ Lin، Xi Victoria؛ Mihaylov، Todor؛ Ott، Myle؛ Shleifer، Sam؛ Shuster، Kurt؛ Simig، Daniel؛ Koura، Punit Singh؛ Sridhar، Anjali؛ Wang، Tianlu؛ Zettlemoyer، Luke (21 يونيو 2022). "OPT: Open Pre-trained Transformer Language Models". arXiv:2205.01068 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Khrushchev، Mikhail؛ Vasilev، Ruslan؛ Petrov، Alexey؛ Zinov، Nikolay (22 يونيو 2022)، "YaLM 100B"، غيت هاب، مؤرشف من الأصل في 2023-06-16، اطلع عليه بتاريخ 2023-03-18
1 2  Lewkowycz، Aitor؛ Andreassen، Anders؛ Dohan، David؛ Dyer، Ethan؛ Michalewski، Henryk؛ Ramasesh، Vinay؛ Slone، Ambrose؛ Anil، Cem؛ Schlag، Imanol؛ Gutman-Solo، Theo؛ Wu، Yuhuai؛ Neyshabur، Behnam؛ Gur-Ari، Guy؛ Misra، Vedant (30 يونيو 2022). "Solving Quantitative Reasoning Problems with Language Models". arXiv:2206.14858 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "Minerva: Solving Quantitative Reasoning Problems with Language Models". ai.googleblog.com. 30 يونيو 2022. مؤرشف من الأصل في 2022-06-30. اطلع عليه بتاريخ 2023-03-20.
↑  Ananthaswamy، Anil (8 مارس 2023). "In AI, is bigger always better?". Nature. ج. 615 ع. 7951: 202–205. Bibcode:2023Natur.615..202A. DOI:10.1038/d41586-023-00641-w. PMID:36890378. S2CID:257380916. مؤرشف من الأصل في 2023-03-16. اطلع عليه بتاريخ 2023-03-09.
↑  "bigscience/bloom · Hugging Face". huggingface.co. مؤرشف من الأصل في 2023-04-12. اطلع عليه بتاريخ 2023-03-13.
↑  Taylor، Ross؛ Kardas، Marcin؛ Cucurull، Guillem؛ Scialom، Thomas؛ Hartshorn، Anthony؛ Saravia، Elvis؛ Poulton، Andrew؛ Kerkez، Viktor؛ Stojnic، Robert (16 نوفمبر 2022). "Galactica: A Large Language Model for Science". arXiv:2211.09085 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "20B-parameter Alexa model sets new marks in few-shot learning". Amazon Science. 2 أغسطس 2022. مؤرشف من الأصل في 2023-03-15. اطلع عليه بتاريخ 2023-03-12.
↑  Soltan، Saleh؛ Ananthakrishnan، Shankar؛ FitzGerald، Jack؛ وآخرون (3 أغسطس 2022). "AlexaTM 20B: Few-Shot Learning Using a Large-Scale Multilingual Seq2Seq Model". arXiv:2208.01448 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "AlexaTM 20B is now available in Amazon SageMaker JumpStart | AWS Machine Learning Blog". aws.amazon.com. 17 نوفمبر 2022. مؤرشف من الأصل في 2023-03-13. اطلع عليه بتاريخ 2023-03-13.
1 2 3  "Introducing LLaMA: A foundational, 65-billion-parameter large language model". Meta AI. 24 فبراير 2023. مؤرشف من الأصل في 2023-03-03. اطلع عليه بتاريخ 2023-03-09.
↑  "The Falcon has landed in the Hugging Face ecosystem". huggingface.co. مؤرشف من الأصل في 2023-06-20. اطلع عليه بتاريخ 2023-06-20.
↑  "GPT-4 Technical Report" (pdf). أوبن أيه آي. 2023. مؤرشف (PDF) من الأصل في 2023-03-14. اطلع عليه بتاريخ 2023-03-14.
↑  Schreiner, Maximilian (11 Jul 2023). "GPT-4 architecture, datasets, costs and more leaked". THE DECODER (بالإنجليزية). Archived from the original on 2023-07-12. Retrieved 2024-07-26.
↑  Dey، Nolan (28 مارس 2023). "Cerebras-GPT: A Family of Open, Compute-efficient, Large Language Models". Cerebras. مؤرشف من الأصل في 2023-03-28. اطلع عليه بتاريخ 2023-03-28.
↑  "Abu Dhabi-based TII launches its own version of ChatGPT". tii.ae. مؤرشف من الأصل في 2023-04-03. اطلع عليه بتاريخ 2023-04-03.
↑  Penedo، Guilherme؛ Malartic، Quentin؛ Hesslow، Daniel؛ Cojocaru، Ruxandra؛ Cappelli، Alessandro؛ Alobeidli، Hamza؛ Pannier، Baptiste؛ Almazrouei، Ebtesam؛ Launay، Julien (01 يونيو 2023). "The RefinedWeb Dataset for Falcon LLM: Outperforming Curated Corpora with Web Data, and Web Data Only". arXiv:2306.01116 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  "tiiuae/falcon-40b · Hugging Face". huggingface.co. 09 يونيو 2023. مؤرشف من الأصل في 2023-06-02. اطلع عليه بتاريخ 2023-06-20.
↑  "UAE's Falcon 40B, World's Top-Ranked AI Model from Technology Innovation Institute, is Now Royalty-Free". مؤرشف من الأصل في 2024-02-08. اطلع عليه بتاريخ 2024-10-07.
↑  Wu، Shijie؛ Irsoy، Ozan؛ Lu، Steven؛ Dabravolski، Vadim؛ Dredze، Mark؛ Gehrmann، Sebastian؛ Kambadur، Prabhanjan؛ Rosenberg، David؛ Mann، Gideon (30 مارس 2023). "BloombergGPT: A Large Language Model for Finance". arXiv:2303.17564 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Ren، Xiaozhe؛ Zhou، Pingyi؛ Meng، Xinfan؛ Huang، Xinjing؛ Wang، Yadao؛ Wang، Weichao؛ Li، Pengfei؛ Zhang، Xiaoda؛ Podolskiy، Alexander؛ Arshinov، Grigory؛ Bout، Andrey؛ Piontkovskaya، Irina؛ Wei، Jiansheng؛ Jiang، Xin؛ Su، Teng؛ Liu، Qun؛ Yao، Jun (19 مارس 2023). "PanGu-Σ: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing". arXiv:2303.10845 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Köpf، Andreas؛ Kilcher، Yannic؛ von Rütte، Dimitri؛ Anagnostidis، Sotiris؛ Tam، Zhi-Rui؛ Stevens، Keith؛ Barhoum، Abdullah؛ Duc، Nguyen Minh؛ Stanley، Oliver؛ Nagyfi، Richárd؛ ES، Shahul؛ Suri، Sameer؛ Glushkov، David؛ Dantuluri، Arnav؛ Maguire، Andrew (14 أبريل 2023). "OpenAssistant Conversations – Democratizing Large Language Model Alignment". arXiv:2304.07327 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)