التعلم المعزز من ردود الفعل البشرية
مراجع

↑  "ما المقصود بالتعلُّم المعزَّز من الملاحظات البشرية (RLHF)؟ - شرح "التعلُّم المعزَّز من الملاحظات البشرية" - AWS". Amazon Web Services, Inc. مؤرشف من الأصل في 2024-11-25. اطلع عليه بتاريخ 2024-10-28.
↑  "أنواع التعلم الآلي | IBM". www.ibm.com. 27 سبتمبر 2024T19:00:30.019. اطلع عليه بتاريخ 28 أكتوبر 2024. {{استشهاد ويب}}: تحقق من التاريخ في: |تاريخ= (مساعدة)
↑  "Rich human feedback for text-to-image generation". research.google (بالإنجليزية). Archived from the original on 2024-11-19. Retrieved 2024-10-28.
↑  #author.fullName. "AIs are more likely to mislead people if trained on human feedback". New Scientist. مؤرشف من الأصل في 2024-10-02. اطلع عليه بتاريخ 2024-10-28. {{استشهاد ويب}}: |مؤلف= باسم عام (مساعدة)صيانة الاستشهاد: BOT: original URL status unknown (link)#author.fullName. [تاريخ أرشيف=2024-10-02 "AIs are more likely to mislead people if trained on human feedback"]. New Scientist. اطلع عليه بتاريخ 2024-10-28. {{استشهاد ويب}}: |مؤلف= باسم عام (مساعدة)، الوسيط |مسار أرشيف= بحاجة لـ |تاريخ أرشيف= (مساعدة)، وتحقق من قيمة |مسار أرشيف= (مساعدة)| لغة = الإنجليزية| مسار أرشيف =http://archive.md/20241002204312/https://www.newscientist.com/article/2450360-ais-are-more-likely-to-mislead-people-if-trained-on-human-feedback/%7C تاريخ أرشيف = 02 أكتوبر 2024}}
↑  "What Is Reinforcement Learning From Human Feedback (RLHF)? | IBM". www.ibm.com (بالإنجليزية). 09 Nov 2023. Archived from the original on 2024-11-16. Retrieved 2024-10-28.
↑  "Reinforcement Learning from Human Feedback - DeepLearning.AI". www.deeplearning.ai (بالإنجليزية). Archived from the original on 2024-11-29. Retrieved 2024-10-28.
↑  Ph.D, Cameron R. Wolfe (29 Feb 2024). "The Story of RLHF: Origins, Motivations, Techniques, and Modern Applications". Medium (بالإنجليزية). Retrieved 2024-10-28.
1 2 3 4 5  Amodei، Dario؛ Christiano، Paul؛ Ray، Alex (13 يونيو 2017). "Learning from human preferences". openai.com. مؤرشف من الأصل في 2024-05-01. اطلع عليه بتاريخ 2023-03-04.
↑  Zheng، Rui؛ Dou، Shihan؛ Gao، Songyang؛ Hua، Yuan؛ Shen، Wei؛ Wang، Binghai؛ Liu، Yan؛ Jin، Senjie؛ Liu، Qin؛ Zhou، Yuhao؛ Xiong، Limao؛ Chen، Lu؛ Xi، Zhiheng؛ Xu، Nuo؛ Lai، Wenbin؛ Zhu، Minghao؛ Chang، Cheng؛ Yin، Zhangyue؛ Weng، Rongxiang؛ Cheng، Wensen؛ Huang، Haoran؛ Sun، Tianxiang؛ Yan، Hang؛ Gui، Tao؛ Zhang، Qi؛ Qiu، Xipeng؛ Huang، Xuanjing (2023). "Secrets of RLHF in Large Language Models Part I: PPO". arXiv:2307.04964 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Knox, W. Bradley; Stone, Peter; Breazeal, Cynthia (2013). "Training a Robot via Human Feedback: A Case Study". Social Robotics. Lecture Notes in Computer Science (بالإنجليزية). Springer International Publishing. Vol. 8239. pp. 460–470. DOI:10.1007/978-3-319-02675-6_46. ISBN:978-3-319-02674-9. Retrieved 2024-10-28.
↑  Akrour, Riad; Schoenauer, Marc; Sebag, Michèle (2012). "APRIL: Active Preference Learning-Based Reinforcement Learning". Machine Learning and Knowledge Discovery in Databases. Lecture Notes in Computer Science (بالإنجليزية). Springer. Vol. 7524. pp. 116–131. arXiv:1208.0984. DOI:10.1007/978-3-642-33486-3_8. ISBN:978-3-642-33485-6. Retrieved 2024-10-28.
↑  Wilson، Aaron؛ Fern، Alan؛ Tadepalli، Prasad (2012). "A Bayesian Approach for Policy Learning from Trajectory Preference Queries". Advances in Neural Information Processing Systems. Curran Associates, Inc. ج. 25. مؤرشف من الأصل في 2024-11-27. اطلع عليه بتاريخ 2024-02-26.
↑  Schoenauer, Marc; Akrour, Riad; Sebag, Michele; Souplet, Jean-Christophe (18 Jun 2014). "Programming by Feedback". Proceedings of the 31st International Conference on Machine Learning (بالإنجليزية). PMLR: 1503–1511. Archived from the original on 2024-09-28. Retrieved 2024-02-26.
↑  Warnell، Garrett؛ Waytowich، Nicholas؛ Lawhern، Vernon؛ Stone، Peter (25 أبريل 2018). "Deep TAMER: Interactive Agent Shaping in High-Dimensional State Spaces". Proceedings of the AAAI Conference on Artificial Intelligence. ج. 32 ع. 1. arXiv:1709.10163. DOI:10.1609/aaai.v32i1.11485. S2CID:4130751. مؤرشف من الأصل في 2024-09-28. اطلع عليه بتاريخ 2024-10-28.
↑  MacGlashan، James؛ Ho، Mark K.؛ Loftin، Robert؛ Peng، Bei؛ Wang، Guan؛ Roberts، David L.؛ Taylor، Matthew E.؛ Littman، Michael L. (6 أغسطس 2017). "Interactive learning from policy-dependent human feedback". Proceedings of the 34th International Conference on Machine Learning - Volume 70. JMLR.org: 2285–2294. arXiv:1701.06049. مؤرشف من الأصل في 2023-03-04. اطلع عليه بتاريخ 2024-10-28.
1 2 3  Lambert، Nathan؛ Castricato، Louis؛ von Werra، Leandro؛ Havrilla، Alex. "Illustrating Reinforcement Learning from Human Feedback (RLHF)". huggingface.co. مؤرشف من الأصل في 2023-02-16. اطلع عليه بتاريخ 2023-03-04.
↑  Ziegler، Daniel M.؛ Stiennon، Nisan؛ Wu، Jeffrey؛ Brown، Tom B.؛ Radford، Alec؛ Amodei، Dario؛ Christiano، Paul؛ Irving، Geoffrey (2019). "Fine-Tuning Language Models from Human Preferences". arXiv:1909.08593 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2 3 4 5 6 7 8 9 10  Nisan Stiennon; Long Ouyang; Jeffrey Wu; Daniel Ziegler; Ryan Lowe; Chelsea Voss; Alec Radford; Dario Amodei; Paul F. Christiano (2020). "Learning to summarize with human feedback". Advances in Neural Information Processing Systems (بالإنجليزية). 33. Archived from the original on 2024-11-25. Retrieved 2024-10-28.
1 2 3 4 5 6 7 8 9 10 11 12  Ouyang, Long; Wu, Jeffrey; Jiang, Xu; Almeida, Diogo; Wainwright, Carroll; Mishkin, Pamela; Zhang, Chong; Agarwal, Sandhini; Slama, Katarina; Gray, Alex; Schulman, John; Hilton, Jacob; Kelton, Fraser; Miller, Luke; Simens, Maddie; Askell, Amanda; Welinder, Peter; Christiano, Paul; Leike, Jan; Lowe, Ryan (31 Oct 2022). "Training language models to follow instructions with human feedback". Thirty-Sixth Conference on Neural Information Processing Systems: NeurIPS 2022. ICLR (بالإنجليزية). arXiv:2203.02155. Archived from the original on 2024-11-28. Retrieved 2024-10-28.
↑  Bai، Yuntao؛ Jones، Andy؛ Ndousse، Kamal؛ Askell، Amanda؛ Chen، Anna؛ DasSarma، Nova؛ Drain، Dawn؛ Fort، Stanislav؛ Ganguli، Deep؛ Henighan، Tom؛ Joseph، Nicholas؛ Kadavath، Saurav؛ Kernion، Jackson؛ Conerly، Tom؛ El-Showk، Sheer؛ Elhage، Nelson؛ Hatfield-Dodds، Zac؛ Hernandez، Danny؛ Hume، Tristan؛ Johnston، Scott؛ Kravec، Shauna؛ Lovitt، Liane؛ Nanda، Neel؛ Olsson، Catherine؛ Amodei، Dario؛ Brown، Tom؛ Clark، Jack؛ McCandlish، Sam؛ Olah، Chris؛ Mann، Ben؛ Kaplan، Jared (2022). "Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback". arXiv:2204.05862 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Edwards, Benj (1 Dec 2022). "OpenAI invites everyone to test ChatGPT, a new AI-powered chatbot—with amusing results". Ars Technica (بالإنجليزية). Archived from the original on 2024-12-02. Retrieved 2023-03-04.
↑  Abhishek، Gupta (5 فبراير 2023). "Getting stakeholder engagement right in responsible AI". VentureBeat. مؤرشف من الأصل في 2024-01-18. اطلع عليه بتاريخ 2023-03-04.
↑  Fernandes، Patrick؛ Madaan، Aman؛ Liu، Emmy؛ Farinhas، António؛ Pedro Henrique Martins؛ Bertsch، Amanda؛ de Souza، José G. C.؛ Zhou، Shuyan؛ Wu، Tongshuang؛ Neubig، Graham؛ Martins، André F. T. (2023). "Bridging the Gap: A Survey on Integrating (Human) Feedback for Natural Language Generation". arXiv:2305.00955 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
1 2  Xie، Tengyang؛ Jiang، Nan؛ Wang، Huan؛ Xiong، Caiming؛ Bai، Yu (2021). "Policy Finetuning: Bridging Sample-Efficient Offline and Online Reinforcement Learning". Advances in Neural Information Processing Systems. Curran Associates, Inc. ج. 34: 27395–27407. arXiv:2106.04895. مؤرشف من الأصل في 2024-06-01. اطلع عليه بتاريخ 2024-03-10.
1 2  Pacchiano, Aldo; Saha, Aadirupa; Lee, Jonathan (03 Mar 2023). "Dueling RL: Reinforcement Learning with Trajectory Preferences". Proceedings of the 26th International Conference on Artificial Intelligence and Statistics (بالإنجليزية). PMLR: 6263–6289. arXiv:2111.04850. Archived from the original on 2024-03-08. Retrieved 2024-10-28.
1 2  Zhu, Banghua; Jordan, Michael; Jiao, Jiantao (03 Jul 2023). "Principled Reinforcement Learning with Human Feedback from Pairwise or K-wise Comparisons". Proceedings of the 40th International Conference on Machine Learning (بالإنجليزية). PMLR: 43037–43067. arXiv:2301.11270. Archived from the original on 2024-04-18. Retrieved 2024-10-28.
↑  Li, Zihao; Yang, Zhuoran; Wang, Mengdi (20 Jun 2023). "Reinforcement learning with Human Feedback: Learning Dynamic Choices via Pessimism". ILHF Workshop ICML 2023 (بالإنجليزية). arXiv:2305.18438. Archived from the original on 2024-05-01. Retrieved 2024-03-10.
↑  Ouyang، Long؛ Wu، Jeff؛ Jiang، Xu؛ Almeida، Diogo؛ Wainwright، Carroll L.؛ Mishkin، Pamela؛ Zhang، Chong؛ Agarwal، Sandhini؛ Slama، Katarina؛ Ray، Alex؛ Schulman، John؛ Hilton، Jacob؛ Kelton، Fraser؛ Miller، Luke؛ Simens، Maddie؛ Askell، Amanda؛ Welinder، Peter؛ Christiano، Paul؛ Leike، Jan؛ Lowe، Ryan (2022). "Training language models to follow instructions with human feedback". arXiv:2203.02155 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Wiggers، Kyle (24 فبراير 2023). "Can AI really be protected from text-based attacks?". TechCrunch. مؤرشف من الأصل في 2024-12-03. اطلع عليه بتاريخ 2023-03-04.
↑  Heikkilä, Melissa (21 Feb 2023). "How OpenAI is trying to make ChatGPT safer and less biased". MIT Technology Review (بالإنجليزية). Archived from the original on 2023-02-21. Retrieved 2023-03-04.
↑  Douglas Heaven, Will (30 Nov 2022). "ChatGPT is OpenAI's latest fix for GPT-3. It's slick but still spews nonsense". MIT Technology Review (بالإنجليزية). Archived from the original on 2024-11-25. Retrieved 2023-03-04.
↑  Glaese، Amelia؛ McAleese، Nat؛ Trębacz، Maja؛ Aslanides، John؛ Firoiu، Vlad؛ Ewalds، Timo؛ Rauh، Maribeth؛ Weidinger، Laura؛ Chadwick، Martin؛ Thacker، Phoebe؛ Campbell-Gillingham، Lucy؛ Uesato، Jonathan؛ Huang، Po-Sen؛ Comanescu، Ramona؛ Yang، Fan؛ See، Abigail؛ Dathathri، Sumanth؛ Greig، Rory؛ Chen، Charlie؛ Fritz، Doug؛ Elias، Jaume Sanchez؛ Green، Richard؛ Mokrá، Soňa؛ Fernando، Nicholas؛ Wu، Boxi؛ Foley، Rachel؛ Young، Susannah؛ Gabriel، Iason؛ Isaac، William؛ Mellor، John؛ Hassabis، Demis؛ Kavukcuoglu، Koray؛ Hendricks، Lisa Anne؛ Irving، Geoffrey (2022). "Improving alignment of dialogue agents via targeted human judgements". arXiv:2209.14375 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Goldman، Sharon (23 سبتمبر 2022). "Why DeepMind isn't deploying its new AI chatbot — and what it means for responsible AI". VentureBeat. مؤرشف من الأصل في 2024-05-29. اطلع عليه بتاريخ 2023-03-04.
↑  The Sparrow team (22 Sep 2022). "Building safer dialogue agents". www.deepmind.com (بالإنجليزية). Archived from the original on 2023-10-18. Retrieved 2023-03-04.
↑  Pinchai, Sundar; Hassabis, Demis (6 Dec 2023). "Introducing Gemini: our largest and most capable AI model". Google (بالإنجليزية). Archived from the original on 2024-12-02. Retrieved 2024-02-29.
↑  Henshall, Will (18 Jul 2023). "What to Know About Claude 2, Anthropic's Rival to ChatGPT". TIME (بالإنجليزية). Archived from the original on 2023-07-21. Retrieved 2024-03-06.
↑  Fan, Ying; Watkins, Olivia; Du, Yuqing; Liu, Hao; Ryu, Moonkyung; Boutilier, Craig; Abbeel, Pieter; Ghavamzadeh, Mohammad; Lee, Kangwook; Lee, Kimin (2 Nov 2023). "DPOK: Reinforcement Learning for Fine-tuning Text-to-Image Diffusion Models". NeurIPS 2023 (بالإنجليزية). arXiv:2305.16381. Archived from the original on 2024-05-13. Retrieved 2024-03-01.
↑  Xu, Jiazheng; Liu, Xiao; Wu, Yuchen; Tong, Yuxuan; Li, Qinkai; Ding, Ming; Tang, Jie; Dong, Yuxiao (15 Dec 2023). "ImageReward: Learning and Evaluating Human Preferences for Text-to-Image Generation". Advances in Neural Information Processing Systems (بالإنجليزية). 36: 15903–15935. arXiv:2304.05977. Archived from the original on 2024-04-23. Retrieved 2024-03-01.
↑  Lee، Kimin؛ Liu، Hao؛ Ryu، Moonkyung؛ Watkins، Olivia؛ Du، Yuqing؛ Boutilier، Craig؛ Abbeel، Pieter؛ Ghavamzadeh، Mohammad؛ Gu، Shixiang Shane (2023). "Aligning Text-to-Image Models using Human Feedback". arXiv:2302.12192 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Leike, Jan; Martic, Miljan; Legg, Shane (12 Jun 2017). "Learning through human feedback". www.deepmind.com (بالإنجليزية). Archived from the original on 2023-09-25. Retrieved 2023-03-04.
↑  Christiano، Paul F؛ Leike، Jan؛ Brown، Tom؛ Martic، Miljan؛ Legg، Shane؛ Amodei، Dario (2017). "Deep Reinforcement Learning from Human Preferences". Advances in Neural Information Processing Systems. Curran Associates, Inc. ج. 30. arXiv:1706.03741. مؤرشف من الأصل في 2024-08-25. اطلع عليه بتاريخ 2023-03-04.
1 2 3  Casper، Stephen؛ Davies، Xander؛ Shi، Claudia؛ Gilbert، Thomas Krendl؛ Scheurer، Jérémy؛ Rando، Javier؛ Freedman، Rachel؛ Korbak، Tomasz؛ Lindner، David؛ Freire، Pedro؛ Wang، Tony Tong؛ Marks، Samuel؛ Segerie، Charbel-Raphael؛ Carroll، Micah؛ Peng، Andi؛ Christoffersen، Phillip؛ Damani، Mehul؛ Slocum، Stewart؛ Anwar، Usman؛ Siththaranjan، Anand؛ Nadeau، Max؛ Michaud، Eric J.؛ Pfau، Jacob؛ Krasheninnikov، Dmitrii؛ Chen، Xin؛ Langosco، Lauro؛ Hase، Peter؛ Biyik، Erdem؛ Dragan، Anca؛ Krueger، David؛ Sadigh، Dorsa؛ Hadfield-Menell، Dylan (18 سبتمبر 2023). "Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback". Transactions on Machine Learning Research. arXiv:2307.15217. مؤرشف من الأصل في 2024-10-06. اطلع عليه بتاريخ 2024-10-28.
↑  Christiano, Paul (25 Jan 2023). "Thoughts on the impact of RLHF research" (بالإنجليزية). Archived from the original on 2024-08-22. Retrieved 2023-03-04.
↑  Belenguer، Lorenzo (2022). "AI bias: exploring discriminatory algorithmic decision-making models and the application of possible machine-centric solutions adapted from the pharmaceutical industry". AI and Ethics. AI Ethics. ج. 2 ع. 4: 771–787. DOI:10.1007/s43681-022-00138-8. PMC:8830968. PMID:35194591. اطلع عليه بتاريخ 2024-10-28.
↑  Zhang, Chiyuan؛ Bengio, Samy؛ Hardt, Moritz؛ Recht, Benjamin؛ Vinyals, Oriol (4 نوفمبر 2016). "Understanding deep learning requires rethinking generalization". International Conference on Learning Representations. مؤرشف من الأصل في 2024-08-24. اطلع عليه بتاريخ 2024-10-28.
↑  Clark، Jack؛ Amodei، Dario (21 ديسمبر 2016). "Faulty reward functions in the wild". OpenAI. مؤرشف من الأصل في 2024-09-19. اطلع عليه بتاريخ 2024-10-28.
↑  Ansari, Tasmia (06 Oct 2023). "Reinforcement Learning Craves Less Human, More AI". Analytics India Magazine (بالإنجليزية). Archived from the original on 2024-04-26. Retrieved 2024-04-27.
↑  Edwards, Benj (09 May 2023). "AI gains "values" with Anthropic's new Constitutional AI chatbot approach". Ars Technica (بالإنجليزية). Archived from the original on 2023-05-10. Retrieved 2024-04-27.
↑  Rafailov، Rafael؛ Sharma، Archit؛ Mitchell، Eric؛ Ermon، Stefano؛ Manning، Christopher D.؛ Finn، Chelsea (2023). "Direct Preference Optimization: Your Language Model is Secretly a Reward Model". arXiv:2305.18290 [cs.LG]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
↑  Wang، Zhilin؛ Dong، Yi؛ Zeng، Jiaqi؛ Adams، Virginia؛ Sreedhar، Makesh Narsimhan؛ Egert، Daniel؛ Delalleau، Olivier؛ Scowcroft، Jane Polak؛ Kant، Neel؛ Swope، Aidan؛ Kuchaiev، Oleksii (2023). "HelpSteer: Multi-attribute Helpfulness Dataset for SteerLM". arXiv:2311.09528 [cs.CL]. {{استشهاد بأرخايف}}: الوسيط |arxiv= مطلوب (مساعدة)
بوابة ذكاء اصطناعي
بوابة علم الحاسوب