结合书生·浦语参大模型实战营的内容,系统化学习李宏毅老师 2024 年《生成式人工智能导论》. 我们将:
- 跟随李宏毅老师 2024 年《生成式人工智能导论》课程的进度,系统学习理论知识。
- 结合书生·浦语参大模型实战营的内容,进行实践操作和项目实战。
- 整理、总结和分享学习过程中的笔记、见解和资源。
通过这种理论与实践相结合的方法,我们旨在为进入这个快速发展的领域奠定坚实的基础。 常用资料链接:
- B站课程视频
- github: https://github.com/InternLM/Tutorial/tree/camp3
- 学员手册:https://aicarrier.feishu.cn/wiki/XBO6wpQcSibO1okrChhcBkQjnsf
- 个人笔记 飞书文档 & github.
这个项目的意义在于,展示一个学生的角色(借助Claude&GPT的帮助),去学习生成式AI的理论知识,同时也要参与实践操作,最终达到对生成式AI的全面理解。 由于大语言模型领域涵盖众多重要课题、应用和技术,我们不得不有所取舍,选择性地重点关注:
- 从增量预训练,到SFT,再到RLHF,这个过程是如何实践操作的
- ...
请注意本项目不会:
- 全面完整的梳理李宏毅老师的课程内容,仅仅是个性做一个非常精简的总结,并且记录个人觉得特有意思的关键知识点。
- [2024/07/18] 从基于 MedicalGPT 的模型定制出发, 重新理解模型对齐所有的细节,包括IPT/SFT/RLHF。
- [2024/07/12] 完成实战营入门岛作业 github
- [2024/07/04] 参考MedicalGPT完成模型训练(IPT/SFT/RLHF)流程。
- [2024/07/02] 李宏毅老师的课程课程笔记基本完成。
- 0_course_intro:课程介绍和总体框架
- 1_intro_to_genAI:生成式 AI 概述
- 2_prompt_engineering:提示工程技术
- 3_LLM_training:大型语言模型训练
- 4_evaluation_and_ethics:评估方法和伦理考量
- 5_explainability:可解释性研究
- 6_genAI:多模态大模型
- GPT4o
-
系统化学习:按照李宏毅老师课程的主题结构组织内容,确保全面覆盖关键知识点。
-
理论结合实践:我们将结合书生·浦语参大模型实战营的内容,深化对理论知识的理解,并获得实际操作经验。
-
持续更新:随着课程进展和技术发展,本仓库将不断更新和完善。
-
开放讨论:欢迎其他学习者参与讨论,分享见解,共同提高。
欢迎通过 Issues 或 Pull Requests 提供反馈、建议或贡献内容。让我们一起学习和探索生成式 AI 的精彩世界!