Skip to content

结合书生·浦语参大模型实战营的内容, 系统化学习李宏毅老师 2024 年《生成式人工智能导论》课程。

Notifications You must be signed in to change notification settings

1587causalai/Hung-yi-Lee-GenAI-2024-Notes

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

52 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Hung-yi Lee GenAI 2024 Course Notes

项目简介

结合书生·浦语参大模型实战营的内容,系统化学习李宏毅老师 2024 年《生成式人工智能导论》. 我们将:

  1. 跟随李宏毅老师 2024 年《生成式人工智能导论》课程的进度,系统学习理论知识。
  2. 结合书生·浦语参大模型实战营的内容,进行实践操作和项目实战。
  3. 整理、总结和分享学习过程中的笔记、见解和资源。

通过这种理论与实践相结合的方法,我们旨在为进入这个快速发展的领域奠定坚实的基础。 常用资料链接:

项目意义

这个项目的意义在于,展示一个学生的角色(借助Claude&GPT的帮助),去学习生成式AI的理论知识,同时也要参与实践操作,最终达到对生成式AI的全面理解。 由于大语言模型领域涵盖众多重要课题、应用和技术,我们不得不有所取舍,选择性地重点关注:

  • 从增量预训练,到SFT,再到RLHF,这个过程是如何实践操作的
  • ...

请注意本项目不会:

  • 全面完整的梳理李宏毅老师的课程内容,仅仅是个性做一个非常精简的总结,并且记录个人觉得特有意思的关键知识点。

🔥News

  • [2024/07/18] 从基于 MedicalGPT 的模型定制出发, 重新理解模型对齐所有的细节,包括IPT/SFT/RLHF。
  • [2024/07/12] 完成实战营入门岛作业 github
  • [2024/07/04] 参考MedicalGPT完成模型训练(IPT/SFT/RLHF)流程。
  • [2024/07/02] 李宏毅老师的课程课程笔记基本完成。

内容结构

项目特点

  1. 系统化学习:按照李宏毅老师课程的主题结构组织内容,确保全面覆盖关键知识点。

  2. 理论结合实践:我们将结合书生·浦语参大模型实战营的内容,深化对理论知识的理解,并获得实际操作经验。

  3. 持续更新:随着课程进展和技术发展,本仓库将不断更新和完善。

  4. 开放讨论:欢迎其他学习者参与讨论,分享见解,共同提高。

参考资源

贡献

欢迎通过 Issues 或 Pull Requests 提供反馈、建议或贡献内容。让我们一起学习和探索生成式 AI 的精彩世界!

About

结合书生·浦语参大模型实战营的内容, 系统化学习李宏毅老师 2024 年《生成式人工智能导论》课程。

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published