Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

PaddleNLP 快乐开源活动 (2025 Q1) (预览版)🎉 #9763

Open
DrownFish19 opened this issue Jan 9, 2025 · 0 comments
Open

PaddleNLP 快乐开源活动 (2025 Q1) (预览版)🎉 #9763

DrownFish19 opened this issue Jan 9, 2025 · 0 comments
Assignees
Labels
others unknown issue type

Comments

@DrownFish19
Copy link
Collaborator

DrownFish19 commented Jan 9, 2025

问题描述

📣PaddleNLP 快乐开源活动

旨在鼓励更多的开发者参与到飞桨大模型套件的开源建设中,帮助社区修复 bug 或贡献 feature,共建飞桨。

🔥热身任务

跑通 Qwen2 的训练流程,通过完成本任务,可以收获如何进行大语言模型预训练和微调,也可以快速上手PaddleNLP。

🌈命题任务

命题任务是我们总结整理大模型套件的需求得出,每个任务上标注了任务难度,大家可以选择参与。欢迎对这些需求感兴趣的开发者参与到这些任务的开发✌️✌️。在开发过程中,你能进行包括任务分解、代码撰写等工作,还会有飞桨的研发全程和你一起解决可能遇到的问题。还等什么,快来参与吧。🎉🎉
认领方式
请大家以 comment 的形式认领任务,如:
【报名】:1、3、12-13

多个任务之间需要使用中文顿号分隔,报名多个连续任务可用横线表示,如 2-5
PR 提交格式:在 PR 的标题中以【Model/Doc/TaskFlow No.xxx】开头,注明任务编号

看板信息

任务方向 任务数量 提交作品 / 任务认领 提交率 完成 完成率
飞桨大语言模型快乐开源活动

统计信息

排名不分先后

任务列表

mentor:@DrownFish19 @ZHUI

###大语言模型训练

序号 任务名称 任务类型 任务描述 难度 优先级 认领人/状态/PR号
1 在V100上的大语言模型训练优化 模型训练 针对V100特殊处理模型配置,例如v100无法使用bf16和flashattention等,修改模型参数加载过程 🌟 P0
2 在win上的大语言模型训练优化 模型训练 针对win特殊处理模型配置,修正win环境下模型加载和训练问题(单卡) 🌟 P0
3 在mac上的大语言模型推理优化 模型推理 针对mac特殊处理模型配置,修正mac环境下模型加载和推理问题 🌟 P0
4 预训练文档 文档 扩充预训练文档,补充完善实例教程至星河社区 🌟 P1
5 精调文档 文档 扩充精调训练文档,补充完善实例教程至星河社区 🌟 P0
6 对齐文档 文档 扩充对齐训练文档,补充完善实例教程至星河社区 🌟 P0
7 量化文档 文档 扩充量化文档,补充完善实例教程至星河社区 🌟 P1
@DrownFish19 DrownFish19 added the others unknown issue type label Jan 9, 2025
@DrownFish19 DrownFish19 pinned this issue Jan 10, 2025
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
others unknown issue type
Projects
None yet
Development

No branches or pull requests

2 participants