Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

关于TinyChart数据可用性的问题 #87

Open
lucasjinreal opened this issue Jun 26, 2024 · 5 comments
Open

关于TinyChart数据可用性的问题 #87

lucasjinreal opened this issue Jun 26, 2024 · 5 comments

Comments

@lucasjinreal
Copy link

看起来tinyChart里面包含了很多 之类的控制符,且输出仅为numpy的代码,这种数据理论上推理也只是给一个numpy的代码,能否直接进行QA呢

@zhangliang-04
Copy link
Collaborator

看起来tinyChart里面包含了很多 之类的控制符,且输出仅为numpy的代码,这种数据理论上推理也只是给一个numpy的代码,能否直接进行QA呢

你好,tinychart可以直接进行QA,只需要把prompt中的’Answer with detailed steps‘ 去掉模型就会产生直接回答。
另外,对于如何运行模型产生的numpy代码并得到答案,请参考parse_model_outputevaluate_cmds这两个函数

@lucasjinreal
Copy link
Author

不是 我的意思是,详细回答的时候,会直接输出np的代码,为啥不把分析结果显示的表示出来呢,这的数据能让模型真正benifit吗

@zhangliang-04
Copy link
Collaborator

你好,当然可以把每一步的执行结果放入数据里让模型学习,这是一个很好的想法!
不过我们在设计pot的时候主要的出发点是缓解计算错误,模型只需要学推理(numpy代码以及注释),计算交给解释器去做,所以每一步的结果不是必要的。

@lucasjinreal
Copy link
Author

感谢回答,如果我把那些 这样字段去掉,只保留numpy的代码,同时直接给出结果。模型是不是更好学一点啊

@zhangliang-04
Copy link
Collaborator

感谢回答,如果我把那些 这样字段去掉,只保留numpy的代码,同时直接给出结果。模型是不是更好学一点啊

控制字符是为了更方便地解析模型产生的代码,去掉可能会增加解析失败的频率。
我们目前没有尝试加入执行结果的pot,可以尝试一下~

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants