Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[Feature]: 是否可以支持由字节跳动研发的语言模型豆包(Doubao). #1864

Open
JohnChen1997 opened this issue Jun 19, 2024 · 6 comments

Comments

@JohnChen1997
Copy link

Class | 类型

大语言模型

Feature Request | 功能请求

您好,我是编程方面的小白,偶然获悉字节跳动研发的语言模型豆包(Doubao)赠送了5亿oken免费用量,所以提出是否可以支持由字节跳动研发的语言模型豆包(Doubao),或者给出一个豆包的第三方API‐KEY接入指南或将如何接入其他在线大语言模型的指南
https://github.com/binary-husky/gpt_academic/blob/master/request_llms/README.md#%E5%A6%82%E4%BD%95%E6%8E%A5%E5%85%A5%E5%85%B6%E4%BB%96%E5%9C%A8%E7%BA%BF%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B 细化一下以方便学习,感谢。
屏幕截图 2024-06-19 190918

@JohnChen1997 JohnChen1997 changed the title 是否可以支持由字节跳动研发的语言模型豆包(Doubao). [Feature]: 是否可以支持由字节跳动研发的语言模型豆包(Doubao). Jun 19, 2024
@littlepenguin66
Copy link

结合一下Doubao API调用指南https://www.volcengine.com/docs/82379/1263512

@guobaozu
Copy link

oneapi已经支持接入,中转一下即可实现。

@JohnChen1997
Copy link
Author

您好,无论我怎么修改都会提示“[API_KEY] 您的 API_KEY 不满足任何一种已知的密钥格式,请在config文件中修改API密钥之后再运行。”

@JohnChen1997
Copy link
Author

4c60df5b-ae5c-4d74-9221-b91cd55988a4,这是豆包生成的api key格式,不用担心,该api key已被移除。

@guobaozu
Copy link

您好,无论我怎么修改都会提示“[API_KEY] 您的 API_KEY 不满足任何一种已知的密钥格式,请在config文件中修改API密钥之后再运行。”

正常的oneapi中转后的令牌是符合openai的KEY格式的,如果不符合。你应该不是通过oneapi中转的吧。
正常豆包的处理应该如下:
1、在config_private.py中,AVAIL_LLM_MODELS = ["one-api-免费豆包"]
2、API_URL_REDIRECT配置API 中转到oneapi
3、oneapi中配置豆包渠道,以及模型名称的重定向“免费豆包“到你的豆包真实的模型名称。
4、oneapi中获取令牌,academic运行后输入到输出框提交。

@JohnChen1997
Copy link
Author

感谢您的解答,我明白了需要从oneapi中转一下,并经行了学习与尝试,但似乎oneapi的部署对我来说太过复杂了,甚至尝试了购买了云服务器也同样无法构建,只能说期待以后能够出现更好的解法把。也同样感谢其他几位朋友的解答,感谢你们的帮助。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants