完全使用本地大模型测试通过 请大家鉴定翻译质量

[lonrencn]

平台：ubuntu 24.04 2080TI 22G * 4 2680 v4 128G
用本地模型跑了个视频教程
使用videolingo平台完全使用本地大模型跑出来的videolingo+whisperX+ollama(qwen2.5b:32b)+GPT-sovite没花一分钱。

###【为什么要在今天选择FastAPI Why You Should Learn FastAPI Today】

完全用平台跑出来的，没有手动干预

https://www.bilibili.com/video/BV17Y1aY6EqW/?share_source=copy_web&vd_source=d18a1b9b1a29f564f229a4ed747cfd34

###【怎样用Python建立 RESTful ： How to build modern RESTful APIs with Python】

下载1080平台提示格式不支持，但是下载的.mkv文件是正常的，然后用360p文件跑出来，用mkvtoolnix进行组装

https://www.bilibili.com/video/BV1mX1aYdEow/?share_source=copy_web&vd_source=d18a1b9b1a29f564f229a4ed747cfd34

下载1080平台提示格式不支持，但是下载的.mkv文件是正常的，然后用360p文件跑出来，用mkvtoolnix进行组装

【怎么让Fastapi连接数据库 Python FastAPI Tutorial： How to Connect FastAPI to Database】 https://www.bilibili.com/video/BV1mX1aYdEQX/?share_source=copy_web&vd_source=d18a1b9b1a29f564f229a4ed747cfd34

上传用的mkv是有字幕的，b站转格式把字幕丢了

完全用平台跑出来的，没有手动干预，下载1080没有提示格式不支持。
【fastapi与mongodb 的连接 Unlocking the Power of NoSQL_ FastAPI with MongoDB0】 https://www.bilibili.com/video/BV1yf1uYWEmY/?share_source=copy_web&vd_source=d18a1b9b1a29f564f229a4ed747cfd34

qwen2:7b跑不通

喜大普奔啊，我把整个专集的32个视频教程全部跑了一遍，大家可以品鉴尝试了。
自认为效果非常好，这种有判断优化的机制太棒了，比其它的机械翻译工具强的不是一星半点。

[assassinliujie]

本来唯一要付钱的语言大模型就可以换啊（
无非是效果差距罢了。
倒是希望有个专门特化的小模型能拿来用

[Huanshere]

对于某些复杂的场景需要大量的切句和对齐，目前测试下来只有claude能稳定思考并且输出合理的切句

[lonrencn]

对于某些复杂的场景需要大量的切句和对齐，目前测试下来只有claude能稳定思考并且输出合理的切句

英语不过关，实在看不出来切句有没有问题，只是能不能跑通，不完美的地方是语速处理的问题，和专业术语的念法。
如果有样本需要测试，可以发过来，跑一下试试。

[colin4k]

我也试了本地运行qwen2.5b:32b，还是会经常出一些 json 相关的问题，如果是 72b 就基本正常了

[lonrencn]

我也试了本地运行qwen2.5b:32b，还是会经常出一些 json 相关的问题，如果是 72b 就基本正常了

出错是概率问题，不是保证哪个模型一定不出错，就是claude我感觉也是会出错的，关键是你要会修复错误。刚刚又跑了一个限制级的动作片1个多小时，全片一直保持大量口语对话，出了两处错误，能看懂代码，很容易就能修复，手动改一下就没事了。
如果不会修复，就只能点只香，重新跑。

[ktmswzw]

试过换语音吗？

[lonrencn]

试过换语音吗？

不明白什么意思，你是想要重新换一个配音员吗？

[AlwaysBusyLzc]

请问你跑 qwen 2.5:32b 本地用的什么显卡

[lonrencn]

2080ti 22g

…

---原始邮件--- 发件人: ***@***.***> 发送时间: 2024年11月15日(周五) 中午11:58 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [Huanshere/VideoLingo] 完全使用本地大模型测试通过 请大家鉴定翻译质量 (Issue #202) 请问你跑 qwen 2.5:32b 本地用的什么显卡 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

[colin4k]

请问你跑 qwen 2.5:32b 本地用的什么显卡

我用的 macbook pro/m2 max/96g ram，用 ollama 跑的

[colin4k]

实际 72b 都跑得起来，不过就会比较慢，32b 的速度相对能接受一些

[lonrencn]

用苹果就告别ai吧，基本干啥啥不行

…

---原始邮件--- 发件人: "ZHU ***@***.***> 发送时间: 2024年11月15日(周五) 中午12:55 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [Huanshere/VideoLingo] 完全使用本地大模型测试通过 请大家鉴定翻译质量 (Issue #202) 请问你跑 qwen 2.5:32b 本地用的什么显卡 我用的 macbook pro/m2 max/96g ram，用 ollama 跑的 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

[ImJoyed]

我用docker安装的，不知道为什么无法访问主机的ollama，在容器里边执行curl http://host.docker.internal:11434 返回的是空
容器能够正常使用host.docker.internal域名，可以访问主机的proxy
主机的ollama也已经设置了绑定0.0.0.0和跨域了，并且别的机子也能通过ip访问ollama

[lonrencn]

我用docker安装的，不知道为什么无法访问主机的ollama，在容器里边执行curl http://host.docker.internal:11434 返回的是空 容器能够正常使用host.docker.internal域名，可以访问主机的proxy 主机的ollama也已经设置了绑定0.0.0.0和跨域了，并且别的机子也能通过ip访问ollama

网络配置问题，用的是docker的网络，要么把ollama改成0.0.0.0，接受广域网访问，要么把docker里的网络改成host模式。

[ImJoyed]

我用docker安装的，不知道为什么无法访问主机的ollama，在容器里边执行curl http://host.docker.internal:11434 返回的是空 容器能够正常使用host.docker.internal域名，可以访问主机的proxy 主机的ollama也已经设置了绑定0.0.0.0和跨域了，并且别的机子也能通过ip访问ollama

网络配置问题，用的是docker的网络，要么把ollama改成0.0.0.0，接受广域网访问，要么把docker里的网络改成host模式。

ollama已经设置了0.0.0.0了，局域网其它机子可以访问，就是容器里边无法访问