硅基流动提供了多个基于OpenAI API的模型接口调用,速度比较流畅,免费模型可以直接使用。对于大参数量模型根据Tokens进行收费,开局赠送14大洋。

  1. 注册硅基流动账号

邀请注册:https://cloud.siliconflow.cn/i/aZ8cSzDr

  1. 创建API密钥

在账户管理-API密钥中创建API密钥,点击生成的sk-开头内容复制

  1. 部署Open WebUI

Open WebUI类似于ChatGPT的网页,可以对接不同大模型API接口,实现聊天对话、文件上传、模型微调(知识库)、联网搜索及其他功能调用

docker run -d -p 8080:8080 -v open-webui:/var/open-webui/ --name open-webui --restart always ghcr.io/open-webui/open-webui:main

部署完成后访问8080端口创建管理员账号

建议通过反向代理将域名反代到http://127.0.0.1:8080/

  1. 设置接口

登录管理员账号,点击右上角头像进入管理员面板,设置外部连接

在管理OpenAI API连接设置中,地址填写https://api.siliconflow.cn/v1,密钥填写刚才获取的API密钥,将Ollama API右侧选项卡关闭,设置完成后保存

  1. 管理模型

点击模型选项,可以看到加载的硅基流动模型

选择模型广场中的免费模型即可免费使用(可以关闭收费模型)。

对接其他多种应用:https://docs.siliconflow.cn/cn/usercases/use-siliconcloud-in-bob

最后修改:2025 年 03 月 02 日
如果觉得我的文章对你有用,请随意赞赏