模型设置 专业版
Keepbay 的 AI 功能用什么模型、在哪里运行,都在「系统设置 › AI 模型」中设置。这个页面只有所有者能看到,属于专业版。
模型有两种来源:在这台设备上运行的本地模型,以及您添加的厂商,比如家里的 Ollama 或者云端的 DeepSeek、通义千问。
需要配置的模型
不同的功能要不同的模型:
| 功能 | 需要的模型 | 可以用 |
|---|---|---|
| 语义搜索 | 文本向量 | 本地模型,或云端的向量模型 |
| 按画面搜图 | 图文向量 | 只能用本地模型 |
| 识别图中文字 | 文字识别 | 只能用本地模型 |
| AI 桌面 | 对话 | Ollama 等局域网模型,或云端模型 |
| 自动整理 | 对话 | 同上 |
| AI 标签 | 对话 | 同上 |
| 日期提醒 | 不需要模型也能用规则找;对话模型可选,用来核对 | 图片要先识别出文字 |
我们建议先下载本地模型。下载完成后,即可搜索文档、搜索照片、识别照片中的文字,处理都在本机进行,不发送任何内容,也不产生费用。
AI 桌面、自动整理、AI 标签需要对话模型,本地模型不支持。如果家里有能运行 Ollama 的电脑,可以使用它;没有的话,再考虑云端模型。
本地模型
本地模型在「本地模型」一节下载。先下载「运行环境(ONNX Runtime)」,再下载要用的模型:
| 模型 | 用途 | 大小 | 内存峰值 |
|---|---|---|---|
| BGE small zh v1.5 | 文本向量,语义搜索 | 约 95 MB | 约 370 MB |
| Chinese CLIP ViT-B/16 | 图文向量,按画面搜图 | 约 191 MB | 约 470 MB |
| PP-OCRv5 mobile | 识别图片中的文字 | 约 22 MB | 约 580 MB |
表中的大小和内存按 1000 进位,与界面的默认显示一致。在「个人设置 › 外观」中把「文件大小单位」选为「MiB(按 1024)」时,内存峰值显示为 350、450、550 MiB。
模型在 CPU 上运行,不需要显卡。「本地模型」一节显示本机内存,模型的「详情」中显示它是否已加载。
模型用到时才加载,闲置 10 分钟后从内存中释放。加载前,Keepbay 会检查这台设备的可用内存,要求比内存峰值多出约 130 MB,例如文字识别需要约 710 MB。服务所在的容器或 systemd 服务设了内存上限时,按上限计算。
内存不够时,先释放闲置的其他本地模型;仍然不够时暂不加载。建立索引、识别文字等后台处理会在进度中显示可用内存不足,内存够了之后自动继续。搜索时模型没能加载的,暂时没有按意思或按画面找到的结果,按文件名和文字找到的结果照常显示。
下载的文件会核对 SHA256,校验不通过的不会使用。下载中断后,下次会从断点继续。
「下载源」默认是自动选择:同时测试各个下载源,选用最快的。一个源失败时,自动切换到下一个。在国内通常会选中 ModelScope。
服务器无法联网时,在模型的「详情」中用「离线导入」:在别的电脑上下载好文件,再从这里上传,上传后同样核对 SHA256。
不需要的模型,在「详情」中删除。
添加厂商
在「厂商」一节点「添加厂商」。预设了这些,选了以后接口地址自动填好:
OpenAI、DeepSeek、通义千问、豆包(火山方舟)、Kimi(月之暗面)、智谱、硅基流动、OpenRouter、Gemini、Ollama。
其他厂商选「其他(OpenAI 兼容)」,手动填写接口地址,一般以 /v1 结尾。
| 字段 | 说明 |
|---|---|
| 接口地址 | 云端的地址必须是 https;局域网内的地址可以用 http |
| API Key | 在厂商的控制台创建。Ollama 等不需要 Key 的留空 |
| 每分钟请求数 | 超过后,后台任务稍后重试,避免被厂商限流。0 表示不限 |
| 通过代理连接 | 使用「系统设置 › 网络」中的代理,见网络代理。局域网地址始终直连 |
点「测试连接」会读取厂商的模型列表,确认地址和 Key 正确。这一步不调用模型,不产生费用。
API Key 加密保存,保存后不会再显示出来,只显示最后 4 位。
改了接口地址的主机后,原来的 Key 作废,需要重新填写。这是为了防止 Key 被发到另一个地址去。
然后在厂商下面添加要用的模型,模型名可以从厂商的模型列表中选,也可以直接填。云端模型只能用作对话和文本向量。
模型的「测试」会真实调用一次,产生很少的费用。
本地还是云端
Keepbay 按接口地址判断一个厂商是局域网的还是云端的,不提供手动选择:
- 本机、局域网地址、
.local结尾的主机名等,算局域网,比如家里另一台电脑上的 Ollama - 其余地址都算云端,无法判断的也算云端
局域网的厂商和本地模型的处理方式相同:不计费,不受花费上限和每分钟请求数的限制,成员没有「使用云端 AI」权限也能用。
厂商列表中,局域网的显示房子图标,云端的显示云图标。
Ollama 的预设地址是 http://127.0.0.1:11434/v1,也就是和 Keepbay 装在同一台机器上。如果 Ollama 装在家里另一台电脑上,请改成那台电脑的局域网地址。
给功能选模型
在「使用的模型」一节,给每类模型选一个:
- 默认对话模型:AI 桌面、自动整理、AI 标签、日期提醒都用它
- 文本向量模型:语义搜索用
- 图文向量模型:按画面搜图用,只能选本地模型
- 文字识别模型:识别图中文字用,只能选本地模型
初次安装时都是"未选择",需要您选择后才会开始使用。
不同功能可以用不同的对话模型。在「按功能指定」中单独设置,比如 AI 标签用局域网内的小模型,AI 桌面用云端的大模型。没有单独指定的功能使用默认对话模型。
更换文本向量模型或图文向量模型后,需要重新建立索引。重建在后台进行,完成之前仍然用原来的模型搜索,搜索不会中断。
关闭某项功能
「功能」一节列出每项 AI 功能,每项一个开关,默认全部开启。关闭的功能不会调用任何模型。
每项下面写着现在用的是哪个模型、在哪里处理。用云端模型的,写明会发送什么,比如 AI 桌面写"会发送你输入的文字和你让它查看的文件内容"。各项发送的内容见隐私与安全。
没有一键关闭全部 AI 的开关。如果不使用任何 AI 功能,可以在这里逐项关闭,或者不添加厂商、不下载本地模型。
后台功能用云端模型
自动整理、AI 标签、日期提醒这三项会在后台自动处理文件,处理时不需要人工参与。
所以它们使用云端模型时,需要额外确认:要在「后台功能用云端模型」一节中逐项打开,才会把文件信息发给厂商。
每项旁边写着现在的状态,比如"现在用 DeepSeek 的 deepseek-chat(云端),还没有允许,不会发送"。
允许是对某个厂商的某个地址给的。换了厂商,或者接口地址换了协议、主机或端口,都要重新允许。只改地址中的路径不用。
关闭后不再发送,已经有的结果保留。
用本地模型或局域网模型时,不需要允许。
花费上限和单价
花费只算云端调用。Keepbay 按您填写的单价和厂商返回的 token 数估算,实际费用以厂商的账单为准。
单价在每个模型上填:「输入单价」和「输出单价」,单位是每百万 token,不填就是 0。向量模型只有输入单价。单价没填,花费就一直显示 0,上限也不起作用。
「货币」一节选显示的货币符号,默认 ¥。这里只改符号,不换算汇率,单价和上限请按同一种货币填。
「每月花费上限」一节设置每月上限,0 表示不限,默认不限。
达到上限后,本月不再调用云端模型:
- AI 桌面提示"本月的 AI 花费已达上限"
- 向量模型在云端时,语义搜索暂时不返回按语义匹配的结果,按文件名和文字搜索不受影响
- 后台任务暂停,每小时重试一次。下个月自动恢复;所有者提高上限后,最迟一小时内继续处理
- 本地模型和局域网模型不受影响
上限是在每次调用前检查的。多个调用同时进行时,实际花费可能略微超出上限。
花费达到上限的 80% 时通知所有者一次,达到上限时再通知一次;一次调用直接超过上限的,只发后一条。通知在「个人设置 › 通知」中可以关闭,见通知。
调用记录
每一次 AI 调用都记在「调用记录」中,从「每月花费上限」一节的「查看调用记录」进入。
每条记录有:时间、谁发起的(后台处理的写"后台处理")、哪项功能、哪个模型、在本地还是发到了云端、发送了多少字节、多少 token、花了多少钱、用时多久、是否成功。
不保存内容本身。这里看不到您向 AI 提的问题和它的回答。
调用失败时,会记下厂商返回的错误说明。有的厂商会在错误说明中带上一小段请求的内容。
页面顶部是本月的合计:花费、云端调用次数、每月上限。
记录保留 400 天,新的在前。目前没有筛选和导出。