跳转到内容
OMem

配置 LLM provider

想换一换 OMem 用哪个模型,或者从订阅切到 API key,又或者把 OMem 指向本地模型? 看这一页。OMem 自己不带模型——是你把它指向某一个——而且整理器(文本 → wiki 页)和视觉模型(图片 → 描述)是分开配的,互不影响。

四个 provider

Section titled “四个 provider”

anthropic-oauth(默认)——用你的 Claude Pro / Max 订阅,不用 API key。在向导里配:

Terminal window
omem setup --llm

整理器和视觉模型是分开的

Section titled “整理器和视觉模型是分开的”

整理可以用一个强一点的文本模型,图片则交给一个更便宜、甚至换个厂商的视觉模型——两者各管各的,分别落在 llm.curator.* 和 llm.vlm.* 底下:

Terminal window
omem config set llm.vlm.provider openai-compat
omem config set llm.vlm.model qwen-vl-max

国内模型怎么配

Section titled “国内模型怎么配”

国内主流大模型基本都提供 OpenAI 兼容端点,直接走 openai-compat 就行——把 base_url 指到对应平台,model 名填该平台的模型 ID 就好。下面是几个常见的:

平台base_url常用 model 名(整理)常用 model 名(视觉)
阿里云百炼(通义千问)https://dashscope.aliyuncs.com/compatible-mode/v1qwen-max / qwen-plusqwen-vl-max
火山方舟(字节豆包)https://ark.cn-beijing.volces.com/api/v3doubao-1-5-pro-32kdoubao-1-5-vision-pro
Kimi(月之暗面)https://api.moonshot.cn/v1kimi-k2-0905-previewmoonshot-v1-32k-vision-preview
智谱 GLMhttps://open.bigmodel.cn/api/paas/v4glm-4-plusglm-4v-plus
MiniMaxhttps://api.minimax.chat/v1MiniMax-Text-01abab6.5s-chat(看官方 vision 模型)
DeepSeekhttps://api.deepseek.com/v1deepseek-chat(官方暂无 vision,VLM 走别家)

配一个百炼当例子(整理用 qwen-max,VLM 用 qwen-vl-max):

Terminal window
# 整理器
omem config set llm.curator.provider openai-compat
omem config set llm.curator.base_url https://dashscope.aliyuncs.com/compatible-mode/v1
omem config set llm.curator.model qwen-max
omem config set llm.curator.api_key_env DASHSCOPE_API_KEY


# 视觉模型(可以跟 curator 不同 provider,这里我们让它也走百炼)
omem config set llm.vlm.provider openai-compat
omem config set llm.vlm.base_url https://dashscope.aliyuncs.com/compatible-mode/v1
omem config set llm.vlm.model qwen-vl-max
omem config set llm.vlm.api_key_env DASHSCOPE_API_KEY


# 在 shell 里把 key 设上(或者用 Keychain,见上面)
export DASHSCOPE_API_KEY=sk-xxx

base_url 和 model 名,以各平台官方文档为准(平台经常出新模型、淘汰旧的)。

跑一个本地模型

Section titled “跑一个本地模型”

设成 openai-compat,把 base_url 指向你的本地服务器(Ollama、vLLM、LM Studio 都行)。这条路现在就能走,但有句实话得说在前头:质量取决于模型本身。OMem”开箱就好用”的承诺,是按云上那些有本事的模型来校准的;一个小的本地模型也能整理,只是还原度会低一些。完全离线、又能达到工作级质量,这是 v1.5 的目标。

验证

Section titled “验证”
Terminal window
omem doctor

llm endpoint 那一项会确认你的 provider 连得上、也配对了。完整字段清单见 配置 schema。

接下来

Section titled “接下来”