Skip to content

自定义提示词长度

插件会限制单次请求发送给 AI 的文本量,以避免提示词过大时出现超时或令人困惑的错误。

默认限制(大多数用户)

除非你遇到长度限制,或使用支持超大上下文的本地模型,否则无需修改任何设置。

模式默认限制
单本书128,000 字符
多本书(选中的书名)256,000 字符
AI 搜索(全书库索引)使用紧凑格式;见搜索标签页

如果提示词过长,插件会显示详细消息,包括当前大小、限制值、选中的书籍数量,以及针对全书库问题使用 AI 搜索 的指引。

何时使用自定义限制

仅当你确认所用模型支持更大的上下文窗口时才启用——例如 Ollama 在模型端将 num_ctx 设为 128k。

不要手动选中数千本书然后提高限制来"硬塞进去"。请改用 AI 搜索。自定义限制是高级备用方案,而不是搜索大型书库的主要方式。

如何启用

  1. 打开 配置 -> 通用
  2. 勾选 自定义提示词长度限制
  3. 输入 最大提示词长度(字符数,建议默认值:524288)
  4. 点击 保存

粗略参考:1 token ≈ 3–4 字符。使用 Ollama 时,还需在模型设置中配置 num_ctx

多本书行为

  • 最多 30 本:使用详细元数据(书名、作者、出版社等),便于深度比较
  • 超过 30 本:每本书使用紧凑的单行元数据
  • 超过 50 本:Ask 会自动建议切换到 AI 搜索

Powered by VitePress