常见问题
遇到问题了吗?不用担心,答案都在这。
全站搜索

私有主机如何使用本地 AI 模型?

你可以在私有主机设置本地 AI 模型,让所有 AI 处理都在本地服务器完成,不需联机至外部服务,从而提升数据安全性,并支持脱机环境。

请于 ragic.properties 中设置以下参数:

1. LOCAL_AI_URL=

必填,请填入本地 AI 模型服务的 API 地址,需符合 OpenAI 兼容格式,例如 http://localhost:11434/v1/。

2. LOCAL_AI_KEY=

选填,请填入 API 密钥,用于需要验证的 AI 服务;多数本地模型服务不需要设置

注意:设置 LOCAL_AI_URL 后,系统将一律使用本地 AI 模型,不会自动切换至云 AI 服务。

支持的模型类型

系统会依据模型 Prefix 自动识别模型类型,并支持以下常见类型:

Prefix 范例
local/ local/custom-model
qwen* qwen2.5:32b
llama* llama3.3:70b
mistral* mistral:22b
phi* phi3:14b
deepseek* deepseek-v2:16b

提供回馈给 Ragic

请告诉我们您的意见:(多选, 必填)

请针对上方勾选项目提供详细说明:

截屏能够让我们更清楚了解您的建议:

感谢您的宝贵意见!

    马上登记
    免费试用 Ragic!

    用 Google 帐号登记

    立即科技 Ragic, Inc.
    02-7728-8692
    info@ragic.com
    台北市中正区南昌路二段81号9楼
    用户条款 | 隐私权政策