¿Cómo utilizar un modelo de IA local en un servidor privado local?

Puedes configurar un modelo de IA local en un servidor privado local para que todo el procesamiento de IA se ejecute dentro de su infraestructura local sin conectarse a servicios externos. Esto mejora la seguridad de los datos y admite entornos fuera de línea.

Configura los siguientes parámetros en ragic.properties:

1. LOCAL_AI_URL=

Requerido. Ingresa el punto final de la API de su servicio de modelo de IA local. Debe ser compatible con el formato API OpenAI, por ejemplo: http://localhost:11434/v1/.

2. LOCAL_AI_KEY=

Opcional. Ingresa la clave API si su servicio de IA lo requiere. La mayoría de los servicios del modelo de IA local no requieren esta configuración.

Nota: Una vez configurado LOCAL_AI_URL, el sistema siempre utilizará el modelo de IA local y no cambiará a servicios de IA en la nube.

Prefijos de modelo compatibles

El sistema identifica y asigna automáticamente los modelos según sus prefijos de nombre y admite los siguientes modelos comunes: