Comment utiliser un modèle d'IA local sur un serveur privé sur site

Vous pouvez configurer un modèle d'IA localsur un serveur privé sur site afin que tous les traitements d'IA soient exécutés au sein de votre infrastructure locale, sans connexion à des services externes. Cela améliore la sécurité des données et permet une utilisation dans des environnements hors ligne.

Configurer le modèle LLM local

Configurez les paramètres suivants dans le fichier ragic.properties:

1. LOCAL_AI_URL=

Obligatoire. Saisissez le point de terminaison API de votre service de modèle d'IA local. Celui-ci doit être compatible avec le format de l'API OpenAI, par exemple :

http://localhost:11434/v1/.

2. LOCAL_AI_KEY=

Facultatif. Saisissez la clé API si votre service d'IA l'exige. La plupart des services de modèles d'IA locaux ne nécessitent pas ce paramètre.

Remarque : une fois LOCAL_AI_URL configuré, le système utilisera toujours le modèle d'IA local et ne basculera pas vers des services d'IA dans le cloud.

Préfixes de modèles pris en charge

Le système identifie et associe automatiquement les modèles en fonction de leur préfixe et prend en charge les modèles courants suivants :

Configurer le modèle de vectorisation local

Vous pouvez également configurer un modèle de vectorisation local afin que la recherche sémantique s’exécute sur votre infrastructure locale. Si aucun modèle n’est configuré, la recherche sémantique utilisera le modèle de vectorisation dans le cloud.

Configurez les paramètres suivants dans ragic.properties :

1. LOCAL_EMBEDDING_URL=

Obligatoire. Saisissez le point de terminaison de l’API de votre service de modèle de vectorisation local, par exemple : http://localhost:11434/api/embeddings.

2. LOCAL_EMBEDDING_MODEL=

Obligatoire. Saisissez le nom du modèle de vectorisation, par exemple : qwen3-embedding:0.6b.