Comment utiliser un modèle d'IA local sur un serveur privé sur site

Vous pouvez configurer un modèle d'IA localsur un serveur privé sur site afin que tous les traitements d'IA soient exécutés au sein de votre infrastructure locale, sans connexion à des services externes. Cela améliore la sécurité des données et permet une utilisation dans des environnements hors ligne.

Configurez les paramètres suivants dans le fichier ragic.properties:

1. LOCAL_AI_URL=

Obligatoire. Saisissez le point de terminaison API de votre service de modèle d'IA local. Celui-ci doit être compatible avec le format de l'API OpenAI, par exemple :

http://localhost:11434/v1/.

2. LOCAL_AI_KEY=

Facultatif. Saisissez la clé API si votre service d'IA l'exige. La plupart des services de modèles d'IA locaux ne nécessitent pas ce paramètre.

Remarque : une fois LOCAL_AI_URL configuré, le système utilisera toujours le modèle d'IA local et ne basculera pas vers des services d'IA dans le cloud.

Préfixes de modèles pris en charge

Le système identifie et associe automatiquement les modèles en fonction de leur préfixe et prend en charge les modèles courants suivants :