Tirer Hermes sur un modèle gratuit qui tourne chez vous : installation d’Ollama, choix du modèle, branchement via hermes setup model.
Ollama fait tourner un modèle sur votre machine : gratuit, privé, sans connexion. L’agent lui parle via l’adresse locale par défaut. Le compromis : un ordinateur récent avec 8 Go de RAM minimum, et une vitesse de réponse inférieure à un modèle distant.
Site officiel ollama.com : le programme d’installation prend une commande unique selon votre OS. Après installation, ollama --version répond.
ollama run llama3.1 télécharge puis lance un modèle capable. Pour un usage d’agent, visez 7 à 8 milliards de paramètres minimum.
hermes setup model : choisissez le provider Ollama. Le sélecteur détecte les modèles installés. Vérification : hermes status montre Ollama comme provider.
8 Go pour un 7-8B confortable. 16 Go donnent de la marge.
Oui, souvent nettement. C’est le prix de la gratuité et de la vie privée.