Detailed description

J’évalue d’abord votre matériel ou je vous aide à dimensionner un serveur GPU selon le nombre d’utilisateurs et la taille de modèle visée. Je sélectionne deux ou trois modèles candidats, je les teste sur vos tâches en français et en arabe, puis j’installe le modèle retenu avec vLLM, quantifié si nécessaire. Je configure la passerelle d’accès, les journaux et la supervision de la mémoire GPU, puis je forme votre équipe système à l’exploitation. Basée à Skikda, je reste joignable pendant toute la durée de la mission. Outils utilisés : Nginx, Docker, Prometheus, NVIDIA CUDA. Comptez environ 30 jours une fois le brief validé.

Problem solved

Vos règles de confidentialité interdisent d’envoyer des documents à un service externe, mais vos équipes ont besoin d’un modèle de langage pour résumer, rédiger et extraire.

Promised outcome

Un modèle ouvert installé sur votre infrastructure, exposé par une API compatible avec les bibliothèques courantes, avec authentification, quotas et supervision.

Features

• note de dimensionnement matériel
• comparatif des modèles sur vos tâches
• serveur vLLM installé et sécurisé
• API compatible avec clés par équipe
• supervision et procédure de mise à jour

At a glance

Industry

Public sector

Platforms and compatibility

• Linux
• API

Technologies

• Nginx
• Prometheus
• Ollama
• Grafana
• Docker
• vLLM
• NVIDIA CUDA

Interface languages

French · Arabic

Wilaya

Skikda

Trust

• Listing reviewed and approved by the Elite.red team

Terms