Assistance Publique - Hôpitaux de Paris (AP-HP) (Paris)

Publiée il y a un mois · Paris

Ingénieur MLOps F/H

  • Paris
  • Intérim

Outils et compétences cités dans l'annonce

RAG

Description du poste

Descriptif

  • Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.
  • Industrialiser la couche GPU : drivers et pilotes CUDA, runtime conteneur GPU, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes entre charges de travail, mise à l'échelle et extinction des ressources inutilisées.
  • Opérer les serveurs d'inférence : déploiement et réglage de moteurs type vLLM ou équivalents, gestion du cycle de vie des modèles et de leurs versions, quantification, batching, mesure et optimisation de la latence et du débit.
  • Exposer une passerelle LLM interne : API compatible avec les clients standards, authentification, quotas et suivi de consommation, journalisation
  • pour les applications comme pour les outils de l'équipe.
  • Construire les briques applicatives d'appui : embeddings et recherche vectorielle, chaînes de RAG sur nos référentiels et notre documentation, évaluation de la qualité des réponses.
  • Garantir le cadre données de santé : isolation stricte des environnements, aucune donnée sortante, traçabilité des accès et des inférences, en lien avec la sécurité et la conformité.
  • Observer et maîtriser les coûts : métriques GPU, saturation, taux d'occupation, coût par requête et par usage
  • la sobriété fait partie du travail.
  • Contribuer au socle commun : l'infrastructure GPU n'est pas une île, vous participez aussi à l'IaC, à la CI et au run de l'équipe.

Idéalement, vous avez ...

  • Un diplôme d'ingénieur ou équivalent (Mathématique, Informatique, Santé publique, etc.)
  • 3 ans d'expérience minimum en infrastructure, DevOps ou MLOps, dont une expérience significative sur des charges GPU. Un profil DevOps qui s'est spécialisé vers le GPU nous intéresse autant qu'un profil MLOps qui a gardé les mains dans l'infrastructure.Vous maitrisez :
  • Une pratique réelle de Terra

Annonce publiée sur Jobmed et reprise par Intelligence Academy. Seule l'annonce d'origine fait foi ; nous ne sommes pas l'employeur.

Offres semblables

  • New York
  • Télétravail possible

The Ads Foundational Representations (AFR) team develops signals and representations of Reddit’s core entities (ads, posts, users, and so on), capturing the semantic, contextual, and behavioral information that Reddit Ads needs We work on building embeddings to understand content and users’ interests based on the cont

via Welcome to the Jungle
aujourd'hui
  • Denver

As a member of the Applied Algorithms and Autonomy team, you will design, build, and deploy core machine learning and AI capabilities for True Anomaly You will work with a talented cross-functional team to advance technology at the intersection of artificial intelligence, machine learning, and data-driven decision-mak

via Welcome to the Jungle
  • Nancy
  • Alternance

Rythme obligatoire : 3 semaines en entreprise / 1 semaine en formation 100 % présentiel, dans nos bureaux de Nancy Durée : [12 ou 24 mois] · Démarrage : [date] L'IA écrit du code. Les bons développeurs savent quoi en faire. Pendant ton alternance chez LBNC, tu construis des applications et des agents IA pour de vraies

via Adzuna
  • Frontignan
  • CDI
  • 40 k€ – 50 k€ / an

Description du poste : LEA Recrutement présente une nouvelle offre d'emploi Notre client, entreprise engagée dans des projets à forte dimension technologique et environnementale, recherche un Ingénieur IA Générative H/F pour renforcer sa DSI. Vous intégrerez une équipe de développement à taille humaine et collaborere

via France Travail

Toutes les offres Ingénieur / développeur IA →