Raedy
Publiée aujourd'hui · Île-de-France
Tech Lead LLM Web H/F
- Île-de-France
- Freelance
Outils et compétences cités dans l'annonce
Description du poste
Contexte Vous rejoignez une équipe AI Service en charge d’une brique technologique stratégique d’une plateforme internationale. En tant que Tech Lead IA, vous concevez et industrialisez des services IA permettant de connecter des modèles de langage (LLM), des moteurs de recherche et des produits applicatifs. Votre mission consiste à développer des APIs robustes capables d’orchestrer des appels LLM, des pipelines RAG et des traitements massifs, tout en garantissant performance, faible latence, scalabilité, fiabilité et sécurité dans un environnement multi-tenant international. 1. Conception et développement des services de consommation, d’indexation et de restitution des données Conception des services : définir l’architecture des APIs et des workers, la stratégie de cache et les mécanismes de résilience (retries, circuit breakers, fallback modèles). Intégration LLM : concevoir les chaînes d’inférence (prompting, function calling, RAG, embeddings, agents) et industrialiser leur mise en production, en challengeant les choix via des POCs et des benchmarks. Performance et scalabilité : définir comment concilier débit, latence et coût pour les traitements synchrones et asynchrones, afin de répondre aux charges de production. 2. APIs Web et performance (synchrone / asynchrone) Définition des APIs : créer des APIs robustes et documentées avec FastAPI, en garantissant des contrats clairs, la validation des données (Pydantic), une authentification unifiée et la propagation du contexte pays. Performance et asynchrone : maîtriser asyncio, la concurrence et le parallélisme pour optimiser le débit, en arbitrant entre traitements synchrones et asynchrones selon les contraintes. Streaming et temps réel : implémenter le streaming des réponses LLM et assurer une gestion fine des timeouts, du backpressure et de l’annulation des requêtes. Observability et Security : intégrer nativement la télémétrie (logs, métriques, traces) et les guardrails de sécurité (gestion des secrets, Zero Tru
Annonce publiée sur free-work.com et reprise par Intelligence Academy. Seule l'annonce d'origine fait foi ; nous ne sommes pas l'employeur.
Offres semblables
- Paris
- 90 k€ – 130 k€ / an
Dans le cadre de la stratégie de l’entreprise, le/la Senior MLOps Engineer construit et opère l’infrastructure et les plateformes qui font tourner notre nouvelle ligne de produits AI managés (l’inférence en tête), en s’appuyant sur les dizaines de milliers de GPU dont dispose Shadow. Nos heures creuses sont les heures
MLOps Engineer (H/F/X)
Shadow
- Paris
- 90 k€ – 130 k€ / an
Dans le cadre de la stratégie de l’entreprise, le/la Senior MLOps Engineer construit et opère l’infrastructure et les plateformes qui font tourner notre nouvelle ligne de produits AI managés (l’inférence en tête), en s’appuyant sur les dizaines de milliers de GPU dont dispose Shadow. Nos heures creuses sont les heures
Senior MLOps Engineer
alice-bob
- Paris
- 85 k€ – 130 k€ / an
Alice & Bob is developing the first universal, fault-tolerant quantum computer to solve the world’s hardest problems. The quantum computer we envision building is based on a new kind of superconducting qubit: the Schrödinger cat qubit. We’re a diverse team of 250 brilliant minds from over 35 countries united by a singl
- Lyon
- 45 k€ – 60 k€ / an
Ingénieur MLOps · AI Platform Engineer · DataOps / MLOps Engineer · Consultant ML Engineer Présence client + R&D interne Le contexte Chez Thélio, nous accompagnons nos clients de l’expérimentation IA jusqu’à la mise en production industrielle. Le maillon qui fait souvent défaut, c’est l’industrialisation : transf
