Inria
Publiée il y a 14 jours · Palaiseau
Internship Research / Limiting Information Leakage in LLM-Based Systems for Network Applications
- Palaiseau
- Stage
Description du poste
Le descriptif de l’offre ci-dessous est en Anglais
Type de contrat : Convention de stage
Niveau de diplôme exigé : Bac + 2 ou équivalent
Fonction : Stagiaire de la recherche
A propos du centre ou de la direction fonctionnelle
Created in 2008, the Inria Saclay Center is located at the heart of the Paris-Saclay scientific and technological excellence cluster, which alone accounts for 15% of French research. Serving the development of the Université Paris-Saclay and the Institut Polytechnique de Paris, the Inria Saclay center employs 80 people in research support services and 500 scientists of 54 nationalities.
Benefiting from continuous growth, the center now has a total of 42 project-teams and two in the process of being created, including 21 jointly with the Institut Polytechnique de Paris, 16 with the Université Paris-Saclay, as well as 7 Inria EPs, including one in collaboration with Onera and one with the Pôle Universitaire Centre Val de Loire. These research teams are spread over more than ten sites.
Mission confiée
Context
Large language models are increasingly used to handle user requests that contain personal or sensitive information. While the model processes such a request, information from the input can be exposed beyond what is strictly needed to answer it. This raises concerns about privacy and data minimization.
Privacy in LLMs has been studied from several angles: memorization and extraction of training data [1], what it means for a language model to preserve privacy [2], contextual integrity in LLM behavior [3], and privacy-preserving reasoning [4].
Objectives
The internship will study how LLM-based systems can complete a user’s request while limiting the exposure of sensitive information contained in it, with network applications as the target domain. The main questions are:
- How can the information flows of an LLM-based system
Annonce publiée sur Indeed et reprise par Intelligence Academy. Seule l'annonce d'origine fait foi ; nous ne sommes pas l'employeur.
Offres semblables
Stage - Ingénieur(e) Data Scientist - Optimisation énergétique des navires
Chantiers de l'Atlantique
- Loire-Atlantique
- Stage
Montez à bord et venez découvrir l'univers de Chantiers de l'Atlantique, acteur incontournable de l'industrie maritime mondiale. Basé à Saint-Nazaire, au bord de l'Océan Atlantique, notre site industriel d'une centaine d'hectares, regroupe quotidiennement jusqu'à 10 000 personnes : nos 4 000 collaborateurs ainsi que n
Founding Machine Learning Engineer - Paris - CDI (H/F)
Collective.work
- Paris
- CDI
- 100 k€ / an
Salaire: 75 à 100 k€ + equity L'entreprise Une deeptech parisienne en phase de lancement. La mission Construire les pipelines ML : entraînement, évaluation, mise en production Entraîner et déployer des modèles sur des séries temporelles Rendre les modèles robustes et compatibles avec des contraintes temps
Lead Data Scientist (H/F) (CDI)
Thales SA
- Gironde
- CDI
Depuis plus de vingt ans, Thales déploie de façon proactive une politique affirmée en matière de responsabilité d’entreprise fondée sur les standards internationaux les plus élevés. Celle ci est en parfait accord avec la raison d’être que l’entreprise a adoptée en 2020, Construisons ensemble un avenir de confiance. À t
- Niort
- CDI
Description du poste : Au sein de notre Direction Data & IA, nous mettons les données, les algorithmes et l'intelligence artificielle au service de la performance, de l'innovation et de l'amélioration de l'expérience de nos sociétaires. Notre équipage de Data Scientists intervient sur des problématiques variées : con