Post-doctorant·e en apprentissage décentralisé sûr, conficentiel et explicable - CDD 12 mois

Présentation de Télécom SudParis :

Télécom SudParis est une grande école publique d'ingénieurs reconnue au meilleur niveau des sciences et technologies du numérique. La qualité de ses formations est basée sur l’excellence scientifique de son corps professoral et une pédagogie mettant l’accent sur les projets d’équipes, l’innovation de rupture et l’entreprenariat. Télécom SudParis compte 1 000 étudiantes et étudiants dont 700 élèves ingénieurs et environ de 150 doctorantes et doctorants. Télécom SudParis fait partie de l’Institut Mines-Télécom, premier groupe d’école d’ingénieurs en France, et partage son campus avec Institut Mines-Télécom Business School. Télécom SudParis est co- fondatrice de l'Institut Polytechnique de Paris (IP Paris), Institut de Sciences et Technologies à vocation mondiale avec l’École polytechnique, l’ENSTA Paris, l’ENSAE Paris, l'ENPC et Télécom Paris.Vidéo présentation de Télécom SudParis

À propos de l'Institut Mines-Télécom :

L'Institut Mines-Télécom (IMT) est un établissement public dédié à l'enseignement supérieur et la recherche pour l'innovation dans les domaines de l'ingénierie et du numérique. À l’écoute permanente du monde économique, l'IMT conjugue une forte légitimité académique et scientifique, une proximité avec les entreprises et un positionnement unique sur les transformations majeures au XXIe siècle : numériques, énergétiques, industrielles et éducatives siècle. Ses activités se déploient au sein des grandes écoles Mines et Télécom sous tutelle du ministre en charge de l’Industrie et des communications électroniques, de deux filiales et de partenaires associés ou sous convention. L'IMT est membre fondateur de l’Alliance Industrie du Futur. Il est doublement labellisé Carnot pour la qualité de sa recherche partenariale.Vidéo de présentation de l'Institut Mines-Télécom

Missions

• Analyser les enjeux de sécurité, de vie privée et d’éthique liés au déploiement de solutions d’intelligence artificielle (IA) dans des domaines critiques et variés, notamment la santé, la finance et les transports.

• Étudier les méthodes d’apprentissage automatique préservant la vie privée (Privacy-Preserving Machine Learning – PPML) et leur capacité à répondre aux exigences réglementaires et éthiques, notamment celles découlant du RGPD et de l’AI Act.

• Concevoir et évaluer des approches de protection de la vie privée dans des environnements d’apprentissage décentralisé, en particulier dans le cadre de l’apprentissage fédéré.

• Identifier et caractériser les vulnérabilités de sécurité propres à l’apprentissage collaboratif et fédéré, notamment les attaques par empoisonnement de données, l’injection de portes dérobées (backdoors) et les attaques visant la confidentialité des données et des utilisateurs.

• Étudier les mécanismes d’inférence à partir des mises à jour de modèles, notamment les attaques par inférence d’appartenance et par inférence de propriétés, afin d’évaluer les risques de divulgation d’informations sensibles.

• Évaluer la robustesse et la confidentialité des modèles d’IA dans des contextes où les données, les nœuds et les processus d’apprentissage sont distribués et difficilement auditables.

• Étudier les méthodes d’intelligence artificielle explicable (XAI) afin d’améliorer la transparence, l’interprétabilité et la compréhension des décisions produites par les modèles d’IA.

• Analyser les interactions et compromis entre explicabilité, vie privée et robustesse dans les systèmes d’apprentissage décentralisé.

• Développer et expérimenter des méthodes permettant de concilier transparence et protection de la vie privée, en tenant compte des contraintes propres aux environnements distribués.

• Mettre en place des protocoles expérimentaux et des critères d’évaluation permettant de mesurer les niveaux de confidentialité, de robustesse et d’explicabilité des approches étudiées.

• Contribuer à la valorisation et à la diffusion des résultats de recherche, notamment par la rédaction de publications scientifiques, la présentation des travaux dans des conférences et la participation aux échanges avec les partenaires du projet.

• Assurer une veille scientifique et technologique sur les avancées en IA de confiance,

Activités

• Concevoir et développer des mécanismes d’apprentissage décentralisé offrant de fortes garanties de confidentialité, une résistance aux comportements malveillants et des capacités d’explicabilité pertinentes.

• Étudier la confidentialité des mécanismes d’explicabilité, en particulier les risques de fuite d’informations susceptibles d’être induits par les méthodes d’explicabilité appliquées aux modèles d’apprentissage fédéré.

• Développer de nouvelles stratégies d’attaque et d’évaluation permettant de caractériser les informations susceptibles d’être divulguées par les mécanismes d’explicabilité.

• Concevoir des mécanismes de protection adaptés permettant de limiter les fuites d’informations identifiées tout en préservant la qualité et la pertinence des explications produites.

• Développer des approches d’apprentissage collaboratif conciliant confidentialité et explicabilité, en tenant compte des contraintes propres aux environnements fédérés et décentralisés.

• Étudier l’utilisation de la confidentialité différentielle (Differential Privacy – DP) pour protéger les modèles agrégés contre les attaques par inférence et analyser son impact sur la qualité et la fidélité des explications.

• Explorer des primitives cryptographiques adaptées à l’apprentissage fédéré, notamment le chiffrement partiellement ou totalement homomorphe et les techniques de calcul multipartite sécurisé (Secure Multi-Party Computation – MPC).

• Combiner les mécanismes cryptographiques et la confidentialité différentielle afin d’explorer des compromis entre niveau de confidentialité, qualité des explications, coût de calcul et éventuelles fuites d’information.

• Étudier l’impact des mécanismes de protection de la vie privée sur les méthodes d’explicabilité, notamment les méthodes fondées sur l’attribution, et identifier des stratégies permettant de préserver leur fidélité.

• Analyser les vulnérabilités des systèmes d’apprentissage fédéré face aux attaques byzantines et aux attaques par empoisonnement, en particulier lorsque les stratégies adverses exploitent des métriques ou informations issues de l’explicabilité.

• Étudier des scénarios d’attaque réalistes prenant en compte l’hétérogénéité et le déséquilibre des données détenues par les différents clients, l’empoisonnement des étiquettes (label poisoning) et la présence de clients associés à des attributs protégés.

• Développer des algorithmes d’agrégation robustes et préservant la vie privée, capables de maintenir les performances du modèle dans des environnements comportant une proportion importante de participants malveillants.

• Concevoir des mécanismes de défense adaptatifs exploitant l’explicabilité, notamment pour identifier les comportements anormaux, les mises à jour suspectes ou les participants potentiellement malveillants.

• Analyser conjointement les compromis entre vie privée, robustesse, explicabilité et utilité du modèle, en intégrant également les contraintes liées à l’efficacité computationnelle et aux communications.

• Définir des protocoles et métriques d’évaluation permettant de comparer les approches proposées selon différents niveaux de confidentialité, de robustesse, de fidélité des explications et de coût computationnel.

• Expérimenter et évaluer les méthodes développées sur des scénarios réalistes d’apprentissage décentralisé, notamment dans le domaine de la santé et dans d’autres contextes traitant des données sensibles.

• Contribuer à la validation expérimentale et à la valorisation des résultats, notamment par la mise en œuvre de prototypes, l’analyse des résultats, la rédaction de publications scientifiques et la présentation des travaux dans des événements scientifiques.

Formation

• Doctorat ou PhD en informatique depuis moins de 3 ans

Compétences, connaissances et expériences indispensables

• Expériences en IA ou machine learning (ML) appliquée à la cybersécurité

• Compétences en apprentissage fédéré (Federated Learning)

• Compétences en mathématiques avancées

• Anglais parlé, écrit

Compétences, connaissances et expériences souhaitables

• Compétences en cryptographie homomorphe, en particulier CKKS

• Compétences en confidentialité différentielle

• Compétences en IA explicable (XAI)

• Compétences en technologies de protection de la vie privée (PET)

Capacités et aptitudes

• Rigueur, méthode de gestion de projets

• Aisance relationnelle avec des interlocuteurs de tous niveaux, esprit d’écoute et de coopération

• Capacité à travailler en équipe

• Respect strict des obligations de confidentialité au regard des données utilisées

Indications de rémunération:

• Fourchette indicative de rémunération (hors bonus annuel variable): 35.400- 38.000 euros bruts annuels, selon le profil et l’expérience (charges salariales réduites en secteur public).

Informations complémentaires et candidature

• Date limite de candidature : 31 octobre 2026

• Nature du contrat : CDD de 12 mois

• Catégorie et métier du poste (usage interne): II -P, Post-doctorat A (fonction publique)

• Poste ouvert aux métiers de niveau immédiatement inférieur (usage interne)

• Localisation du poste: Evry-Courcouronnes (91)

• Les postes offerts au recrutement sont ouverts à toutes et tous avec, sur demande, des aménagements pour les candidats en situation de handicap

• Emploi ouvert aux titulaires de la fonction publique et/ou aux contractuels

• Conditions de travail : 44 jours de congés, télétravail possible, restaurant et cafétéria sur site, accessibilité en transport en commun (avec participation de l'employeur) ou proche des axes routiers, association du personnel et association sportive sur le campus