Stage PFE — Sécurité des systèmes agentiques

Contexte

Digital Place ouvre un sujet de stage de projet de fin d’études consacré à la sécurité des systèmes agentiques. Le travail s’inscrit dans notre approche Agentic Assurance / Control Engineering : un agent capable d’appeler des outils doit disposer d’un périmètre d’action explicite et produire des preuves de respect de ce périmètre.

Problématique

Un document consulté, une réponse d’outil ou une dépendance peuvent tenter de détourner le comportement d’un agent. La qualité de sa réponse ne suffit donc pas à établir sa sécurité. Comment relier une menace, une politique d’autorisation, un contrôle effectif et une preuve reproductible, jusque dans les états intermédiaires et les effets de bord ?

Objectifs du sujet

Construire un modèle de menaces pour un agent borné et son environnement, puis concevoir et évaluer des contrôles. Le périmètre inclut prompt injection directe et indirecte, tool injection, identité de l’agent, délégation, permissions, moindre privilège, gestion des secrets, isolation et sandboxing. L’enjeu est de distinguer ce que le modèle propose de ce que le système autorise réellement.

Explorer un plan de contrôle capable de vérifier chaque appel d’outil, d’appliquer des politiques côté serveur et de demander une approbation humaine pour les actions choisies. Une approbation doit être attachée à une opération précise et expirer lorsque ses paramètres ou son contexte changent.

Pistes de travail

Étudier la chaîne de confiance des outils, des serveurs MCP et de leurs dépendances : provenance, versions, schémas, droits et changements de description. Concevoir des scénarios adversariaux portant sur des contenus consultés, des réponses d’outils, des arguments malformés et des tentatives d’exfiltration. Évaluer les effets d’une panne, d’un timeout, d’un retry ou d’une interruption sur la politique d’autorisation.

Prévoir observabilité, traces d’audit minimisées et replay dans un environnement isolé. Le replay doit permettre d’expliquer une décision de contrôle et une transition d’état sans redéclencher d’action réelle ni exposer un secret.

Compétences utiles

Des bases en sécurité applicative, APIs, authentification et autorisation, programmation Python ou TypeScript, tests automatisés et systèmes Linux seront utiles. Une familiarité avec les modèles de langage, les conteneurs ou MCP peut aider ; la capacité à lire une spécification, formuler une hypothèse et construire une expérience claire compte autant que la connaissance d’un framework.

Travaux attendus et livrables possibles

Le sujet pourra produire un modèle de menaces argumenté, un agent de référence minimal, un mécanisme de contrôle de permissions, un corpus d’évaluations adversariales, des traces rejouables et un rapport de résultats. Chaque expérimentation devra préciser ses hypothèses, ses versions, ses critères de réussite et ses limites. Les livrables exacts seront définis lors du cadrage académique et technique.

Le travail privilégie le code lisible, les contrats explicites, les tests déterministes pour les contrôles et les essais répétés pour le comportement du modèle. Les données de test doivent être synthétiques ou autorisées ; les secrets restent hors du code et des traces.

Candidater

Écrivez à contact@digitalplace.ma avec le sujet « PFE — Sécurité agentique » ou utilisez le formulaire Contact avec le sujet PFE. Présentez brièvement votre formation, votre intérêt pour le sujet et, si vous le souhaitez, un lien vers un travail technique pertinent. Aucun document d’identité ni information sensible n’est demandé pour ce premier contact.

Les modalités pratiques du stage seront précisées dans l’échange de candidature. Cette offre ne fixe ni rémunération, ni durée, ni lieu et ne constitue pas une promesse d’embauche.