Qui sommes-nous ?
Espace utilisateur
Formation continue
Credit : L. Godart/CEA
D’un jour à plusieurs semaines, nos formations permettent une montée en compétence dans votre emploi ou accompagnent vers le retour à l’emploi. 
Conseil et accompagnement
Crédit : vgajic
Fort de plus de 60 ans d’expériences, l’INSTN accompagne les entreprises et organismes à différents stades de leurs projets de développement du capital humain.
Thèses
Accueil   /   Thèses   /   Security-by-design pour les modèles de réseaux de neurones embarqués sur plateformes RISC-V

Security-by-design pour les modèles de réseaux de neurones embarqués sur plateformes RISC-V

Cybersécurité : hardware et software Data intelligence dont Intelligence Artificielle Défis technologiques

Résumé du sujet

Dans un contexte de régulation de l'Intelligence Artificielle à l'échelle européenne (AI Act), de nombreuses recommandations concernent la « cybersecurité de l’IA ». Parmi les concepts les plus importants liés à la sécurité des modèles de Machine de Learning et des systèmes basés sur l'IA, la "security-by-design" est le plus souvent associé au renforcement des modèles dès l'apprentissage (e.g., adversarial training contre les menaces par évasion ou le differential privacy pour les attaques contre la confidentialité).
Cette thèse vise à couvrir un spectre plus large du "security-by-design" en étudiant les mécanismes logiciels (SW) et électroniques (HW) que l'on peut mettre en œuvre pour renforcer la robustesse intrinsèque des systèmes d'IA embarqués sur plateformes RISC-V.
Les objectifs sont (1) de définir et modéliser les vulnérabilités SW et HW propres aux modèles embarqués, (2) développer et évaluer des protections et (3) démontrer l’impact des protections SW, HW et leurs combinaisons sur des attaques de l’état de l’art comme les "weight-based adversarial attacks", "model extraction".

Laboratoire

Département Systèmes (LETI)
Service Sécurité des Systèmes Electroniques et des Composants
Laboratoire des Systèmes Embarqués Sécurisés
Top envelopegraduation-hatlicensebookuserusersmap-markercalendar-fullbubblecrossmenuarrow-down