Qui sommes-nous ?
Espace utilisateur
Formation continue
Credit : L. Godart/CEA
D’un jour à plusieurs semaines, nos formations permettent une montée en compétence dans votre emploi ou accompagnent vers le retour à l’emploi. 
Conseil et accompagnement
Crédit : vgajic
Fort de plus de 60 ans d’expériences, l’INSTN accompagne les entreprises et organismes à différents stades de leurs projets de développement du capital humain.
Thèses
Accueil   /   Post Doctorat   /   Stratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les modèles de réseaux de neurones à l'apprentissage/inférence

Stratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les modèles de réseaux de neurones à l'apprentissage/inférence

Data intelligence dont Intelligence Artificielle Défis technologiques Informatique et logiciels Sciences pour l’ingénieur

Résumé du sujet

L'objectif du projet est d'identifier, d'analyser et d'évaluer les mécanismes de modulation de la sparsité spatio-temporel des fonctions d'activation afin de minimiser la charge de calcul du modèle NN de transformateur (apprentissage/inférence). Une approche combinée avec la quantification extrême sera également envisagée.
L'objectif est d'affiner conjointement une stratégie innovante pour évaluer les impacts et les gains potentiels de ces mécanismes sur l'exécution du modèle sous contraintes matérielles. En particulier, cette co-conception devrait également permettre de qualifier et d'exploiter une boucle de rétroaction bidirectionnelle entre un réseau neuronal ciblé et une instanciation matérielle afin d'obtenir le meilleur compromis (compacité/latence).

Laboratoire

Département Systèmes et Circuits Intégrés Numériques (LIST)
DSCIN
Laboratoire Intelligence Artificielle Embarquée
Top envelopegraduation-hatlicensebookuserusersmap-markercalendar-fullbubblecrossmenuarrow-down