description
Le CEA recrute un stagiaire pour un stage de six mois à Saclay, en France, axé sur le développement d’une méthode d’élagage de jetons tenant compte de la quantification et du matériel pour les transformeurs de vision déployés sur des systèmes embarqués à ressources limitées. Le ou la stagiaire caractérisera les effets de la quantification sur la sélection des jetons, co-optimisera l’élagage et la quantification, évaluera la granularité de l’élagage et la structure des tenseurs, et intégrera les méthodes dans Aidge, une plateforme d’apprentissage profond pour les réseaux neuronaux embarqués. Le travail implique Python, PyTorch, Linux, C++ et l’apprentissage profond, avec une validation portant sur la précision, la latence, l’empreinte mémoire et la surcharge liée à l’élagage.
