Stage Pruning de tokens quantization-aware pour Vision Transformers embarqués -Saclay H/F

Source de l'offre

Offre diffusée par LEGACY50. L'employeur reste confidentiel ; LEGACY50 n'est pas présenté comme l'employeur de ce poste.

Descriptif du poste

Stage Pruning de tokens quantization-aware pour Vision Transformers embarqués -Saclay-H/F. Sujet de stage. Dans un contexte d'IA embarquée en constante évolution, vous travaillerez sur l'optimisation de Vision Transformers (ViT) pour leur déploiement sur des plateformes à ressources contraintes. Vous étudierez la combinaison du pruning de tokens et de la quantification afin de réduire les coûts de calcul et de mémoire, tout en tenant compte des contraintes réelles du matériel cible.. Durée du contrat (en mois). 6 mois. Description de l'offre. Description du poste:. Les Vision Transformers (ViT) atteignent d’excellentes performances sur de nombreuses tâches de vision, mais leur coût de calcul et leur empreinte mémoire compliquent leur déploiement sur des plateformes embarquées. Parmi les techniques permettant de réduire leur complexité, le pruning de tokens [1] vise à supprimer dynamiquement les tokens les moins informatifs, tandis que la quantification [2] réduit la précision numérique des poids et des activations. Ces deux approches sont cependant généralement étudiées séparément alors qu'elles sont complémentaires plutôt que concurrentes.…

Informations principales

Employeur confidentiel. Diffuseur : LEGACY50.

Localisation : Saclay, France, Ile-de-France, Essonne (91).

Rémunération détaillée non communiquée dans les données publiques disponibles.

Cette fiche individuelle présente les informations disponibles lorsque l'offre est active et suffisamment exploitable.