Transfer-learning

Ce résumé explore le concept d'universalité des caractéristiques dans les grands modèles de langage (LLMs) en utilisant des autoencodeurs épars (SAEs), tel que présenté dans 'Sparse Autoencoders Reveal Universal Feature Spaces Across Large Language Models' (Lan et al., 2024). La recherche vise à déterminer si différents LLMs développent des représentations internes similaires des concepts au sein de leurs couches intermédiaires.