Exploration de l'universalité des caractéristiques dans les grands modèles de langage à l'aide d'autoencodeurs épars

Ce résumé explore le concept d'universalité des caractéristiques dans les grands modèles de langage (LLMs) en utilisant des autoencodeurs épars (SAEs), tel que présenté dans "Sparse Autoencoders Reveal Universal Feature Spaces Across Large Language Models" (Lan et al., 2024). La recherche vise à déterminer si différents LLMs développent des représentations internes similaires des concepts au sein de leurs couches intermédiaires.

Points clés

• L'étude utilise des SAEs pour démêler les activations complexes des LLMs en espaces de caractéristiques plus interprétables, abordant ainsi le défi de la polysémanticité dans les neurones individuels. Cette approche d'"apprentissage de dictionnaire" permet une comparaison plus facile des caractéristiques entre différents modèles.
• Les chercheurs ont employé des métriques de similarité des espaces de représentation, spécifiquement l'Analyse de Corrélation Canonique par Valeurs Singulières (SVCCA) et l'Analyse de Similarité Représentationnelle (RSA), pour comparer les espaces de caractéristiques des SAEs entre différents LLMs. Une nouvelle méthode a été développée pour apparier les caractéristiques basées sur la corrélation des activations, résolvant ainsi les problèmes de permutation et de rotation inhérents à la comparaison des espaces de haute dimension.
• Les expériences comparant les variantes des modèles Pythia et Gemma ont révélé des similitudes statistiquement significatives dans les espaces de caractéristiques des SAEs, en particulier dans les couches intermédiaires. Une analyse plus approfondie a montré que les sous-espaces de caractéristiques sémantiquement liés (par exemple, liés aux émotions ou au temps) présentaient une similarité encore plus forte entre les modèles.

Conclusion

La recherche fournit des preuves solides de l'universalité des caractéristiques à travers différents LLMs en démontrant des similitudes significatives dans leurs espaces de caractéristiques dérivés des SAEs. Cela suggère que divers LLMs apprennent des représentations internes similaires des concepts, en particulier dans leurs couches intermédiaires. Ces résultats ont des implications pour l'interprétabilité des LLMs, l'apprentissage par transfert et la recherche sur la sécurité de l'IA.

Source(s) :

• Sparse Autoencoders Reveal Universal Feature Spaces Across Large Language Models