Algorithme T-SNE

Définition

L'algorithme t-SNE (t-distributed stochastic neighbor embedding) est une méthode de réduction de dimensions par projection, similaire à UMAP et ACP pour la visualisation d'un ensemble de points d'un espace à grande dimension dans un espace à deux ou trois dimensions.

Compléments

Les données traitées par t-SNE peuvent être visualisées sous la forme des nuages de points. L'algorithme de projection non linéaire t-SNE utilise des techniques d'optimisation basées sur la théorie de l'information afin de conserver la distance relative entre les points pendant la réduction de dimensions. Ainsi, deux points qui sont proches (ou éloignés) dans l'espace d'origine doivent être proches (ou éloignés) dans l'espace de visualisation de faible dimension.

L'algorithme t-SNE, qui a été développé en 2008 par Geoffrey Hinton et Laurens van der Maate, se base sur une interprétation probabiliste des distances. L'algorithme commence par la construction d'une distribution gaussienne où la similitude entre un point x_j et un point x_i correspond à la probabilité conditionnelle p(x_j|x_i) que x_i et x_j soient voisins. Puis l'algorithme construit une deuxième distribution gaussienne sur les paires de points (y_i, y_j) dans un espace de visualisation en dimension réduite. Les coordonnées des points y_k projetés dans le plan de visualisation en dimension réduite sont estimées en minimisant la divergence de Kullback-Leibler (KL) entre les deux distributions, afin de préserver les similitudes entre les points dans l'espace de visualisation.

L'algorithme t-SNE a été utilisée pour de nombreuses applications : traitement automatique de la langue (similarité sémantique entre les mots), analyse de la musique, recherches médicales, bioinformatique, et le traitement de signaux. Cette méthode est souvent utilisée pour la visualisation de représentations de haut-niveau apprises par un réseau de neurones artificiel.

Français

t-SNE

algorithme t-SNE

méthode t-SNE

Anglais

t-SNE

t-distributed stochastic neighbor embedding

Source : Wikipedia t-SNE

Source : Méthodes t-SNE et UMAP pour visualisation et réduction de dimension