« Algorithme T-SNE » : différence entre les versions
(Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' t-distributed stochastic neighbor embedding ''' t-distributed stoch... ») |
m (Remplacement de texte : « ↵↵<small> » par « ==Sources== ») |
||
| (19 versions intermédiaires par 3 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
==en construction | == Définition == | ||
L'algorithme t-SNE (''t-distributed stochastic neighbor embedding'') est une méthode de réduction de dimensions par projection, similaire à [[algorithme UMAP|UMAP]] et [[Analyse_en_composantes_principales|ACP]] pour la visualisation d'un ensemble de points d'un espace à grande dimension dans un espace à deux ou trois dimensions. | |||
== Compléments == | |||
Les données traitées par t-SNE peuvent être visualisées sous la forme des nuages de points. L'algorithme de projection non linéaire t-SNE utilise des techniques d'optimisation basées sur la théorie de l'information afin de conserver la distance relative entre les points pendant la réduction de dimensions. Ainsi, deux points qui sont proches (ou éloignés) dans l'espace d'origine doivent être proches (ou éloignés) dans l'espace de visualisation de faible dimension. | |||
L'algorithme t-SNE, qui a été développé en 2008 par Geoffrey Hinton et Laurens van der Maate, se base sur une interprétation probabiliste des distances. L'algorithme commence par la construction d'une distribution gaussienne où la similitude entre un point x<sub>j</sub> et un point x<sub>i</sub> correspond à la probabilité conditionnelle p(x<sub>j</sub>|x<sub>i</sub>) que x<sub>i</sub> et x<sub>j</sub> soient voisins. Puis l'algorithme construit une deuxième distribution gaussienne sur les paires de points (y<sub>i</sub>, y<sub>j</sub>) dans un espace de visualisation en dimension réduite. Les coordonnées des points y<sub>k</sub> projetés dans le plan de visualisation en dimension réduite sont estimées en minimisant la divergence de Kullback-Leibler (KL) entre les deux distributions, afin de préserver les similitudes entre les points dans l'espace de visualisation. | |||
L'algorithme t-SNE a été utilisée pour de nombreuses applications : traitement automatique de la langue (similarité sémantique entre les mots), analyse de la musique, recherches médicales, bioinformatique, et le traitement de signaux. Cette méthode est souvent utilisée pour la visualisation de représentations de haut-niveau apprises par un réseau de neurones artificiel. | |||
== Français == | == Français == | ||
''' | ''' t-SNE ''' | ||
''' algorithme t-SNE ''' | |||
''' méthode t-SNE ''' | |||
== Anglais == | == Anglais == | ||
''' t-SNE ''' | |||
''' t-distributed stochastic neighbor embedding ''' | ''' t-distributed stochastic neighbor embedding ''' | ||
t-distributed stochastic neighbor embedding (t-SNE) is a machine learning algorithm for visualization based on Stochastic Neighbor Embedding originally developed by Sam Roweis and Geoffrey Hinton,[1] where Laurens van der Maaten proposed the t-distributed variant.[2] It is a nonlinear dimensionality reduction technique well-suited for embedding high-dimensional data for visualization in a low-dimensional space of two or three dimensions. Specifically, it models each high-dimensional object by a two- or three-dimensional point in such a way that similar objects are modeled by nearby points and dissimilar objects are modeled by distant points with high probability. | <!-- t-distributed stochastic neighbor embedding (t-SNE) is a machine learning algorithm for visualization based on Stochastic Neighbor Embedding originally developed by Sam Roweis and Geoffrey Hinton,[1] where Laurens van der Maaten proposed the t-distributed variant.[2] It is a nonlinear dimensionality reduction technique well-suited for embedding high-dimensional data for visualization in a low-dimensional space of two or three dimensions. Specifically, it models each high-dimensional object by a two- or three-dimensional point in such a way that similar objects are modeled by nearby points and dissimilar objects are modeled by distant points with high probability. | ||
The t-SNE algorithm comprises two main stages. First, t-SNE constructs a probability distribution over pairs of high-dimensional objects in such a way that similar objects are assigned a higher probability while dissimilar points are assigned a lower probability. Second, t-SNE defines a similar probability distribution over the points in the low-dimensional map, and it minimizes the Kullback–Leibler divergence (KL divergence) between the two distributions with respect to the locations of the points in the map. While the original algorithm uses the Euclidean distance between objects as the base of its similarity metric, this can be changed as appropriate. | The t-SNE algorithm comprises two main stages. First, t-SNE constructs a probability distribution over pairs of high-dimensional objects in such a way that similar objects are assigned a higher probability while dissimilar points are assigned a lower probability. Second, t-SNE defines a similar probability distribution over the points in the low-dimensional map, and it minimizes the Kullback–Leibler divergence (KL divergence) between the two distributions with respect to the locations of the points in the map. While the original algorithm uses the Euclidean distance between objects as the base of its similarity metric, this can be changed as appropriate. | ||
| Ligne 16 : | Ligne 27 : | ||
t-SNE has been used for visualization in a wide range of applications, including computer security research,[3] music analysis,[4] cancer research,[5] bioinformatics,[6] and biomedical signal processing.[7] It is often used to visualize high-level representations learned by an artificial neural network.[8] | t-SNE has been used for visualization in a wide range of applications, including computer security research,[3] music analysis,[4] cancer research,[5] bioinformatics,[6] and biomedical signal processing.[7] It is often used to visualize high-level representations learned by an artificial neural network.[8] | ||
While t-SNE plots often seem to display clusters, the visual clusters can be influenced strongly by the chosen parameterization and therefore a good understanding of the parameters for t-SNE is necessary. Such "clusters" can be shown to even appear in non-clustered data,[9] and thus may be false findings. Interactive exploration may thus be necessary to choose parameters and validate results.[10][11] It has been demonstrated that t-SNE is often able to recover well-separated clusters, and with special parameter choices, approximates a simple form of spectral clustering.[12] | While t-SNE plots often seem to display clusters, the visual clusters can be influenced strongly by the chosen parameterization and therefore a good understanding of the parameters for t-SNE is necessary. Such "clusters" can be shown to even appear in non-clustered data,[9] and thus may be false findings. Interactive exploration may thus be necessary to choose parameters and validate results.[10][11] It has been demonstrated that t-SNE is often able to recover well-separated clusters, and with special parameter choices, approximates a simple form of spectral clustering.[12] -->==Sources== | ||
[https:// | [https://fr.wikipedia.org/wiki/Algorithme_t-SNE Source : Wikipedia t-SNE] | ||
[https://www.youtube.com/watch?v=5uD4RhJJjTg Source : Méthodes t-SNE et UMAP pour visualisation et réduction de dimension ] | |||
[[Catégorie: | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
Dernière version du 27 janvier 2024 à 17:08
Définition
L'algorithme t-SNE (t-distributed stochastic neighbor embedding) est une méthode de réduction de dimensions par projection, similaire à UMAP et ACP pour la visualisation d'un ensemble de points d'un espace à grande dimension dans un espace à deux ou trois dimensions.
Compléments
Les données traitées par t-SNE peuvent être visualisées sous la forme des nuages de points. L'algorithme de projection non linéaire t-SNE utilise des techniques d'optimisation basées sur la théorie de l'information afin de conserver la distance relative entre les points pendant la réduction de dimensions. Ainsi, deux points qui sont proches (ou éloignés) dans l'espace d'origine doivent être proches (ou éloignés) dans l'espace de visualisation de faible dimension.
L'algorithme t-SNE, qui a été développé en 2008 par Geoffrey Hinton et Laurens van der Maate, se base sur une interprétation probabiliste des distances. L'algorithme commence par la construction d'une distribution gaussienne où la similitude entre un point xj et un point xi correspond à la probabilité conditionnelle p(xj|xi) que xi et xj soient voisins. Puis l'algorithme construit une deuxième distribution gaussienne sur les paires de points (yi, yj) dans un espace de visualisation en dimension réduite. Les coordonnées des points yk projetés dans le plan de visualisation en dimension réduite sont estimées en minimisant la divergence de Kullback-Leibler (KL) entre les deux distributions, afin de préserver les similitudes entre les points dans l'espace de visualisation.
L'algorithme t-SNE a été utilisée pour de nombreuses applications : traitement automatique de la langue (similarité sémantique entre les mots), analyse de la musique, recherches médicales, bioinformatique, et le traitement de signaux. Cette méthode est souvent utilisée pour la visualisation de représentations de haut-niveau apprises par un réseau de neurones artificiel.
Français
t-SNE
algorithme t-SNE
méthode t-SNE
Anglais
t-SNE
t-distributed stochastic neighbor embedding
Sources
Source : Méthodes t-SNE et UMAP pour visualisation et réduction de dimension
Contributeurs: Claude Coulombe, Patrick Drouin, wiki
