Unité linéaire rectifiée

Domaine

Intelligence artificielle
Apprentissage automatique
Apprentissage profond
Coulombe

Définition

ULR abréviation pour unité(s) linéaire(s) rectifiée(s). Les ULR sont utilisées comme fonctions d'activation dans les réseaux de neurones profonds.

Français

ULR pour unité linéaire rectifiée

Discussion:
La traduction / adaptation des abréviations et acronymes pose des défis particuliers dont il faut discuter.

Anglais

ReLU

Short for Rectified Linear Unit(s). ReLUs are often used as activation functions in Deep Neural Networks. They are defined by f(x) = max(0, x). The advantages of ReLUs over functions like tanhinclude that they tend to be sparse (their activation easily be set to 0), and that they suffer less from the vanishing gradient problem. ReLUs are the most commonly used activation function in Convolutional Neural Networks. There exist several variations of ReLUs, such as Leaky ReLUs, Parametric ReLU (PReLU) or a smoother softplusapproximation.

• Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification

• Rectifier Nonlinearities Improve Neural Network Acoustic Models

• Rectified Linear Units Improve Restricted Boltzmann Machines