« RetNet » : différence entre les versions
(Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' RetNet''' It is foundational architecture for LLMs, simultaneous... ») |
Aucun résumé des modifications |
||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
== Français == | == Français == | ||
''' | ''' architecture RetNet''' | ||
== Anglais == | == Anglais == | ||
Version du 3 octobre 2023 à 14:10
en construction
Définition
Français
architecture RetNet
Anglais
RetNet
It is foundational architecture for LLMs, simultaneously achieving training parallelism, low-cost inference, and good performance.
Contributeurs: Patrick Drouin, wiki
