Quantification - Historique des versions

Pitpitt le 10 janvier 2024 à 00:28

2024-01-10T00:28:10Z

← Version précédente		Version du 9 janvier 2024 à 20:28
Ligne 23 :		Ligne 23 :

	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	~~[[Catégorie:Publication]]~~

Claude COULOMBE : À l'avenir il serait intéressant de créer une section == Sources ==

2024-01-09T19:53:13Z

À l'avenir il serait intéressant de créer une section == Sources ==

← Version précédente		Version du 9 janvier 2024 à 15:53
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	Technique de compression d'~~une~~ réseau neuronal qui permet de réduire la taille ~~d'un réseau neuronal~~ en convertissant les poids et les biais du réseau de leur format original ~~en virgule flottante~~ (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).		Technique de compression d'un réseau neuronal qui permet de réduire sa taille en convertissant les poids et les biais du réseau de leur format original (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).

	==Compléments==		==Compléments==
	L'objectif ~~ultime~~ de la quantification est de réduire la taille ~~de notre~~ modèle, ce qui permet de ~~réduire~~ la consommation de la mémoire et les besoins de calcul pour exécuter l'inférence. Par exemple, pour que le modèle puisse fonctionner sur un téléphone mobile.		L'objectif de la quantification est de réduire la taille d'un modèle, ce qui permet de minimiser la consommation de mémoire et les besoins de calcul pour exécuter l'inférence. Par exemple, pour que le modèle puisse fonctionner sur un téléphone mobile.
	<hr/>		<hr/>
	La quantification peut réduire la performance d'un modèle. Il y a donc un compromis à faire entre la taille du modèle et ~~sa précision~~.		La quantification peut réduire la performance d'un modèle. Il y a donc un compromis à faire entre la taille du modèle, son exactitude et le temps d'exécution.
	<hr/>		<hr/>
	Typiquement, on entraîne le modèle avec un maximum de précision et on utilise la quantification au besoin.		Typiquement, on entraîne le modèle avec un maximum de précision et on utilise la quantification au besoin.

	== Français ==		== Français ==
	''' ~~Quantification~~ '''		'''quantification'''

	== Anglais ==		== Anglais ==
	''' ~~Quantisation~~'''		'''quantization'''

			'''quantisation'''

			== Sources ==
	[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]		[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]

Claude COULOMBE le 9 janvier 2024 à 19:41

2024-01-09T19:41:48Z

← Version précédente		Version du 9 janvier 2024 à 15:41
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	~~La quantification nous~~ permet de réduire la taille d'un réseau neuronal en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).		Technique de compression d'une réseau neuronal qui permet de réduire la taille d'un réseau neuronal en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).

	==Compléments==		==Compléments==
	~~Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus d'entraînement.~~ L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence ~~et former notre~~ modèle. La quantification peut ~~très vite devenir compliquée si vous essayez~~ de ~~quantifier les modèles vous-même~~.		L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la consommation de la mémoire et les besoins de calcul pour exécuter l'inférence. Par exemple, pour que le modèle puisse fonctionner sur un téléphone mobile.
			<hr/>
			La quantification peut réduire la performance d'un modèle. Il y a donc un compromis à faire entre la taille du modèle et sa précision.
			<hr/>
			Typiquement, on entraîne le modèle avec un maximum de précision et on utilise la quantification au besoin.

	== Français ==		== Français ==
Ligne 17 :		Ligne 21 :

	[[Catégorie:GRAND LEXIQUE FRANÇAIS]]		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
			[[Catégorie:Publication]]

Claude COULOMBE le 9 janvier 2024 à 19:30

2024-01-09T19:30:47Z

← Version précédente		Version du 9 janvier 2024 à 15:30
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	La quantification nous permet de réduire la taille ~~de nos réseaux neuronaux~~ en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 8 bits). Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus ~~de formation~~. L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence et former notre modèle. La quantification peut très vite devenir compliquée si vous essayez de quantifier les modèles vous-même.		La quantification nous permet de réduire la taille d'un réseau neuronal en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 16 ou 8 bits).

			==Compléments==
			Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus d'entraînement. L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence et former notre modèle. La quantification peut très vite devenir compliquée si vous essayez de quantifier les modèles vous-même.

	== Français ==		== Français ==

Pitpitt : Pitpitt a déplacé la page Quantisation vers Quantification

2023-11-18T02:15:34Z

Pitpitt a déplacé la page Quantisation vers Quantification

← Version précédente	Version du 17 novembre 2023 à 22:15
(Aucune différence)

Pitpitt le 18 novembre 2023 à 02:14

2023-11-18T02:14:58Z

← Version précédente		Version du 17 novembre 2023 à 22:14
Ligne 1 :		Ligne 1 :
	== Définition ==		== Définition ==
	La quantification nous permet de réduire la taille de nos réseaux neuronaux en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 8 bits). Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus de formation. L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence et former notre modèle. La quantification peut très vite devenir compliquée si vous essayez de quantifier les modèles vous-même.		La quantification nous permet de réduire la taille de nos réseaux neuronaux en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 8 bits). Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus de formation. L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence et former notre modèle. La quantification peut très vite devenir compliquée si vous essayez de quantifier les modèles vous-même.


	== Français ==		== Français ==
Ligne 9 :		Ligne 8 :
	''' Quantisation'''		''' Quantisation'''



	[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]		[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]
Ligne 15 :		Ligne 13 :
	[https://www.mathworks.com/discovery/quantization.html Source : mathworks]		[https://www.mathworks.com/discovery/quantization.html Source : mathworks]

	[[Catégorie:~~vocabulary]]~~		[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
	~~[[Catégorie:publication~~]]

Mariealfaro le 17 novembre 2023 à 19:31

2023-11-17T19:31:31Z

← Version précédente		Version du 17 novembre 2023 à 15:31
Ligne 1 :		Ligne 1 :
	==~~en construction~~==		== Définition ==
			La quantification nous permet de réduire la taille de nos réseaux neuronaux en convertissant les poids et les biais du réseau de leur format original en virgule flottante (par exemple 32 bits) à un format de moindre précision (par exemple 8 bits). Le format original en virgule flottante peut varier en fonction de plusieurs facteurs tels que l'architecture du modèle et les processus de formation. L'objectif ultime de la quantification est de réduire la taille de notre modèle, ce qui permet de réduire la mémoire et les besoins de calcul pour exécuter l'inférence et former notre modèle. La quantification peut très vite devenir compliquée si vous essayez de quantifier les modèles vous-même.

	~~== Définition ==~~
	~~XXXXXXXXX~~

	== Français ==		== Français ==
	''' ~~XXXXXXXXX~~ '''		''' Quantification '''

	== Anglais ==		== Anglais ==
	''' Quantisation'''		''' Quantisation'''

	allows us to reduce the size of our neural networks by converting the network’s weights and biases from their original floating-point format (e.g. 32-bit) to a lower precision format (e.g. 8-bit). The original floating point format can vary depending on several factors such as the model’s architecture and training processes. The ultimate purpose of quantisation is to reduce the size of our model, thereby reducing memory and computational requirements to run inference and train our model. Quantisation can very quickly become fiddly if you are attempting to quantise the models yourself.
	~~<small>~~

	[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]		[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]
Ligne 18 :		Ligne 16 :

	[[Catégorie:vocabulary]]		[[Catégorie:vocabulary]]
			[[Catégorie:publication]]

Pitpitt le 30 octobre 2023 à 14:12

2023-10-30T14:12:15Z

← Version précédente		Version du 30 octobre 2023 à 10:12
Ligne 14 :		Ligne 14 :

	[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]		[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]

			[https://www.mathworks.com/discovery/quantization.html Source : mathworks]

	[[Catégorie:vocabulary]]		[[Catégorie:vocabulary]]

Pitpitt : Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' Quantisation''' allows us to reduce the size of our neural networ... »

2023-10-30T14:09:52Z

Page créée avec « ==en construction== == Définition == XXXXXXXXX == Français == ''' XXXXXXXXX ''' == Anglais == ''' Quantisation''' allows us to reduce the size of our neural networ... »

Nouvelle page

==en construction==

== Définition ==
XXXXXXXXX

== Français ==
''' XXXXXXXXX '''

== Anglais ==
''' Quantisation'''

allows us to reduce the size of our neural networks by converting the network’s weights and biases from their original floating-point format (e.g. 32-bit) to a lower precision format (e.g. 8-bit). The original floating point format can vary depending on several factors such as the model’s architecture and training processes. The ultimate purpose of quantisation is to reduce the size of our model, thereby reducing memory and computational requirements to run inference and train our model. Quantisation can very quickly become fiddly if you are attempting to quantise the models yourself.
<small>

[https://towardsdatascience.com/quantisation-and-co-reducing-inference-times-on-llms-by-80-671db9349bdb Source : towardsdatascience]

[[Catégorie:vocabulary]]