@@ -47,21 +47,21 @@ dans l'intervalle *[0, 255]*, 0 à gauche, 255 à droite.
4747.. math ::
4848
4949 \begin {array}{rcl}
50- q_1 (z, \lambda , x) &=& c_{0 }^{255 }\pa {\intf _{i 8 }{ \frac {x}{\lambda }} + z} \text { quantization}\\
50+ q_1 (z, \lambda , x) &=& c_{0 }^{255 }\pa {\intf { \frac {x}{\lambda }}_{i 8 } + z} \text { quantization}\\
5151 q_2 (z, \lambda , i) &=& \lambda (i - z) \text { déquantization} \\
5252 q(z, \lambda , x) &=& q_2 (z, \lambda , q_1 (z, \lambda , x)) \\
53- &=& \lambda \pa {c_{0 }^{255 }\pa {\intf _{i 8 }{ \frac {x}{\lambda }} + z} - z} \\
54- &=& \lambda \intf _{i 8 ,z}{ \frac {x}{\lambda }}
53+ &=& \lambda \pa {c_{0 }^{255 }\pa {\intf { \frac {x}{\lambda }}_{i 8 } + z} - z} \\
54+ &=& \lambda \intf { \frac {x}{\lambda }}_{i 8 ,z }
5555 \end {array}
5656
57- :math: `\intf _{ i8 ,z}{x }` est la partie entière asociée à la fonction
57+ :math: `\intf {x}_{ i8 ,z}` est la partie entière asociée à la fonction
5858:math: `c_{0 }^{255 }(i)`.
5959
6060.. math ::
6161
62- \norm {B - q(z,\lambda ,B)}^2 = \sum _{ij} \pa {b_{ij} - \lambda \intf _{i 8 ,z}{ \frac {x}{\lambda }}}^2
62+ \norm {B - q(z,\lambda ,B)}^2 = \sum _{ij} \pa {b_{ij} - \lambda \intf { \frac {x}{\lambda }}_{i 8 ,z }}^2
6363
64- :math: `\intf _{ i8 ,z}{. }` qui n'est pas dérivable.
64+ :math: `\intf {.}_{ i8 ,z}` qui n'est pas dérivable.
6565C'est un problème d'optimisation discrète. Le paramètre :math: `\lambda `
6666est appelé *scale * ou *échelle *. Il peut y en avoir un ou plusieurs
6767mais dans ce cas, on considère les différentes parties de *B *
@@ -97,20 +97,60 @@ inférieur (ou le plus proche).
9797
9898.. math ::
9999
100- \norm {B - q(z,\lambda ,B)}^2 = \sum _{ij} \pa {b_{ij} - \lambda \intf _{f 8 ,z}{ \frac {x}{\lambda }} }^2
100+ \norm {B - q(z,\lambda ,B)}^2 = \sum _{ij} \pa {b_{ij} - \lambda \intf { \frac {x}{\lambda }}_{f 8 ,z } }^2
101101
102102
103103============
104104
105105L'idée est de traiter la discrétisation sur un ensemble fini de valeurs,
106- quel qu'il soit, des entiers ou des réels codés sur 8 bits. On note Cette
106+ quel qu'il soit, des entiers ou des réels codés sur 8 bits. On note cet
107107ensemble :math: `(d_1 , ..., d_n)`. On réécrit le problème d'optimisation :
108108
109109.. math ::
110110
111111 \begin {array}{rcl}
112- \norm {B - q(z,\lambda ,B)}^2 &=& \sum _{ij} \pa {b_{ij} - \lambda \intf _{f8 ,z}{\frac {x}{\lambda }} }^2 \\
113- &=& \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda \intf _{f8 }{\frac {x}{\lambda }} }^2
114- \indicatrice {\intf _{f8 }{\frac {x}{\lambda }} = d_k}
112+ \norm {B - q(z,\lambda ,B)}^2 &=& \sum _{ij} \pa {b_{ij} - \lambda \intf {\frac {x}{\lambda }}_{f8 ,z} }^2 \\
113+ &=& \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda \intf {\frac {x}{\lambda }}_{f8 } }^2
114+ \indicatrice {\intf {\frac {x}{\lambda }}_{f8 } = d_k} \\
115+ &=& \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda d_k }^2
116+ \indicatrice {\intf {\frac {x}{\lambda }}_{f8 } = d_k} \\
115117 \end {array}
116118
119+ :math: `K(u)=\frac {1 }{\sqrt {2 \pi }}e^{-\frac {1 }{2 }u^2 }` le noyau gaussien.
120+
121+ .. math ::
122+
123+ \begin {array}{rcl}
124+ \norm {B - q(z,\lambda ,B)}^2 &=& \lim _{h\to 0 } \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda d_k }^2
125+ \frac {1 }{h} K\pa {\frac {b_{ij} - \lambda d_k}{h}}\indicatrice {\intf {\frac {x}{\lambda }}_{f8 } = d_k}
126+ \end {array}
127+
128+ z * qu'on peut ajouter comme suit :
129+
130+ .. math ::
131+
132+ \begin {array}{rcl}
133+ \norm {B - q(z,\lambda ,B)}^2 &=& \lim _{h\to 0 } \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda d_k - z }^2
134+ \frac {1 }{h} K\pa {\frac {b_{ij} - \lambda d_k - z}{h}}\indicatrice {\intf {\frac {x}{\lambda }}_{?,z} = d_k}
135+ \end {array}
136+
137+
138+ et la fonction devient dérivable. L'idée est de regarder l'évolution des valeurs trouvées
139+ pour :math: `\lambda ` et *z * en faisant tendre *h * vers 0.
140+ On commence par le plus simple, le cas float 8 pour lequel on impose :math: `z=0 `.
141+
142+ .. math ::
143+
144+ f(B,\lambda ,h) = \frac {1 }{h} \sum _{k=1 }^{n} \sum _{ij} \pa {b_{ij} - \lambda d_k - z }^2
145+ K\pa {\frac {b_{ij} - \lambda d_k - z}{h}}
146+
147+ B * suivent une certaine loi de probabilité,
148+ ce calcul devient une somme d'espérence.
149+
150+ .. math ::
151+
152+ f(X,\lambda ,h) = \frac {1 }{h} \sum _{k=1 }^{n} \esp {X - \lambda d_k - z }^2
153+ K\pa {\frac {X - \lambda d_k - z}{h}}
154+
155+
156+ ==========
0 commit comments