miércoles, 15 de junio de 2011

Aritmética del computador, Representación de los números Y Aritmética de punto flotante

Los computadores no almacenan los números con precisión infinita sino de forma aproximada empleando un número fijo de bits (apócope del término inglés Binary Digit) o bytes (grupos de ocho bits). Prácticamente todos los computadores permiten al programador elegir entre varias representaciones o 'tipos de datos'. Los diferentes tipos de datos pueden diferir en el número de bits empleados, pero también (lo que es más importante) en cómo el número representado es almacenado: en formato fijo (también denominado 'entero') o en punto flotante2 (denominado 'real').

3.1 Aritmética de punto fijo

Un entero se puede representar empleando todos los bits de una palabra de computadora, con la salvedad de que se debe reservar un bit para el signo. Por ejemplo, en una máquina con longitud de palabra de 32 bits, los enteros están comprendidos entre -(231 - 1) y 231 - 1 = 2147483647. Un número representado en formato entero es 'exacto'. Las operaciones aritméticas entre números enteros son también 'exactas' siempre y cuando:
1.
La solución no esté fuera del rango del número entero más grande o más pequeño que se puede representar (generalmente con signo). En estos casos se dice que se comete un error de desbordamiento por exceso o por defecto (en inglés: Overflow y Underflow) y es necesario recurrir a técnicas de escalado para llevar a cabo las operaciones.
2.
La división se interpreta que da lugar a un número entero, despreciando cualquier resto.
Por estos motivos, la aritmética de punto fijo se emplea muy raramente en cálculos no triviales.

3.2 Números en punto flotante 

3.2.1 Notación científica normalizada

En el sistema decimal, cualquier número real puede expresarse mediante la denominada notación científica normalizada. Para expresar un número en notación científica normalizada multiplicamos o dividimos por 10 tantas veces como sea necesario para que todos los dígitos aparezcan a la derecha del punto decimal y de modo que el primer dígito después del punto no sea cero. Por ejemplo:
\begin{eqnarray*}732.5051 & = & 0.7325051 \times 10^{3} \\
-0.005612 & = & -0.5612 \times 10^{-2}
\end{eqnarray*}

En general, un número real x distinto de cero, se representa en notación científica normalizada en la forma:
 \begin{displaymath}x = \pm r \times 10^{n}
\end{displaymath} (17)

en donde r es un número tal que $\frac{1}{10} \leq r 
< 1$y n es un entero (positivo, negativo o cero). Exactamente del mismo modo podemos utilizar la notación científica en el sistema binario. En este caso, tenemos que:
 \begin{displaymath}x = \pm q \times 2^{m}
\end{displaymath} (18)

donde m es un entero. El número q se denomina mantisa y el entero m exponente. En un ordenador binario tanto q como m estarán representados como números en base 2. Puesto que la mantisa q está normalizada, en la representación binaria empleada se cumplirá que:
 \begin{displaymath}\frac{1}{2} \leq \vert q\vert < 1
\end{displaymath}

3.2.2 Representación de los números en punto flotante

En un ordenador típico los números en punto flotante se representan de la manera descrita en el apartado anterior, pero con ciertas restricciones sobre el número de dígitos de q y m impuestas por la longitud de palabra disponible (es decir, el número de bits que se van a emplear para almacenar un número). Para ilustrar este punto, consideraremos un ordenador hipotético que denominaremos MARC-32 y que dispone de una longitud de palabra de 32 bits (muy similar a la de muchos ordenadores actuales). Para representar un número en punto flotante en el MARC-32, los bits se acomodan del siguiente modo: 

Signo del número real x: 1 bit
Signo del exponente m: 1 bit
Exponente (entero |m|): 7 bits
Mantisa (número real |q|): 23 bits
 En la mayoría de los cálculos en punto flotante las mantisas se normalizan, es decir, se toman de forma que el bit más significativo (el primer bit) sea siempre '1'. Por lo tanto, la mantisa q cumple siempre la ecuación (19). Dado que la mantisa siempre se representa normalizada, el primer bit en q es siempre 1, por lo que no es necesario almacenarlo proporcionando un bit significativo adicional. Esta forma de almacenar un número en punto flotante se conoce con el nombre de técnica del 'bit fantasma'.
Se dice que un número real expresado como aparece en la ecuación (18) y que satisface la ecuación (19) tiene la forma de punto flotante normalizado. Si además puede representarse exactamente con |m| ocupando 7 bits y |q| ocupando 24 bits, entonces es un número de máquina en el MARC-323
La restricción de que |m| no requiera más de 7 bits significa que:


\begin{displaymath}\vert m\vert \leq (1111111)_{2} = 2^7 - 1 = 
127\end{displaymath}
  Ya que $2^{127} \approx 10^{38}$, la MARC-32 puede manejar números tan pequeños como 10-38 y tan grandes como 1038. Este no es un intervalo de valores suficientemente generoso, por lo que en muchos casos debemos recurrir a programas escritos en aritmética de doble precisión e incluso de precisión extendida.
Como q debe representarse empleando no más de 24 bits significa que nuestros números de máquina tienen una precisión limitada cercana a las siete cifras decimales, ya que el bit menos significativo de la mantisa representa unidades de $2^{-24} \approx 
10^{-7}$. Por tanto, los números expresados mediante más de siete dígitos decimales serán objeto de aproximación cuando se almacenen en el ordenador.
Por ejemplo: 0.5 representado en punto flotante en el MARC-32 (longitud de palabra de 32 bits) se almacena en la memoria del siguiente modo:


\begin{displaymath}\frac{1}{2} = 
\overbrace{0}^{\mathrm{Signo~\mathit{\vert 
m\ve......00000000000000000}_{\mathrm{\mathit{\vert 
q\vert},~1+23~bits}}\end{displaymath}
  Ejemplo 5: Suponga un ordenador cuya notación de punto fijo consiste en palabras de longitud 32 bits repartidas del siguiente modo: 1 bit para el signo, 15 bits para la parte entera y 16 bits para la parte fraccionaria. Represente los números 26.32, $1.234 \cdot 10^{-4}$ y 12542.29301 en base 2 empleando esta notación de punto fijo y notación de punto flotante MARC-32 con 32 bits. Calcule el error de almacenamiento cometido en cada caso.
Solución: El número 26.32 en binario se escribe del siguiente modo:


\begin{displaymath}26.32_{10} = 
{11010.\overline{01010001111010111000}}_{2}\end{displaymath}
Empleando las representaciones comentadas, obtenemos:


\begin{displaymath}\begin{array}{lll}26.32_{10} = & 
\mathrm{Punto~fijo:} &\m...... &\mbox{\small0 10000101 
10100101000111101011100}\end{array}\end{displaymath}
Si expresamos el error como la diferencia entre el valor y el número realmente almacenado en el ordenador, obtenemos:


\begin{displaymath}\begin{array}{llllll}\varepsilon_{a}(\mathrm{fix})
 & = & 8 ......arepsilon_{r}(\mathrm{flt}) & = & 1.2 
\cdot 10^{-8}\end{array}\end{displaymath}
En cuanto a los otros dos números, obtenemos:


\begin{displaymath}\begin{array}{lll}1.234 \cdot 10^{-6} = & 
\mbox{\small0 000...... &\varepsilon_{r}(\mathrm{flt}) = 3 \cdot 
10^{-9}\end{array}\end{displaymath}
  Antes de entrar con detalle en la aritmética de los números en punto flotante, es interesante notar una propiedad de estos números de especial importancia en los cálculos numéricos y que hace referencia a su densidad en la línea real. Supongamos que p, el número de bits de la mantisa, sea 24. En el intervalo $\left[\frac{1}{2},1\right)$ (exponente f = 0) es posible representar 224 números igualmente espaciados y separados por una distancia 1/224. De modo análogo, en cualquier intervalo $\left[2^{f},2^{f+1}\right)$ hay 224 números equiespaciados, pero su densidad en este caso es 2f/224. Por ejemplo, entre 220 = 1048576 y 221 = 2097152 hay 224 = 16777216 números, pero el espaciado entre dos números sucesivos es de sólo $\frac{1}{16}$. De este hecho se deriva inmediatamente una regla práctica: cuando es necesario comparar dos números en punto flotante relativamente grandes, es siempre preferible comparar la diferencia relativa a la magnitud de los números. En la figura (1) se representa gráficamente la separación entre dos números consecutivos en función del exponente f en el rango f = [20,30].
 
 


 Figura 1 
Figure: Evolución de la separación entre dos números consecutivos en función del exponente, f, de la representación en punto flotante de un número real.


[bb=55 60 455 410, clip=true, scale=0.7]eps/expon

3.3 Aritmética de punto flotante

En este apartado analizaremos los errores inherentes a la aritmética de los números de punto flotante. Primero consideraremos el error que surge como consecuencia de que los números reales no se pueden almacenar, en general, de forma exacta en un ordenador. Después analizaremos las cuatro operaciones aritméticas básicas y finalmente ampliaremos el estudio a un cálculo más complejo.

3.3.1 Números de máquina aproximados

Estamos interesados en estimar el error en que se incurre al aproximar un número real positivo x mediante un número de máquina del MARC-32. Si representamos el número mediante:
\begin{displaymath}x =
 (a_{1}a_{2} \cdots a_{24}a_{25}a_{26} \cdots)_{2} \times 2^{m}
\end{displaymath}

en donde cada ai es 0 ó 1 y el bit principal es a1 = 1. Un número de máquina se puede obtener de dos formas:
  • Truncamiento: descartando todos los bits excedentes $a_{25}a_{26}\dots$. El número resultante, x' es siempre menor que x (se encuentra a la izquierda de x en la recta real).
  • Redondeo por exceso: Aumentamos en una unidad el último bit remanente a24 y después eliminamos el exceso de bits como en el caso anterior.
Todo lo anterior, aplicado al caso del MARC-32, se resume diciendo que si x es un número real distinto de 0 dentro del intervalo de la máquina, entonces el número de máquina x* más cercano a x satisface la desigualdad:
 \begin{displaymath}\delta = \left \vert \frac{x - x^{*}}{x} \right 
\vert \leq 2^{-24}
\end{displaymath} (20)

que se puede escribir de la siguiente forma:
$\displaystyle x^{*} = x(1
 + \delta)$ $\textstyle 
\vert\delta\vert \leq 2^{-24}$

Ejemplo 6: ¿Cómo se expresa en binario el número x = 2/3? ¿Cuáles son los números de máquina x' y x'' próximos en el MARC-32? El número 2/3 en binario se expresa como:
\begin{displaymath}\left ( \frac{2}{3} \right )_{10} = 
(0.\overline{10})_{2}
\end{displaymath}

Los dos números de máquina próximos, cada uno con 24 bits, son:
x' = $\displaystyle 
(0.101010\cdots1010)_{2}$
x'' = $\displaystyle 
(0.101010\cdots1011)_{2}$

en donde x' se ha obtenido por truncamiento y x'' mediante redondeo por exceso. Calculamos ahora las diferencias x - x' y x'' - x para estimar cual es el error cometido:
x - x' = $\displaystyle \frac{2}{3}
 \times 10^{-24}$
x'' - x = $\displaystyle \frac{1}{3}
 \times 10^{-24}$

Por tanto, el número más próximo es fl(x) = x'' y los errores de redondeo absoluto y relativo son:
|fl(x) - x| = $\displaystyle \frac{1}{3}
 \times 10^{-24}$
$\displaystyle \left \vert
 \frac{fl(x) - x}{x} \right \vert$ = 2-25 < 2-24

3.3.2 Las operaciones básicas

Vamos a analizar el resultado de operar sobre dos números en punto flotante normalizado de l-dígitos de longitud, x e y, que producen un resultado normalizado de l-dígitos. Expresaremos esta operación como:
\begin{displaymath}fl(x\; op\; y)
\end{displaymath}

en donde op es +, -, $\times$ ó $\div$. Supondremos que en cada caso la mantisa del resultado es primero normalizada y después redondeada (operación que puede dar lugar a un desbordamiento que requeriría renormalizar el número). El valor de la mantisa redondeada a p bits, qr, se define como (de una forma más rigurosa que en el caso anterior):
\begin{displaymath}q_{r} = \left\{
\begin{array}{ll}
2^{-p} \lfloor 2^{p} q + ...
... 2^{p} q - \frac{1}{2} \rceil & q < 0 \\
\end{array} \right.
\end{displaymath}

en donde la función redondeo por defecto $\lfloor x
\rfloor$ es el mayor entero menor o igual a x y la función redondeo por exceso $\lceil x \rceil$ es el menor entero mayor o igual a x. Para números enteros, esta función se traduce en la bien conocida regla de sumar 1 en la posición p + 1. Teniendo en cuenta sólo la mantisa, redondear de este modo da lugar a un intervalo máximo del error de:
 \begin{displaymath}
\vert \varepsilon_{a} \vert \leq 2^{-p-1}
\end{displaymath} (21)

y un error relativo máximo en el intervalo:
 \begin{displaymath}
\vert \varepsilon_{r} \vert \leq \frac{2^{-p-1}}{1/2} = 2^{-p}
\end{displaymath} (22)

Analizaremos ahora el error generado por cada una de las operaciones básicas:
Multiplicación.
La operación de multiplicar dos números expresados en punto flotante implica sumar los exponentes y multiplicar las mantisas. Si la mantisa resultante no está normalizada, se recurre a renormalizar el resultado ajustando adecuadamente el exponente. Después, es necesario redondear la mantisa a p bits. Para analizar el error de esta operación supongamos dos números:
\begin{displaymath}\begin{array}{ll}
x = q_{x} 2^{f_{x}}; & y = q_{y} 2^{f_{y}}
\end{array} \end{displaymath}
Tenemos entonces que el producto será:
xy = qx qy 2fx + fy
en donde el valor de la mantisa se encontrará en el rango:
\begin{displaymath}\frac{1}{4} \leq \vert q_{x} q_{y} \vert < 1
\end{displaymath}
ya que tanto x como y satisfacen la ecuación (19). Por tanto, la normalización del producto qx qy implica un desplazamiento a la derecha de, como máximo, una posición. La mantisa redondeada será entonces uno de estos dos posibles valores:
\begin{displaymath}\begin{array}{lll}
x = q_{x} q_{y} + \varepsilon & \mathrm{\acute{o}} & x = 2 q_{x}
q_{y} + \varepsilon
\end{array} \end{displaymath}
en donde $\varepsilon$, que es el error de redondeo, cumple la ecuación (21). Tenemos entonces:
\begin{eqnarray*}fl(x\;\times\;y) & = & \left\{
\begin{array}{lr}
(q_{x}q_{y} ...
...c{1}{4}
\end{array} \right. \\
& = & xy(1 + \varepsilon_{q})
\end{eqnarray*}
en donde, de acuerdo con la ecuación (22), tenemos:
\begin{displaymath}\vert \varepsilon_{q} \vert \leq 2 \vert 
\varepsilon \vert \leq 2^{-p}
\end{displaymath}
Por tanto, la cota del error relativo en la multiplicación es la misma que la que surge por redondear la mantisa.
División.
Para llevar a cabo la división en punto flotante, se divide la mitad de la mantisa del numerador por la mantisa del denominador (para evitar cocientes mayores de la unidad), mientras que los exponentes se restan. Esto es:
\begin{displaymath}\frac{x}{y} = \frac{q_{x}/2}{q_{y}} 2^{f_{x} - 
f_{y} + 1}
\end{displaymath}
Puesto que ambas mantisas satisfacen la ecuación (18), el valor del cociente estará acotado entre los límites:
\begin{displaymath}\frac{1}{4} \leq \vert \frac{q_{x}}{2q_{y}} 
\vert < 1
\end{displaymath}
Aplicando un análisis similar al empleado en el caso de la multiplicación, obtenemos:
\begin{eqnarray*}fl(x\; /\; y ) & = & \left\{
\begin{array}{lr}
(q_{x}/2q_{y} ...
...\end{array} \right. \\
& = & \frac{x}{y}(1 + \varepsilon_{d})
\end{eqnarray*}
en donde, de acuerdo con la ecuación (22), tenemos:
\begin{displaymath}\vert \varepsilon_{d} \vert \leq 2 \vert 
\varepsilon \vert \leq 2^{-p}
\end{displaymath}
Es decir, la cota máxima del error relativo en la división, como en el caso anterior, es la misma que la que surge por redondear la mantisa.
Adición y sustracción.
La operación de suma o resta se realiza del siguiente modo: se toma la mantisa del operando de menor magnitud (supongamos que es y) y se desplaza fx - fy posiciones a la derecha. La mantisa resultante es sumada (o restada) y el resultado se normaliza y después se redondea. Es decir:
\begin{displaymath}x
 \pm y = (q_{x} \pm q_{y} 2^{f_{y}-f_{x}}) 2^{f_{x}}
\end{displaymath}
El análisis del error cometido en esta operación es más complejo que los estudiados hasta ahora, por lo que no lo vamos a ver en detalle. Sin embargo, el resultado final indica que la cota máxima del error cometido en la adición y la sustracción viene dado por:
\begin{displaymath}\vert \varepsilon_{a} \vert \leq 2 \vert 
\varepsilon\vert \leq 2^{-p}
\end{displaymath}

En conclusión, en todas las operaciones aritméticas elementales en punto flotante, el error absoluto del resultado es no mayor de 1 en el bit menos significativo de la mantisa.
Sin embargo, los errores de redondeo se acumulan a medida que aumenta el número de cálculos. Si en el proceso de calcular un valor se llevan a cabo N operaciones aritméticas es posible obtener, en el mejor de los casos, un error de redondeo total del orden de $\sqrt{N}
\epsilon_{m}$4 (que coincide con el caso en que los errores de redondeo están aleatoriamente distribuidos, por lo que se produce una cancelación parcial). Desafortunadamente, este error puede crecer muy rápidamente por dos motivos:
  • Es muy frecuente que la regularidad del cálculo o las peculiaridades del computador den lugar a que el error se acumule preferentemente en una dirección; en cuyo caso el error de redondeo se puede aproximar a $N \epsilon_{m}$.
  • En circunstancias especialmente desfavorables pueden existir operaciones que incremente espectacularmente el error de redondeo. Generalmente, este fenómeno se da cuando se calcula la diferencia entre dos números muy próximos, dando lugar a un resultado en el cual los únicos bits significativos que no se cancelan son los de menor orden (en los únicos en que difieren). Puede parecer que la probabilidad de que se de dicha situación es pequeña, sin embargo, algunas expresiones matemáticas fomentan este fenómeno.
Veamos con un ejemplo los problemas comentados anteriormente. Hay dos formas de calcular las soluciones de la familiar ecuación cuadrática:
ax2 + bx + c = 0

que son:
 \begin{displaymath}
x = \frac{-b \pm \sqrt{b^{2} -4ac}}{2a}
\end{displaymath} (23)


 \begin{displaymath}
x = \frac{2c}{-b \pm \sqrt{b^{2} - 4ac}}
\end{displaymath} (24)

Cualquiera de estas dos expresiones da problemas cuando a, c o ambos, son pequeños. En estos casos, el valor del discriminante es muy próximo al valor de b:
\begin{displaymath}\sqrt{b^{2} - 4ac} \approx b
\end{displaymath}

por lo que la diferencia $(\vert b\vert - 
\sqrt{b^{2} -4ac})$ viene afectada de un error de redondeo importante. En efecto, la ecuación (23) evalúa bien la raíz más grande en valor absoluto, pero da pésimos resultados al estimar la raíz menor en valor absoluto. Por otra parte, la ecuación (24) calcula bien la raíz menor (siempre en valor absoluto) pero no la raíz más grande. La solución del problema pasa por emplear una expresión mejor condicionada. En este caso, es preferible calcular previamente:
 \begin{displaymath}
q = -\frac{1}{2} \left[b + \mathrm{sign}(b) \sqrt{b^{2} - 4ac}
\right]
\end{displaymath} (25)

y las dos raíces a partir de valor de q como:
 \begin{displaymath}
\begin{array}{lll}
x_{1} = \frac{q}{a} & \mathrm{y} & x_{2} = \frac{c}{q}
\end{array}\end{displaymath} (26)

Ejemplo: Calcular las raíces de la siguiente ecuación cuadrática:
ax2 + bx + c = 0

siendo:
\begin{displaymath}\begin{array}{lll}
a = 1.0; & b = 1.343 \cdot 10^{5}; & 3.764 \cdot 10^{-6}
\end{array}\end{displaymath}

Solución: Empleando la ecuación (23), obtenemos:
\begin{eqnarray*}x_{1} & = & \underline{-0.13430 \cdot 
10^{5}} \\
x_{2} & = & 0.44676 \cdot 10^{-3}
\end{eqnarray*}

Sin embargo, empleando la expresión (24):
\begin{eqnarray*}x_{1} & = & \infty \; \; \; 
\mathit{(overflow)} \\
x_{2} & = & \underline{-0.28027 \cdot 10^{-10}}
\end{eqnarray*}

Por último, empleando las expresiones (25) y (26) se obtienen ambas soluciones correctas:
\begin{eqnarray*}x_{1} & = & \underline{-0.13430 \cdot 
10^{5}} \\
x_{2} & = & \underline{-0.28027 \cdot 10^{-10}}
\end{eqnarray*} 

3.4 Desbordamiento por exceso y desbordamiento por defecto

En la discusión anterior, hemos ignorado la posibilidad de que el resultado de una operación del punto flotante pueda no ser representable mediante el esquema fijo (l-bits) empleado por el ordenador. La magnitud más grande que puede representarse mediante la fórmula general (18) es:
 \begin{displaymath}
M \times 2^{F}
\end{displaymath} (27)

en donde F es el mayor exponente positivo representable (generalmente 27 - 1) y M es la mantisa que tiene todos sus bits puestos a 1 ( M = 1 - 224). Un desbordamiento por exceso de punto flotante (overflow en inglés) se origina cuando el resultado de una operación de punto flotante tiene una magnitud mayor que la representada por la ecuación (27). Ejemplo: Con q = 8 (y por tanto F = 27 - 1 = 127), las siguientes operaciones aritméticas dan lugar a desbordamiento por exceso:
\begin{displaymath}\begin{array}{ll}
(\frac{1}{2} \times 2^{70}) \times (\frac{...
...{2} \times 2^{127}) - (-\frac{1}{2} \times 2^{127})
\end{array}\end{displaymath}

El desbordamiento por defecto (underflow en inglés) se produce cuando el resultado de una operación en punto flotante es demasiado pequeño, aunque no nulo, como para que se pueda expresar en la forma dada por la ecuación (18). El número más pequeño representable suponiendo que siempre trabajamos con mantisas normalizadas es $\frac{1}{2} \times 
2^{-F}$, en donde -F es el exponente negativo más grande permitido (generalmente -2-q-1). Por ejemplo, con q=8 resulta -F = -128.
Ejemplo: Con q = 8 (y por tanto -F = -128), la siguiente operación aritmética da lugar a desbordamiento por defecto:
\begin{displaymath}\frac{\frac{1}{2} \times 2^{-80}}{\frac{1}{2} 
\times 2^{50}};
\end{displaymath}

El desbordamiento por exceso es casi siempre resultado de un error en el cálculo. Sin embargo, en el caso del desobordamiento por defecto, en muchas ocasiones es posible continuar el cálculo reemplazando el resultado por cero.

3.5 Condicionamiento y estabilidad

La 'inestabilidad' en un cálculo es un fenómeno que se produce cuando los errores de redondeo individuales se propagan a través del cálculo incrementalmente. Veamos brevemente este fenómeno y el problema relacionado con este: el 'condicionamiento' del método o del problema. La mejor forma de ver este fenómeno es a través de un ejemplo. Supongamos el siguiente sistema de ecuaciones diferenciales:


\begin{eqnarray*}y_{1}' & = & y_{2} \\y_{2}' & = & 
y_{1}\end{eqnarray*}
que tiene la siguiente solución general:
\begin{eqnarray*}y_{1} & = & a_{1}e^{x} + a_{2}e^{-x} 
\\y_{2} & = & a_{1}e^{x} - a_{2}e^{-x}\end{eqnarray*}
En el caso particular en que las condiciones iniciales de nuestro problema son:
y1(0) = -y2(0) = 1
es posible determinar que el valor de las constantes a1 y a2 es: a1 = 0 & y & a2 = 1
Hasta este punto, las soluciones son exactas. Sin embargo, supongamos que el sistema de ecuaciones anterior se resuelve empleando un método numérico cualquiera con el fin de calcular los valores de las funciones y1 y y2 en una secuencia de puntos $x_{1}, x_{2},\dots, x_{n}$ y que el error del método da lugar a un valor de $a_{1}\neq 0$. Ya que a1 multiplica a un exponencial creciente cualquier valor, por pequeño que sea, de a1 dará lugar a que el término ex domine sobre el término e-x para valores suficientemente grandes de x (ver figura (2)). La conclusión que se obtiene es que no es posible calcular una solución al sistema de ecuaciones diferenciales anterior que, para valores suficientemente grandes de x, no de lugar a un error arbitrariamente grande en relación con la solución exacta.
 
 


   Figura 2
Figure: Representación gráfica de las funciones y = e-x$y = 1.0 \cdot 10^{-8}e^{x}
 + e^{-x}$ en donde se pone de manifiesto que ambas funciones difieren rápidamente a partir de un cierto valor de la ordenada x.


[scale=0.7]eps/sinu
   El problema anterior se dice que es inherentemente inestable, o empleando una terminología más común en cálculo numérico, se dice que está 'mal condicionado' (ill-conditioned).

 

Representación de Números


Representación Numérica en una base

Dado un número $x$, su representación en una dada base $b$consiste en escribirlo como

\begin{displaymath}
x = (-1)^{s} \sum_{j=-\infty}^{\infty} a_{j} b^{j}
\end{displaymath}
(1)

donde el signo $s$es igual a 0 o 1 y los coeficientes $a_{j}$son enteros positivos menores que $b$. En la vida real la suma tiene sólo un número finito de términos por lo que algunos números son sólo representados en forma aproximada. Usualmente, utilizamos el sistema decimal de numeración ($b=10$) pero la representación numérica en sistemas digitales se realiza en general en base 2, denominado sistema de numeración binaria, y ocasionalmente en base 16 (sistema hexadecimal). Los números se representan en memoria como una cadena de bits que pueden tomar los valores 0 ó 1. Se denomina byte a un grupo de 8 bits consecutivos.


Representación de números enteros

En representación binaria un número entero $n$se escribe como
\begin{displaymath}
n = a_{0} 2^{0} + a_{1} 2^{1} + a_{2} 2^{2} + a_{3} 2^{3} + \dots
\end{displaymath}
(2)

donde cada coeficiente $a_{j}$es igual a 1 o 0. Usualmente los números enteros ocupaban 4 bytes de memoria (32 bits), aunque en las computadoras modernas se pueden utilizar enteros de 64 bits. Los números que pueden almacenarse en la representación de 4 bytes están en el rango:
\begin{eqnarray*}
\mathrm{n_{min}} = \left( 00000000 00000000 00000000 00000000...
...1 11111111 11111111 \right)_{2} &=& 2^{32}-1 = 
(4294967295)_{10}
\end{eqnarray*}

para números enteros sin signo. Si se utiliza el primer bit de la izquierda como signo (0, positivo; 1, negativo) el rango se reduce a $n_{min} = -2147483648 $y $n_{max} =
 2147483647$para enteros con signo.

Representación de números reales

Las computadoras, con un número finito de bits, no pueden almacenar todos los números reales en forma exacta. Esto es similar a lo que ocurre con los números irracionales (como $\pi$, $\sqrt{2}$, etc) o periódicos ($1/3$, $1/11$, ...) en el sistema decimal. La forma convencional de almacenar números reales en la memoria de una computadora es mediante el método llamado de punto flotante o floating point. Uno de los sistemas más comunes es la representación de números reales en simple precisión utilizada en la convención IEEE. En dicho sistema cada número de precisión simple ocupa 4 bytes (32 bits) que se destinan a: el signo (1 bit), un exponente (8 bits) y la parte fraccionaria de la mantisa (23 bits)1. De esta manera un número está determinado por estas tres cantidades

\begin{displaymath}
x = (-1)^{s} \times \; 2^{\mathrm{exp} - E}\; \times 1.\mathrm{mantisa}
\end{displaymath}
(3)

En esta representación, los 8 bits utilizados permiten que el exponente se encuentre en el rango $ 0 < \mathrm{exp} < 255$. Se utiliza la constante $E=127$para también obtener resultados negativos2. Observe que para ganar un bit, se omite la parte entera de la mantisa que se supone igual a 1. Esta representación se llama normalizada y se utiliza para todos los números, excepto aquellos muy grandes o muy pequeños. En particular, esta convención no permite representar el número 0.


Algunos ejemplos

Para aclarar los conceptos, consideremos algunos ejemplos de números normalizados en precisión simple:
$\displaystyle (\underbrace{0} 
\underbrace{1 0 0 0 0 0 1 1} 
\;(1),\;
\u...
...race{0 0 1 1 1 1 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0})_{2}$
$\textstyle =$
$\displaystyle (19.765625)_{10}$

$\displaystyle 
\mathrm{signo}\;\; \mathrm{exponente}\qquad \qquad 
\qquad \qquad
\mathrm{mantisa}\hphantom{(0 0 0 1 0 1 1 ,1 0)}$


(4)
$\displaystyle 
(1)_{10} \qquad (131)_{10} \qquad \qquad \qquad 
\qquad (241/1024)_{10}
\hphantom{(0 1 1 1 0 1 0 )}$




Hemos representado entre paréntesis la parte entera de la mantisa (que es igual a 1 siempre por convención. Debe notarse que el número final se obtiene considerando que:
  • El signo es positivo (bit de signo igual a 0).
  • El exponente se obtiene como $131-127=4$, que en sistema decimal da $2^{4}=16$.
  • La mantisa $1+ 241/1024=1.2353515625$se obtiene sumando: 1 (implícito), 1/8, 1/16, 1/32, 1/64 y 1/1024.
Como segundo ejemplo veamos la conversión inversa, del número $(3.375)_{10}$a sistema binario. El bit de signo es 0. El número puede expresarse como la fracción $27/8$y es mayor que 2 por lo que debemos sacar un exponente positivo; en este caso, factorizamos por $2^{1}$y nos quda $27/16$que puede escribirse como
\begin{displaymath}
\frac{27}{16} = \frac{1}{1} + \frac{1}{2} + \frac{0}{4} + \frac{1}{8} + 
\frac{1}{16}
\end{displaymath}

por lo que, después de eliminar la parte entera y agregando el signo y el exponente, el número es:
\begin{displaymath}
(3.375)_{10} = (0 \; 1 0 0 0 0 0 0 0 \;(1), 1 0...
... 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 )_{2}
\end{displaymath}


Aritmética con números binarios

Una de las consecuencias más importantes de usar una representación de punto flotante (con signo, mantisa y exponente) es que dos números deben tener el mismo exponente para poder ser sumados o restados. Consideremos por ejemplo la suma de los dos números anteriores $3.375$y $19.765625$en sistema binario


$\displaystyle (0 \; 1 0 0 0 0 0 1 1 \;(0), 0 0 1 1 0 1 1 0 0 0 0 0
 0 0 0 0 0 0 0 0 0 0 0 )_{2}$


$\textstyle +$
$\displaystyle \underline{(0 \; 1 0 0 0 0 0 1 1 \; (1), 0 0 1 1 1 1
 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 )_{2}}$



$\displaystyle (0 \; 1 0 0 0 0 0 1 1 \; (1), 0 1 1 1 0 0 1 0 0 1 0
 0 0 0 0 0 0 0 0 0 0 0 0 )_{2}$


Aquí hemos cambiado $3.375$a una forma no normalizada para utilizar el mismo exponente en ambos números. Este procedimiento disminuye la cantidad de dígitos significantes.


Casos particulares y otros ejemplos

  • ¿Qué pasa cuándo el número es exactamente cero?.
La convención dice que se interpreta exactamente cero cuando todos los bits son 0. Esto significa, No sólo los de la mantisa sino también los del exponente. Nótese que para números de 64 bits (8 bytes) se interpreta que el número $10^{-127} \equiv 0$, ya que el exponente ha sido corrido en 127.
  • Representación de infinitos varios
Hay dos tipos de infinitos: positivos y negativos. La convención para representar estos números dice que un número se considera infinito si cada uno de los bits del exponente es 1 y los de la mantisa son 0. El signo permite distinguir entre $+\infty$y $-\infty$.
  • Otro caso particular en la convención es cuando necesitamos representar algo que no corresponde a un número bien definido ( $0 \times \infty$, por ejemplo). El resultado de estas operaciones no son números (uno obtiene algo como $\pm$NaN) y la representación interna corresponde a todos los bits del exponente en 1 y además al menos uno de la mantisa es 1 también.

Ejercicios

Table 1: Representación de números de punto flotante en simple y doble precicsión.
Propiedad
Simple precisión
Doble precisión
Mayor número representable
3.402823466 10$^{38}$
1.7976931348623157 10$^{308}$
Menor número sin pérdida de precisión
1.175494351 10$^{-38}$
2.2250738585072014 10$^{-308}$
Menor númer representable
1.401298464 10$^{-45}$
5 10$^{-324}$
Bits de mantisa
23
52
Bits de exponente
8
11
Epsilon
1.1929093 10$^{-7}$
2.220446049250313 10$^{-16}$

ARITMERTICA DE PUNTO FLKOTANTE

Problemas y Limitaciones

Los números de punto flotante se representan en el hardware de la computadora en fracciones en base 2 (binario). Por ejemplo, la fracción decimal
0.125
...tiene el valor 1/10 + 2/100 + 5/1000, y de la misma manera la fracción binaria
0.001
...tiene el valor 0/2 + 0/4 + 1/8. Estas dos fracciones tienen valores idénticos, la única diferencia real es que la primera está escrita en notación fraccional en base 10 y la segunda en base 2.
Desafortunadamente, la mayoría de las fracciones decimales no pueden representarse exactamente como fracciones binarias. Como consecuencia, en general los números de punto flotante decimal que ingresás en la computadora son sólo aproximados por los números de punto flotante binario que realmente se guardan en la máquina.
El problema es más fácil de entender primero en base 10. Considerá la fracción 1/3. Podés aproximarla como una fracción de base 10
0.3
...o, mejor,
0.33
...o, mejor,
0.333
...y así. No importa cuantos dígitos desees escribir, el resultado nunca será exactamente 1/3, pero será una aproximación cada vez mejor de 1/3.
De la misma manera, no importa cuantos dígitos en base 2 quieras usar, el valor decimal 0.1 no puede representarse exactamente como una fracción en base 2. En base 2, 1/10 es la siguiente fracción que se repite infinitamente:
0.0001100110011001100110011001100110011001100110011...
Frená en cualquier número finito de bits, y tendrás una aproximación. Es por esto que ves cosas como:
>>> 0.1
0.10000000000000001
En la mayoría de las máquinas de hoy en día, eso es lo que verás si ingresás 0.1 en un prompt de Python. Quizás no, sin embargo, porque la cantidad de bits usados por el hardware para almacenar valores de punto flotante puede variar en las distintas máquinas, y Python sólo muestra una aproximación del valor decimal verdadero de la aproximación binaria guardada por la máquina. En la mayoría de las máquinas, si Python fuera a mostrar el verdadero valor decimal de la aproximación almacenada por 0.1, tendría que mostrar sin embargo
>>> 0.1
0.1000000000000000055511151231257827021181583404541015625
El prompt de Python usa la función integrada repr() para obtener una versión en cadena de caracteres de todo lo que muestra. Para flotantes, repr(float) redondea el valor decimal verdadero a 17 dígitos significativos, dando
0.10000000000000001
repr(float) produce 17 dígitos significativos porque esto es suficiente (en la mayoría de las máquinas) para que se cumpla eval(repr(x)) == x exactamente para todos los flotantes finitos X, pero redondeando a 16 dígitos no es suficiente para que sea verdadero.
Notá que esta es la verdadera naturaleza del punto flotante binario: no es un error de Python, y tampoco es un error en tu código. Verás lo mismo en todos los lenguajes que soportan la aritmética de punto flotante de tu hardware (a pesar de que en algunos lenguajes por omisión no muestren la diferencia, o no lo hagan en todos los modos de salida).
La función integrada :func: str de Python produce sólo 12 dígitos significativos, y quizás quieras usar esa. Normalmente eval(str(x)) no reproducirá x, pero la salida quizás sea más placentera de ver:
>>> print str(0.1)
0.1
Es importante darse cuenta de que esto es, realmente, una ilusión: el valor en la máquina no es exactamente 1/10, simplemente estás redondeando el valor que se muestra del valor verdadero de la máquina.
A esta se siguen otras sorpresas. Por ejemplo, luego de ver:
>>> 0.1
0.10000000000000001
...quizás estés tentado de usar la función round() para recortar el resultado al dígito que esperabas. Pero es lo mismo:
>>> round(0.1, 1)
0.10000000000000001
El problema es que el valor de punto flotante binario almacenado para “0.1” ya era la mejor aproximación binaria posible de 1/10, de manera que intentar redondearla nuevamente no puede mejorarla: ya era la mejor posible.
Otra consecuencia es que como 0.1 no es exactamente 1/10, sumar diez valores de 0.1 quizás tampoco dé exactamente 1.0:
>>> suma = 0.0
>>> for i in range(10):
...     suma += 0.1
...
>>> suma
0.9999999999999999
La aritmética de punto flotante binaria tiene varias sorpresas como esta. El problema con “0.1” es explicado con detalle abajo, en la sección “Error de Representación”. Mirá los Peligros del Punto Flotante (en inglés, The Perils of Floating Point) para una más completa recopilación de otras sorpresas normales.
Como dice cerca del final, “no hay respuestas fáciles”. A pesar de eso, ¡no le tengas mucho miedo al punto flotante! Los errores en las operaciones flotantes de Python se heredan del hardware de punto flotante, y en la mayoría de las máquinas están en el orden de no más de una 1 parte en 2**53 por operación. Eso es más que adecuado para la mayoría de las tareas, pero necesitás tener en cuenta que no es aritmética decimal, y que cada operación de punto flotante sufre un nuevo error de redondeo.
A pesar de que existen casos patológicos, para la mayoría de usos casuales de la aritmética de punto flotante al final verás el resultado que esperás si simplemente redondeás lo que mostrás de tus resultados finales al número de dígitos decimales que esperás. str() es normalmente suficiente, y para un control más fino mirá los parámetros del método de formateo str.format() en formatstrings.

14.1. Error de Representación

Esta sección explica el ejemplo “0.1” en detalle, y muestra como en la mayoría de los casos vos mismo podés realizar un análisis exacto como este. Se asume un conocimiento básico de la representación de punto flotante binario.
Error de representación se refiere al hecho de que algunas (la mayoría) de las fracciones decimales no pueden representarse exactamente como fracciones binarias (en base 2). Esta es la razón principal de por qué Python (o Perl, C, C++, Java, Fortran, y tantos otros) frecuentemente no mostrarán el número decimal exacto que esperás:
>>> 0.1
0.10000000000000001
¿Por qué es eso? 1/10 no es representable exactamente como una fracción binaria. Casi todas las máquinas de hoy en día (Noviembre del 2000) usan aritmética de punto flotante IEEE-754, y casi todas las plataformas mapean los flotantes de Python al “doble precisión” de IEEE-754. Estos “dobles” tienen 53 bits de precisión, por lo tanto en la entrada la computadora intenta convertir 0.1 a la fracción más cercana que puede de la forma J/2***N* donde J es un entero que contiene exactamente 53 bits. Reescribiendo
1 / 10 ~= J / (2**N)
...como
J ~= 2**N / 10
...y recordando que J tiene exactamente 53 bits (es >= 2**52 pero < 2**53), el mejor valor para N es 56:
>>> 2**52
4503599627370496L
>>> 2**53
9007199254740992L
>>> 2**56/10
7205759403792793L
O sea, 56 es el único valor para N que deja J con exactamente 53 bits. El mejor valor posible para J es entonces el cociente redondeado:
>>> q, r = divmod(2**56, 10)
>>> r
6L
Ya que el resto es más que la mitad de 10, la mejor aproximación se obtiene redondeándolo:
>>> q+1
7205759403792794L
Por lo tanto la mejor aproximación a 1/10 en doble precisión 754 es eso sobre 2**56, o
7205759403792794 / 72057594037927936
Notá que como lo redondeamos, esto es un poquito más grande que 1/10; si no lo hubiéramos redondeado, el cociente hubiese sido un poquito menor que 1/10. ¡Pero no hay caso en que sea exactamente 1/10!
Entonces la computadora nunca “ve” 1/10: lo que ve es la fracción exacta de arriba, la mejor aproximación al flotante doble de 754 que puede obtener:
>>> .1 * 2**56
7205759403792794.0
Si multiplicamos esa fracción por 10**30, podemos ver el valor (truncado) de sus 30 dígitos más significativos:
>>> 7205759403792794 * 10**30 / 2**56
100000000000000005551115123125L
...lo que significa que el valor exacto almacenado en la computadora es aproximadamente igual al valor decimal 0.100000000000000005551115123125. Redondeando eso a 17 dígitos significativos da el 0.10000000000000001 que Python muestra (bueno, mostraría en cualquier plataforma que cumpla con 754 cuya biblioteca en C haga la mejor conversión posible en entrada y salida... ¡la tuya quizás no!).





No hay comentarios:

Publicar un comentario en la entrada