En ingeniería de software y matemáticas , el error numérico es el error en los cálculos numéricos .
Tipos
Puede ser el efecto combinado de dos tipos de error en un cálculo.
- el primero es causado por la precisión finita de los cálculos que involucran valores enteros o de punto flotante
- el segundo, generalmente llamado error de truncamiento, es la diferencia entre la solución matemática exacta y la solución aproximada obtenida cuando se simplifican las ecuaciones matemáticas para hacerlas más fáciles de calcular. El término truncamiento proviene del hecho de que estas simplificaciones generalmente implican el truncamiento de una expansión en serie infinita para hacer posible y práctico el cálculo, o porque se descartan los bits menos significativos de una operación aritmética.
La medida
El error numérico de coma flotante a menudo se mide en ULP ( unidad en último lugar ).
Ver también
Referencias
- Precisión y estabilidad de algoritmos numéricos , Nicholas J. Higham, ISBN 0-89871-355-2
- "Error computacional y complejidad en ciencia e ingeniería", V. Lakshmikantham, SK Sen, ISBN 0444518606