En ingeniería de software y matemáticas, el error numérico es el efecto combinado de dos tipos de error en un cálculo. El primero es causado por la precisión finita de los cálculos que involucran valores de punto flotante o entero. El segundo error generalmente llamado truncamiento es la diferencia entre la solución matemática exacta y la solución aproximada obtenida cuando se hacen simplificaciones a las ecuaciones matemáticas para hacerlas más susceptibles de cálculo. El término truncamiento proviene del hecho de que estas simplificaciones generalmente implican el truncamiento de una expansión en serie infinita para hacer posible y práctico el cálculo, o porque los bits menos significativos de una operación aritmética se desechan.
El error numérico de coma flotante a menudo se mide en ULP (unidad en último lugar).
Para aprender más cosas de programación, visite – Hackr.io – Encuentre y comparta los mejores cursos y tutoriales de programación en línea
- ¿Debería doblarme en CS y Estadística o CS y Matemáticas si quiero obtener un trabajo en Machine Learning? Si tuviera que elegir uno, ¿Estadística o Matemáticas?
- ¿Cuál es la banda de transición máxima permitida del filtro de paso bajo utilizado en el núcleo de reconstrucción para un CD con una frecuencia de voz máxima de 4 kHz?
- ¿A qué programas de Maestría en Ciencias de la Computación debo aplicar?
- ¿Cómo se puede diseñar un autómata de estado finito para el siguiente problema?
- ¿Pueden los lenguajes naturales ser completamente modelados por las máquinas de Turing?
Espero que ayude….
