Si está hablando de precisión numérica, entonces, básicamente, el problema es uno de lo que se puede hacer con un número finito de patrones de bits que intentan representar un número infinito de números. Para los enteros, las máquinas actualmente usan 64 bits, por lo que tiene 2 ^ 64 números (aproximadamente 1 con 20 ceros a continuación). Grande, pero ciertamente no infinito. Para los no enteros, las máquinas usan números de coma flotante de 32 o 64 bits: desafortunadamente, con números reales, hay un número infinito de ellos entre dos diferentes, por lo que puede ver que habrá problemas para representarlos con precisión (desde entonces, uno tiene 2 ^ 32 o 2 ^ 64 patrones de bits diferentes). La representación estándar es el estándar IEEE 754 (ver IEEE 754: Estándar para aritmética de punto flotante binario): esto es bastante complicado y esencialmente trata de proporcionar la mejor precisión posible dentro de los límites del número de patrones diferentes disponibles. El artículo de wikipedia IEEE coma flotante: Wikipedia es bastante bueno para explicarlo.
¿Cuál es el significado de precisión en la computadora?
Related Content
¿Cuáles son algunos buenos usos para el análisis predictivo, en particular prediction.io?
¿Cómo puedo encontrar si existe una coincidencia perfecta en un gráfico G?
La mayoría de la gente dice que Windows tiene fugas de seguridad. ¿Qué tan cierto es eso?
¿Cuál es una buena explicación del 'método potencial' para el análisis amortizado?
¿Las computadoras actuales funcionan bien para la capacitación de aprendizaje profundo?
More Interesting
¿Cuánto mejorará el procesamiento del lenguaje natural para 2025?
¿El daño de un asesino USB es ópticamente visible en la placa base?
¿Qué debo aprender primero sobre IA, aprendizaje automático o procesamiento del lenguaje natural?
¿Cuáles son las mayores diferencias entre los artefactos del fenómeno Gibbs y los artefactos JPEG?
¿Cuál es el mejor libro para aprender hardware y software de computadora?
¿Dónde descansan los servidores CS50?
¿Cuáles son algunas aplicaciones (aplicaciones móviles) que se basan en IA o aprendizaje automático?
¿Cuál podría ser un buen tema para una tesis de licenciatura en el campo de la ciencia cuantitativa?
¿Cómo podría construir una IA para reemplazar a los políticos?
Si Breaking Bad se tratara de un genio de la informática, ¿cómo sería la trama?
¿Cuáles son las principales diferencias entre las líneas de comando de Linux y Mac OS X?
¿Qué tipo de soporte de hardware se necesita para que funcione una memoria virtual paginada?