precision

He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos, float y doubl ... Es este realmente el caso? ¿Cuándo son intercambiables los flotadores y los dobles? ¿Cuáles son las diferencias entre ellos?

Quería mostrar un número a 2 decimales. Pensé que podría usar toPrecision(2) en JavaScript . Sin embargo, si el número es 0 ... era de hacer esto? Puedo pensar en codificar algunas soluciones, pero me imagino (espero) que algo como esto está integrado?

Recientemente he tenido que serializar un double into text, y luego recuperarlo. El valor parece no ser equivalente: double ... e un valor numérico que se convierte en una cadena se analizará de nuevo en el mismo valor numérico ¿Por qué sucedió esto?

Esta pregunta ya tiene una respuesta aquí: ¿Cuándo debo usar doble en lugar de decimal? ... cuándo debería usar un tipo decimal? ¿Qué tipo es adecuado para cálculos de dinero? (IE. superior a 100 millones de dólares)

No, este no es otro "¿por Qué es (1/3.0)*3 != 1 " pregunta. He estado leyendo mucho sobre los puntos flotantes últimamente; ... cionar con doble precisión? Si no, ¿existen bibliotecas que ayuden a a mantener consistentes los cálculos de coma flotante?

Esta fue una pregunta que me hicieron en mi reciente entrevista y quiero saber (En realidad no recuerdo la teoría del análisi ... P.D. Me doy cuenta de que esto probablemente no tiene nada que ver con la programación del mundo real, solo por curiosidad.

Así que he recibido la respuesta a mi última pregunta (No se por qué no pensé en eso). Estaba imprimiendo un double usando cout que se redondeó cuando no lo esperaba. ¿Cómo puedo hacer que cout imprima un double con total precisión?

Me encontré con un comportamiento inesperado con DateTime.UtcNow mientras hace algunas pruebas unitarias. Parece que cuando s ... Console.WriteLine("Stopwatch.ElapsedMilliseconds: {0}", stopwatch.ElapsedMilliseconds); Console.ReadLine(); }

Hay una opción en R para obtener control sobre la visualización de dígitos. Por ejemplo: options(digits=10) Se supone que ... 000000000000000000000000000000000000000000000000000" Que tiene 48 decimales. ¿Es este el límite máximo que R puede manejar?

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; ... } El código anterior imprime: 11.399999999999 ¿Cómo conseguiría que esto se imprimiera (o se pudiera usar como) 11.4?

Esto es algo que ha estado en mi mente durante años, pero nunca me tomé el tiempo para preguntar antes. Muchos (pseudo) gene ... 1? Entre 10^100 y 10^100+1? Nota: si hace una diferencia, estoy interesado en la definición de Java de double en particular.

¿Hay tipos de datos con mejor precisión que float?

Esta pregunta ya tiene una respuesta aquí: ¿Está rota la matemática de coma flotante? ... on eso? Me preguntaba por qué mi programa seguía reportando resultados extraños. ¿Por qué PHP no devuelve el 0.01 esperado?

Estas líneas en C# decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; C ... precisión de las variables decimales sin usar literales? ¿Cómo puedo crear b a partir de a? ¿Cómo puedo crear b desde c?

Sé un poco sobre cómo se representan los números de coma flotante, pero no lo suficiente, me temo. La pregunta general es: ... go de números de 16 bits y 32 bits con precisión de + / -0.5 (el lugar de las unidades) o + / - 0.0005 (las milésimas lugar).

Estoy escribiendo un programa donde necesito eliminar puntos duplicados almacenados en una matriz. El problema es que cuando ... vertex2(1)) | (points(:,2) ~= vertex2(2)), :); El resultado esperado: >> points points = Empty matrix: 0-by-2

Esta pregunta ya tiene una respuesta aquí: Representando enteros en dobles ... encia o por diseño. Nota: Esto es diferente de esta pregunta (aparte del lenguaje) ya que estoy agregando los dos enteros.

Estoy buscando la mejor manera de convertir un Número a un BigDecimal. ¿Es esto suficientemente bueno? Number number; BigDecimal big = new BigDecimal(number.toString()); ¿Podemos perder precisión con el método toString()?

double r = 11.631; double theta = 21.4; En el depurador, estos se muestran como 11.631000000000000 y 21.399999618530273. ¿Cómo puedo evitar esto?

Posible Duplicado:¿Por qué no puedo devolver un doble de dos ints siendo dividido Mi programa C++ está truncando la ... t; endl; return 0; } user@box:~/c/precision$ g++ -o precision precision.cpp user@box:~/c/precision$ ./precision 3 3.000