Share this entry

Share this page

double precision

Saltos de línea: double pre|ci¦sion

Definición de double precision en inglés:

sustantivo

[mass noun] Computing
The use of twice the usual number of bits to represent a number, giving greater arithmetic accuracy: [as modifier]: run on a computer in double-precision arithmetic
Más ejemplos en oraciones
  • My binary math is a little rusty, but that limit seems to correspond to 32-bit double precision real arithmetic.
  • When writing software, this can be achieved by using statistical software or a programming language offering double precision rather than a spreadsheet, and by obtaining error estimates using the methods reviewed in this paper.
  • The type is notorious because of its single precision overflow behavior, so most people end up using even when double precision is not required.

Definición de double precision en:

Share this entry

Share this page

 

¿Qué te llama la atención de esta palabra o frase?

Los comentarios que no respeten nuestras Normas comunitarias podrían ser moderados o eliminados.

Obtenga más de Oxford Dictionaries

Suscribirse para eliminar anuncios y acceder a los recursos premium

Palabra del día chef-d'œuvre
Pronunciación: ʃeɪ ˈdəːvr(ə)
noun
a masterpiece