Keysight Technologies 3458A Guide D'utilisation page 655

Où:
S est le bit de signe (1 = négatif, 0 = positif)
E = exposant en base deux polarisé par 1023 (pour "décoder" ces 11 bits,
soustrayez 1023 de leur équivalent entier).
M = bits de mantisse (ceux à droite de la virgule). Il existe un "chiffre implicite" à
gauche de la virgule. Ce chiffre est toujours supposé être "l". Cela permet une
précision effective de 53 bits avec le bit de poids faible (le plus à droite) pondéré
-52
2
suppose le bit de poids fort égal à "1") en un entier puis de multiplier cet entier
par 2
La valeur d'un nombre en format DREAL est calculée par:
(-1)
Keysight 3458A Guide d'utilisation
S EEE EEEE
octet 0
MMMM MMMM
octet 4
. Une autre façon d'évaluer cette mantisse est de convertir ces 53 bits (on
-52
.
S (exposant)
× ×
(mantisse) 2
EEEE MMMM
octet 1
MMMM MMMM
octet 5
Les mesures
MMMM MMMM
octet 2
MMMM MMMM
octet 6
4
MMMM MMMM
octet 3
MMMM MMMM
octet 7
151