Textron Greenlee DM-860A Manuel D'instructions page 70

Précision (suite)
Résistance et conductance
Calibre
500,00 Ω ± (0,07% + 0,10 Ω)
5,0000 kΩ ± (0,07% + 0,0002 kΩ)
50,000 kΩ ± (0,1% + 0,002 kΩ)
500,00 kΩ ± (0,1% + 0,02 kΩ)
5,0000 MΩ ± (0,3% + 0,0006 MΩ)
50,000 MΩ ± (2,0% + 0,006 MΩ)
99,99 nS ± (0,8% + 0,10 nS)*
* ± (2,0 % + 0,40 nS) en dessous de 9,99 nS.
Capacité
Calibre
50,00 nF ± (0,8% + 0,03 nF)
500,0 nF ± (0,8% + 0,3 nF)
5,000 µF ± (1,5% + 0,003 µF)
50,00 µF ± (2,5% + 0,03 µF)
500,0 µF** ± (3,5% + 0,5 µF)
5,000 mF** ± (5,0% + 0,005 mF)
25,00 mF** ± (6,5% + 0,05 mF)
Double température T
Plage
–50 °C à 1000,0 °C
–58 °F à 1832,0 °F
*
Précision et plage du thermocouple
non inclus.
70
Précision
Précision*
**
, T , T -T
1 2 1 2
Précision*
± (0,3% + 1,5 °C)
± (0,3% + 3,0 °F)
Tension circuit
ouvert type
3,0 VDC
1,3 VDC
*
Précisions valables pour les condensateurs à couches
(absorption diélectrique négligeable).
En mode de sélection manuelle du calibre, la précision
des calibres 500,0 µF, 5,000 mF et 25,00 mF n'est pas
spécifiée en dessous de 45,0 µF, 0,450 mF et 4,50 mF
respectivement.