Gamme Et Précision De Mesure; Précision De Base - Hioki IM3536 Manuel D'instructions

10.6 Gamme et précision de mesure
Équation précision de mesure : La précision de mesure est calculée à l'aide de l'équation suivante.
Précision de mesure = Précision de base × C × D × E × F × G
C : Coefficient de Niveau, D : Coefficient de vitesse de mesure, E : Correction de longueur de câble,
F : Coefficient de polarisation DC, G : Coefficient de température (coefficient de température d'utilisation)
Précision de base
La précision est calculée en fonction des coefficients A et B du graphique de précision de base
ci-dessous.
(Voir « Exemple de calcul de la fréquence de base » (p. 209).)
Gamme de 1 kΩ ou plus
Gamme de 100 Ω ou moins
Zx : Impédance de l'échantillon de mesure
A et B : Noté dans le graphique de précision de base. (Valeur supérieure : précision Z [% lec.] ; valeur infé-
rieure : précision θ [°])
• De 1,0001 MHz à 5 MHz, précision de base multiple par (fm [MHz]+3)/4.
• De 5,0001 MHz à 8 MHz, précision de base multiple par (fm [MHz]/2.
* : « fm » est la fréquence de mesure [MHz].
Graphique de précision de base
Pour la mesure
Gamme
DC
Ω
100 M A=1 B=1
Ω
10 M A=0,5 B=0,3
Ω
1 M A=0,2 B=0,1
Ω
100 k A=0,1 B=0,01
Ω
10 k A=0,1 B=0,01
Ω
1 k A=0,1 B=0,01
Ω
100 A=0,1 B=0,02
Ω
10 A=0,2 B=0,15
Ω
1 A=0,3 B=0,3
Ω
100 m A=1 B=1
Précision de base =
Précision de base =
Pour la mesure AC (fréquence de mesure)
4 Hz à 99,99 Hz 100,00 Hz à 999,99 Hz
A=6 B=5 A=3
A=5 B=3 A=2
A=0,8 B=1 A=0,5
A=0,8 B=0,5 A=0,4
A=0,4 B=0,08 A=0,3
A=0,3 B=0,08 A=0,2
A=0,3 B=0,03 A=0,2
A=0,2 B=0,02 A=0,1
A=0,3 B=0,03 A=0,2
A=0,2 B=0,02 A=0,1
A=0,3 B=0,02 A=0,2
A=0,2 B=0,01 A=0,1
A=0,3 B=0,02 A=0,2
A=0,2 B=0,01 A=0,15
A=0,5 B=0,1 A=0,4
A=0,3 B=0,1 A=0,3
A=1,5 B=1 A=1
A=0,8 B=0,5 A=0,5
A=8 B=8 A=5
A=5 B=4 A=3
Gamme et précision de mesure
 
10 × Zx
± A B + × − 1
 
Gamme
 
 
Gamme
A B 1
± + × −
 
Zx
 
*
*
1,0000 kHz à 10,000 kHz
B=2 A=3
B=2 A=2
B=0,3 A=0,5
B=0,2 A=0,4
B=0,05 A=0,3
B=0,02 A=0,2
B=0,03 A=0,2
B=0,02 A=0,1
B=0,02 A=0,05
B=0,02 A=0,03
B=0,02 A=0,2
B=0,02 A=0,1
B=0,02 A=0,2
B=0,01 A=0,1
B=0,05 A=0,4
B=0,03 A=0,3
B=0,3 A=1
B=0,2 A=0,5
B=4 A=3
B=2 A=2
B=2
B=2
B=0,3
B=0,2
B=0,05
B=0,02
B=0,03
B=0,02
B=0,02
B=0,02
B=0,02
10
B=0,02
B=0,02
B=0,01
B=0,05
B=0,03
B=0,3
B=0,2
B=2
B=1,5
207