Typical Sensor Performance

Sample calculations of typical sensor performance

 Example Lake Shore sensorTempNominal resistance/voltageTypical sensor sensitivity6Measurement resolution: temperature equivalentsElectronic accuracy: temperature equivalentsTemperature accuracy including electronic accuracy, CalCurve™, and calibrated sensor
Silicon diodeDT-670-SD with 1.4H calibration 1.4 K1.644 V-12.49 mV/K1.6 mK±29 mK±41 mK
77 K1.028 V-1.73 mV/K11.6 mK±175 mK±197 mK
300 K0.5597 V-2.3 mV/K8.7 mK±111 mK±143 mK
500 K0.0907 V-2.12 mV/K9.4 mK±99 mK±149 mK
Silicon diodeDT-470-SD-13 with 1.4H calibration 1.4 K1.6981 V-13.1 mV/K1.5 mK±28 mK±40 mK
77 K1.0203 V-1.92 mV/K10.5 mK±157 mK±179 mK
300 K0.5189 V-2.4 mV/K8.4 mK±105 mK±137 mK
475 K0.0906 V-2.22 mV/K9.1 mK±94 mK±144 mK
GaAlAs diodeTG-120-SD with 1.4H calibration 1.4 K5.391 V-97.5 mV/K0.2 mK±15 mK±27 mK
77 K1.422 V-1.24 mV/K16.2 mK±512 mK±534 mK
300 K0.8978 V-2.85 mV/K7 mK±186 mK±218 mK
475 K0.3778 V-3.15 mV/K6.4 mK±135 mK±185 mK
100 Ω platinum RTD
500 Ω full scale
PT-103 with 1.4J calibration 30 K3.66 Ω0.19 Ω/K10.5 mK±320 mK±330 mK
77 K20.38 Ω0.42 Ω/K4.8 mK±153 mK±165 mK
300 K110.35 Ω0.39 Ω/K5.2 mK±210 mK±232 mK
500 K185.668 Ω0.378 Ω/K5.3 mK±257 mK±303 mK
Cernox®CX-1050-SD-HT7 with 4M calibration4.2 K3507.2 Ω-1120.8 Ω/K45 µK±2.0 mK±7.0 mK
77 K205.67 Ω-2.4116 Ω/K20.8 mK ±366 mK±382 mK
300 K59.467 Ω-0.1727 Ω/K290 mK ±4.8 K±4.8 K
420 K45.03 Ω-0.0829 Ω/K604 mK±9.9 K±9.9 K
GermaniumGR-300-AA with 0.3D calibration1.2 K600 Ω-987 Ω/K51 µK ±0.6 mK±5.3 mK
1.4 K449 Ω-581 Ω/K86 µK ±1 mK±5 mK
4.2 K94 Ω-27 Ω/K1.9 mK ±16 mK±20 mK
100 K3 Ω-0.024 Ω/K2.1 K±2.5 K±2.5 K
GermaniumGR-1400-AA with 1.4D calibration4 K1873 Ω-1008 Ω/K50 µK ±1.1 mK±5.1 mK
4.2 K1689 Ω-862 Ω/K58 µK ±1.2 mK±5.2 mK
10 K253 Ω-62 Ω/K807 µK ±1.8 mK±6.8 mK
100 K3 Ω-0.021 Ω/K2.4 K±2.9 K±2.9 K
Carbon-glassCGR-1-2000 with 4L calibration4.2 K2260 Ω-2060 Ω/K25 µK ±0.6 mK±4.6 mK
77 K21.65 Ω-0.157 Ω/K319 mK±410 mK±435 mK
300 K11.99 Ω-0.015 Ω/K3.33 K±4.2 K±4.2 K

6 Typical sensor sensitivities were taken from representative calibrations for the sensor listed
7 Non-HT version maximum temperature: 325 K