Typical Sensor Performance

Sample calculations of typical sensor performance

 Example Lake Shore sensorTempNominal resistance/ voltageTypical sensor sensitivity4Measurement resolution: temperature equivalentsElectronic accuracy: temperature equivalentsTemperature accuracy including electronic accuracy, CalCurve™, and calibrated sensorElectronic control stability5: temperature equivalents
Cernox®CX-1010-SD with 0.3L calibration0.3 K2322.4 Ω-10785 Ω/K8.5 µK±0.1 mK±3.6 mK±17 µK
0.5 K1248.2 Ω-2665.2 Ω/K26 µK±0.2 mK±4.7 mK±52 µK
4.2 K277.32 Ω-32.209 Ω/K140 µK±3.8 mK±8.8 mK±280 µK
300 K30.392 Ω-0.0654 Ω/K23 mK±339 mK±414 mK±46 mK
Cernox®CX-1050-SD-HT9 with 1.4M calibration1.4 K26566 Ω-48449 KΩ/K20 µK±0.3 mK±5.3 mK±40 µK
4.2 K3507.2 Ω-1120.8 KΩ/K196 µK±2.1 mK±7.1 mK±392 µK
77 K205.67 Ω-2.4116 Ω/K1.9 mK±38 mK±54 mK±3.8 mK
420 K45.03 Ω-0.0829 Ω/K18 mK±338 mK±403 mK±36 mK
Silicon diode DT-670-C0-13 with 1.4H calibration1.4 K1.664 V-12.49 mV/K0.8 mK±13 mK±25 mK±1.6 mK
77 K1.028 V-1.73 mV/K5.8 mK±76 mK±98 mK±11.6 mK
300 K0.5597 V-2.3 mV/K4.4 mK±47 mK±79 mK±8.8 mK
500 K0.0907 V-2.12 mV/K4.7 mK±40 mK±90 mK±9.4 mK
Silicon diode DT-470-SD-13 with 1.4H calibration1.4 K1.6981 V-13.1 mV/K0.8 mK±13 mK±25 mK±1.6 mK
77 K1.0203 V-1.92 mV/K5.2 mK±69 mK±91 mK±10.4 mK
300 K0.5189 V-2.4 mV/K4.2 mK±45 mK±77 mK±8.4 mK
475 K0.0906 V-2.22 mV/K4.5 mK±38 mK±88 mK±9 mK
GaAlAs diode TG-120-SD with 1.4H calibration1.4 K5.391 V-97.5 mV/K0.2 mK±7 mK±19 mK±0.4 mK
77 K1.422 V-1.24 mV/K16 mK±180 mK±202 mK±32 mK
300 K0.8978 V-2.85 mV/K7 mK±60 mK±92 mK±14 mK
475 K0.3778 V-3.15 mV/K6.4 mK±38 mK±88 mK±13 mK
100 Ω platinum RTD
500 Ω full scale
PT-103 with 14J calibration30 K3.660 Ω0.191 Ω/K1.1 mK±13 mK±23 mK±2.2 mK
77 K20.38 Ω0.423 Ω/K0.5 mK±10 mK±22 mK±1.0 mK
300 K110.35 Ω0.387 Ω/K5.2 mK±39 mK±62 mK±10.4 mK
500 K185.668 Ω0.378 Ω/K5.3 mK±60 mK±106 mK±10.6 mK
GermaniumGR-300-AA with 0.3D calibration0.35 K18225 Ω-193453 Ω/K4 µK±48 µK±4.2 mK±8 µK
1.4 K449 Ω-581 Ω/K41 µK±481 µK±4.7 mK±82 µK
4.2 K94 Ω-26.6 Ω/K56 µK±1.8 mK±6.8 mK±112 µK
100 K2.7 Ω-0.024 Ω/K6.3 mK±152 mK±175 mK±12.6 mK
GermaniumGR-1400-AA with 1.4D calibration1.8 K15288 Ω-26868 Ω/K28 µK±302 µK±4.5 mK±56 µK
4.2 K1689 Ω-862 Ω/K91 µK±900 µK±5.1 mK±182 µK
10 K253 Ω-62.0 Ω/K73 µK±1.8 mK±6.8 mK±146 µK
100 K2.8 Ω-0.021 Ω/K7.1 mK±177 mK±200 mK±14.2 mK
Carbon-glassCGR-1-500 with 1.4L calibration1.4 K103900 Ω-520000 Ω/K13 µK±0.1 mK±4.1 mK±26 µK
4.2 K584.6 Ω-422.3 Ω/K63 µK±0.8 mK±4.8 mK±126 µK
77 K14.33 Ω-0.098 Ω/K4.6 mK±108 mK±133 mK±9.2 mK
300 K8.55 Ω-0.0094 Ω/K16 mK±760 mK±865 K±32 mK
Rox™RX-102A-AA with 0.3B calibration0.5 K3701 Ω-5478 Ω/K41 µK±0.5 mK±5 mK±82 µK
1.4 K2005 Ω-667 Ω/K128 µK±1.4 mK±6.4 mK±256 µK
4.2 K1370 Ω-80.3 Ω/K902 µK±8 mK±24 mK±1.8 mK
40 K1049 Ω-1.06 Ω/K62 mK±500 mK±537 K±124 mK

4 Typical sensor sensitivities were taken from representative calibrations for the sensor listed
5 Control stability of the electronics only, in an ideal thermal system
6 Non-HT version maximum temperature: 325 K