lipix

Model 370 Sensor Performance

Lake Shore germanium GR-50-AA

Sensor properties Excitation and instrumentation
TemperatureResistancedR/dTThermal resistance Resistance range Excitation voltage limit Excitation current Power
0.05 K 35 kΩ-3.6 MΩ/K200 mK/nW63.2 kΩ20 µV0.316 nA3.5 fW
0.1 K2 kΩ-72 kΩ/K20 mK/nW6.32 kΩ63 µV10 nA232 fW
0.3 K164 Ω-964Ω/k4 mK/nW200 kΩ63 µV316 nA16.4 pW
1 K34 kΩ-31Ω/k0.1 mK/nW63 kΩ200 µV1 µA33.5 pW


Instrument performance Overall performance
TemperatureMeasurement resolution Electronic accuracy Calibration accuracy Self-heating errors Interpolation error Overall accuracy
0.05 K 10 Ω (2.7 µK)±21 Ω (6 µK)±4 mK0.7 µK±0.2 mK±4.2 mK
0.1 K130 mΩ (1.8 µK)±1.47Ω (21 µK)±4 mK5 µK±0.2 mK±4.2 mK
0.3 K2 mΩ (2.1 µK)±92 mΩ (95 µK)±4 mK66 µK±0.2 mK±4.4 mK
1 K200 µΩ (6.4 µK)±13 mΩ (422 µK)±4 mK3 µK±0.2 mK±4.6 mK

Lake Shore 1000 Ω ruthenium oxide RX-102A

Sensor properties Excitation and instrumentation
TemperatureResistancedR/dTThermal resistance Resistance range Excitation voltage limit Excitation current Power
0.05 K 70 kΩ-5.0 MΩ/K700 mK/nW200 kΩ63.2 µV316 pA7 fW
0.1 K19.3 kΩ-266 kΩ/K800 mK/nW20 kΩ63.2 µV3.16 nA193 fW
0.3 K5.6 kΩ-16.6 kΩ/k50 mK/nW6.32 kΩ200 µV31.6 nA5.6 fW
1 K2.3 kΩ-1.2 kΩ/k8 mK/nW6.32 kΩ200 µV31.6 nA2.3 pW


Instrument performance Overall performance
TemperatureMeasurement resolution Electronic accuracy Calibration accuracy Self-heating errors Interpolation error Overall accuracy
0.05 K 40 Ω (8 µK)35 Ω (7 µK)±5 mK49 µK±0.2 mK±5.2 mK
0.1 K1 Ω (3.8 µK)9.7 Ω (36 µK)±5 mK155 µK±0.2 mK±5.2 mK
0.3 K0.1 Ω (6 µK)2.8 Ω (170 µK)±5 mK280 µK±0.2 mK±5.4 mK
1 K0.1 Ω (83 µK)0.7 Ω (580 µK)±5 mK18 µK±0.2 mK±5.8 mK


NOTES:

  • Recommended operating range of GA-50-AA is 50 mK to 1 K, but it can be used beyond this range
  • Excitation chosen to minimize sensor self-heating
  • Typical thermal resistance with minimal heat sinking; can be improved with permanent installation
  • Typical sensor characteristics; individual sensors vary in resistance and sensitivity
Excitation Power = Actual Current2 × Measured Resistance
Resolution (Temperature) = Resolution (Resistance) / dR/dT
Electronic Accuracy (Temperature) = Electronic Accuracy (Resistance) / dR/dT
Self-Heating = Excitation Power × Thermal Resistance

370/3716 performance specification table

  ±0.03%
   
  ±0.05%
   
  ±0.1%
   
  ±0.3%
   
  ±0.5%
   
  ±1.0%
   
 Accuracy:
 % reading + 0.005% of range
   
*Range not available
**Range available, not specified
   
63.2 kΩ— resistance range
600 mΩ— resolution
3.2 pW— power
  
Resistance range: Full scale resistance range, nominal 20% over range
 
Resolution: RMS noise with 18 s filter settling time (approximates 3 s analog time constant)
 
Power: Excitation power at one-half full scale resistance
 
Precision: Dominated by measurement temperature coefficient (±0.0015% of reading ±0.0002% of range)/°C


current-excitation-range2
Voltage range
 632 mV200 mV63.2 mV20 mV6.32 mV2.0 mV632 µV200 µV63.2 µV20 µV6.32 µV2.0 µV
31.6 mA20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ***
 20 µΩ6.0 µΩ2.0 µΩ1.3 µΩ400 nΩ130 nΩ100 nΩ100 nΩ100 nΩ   
 10 mW3.2 mW1.0 mW320 µW100 µW32 µW10 µW3.2 µW1.0 µW   
             
10 mA63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ**
 60 µΩ20 µΩ6.0 µΩ4.0 µΩ1.3 µΩ400 nΩ300 nΩ300 nΩ300 nΩ300 nΩ  
 3.2 mW1.0 mW320 µW100 µW32 µW10 µW3.2 µW1 µW320 nW100 nW  
             
3.16 mA200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ*
 200 µΩ60 µΩ20 µΩ13 µΩ4.0 µΩ1.3 µΩ1.0 µΩ1.0 µΩ1.0 µΩ1.0 µΩ1.0 µΩ 
 1 mW320 µW100 µW32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW 
             
1.0 mA632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ
 600 µΩ200 µΩ60 µΩ40 µΩ13 µΩ4.0 µΩ3.0 µΩ3.0 µΩ3.0 µΩ3.0 µΩ3.0 µΩ3.0 µΩ
 320 µW100 µW32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW
             
316 µA2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ
 2.0 mΩ600 µΩ200 µΩ130 µΩ40 µΩ13 µΩ10 µΩ10 µΩ10 µΩ10 µΩ10 µΩ10 µΩ
 100 µW32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW
             
100 µA6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ
 6.0 mΩ2.0 mΩ600 µΩ400 µΩ130 µΩ40 µΩ30 µΩ30 µΩ30 µΩ30 µΩ30 µΩ30 µΩ
 32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW
             
31.6 µA20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ
 20 mΩ6.0 mΩ2.0 mΩ1.3 mΩ400 µΩ130 µΩ100 µΩ100 µΩ100 µΩ100 µΩ100 µΩ100 µΩ
 10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW
             
10 µA63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ
 60 mΩ20 mΩ6.0 mΩ4.0 mΩ1.3 mΩ400 µΩ300 µΩ300 µΩ300 µΩ300 µΩ300 µΩ300 µΩ
 3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW
             
3.16 µA200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ
 200 mΩ60 mΩ20 mΩ13 mΩ4.0 mΩ1.3 mΩ1.0 mΩ1.0 mΩ?1.0 mΩ1.0 mΩ1.0 mΩ1.0 mΩ
 1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW
             
1.0 µA632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω
 600 mΩ200 mΩ60 mΩ40 mΩ13 mΩ4.0 mΩ3.0 mΩ3.0 mΩ3.0 mΩ3.0 mΩ3.0 mΩ3.0 mΩ
 320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW
             
316 nA2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω
 2.0 Ω600 mΩ200 mΩ130 mΩ40 mΩ13 mΩ10 mΩ10 mΩ10 mΩ10 mΩ10 mΩ10 mΩ
 100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW
             
100 nA6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω
 **2.0 Ω600 mΩ400 mΩ130 mΩ40 mΩ30 mΩ30 mΩ30 mΩ30 mΩ30 mΩ30 mΩ
 32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW
             
31. 6 nA20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω
 ****2.0 Ω1.3 Ω400 mΩ130 mΩ100 mΩ100 mΩ100 mΩ100 mΩ100 mΩ100 mΩ
 10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW
             
10 nA63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω
 ******6.0 Ω2.0 Ω1.0 Ω600 mΩ400 mΩ300 mΩ300 mΩ300 mΩ300 mΩ
 3.2 nW1 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW10 fW
             
3.16 nA*63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω
 *******10 Ω6.0 Ω4.0 Ω2.0 Ω1.0 Ω1.0 Ω1.0 Ω1.0 Ω
 *320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW10 fW3.2 fW
             
1.0 nA**63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ
 ********40 Ω20 Ω10 Ω6.0 Ω4.0 Ω3.0 Ω3.0 Ω
 **32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW10 fW3.2 fW1.0 fW
             
316 pA***63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ
 *********100 Ω60 Ω40 Ω25 Ω16 Ω10 Ω
 ***3.2 pW1.0 pW320 fW100 fW32 fW10 fW3.2 fW1.0 fW320 aW
             
100 pA****63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ
 **********400 Ω200 Ω100 Ω60 Ω60 Ω
 ****320 fW100 fW32 fW10 fW3.2 fW1.0 fW320 aW100 aW
               
31.6 pA*****63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ
 ***********1.0 kW600 Ω300 Ω200 Ω
 *****32 fW10 fW3.2 fW1.0 fW320 aW100 aW32 aW
             
10 pA******63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ200 kΩ
 ************3.0 kΩ2.0 kΩ1.0 kΩ
 ******3.2 fW1.0 fW320 aW100 aW32 aW10 aW
               
3.16 pA*******63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ632 kΩ
 *************10 kΩ6.0 kΩ
 *******320 aW100 aW32 aW10 aW3.2 aW
             
1.0 pA********63.2 MΩ20 MΩ6.32 MΩ2.0 MΩ
 ****************
 ********32 aW10 aW3.2 aW1.0 aW
             

3708 performance specification table

  ±0.03%
   
  ±0.05%
   
  ±0.1%
   
  ±0.3%
   
  ±0.5%
   
  ±1.0%
   
 Accuracy:
 % reading + 0.005% of range
   
*Range not available
**Range available, not specified
   
200 kΩ— resistance range
100 mΩ— resolution
1.0 pW— power
  
Resistance range: Full scale resistance range, nominal 20% over range
 
Resolution: RMS noise with 18 s filter settling time (approximates 3 s analog time constant)
 
Power: Excitation power at one-half full scale resistance
 
Precision: Dominated by measurement temperature coefficient (±0.0015% of reading ±0.0002% of range)/°C
current-excitation-range2
Voltage range
 6.32 mV2.0 mV632 µV200 µV63.2 µV20 µV6.32 µV2.0 µV
31.6 mA200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ632 µΩ200 µΩ63.2 µΩ
 200 nΩ63 nΩ40 nΩ13 nΩ10 nΩ10 nΩ10 nΩ10 nΩ
 100 µW32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW
         
10 mA632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ632 µΩ200 µΩ
 630 nΩ200 nΩ130 nΩ40 nΩ32 nΩ32 nΩ32 nΩ32 nΩ
 32 µW10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW
         
3.16 mA2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ632 µΩ
 2.0 µΩ630 nΩ400 nΩ130 nΩ100 nΩ100 nΩ100 nΩ100 nΩ
 10 µW3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW
         
1.0 mA6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ2.0 mΩ
 6.3 µΩ2.0 µΩ1.3 µΩ400 nΩ320 nΩ320 nΩ320 nΩ320 nΩ
 3.2 µW1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW
         
316 µA20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ6.32 mΩ
 20 µΩ6.3 µΩ4.0 µΩ1.3 µΩ1.0 µΩ1.0 µΩ1.0 µΩ1.0 µΩ
 1.0 µW320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW
         
100 µA63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ20 mΩ
 63 µΩ20 µΩ13 µΩ4.0 µΩ3.2 µΩ3.2 µΩ3.2 µΩ3.2 µΩ
 320 nW100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW
         
31.6 µA200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ63.2 mΩ
 200 µΩ63 µΩ40 µΩ13 µΩ10 µΩ10 µΩ10 µΩ10 µΩ
 100 nW32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW
         
10 µA632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ200 mΩ
 630 µΩ200 µΩ130 µΩ40 µΩ32 µΩ32 µΩ32 µΩ32 µΩ
 32 nW10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW
         
3.16 µA2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω632 mΩ
 2.0 mΩ630 µΩ400 µΩ130 µΩ100 µΩ100 µΩ100 µΩ100 µΩ
 10 nW3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW
         
1.0 µA6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω2.0 Ω
 6.3 mΩ2.0 mΩ1.3 mΩ400 µΩ320 µΩ320 µΩ320 µΩ320 µΩ
 3.2 nW1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW
         
316 nA20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω6.32 Ω
 20 mΩ6.3 mΩ4.0 mΩ1.3 mΩ1.0 mΩ1.0 mΩ1.0 mΩ1.0 mΩ
 1.0 nW320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW
         
100 nA63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω20 Ω
 63 mΩ40 mΩ13 mΩ6.0 mΩ3.2 mΩ3.2 mΩ3.2 mΩ3.2 mΩ
 320 pW100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW
         
31. 6 nA200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω63.2 Ω
 400 mΩ130 mΩ60 mΩ20 mΩ20 mΩ10 mΩ10 mΩ10 mΩ
 100 pW32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW
         
10 nA632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω200 Ω
 1.9 Ω600 mΩ200 mΩ200 mΩ63 mΩ63 mΩ32 mΩ32 mΩ
 32 pW10 pW3.2 pW1.0 pW320 fW100 fW32 fW10 fW
         
3.16 nA2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ632 Ω
 6.0 Ω2.0 Ω2.0 Ω630 mΩ600 mΩ200 mΩ200 mΩ100 mΩ
 10 pW3.2 pW1.0 pW320 fW100 fW32 fW10 fW3.2 fW
         
1.0 nA6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ2.0 kΩ
 **20 Ω6.3 Ω6.0 Ω3.2 Ω2.0 Ω630 mΩ1.0 Ω
 3.2 pW1.0 pW320 fW100 fW32 fW10 fW3.2 fW1.0 fW
         
316 pA*6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ6.32 kΩ
 ***60 Ω19 Ω20 Ω6.3 Ω3.0 Ω3.2 Ω
 *320 fW100 fW32 fW10 fW3.2 fW1.0 fW320 aW
         
100 pA**6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ20 kΩ
 ****200 Ω63 Ω60 Ω32 Ω20 Ω
 **32 fW10 fW3.2 fW1.0 fW320 aW100 aW
         
31.6 pA***6.32 MΩ2.0 MΩ632 kΩ200 kΩ63.2 kΩ
 *****600 Ω190 Ω200 Ω63 Ω
 ***3.2 fW1.0 fW320 aW100 aW32 aW
         
10 pA****6.32 MΩ2.0 MΩ632 kΩ200 kΩ
 ******2.0 kΩ630 Ω600 Ω
 ****320 aW100 aW32 aW10 aW
         
3.16 pA*****6.32 MΩ2.0 MΩ632 kΩ
 *******6.0 kΩ1.9 kΩ
 *****32 aW10 aW3.2 aW