Der Linearitätsfehler bei Messgeräten entspricht dem Maximum der Steigungsdifferenz oder der maximalen Abweichung zwischen Sollkennlinie (Geraden) und realer Kennlinie des Messgerätes. Die Größe der Abweichung kann auf unterschiedliche Weise bestimmt werden (Bild L 22):
- Festpunktmethode: beide Endpunkte werden miteinander verbunden (a);
- Minimum der quadratischen Abweichung durch den Nullpunkt (b);
- Minimum der quadratischen Abweichung mit zwei Schnittpunkten (Toleranzbandmethode, c).
Abbildung L 22: Verfahren zur Bestimmung eines Linearitätsfehlers