Előfordulhat, hogy egy hangszer a hangtartomány közepén pontosan hangol, a szélső értékeknél viszont hamis. A linearitás vizsgálata méri több, különböző valós értékű termék, amelyek a felhasználási tartomány egészére eloszlanak, és megvizsgálja, hogyan alakul a hiba.
Írja be a termékek száma, a értékek termékenként, valamint minden termék esetében annak tényleges értékét és méreteit.
Az eredmények két számot adnak, amelyek mindegyike saját szignifikanciával rendelkezik:
⇒ A lejtő : növekszik-e a hiba a mért értékkel? A meredek emelkedés a linearitás hiányát jelzi — a műszer itt pontos, ott viszont hibás.
⇒ A pontosság : az értéktől független átlagos hiba. Ez egy állandó eltérés, amely kalibrálással korrigálható.
A szignifikancia az Ellistat általánosan elfogadott skáláját követi:
| p-érték | Következtetés |
| p > 0,1 | Nem szignifikáns |
| 0,05 < p ≤ 0,1 | Jelentős határérték |
| 0,01 < p ≤ 0,05 | Jelentős |
| p ≤ 0,01 | Nagyon jelentős |
A százalékos aránya linearitás ez a tolerancia és a teljes eltérés viszonylatában is értelmezhető.
💡 Ha a meredekség nem szignifikáns, a pontosság viszont szignifikáns, akkor ez a kedvező eset: elegendő egy egyszerű kalibrálás. Az ellenkezője — szignifikáns meredekség — esetén korlátozni kell a használati tartományt, vagy más mérőeszközt kell használni.
Egy ábra szemlélteti a fenti eredményeket
