La precisione mette a confronto le misurazioni ripetute di una moneta di valore noto a questo valore reale. Essa distingue due errori: il scarto sistematico (lo scostamento di precisione) e la dispersione (la ripetibilità).
Cosa bisogna capire
⇒ La valore reale X₀ del pezzo calibrato; ;
⇒ le tolleranze minimo e massimo della caratteristica; ;
⇒ la risoluzione dello strumento; ;
⇒ le misure ripetute sullo stesso pezzo, da un unico operatore.
💡 Puntare almeno 25 misure. Se il valore è inferiore a 10, lo studio non è utilizzabile: la deviazione standard calcolata su un numero così esiguo di valori è essa stessa troppo incerta.
Anche lo studio sta prendendo forma dalla griglia se le misure sono già state inserite.
I risultati statistici
La scheda dei risultati mostra ogni indicatore con un codice colore : verde = conforme, arancione = al limite, rosso = insufficiente. Le soglie applicate sono le seguenti.
| Indicatore | Verde | Arancione | Rosso |
| Numero di valori | ≥ 25 | ≥ 10 | < 10 |
| Risoluzione | ≤ tolleranza / 20 | ≤ tolleranza / 10 | oltre |
| Ripetibilità (2kσ) | < 5 % della tolleranza | < 10 % | ≥ 10 % |
| Differenza minima | ≤ tolleranza / 20 | ≤ tolleranza / 10 | oltre |
| Incertezza estesa | ≤ 15 % della tolleranza | — | oltre |
| Inerzia | ≤ tolleranza / 30 | — | oltre |
| Cg e Cgk | > 1,33 | > 1,00 | ≤ 1,00 |
| Intervallo di tolleranza minimo | inferiore alla tolleranza | — | superiore |
⇒ La differenza di precisione è la differenza tra la media delle misurazioni e il valore reale. Si tratta dell'errore sistematico: è possibile correggerlo.
⇒ La ripetibilità è la dispersione dello strumento su un unico pezzo. Non è possibile correggerla tramite regolazione.
⇒ L'inerzia combina i due in un unico valore: radice di (scostamento di precisione² + ripetibilità²). È l'indicatore da tenere in considerazione per una decisione univoca, poiché un errore di misura incide in egual misura sia che derivi da uno scostamento sia che derivi da una dispersione.
⇒ L'intervallo di tolleranza minimo Rispondete al contrario: con questo strumento, qual è la tolleranza più stretta che si può pretendere di controllare? Se supera la vostra tolleranza, lo strumento non è adatto al pezzo.
Cg e Cgk
Si tratta delle capacità dello strumento di misura, definite come le capacità di processo ma su un intervallo ridotto — un decimo della tolleranza.
⇒ Cg considera solo la dispersione; ;
⇒ Cgk include inoltre lo scostamento rispetto al valore reale.
Un Cg corretto con un Cgk basso indica uno strumento preciso ma fuori regolazione : da tarare, senza cambiare l'attrezzatura. Se sia Cgk che Cg sono bassi, ciò indica che lo strumento troppo dispersivo : a questo punto, bisogna cambiare mezzo o modalità operativa.
💡 La soglia abituale è Cgk > 1,33. Lo schermo indica anche la tolleranza minima che garantirebbe tale soglia.
I grafici
⇒ Il grafico di precisione posiziona le misure attorno al valore reale e all'intervallo di tolleranza.
⇒ La carta di controllo mostra l'andamento delle misurazioni: si nota una lenta deriva che però si perde nella media.
⇒ L’illustrazione Cgk visualizza la media, il valore reale X₀ e i limiti X₀ ± tolleranza/10: rende visibile ciò che il dato riassume.
